Dokumentation om Azure AI-modellinferens

Azure AI-modellinferens ger åtkomst till de mest kraftfulla modellerna som finns i Azure AI-modellkatalogen. Modellerna kommer från viktiga modellleverantörer i branschen, inklusive OpenAI, Microsoft, Meta, Mistral, Cohere, G42 och AI21 Labs. Dessa modeller kan integreras med programvarulösningar för att leverera ett brett utbud av uppgifter som omfattar innehållsgenerering, sammanfattning, bildtolkning, semantisk sökning och kodgenerering.

Slutsatsdragning för Azure AI-modell

Översikt

• Vad är Azure AI-modellinferens?
• Modeller
• Kvoter och gränser
• Programmeringsspråk/SDK:er

Snabbstart

• Uppgradera från GitHub-modeller till Azure AI-modellinferens
• Konfigurera AI-projekt så att de fungerar med Azure AI-modellinferens

Konfigurera och hantera

Koncept

• Slutpunkter och distributioner
• Distributionstyper
• Innehållsfiltrering

Instruktioner

• Distribuera och konfigurera modeller
• Konfigurera innehållsfilter
• Konfigurera blocklistor (förhandsversion)
• Konfigurera nyckellös autentisering
• Hantera kostnader
• Skapa resurser

Utveckla

Koncept

• Programmeringsspråk/SDK:er

Kom igång

• Arbeta med inbäddningar
• Arbeta med bildinbäddningar
• Arbeta med chattens slutföranden
• Utveckla med LangChain eller LangGraph
• Utveckla med Llama-Index
• Utveckla med semantisk kernel