Udostępnij za pośrednictwem

Obsługiwane języki programowania dla modeli w wnioskowaniu modelu AI platformy Azure

  • Artykuł

Modele wdrożone w wnioskowaniu modelu AI platformy Azure mogą być używane z różnymi zestawami SDK i modelami programowania. W poniższym dokumencie opisano, którego z nich należy użyć:

Wszystkie modele

Wszystkie modele wdrożone w modelu AI platformy Azure obsługują interfejs API wnioskowania modelu sztucznej inteligencji platformy Azure i skojarzona z nią rodzina zestawów SDK.

Aby użyć tych zestawów SDK, połącz je z identyfikatorem URI wnioskowania modelu AI platformy Azure (zwykle w postaci https://<resource-name>.services.ai.azure.com/models).

Zestaw SDK wnioskowania o sztucznej inteligencji platformy Azure

Język Dokumentacja Pakiet Przykłady
C# Odwołanie azure-ai-inference (NuGet) Przykłady w języku C#
Java Odwołanie azure-ai-inference (Maven) Przykłady języka Java
JavaScript Odwołanie @azure/wnioskowanie ai (npm) Przykłady kodu JavaScript
Python Odwołanie azure-ai-inference (PyPi) Przykłady języka Python

Azure AI Foundry SDK

Język Dokumentacja Pakiet Przykłady
C# Odwołanie azure-ai-inference (NuGet) Przykłady w języku C#
Python Odwołanie azure-ai-inference (PyPi) Przykłady języka Python

Integracje

Framework Język Dokumentacja Pakiet Przykłady
LangChain Python Odwołanie langchain-azure-ai (PyPi) Przykłady języka Python
Llama-Index Python Odwołanie llama-index-llms-azure-inference (PyPi)
llama-index-embeddings-azure-inference (PyPi)		 Przykłady języka Python
Jądro semantyczne Python Odwołanie semantyczne jądro[azure] (PyPi) Przykłady języka Python

Modele usługi Azure OpenAI

Modele usługi Azure OpenAI można używać przy użyciu następujących zestawów SDK i języków programowania.

Aby użyć tych zestawów SDK, połącz je z identyfikatorem URI usługi Azure OpenAI (zwykle w postaci https://<resource-name>.openai.azure.com).

Język Kod źródłowy Pakiet Przykłady
C# Kod źródłowy Azure.AI.OpenAI (NuGet) Przykłady w języku C#
Go Kod źródłowy azopenai (Go) Przykłady języka Go
Java Kod źródłowy azure-ai-openai (Maven) Przykłady języka Java
JavaScript Kod źródłowy @azure/openai (npm) Przykłady kodu JavaScript
Python Kod źródłowy openai (PyPi) Przykłady języka Python

Integracje

Framework Język Dokumentacja Pakiet Przykłady
LangChain Python Odwołanie langchain-openai (PyPi) Przykłady języka Python
Llama-Index Python Odwołanie llama-index-llms-openai (PyPi)
llama-index-embeddings-openai (PyPi)		 Przykłady języka Python

Ograniczenia

Ostrzeżenie

Zestaw SDK cohere i zestaw SDK Mistral nie są obsługiwane w wnioskowaniu modelu AI platformy Azure w narzędziu Azure AI Foundry.

Następne kroki

  • Aby zobaczyć, jakie modele są obecnie obsługiwane, zapoznaj się z sekcją Modele