Linguaggi di programmazione supportati per i modelli nell'inferenza del modello di intelligenza artificiale di Azure
I modelli distribuiti nell'inferenza del modello di intelligenza artificiale di Azure possono essere usati con sdk e modelli di programmazione diversi. Il documento seguente descrive quale usare:
Tutti i modelli
Tutti i modelli distribuiti nell'inferenza del modello di intelligenza artificiale di Azure supportano l'API di inferenza del modello di intelligenza artificiale di Azure e la famiglia associata di SDK.
Per usare questi SDK, connetterli all'URI di inferenza del modello di intelligenza artificiale di Azure (in genere nel formato https://<resource-name>.services.ai.azure.com/models).
Azure AI inference SDK
| Lingua | Documentazione | Pacchetto | Esempi |
|---|---|---|---|
| C# | Riferimento | azure-ai-inference (NuGet) | Esempi di C# |
| Java | Riferimento | azure-ai-inference (Maven) | Esempi di Java |
| JavaScript | Riferimento | @azure/ai-inference (npm) | Esempi di JavaScript |
| Python | Riferimento | azure-ai-inference (PyPi) | Esempi di Python |
Azure AI Foundry SDK
| Lingua | Documentazione | Pacchetto | Esempi |
|---|---|---|---|
| C# | Riferimento | azure-ai-inference (NuGet) | Esempi di C# |
| Python | Riferimento | azure-ai-inference (PyPi) | Esempi di Python |
Integrazioni
| Framework | Lingua | Documentazione | Pacchetto | Esempi |
|---|---|---|---|---|
| LangChain | Python | Riferimento | langchain-azure-ai (PyPi) | Esempi di Python |
| Llama-Index | Python | Riferimento |
llama-index-llms-azure-inference (PyPi) llama-index-embeddings-azure-inference (PyPi) |
Esempi di Python |
| Kernel semantico | Python | Riferimento | semantic-kernel[azure] (PyPi) | Esempi di Python |
Modelli di Azure OpenAI
I modelli OpenAI di Azure possono essere usati usando gli SDK e i linguaggi di programmazione seguenti.
Per usare questi SDK, connetterli all'URI del servizio OpenAI di Azure (in genere nel formato https://<resource-name>.openai.azure.com).
| Lingua | Codice sorgente | Pacchetto | Esempi |
|---|---|---|---|
| C# | Codice sorgente | Azure.AI.OpenAI (NuGet) | Esempi di C# |
| Go | Codice sorgente | azopenai (Go) | Esempi di Go |
| Java | Codice sorgente | azure-ai-openai (Maven) | Esempi di Java |
| JavaScript | Codice sorgente | @azure/openai (npm) | Esempi di JavaScript |
| Python | Codice sorgente | openai (PyPi) | Esempi di Python |
Integrazioni
| Framework | Lingua | Documentazione | Pacchetto | Esempi |
|---|---|---|---|---|
| LangChain | Python | Riferimento | langchain-openai (PyPi) | Esempi di Python |
| Llama-Index | Python | Riferimento |
llama-index-llms-openai (PyPi) llama-index-embeddings-openai (PyPi) |
Esempi di Python |
Limiti
Avviso
Cohere SDK e Mistral SDK non sono supportati nell'inferenza del modello di intelligenza artificiale di Azure in Azure AI Foundry.
Passaggi successivi
- Per visualizzare i modelli attualmente supportati, vedere la sezione Modelli