Condividi tramite

Linguaggi di programmazione supportati per i modelli nell'inferenza del modello di intelligenza artificiale di Azure

  • Articolo

I modelli distribuiti nell'inferenza del modello di intelligenza artificiale di Azure possono essere usati con sdk e modelli di programmazione diversi. Il documento seguente descrive quale usare:

Tutti i modelli

Tutti i modelli distribuiti nell'inferenza del modello di intelligenza artificiale di Azure supportano l'API di inferenza del modello di intelligenza artificiale di Azure e la famiglia associata di SDK.

Per usare questi SDK, connetterli all'URI di inferenza del modello di intelligenza artificiale di Azure (in genere nel formato https://<resource-name>.services.ai.azure.com/models).

Pacchetto di inferenza di Intelligenza artificiale di Azure

Il pacchetto di inferenza di intelligenza artificiale di Azure consente di usare tutti i modelli distribuiti nel servizio di inferenza del modello di intelligenza artificiale di Azure e di modificarli facilmente. Il pacchetto di inferenza di Intelligenza artificiale di Azure fa parte di Azure AI Foundry SDK.

Lingua Documentazione Pacchetto Esempi
C# Riferimento azure-ai-inference (NuGet) Esempi di C#
Java Riferimento azure-ai-inference (Maven) Esempi di Java
JavaScript Riferimento @azure/ai-inference (npm) Esempi di JavaScript
Python Riferimento azure-ai-inference (PyPi) Esempi di Python

Pacchetto progetti di Intelligenza artificiale di Azure

Il pacchetto Azure AI Projects consente al cliente di accedere a un set completo di funzionalità da un progetto di Azure per intelligenza artificiale. Queste funzionalità includono l'inferenza del modello di intelligenza artificiale di Azure, ma anche funzionalità avanzate come traccia, valutazione e archiviazione dei dati. Il pacchetto Azure AI Projects fa parte di Azure AI Foundry SDK e sfrutta il pacchetto Di inferenza di Intelligenza artificiale di Azure e il pacchetto OpenAI di Azure per eseguire l'inferenza a seconda delle esigenze degli utenti.

Lingua Documentazione Pacchetto Esempi
C# Riferimento Azure.AI.Projects (NuGet) Esempi di C#
Python Riferimento azure-ai-projects (PyPi) Esempi di Python

Integrazioni

Framework Lingua Documentazione Pacchetto Esempi
LangChain Python Riferimento langchain-azure-ai (PyPi) Esempi di Python
Llama-Index Python Riferimento llama-index-llms-azure-inference (PyPi)
llama-index-embeddings-azure-inference (PyPi)		 Esempi di Python
Kernel semantico Python Riferimento semantic-kernel[azure] (PyPi) Esempi di Python
AutoGen Python Riferimento autogen-ext[azure] (PyPi) Guida introduttiva

Modelli di Azure OpenAI

I modelli OpenAI di Azure possono essere usati usando gli SDK e i linguaggi di programmazione seguenti.

Per usare questi SDK, connetterli all'URI del servizio OpenAI di Azure (in genere nel formato https://<resource-name>.openai.azure.com).

OpenAI e Azure OpenAI SDK

Lingua Codice sorgente Pacchetto Esempi
C# Codice sorgente Azure.AI.OpenAI (NuGet) Esempi di C#
Go Codice sorgente azopenai (Go) Esempi di Go
Java Codice sorgente azure-ai-openai (Maven) Esempi di Java
JavaScript Codice sorgente @azure/openai (npm) Esempi di JavaScript
Python Codice sorgente openai (PyPi) Esempi di Python

Integrazioni

Framework Lingua Documentazione Pacchetto Esempi
LangChain Python Riferimento langchain-openai (PyPi) Esempi di Python
Llama-Index Python Riferimento llama-index-llms-openai (PyPi)
llama-index-embeddings-openai (PyPi)		 Esempi di Python
AutoGen Python Riferimento autogen-ext[openai] (PyPi) Guida introduttiva

Limiti

Avviso

Cohere SDK e Mistral SDK non sono supportati nell'inferenza del modello di intelligenza artificiale di Azure in Azure AI Foundry.

Passaggi successivi

  • Per visualizzare i modelli attualmente supportati, vedere la sezione Modelli