Модели, поддерживаемые службой агента ИИ Azure
Агенты работают на различных моделях с разными возможностями и ценовыми точками. Доступность модели зависит от региона и облака. Для некоторых инструментов и возможностей требуются последние модели. Следующие модели доступны в доступных пакетах SDK. Следующая таблица предназначена для оплаты по мере использования. Сведения о доступности подготовленной единицы пропускной способности (PTU) см. в документации по Azure OpenAI. Вы можете использовать глобальные стандартные модели , если они поддерживаются в регионах, перечисленных здесь.
Модели Azure OpenAI
Служба агента ИИ Azure поддерживает те же модели, что и API завершения чата в Azure OpenAI, в следующих регионах.
Регион | gpt-4o, 2024-05-13 | gpt-4o, 2024-08-06 | gpt-4o-mini, 2024-07-18 | gpt-4, 0613 | gpt-4, 1106-Preview | gpt-4, 0125-Preview | gpt-4, turbo-2024-04-09 | gpt-4-32k, 0613 | gpt-35-turbo, 0613 | gpt-35-turbo, 1106 | gpt-35-turbo, 0125 | gpt-35-turbo-16k, 0613 |
---|---|---|---|---|---|---|---|---|---|---|---|---|
australiaeast | - | - | - | ✅ | ✅ | - | - | ✅ | ✅ | ✅ | ✅ | ✅ |
eastus | ✅ | ✅ | ✅ | - | - | ✅ | ✅ | - | ✅ | - | ✅ | ✅ |
eastus2 | ✅ | ✅ | ✅ | - | ✅ | - | ✅ | - | ✅ | - | ✅ | ✅ |
francecentral | - | - | - | ✅ | ✅ | - | - | ✅ | ✅ | ✅ | - | ✅ |
japaneast | - | - | - | - | - | - | - | - | ✅ | - | ✅ | ✅ |
norwayeast | - | - | - | - | ✅ | - | - | - | - | - | - | - |
southindia | - | - | - | - | ✅ | - | - | - | - | ✅ | ✅ | - |
swedencentral | ✅ | ✅ | ✅ | ✅ | ✅ | - | ✅ | ✅ | ✅ | ✅ | - | ✅ |
uksouth | - | - | - | - | ✅ | ✅ | - | - | ✅ | ✅ | ✅ | ✅ |
westus | ✅ | ✅ | ✅ | - | ✅ | - | ✅ | - | - | ✅ | ✅ | - |
westus3 | ✅ | ✅ | ✅ | - | ✅ | - | ✅ | - | - | - | ✅ | - |
Модели, отличные от Майкрософт
Служба агента ИИ Azure также поддерживает следующие модели из каталога моделей Azure AI Foundry.
- Мета-Лама-405B-Instruct
- Мистраль-большой-2407
- Cohere-command-r-plus
- Cohere-command-r
Чтобы использовать эти модели, можно использовать портал Azure AI Foundry для развертывания, а затем ссылаться на имя развертывания в агенте. Например:
agent = project_client.agents.create_agent( model="llama-3", name="my-agent", instructions="You are a helpful agent" )