Модели, доступные в выводе модели ИИ Azure
Вывод модели ИИ Azure в Azure AI Foundry предоставляет доступ к флагманским моделям в Azure AI, чтобы использовать их в качестве API без размещения их в инфраструктуре.
Доступность модели зависит от поставщика моделей, номера SKU развертывания и облака. Все модели, доступные в выводе модели ИИ Azure, поддерживают глобальный тип развертывания уровня "Стандартный ", который использует глобальную емкость для обеспечения пропускной способности. Модели Azure OpenAI также поддерживают региональные развертывания и независимые облака— Azure для государственных организаций, Azure Для Германии и Azure Для Китая 21Vianet.
Узнайте больше о конкретных возможностях развертывания для Azure OpenAI в службе доступности модели OpenAI Azure.
Совет
Каталог моделей ИИ Azure предлагает более широкий выбор моделей из большего диапазона поставщиков. Однако для этих моделей может потребоваться разместить их в инфраструктуре, включая создание центра ИИ и проекта. Служба модели ИИ Azure предоставляет способ использования моделей в качестве API без размещения их в инфраструктуре с выставлением счетов по мере использования. Дополнительные сведения о каталоге моделей ИИ Azure.
Вы можете просмотреть все модели, доступные в каталоге моделей для портала Azure AI Foundry.
Лаборатории AI21
Модели семейства Jamba представляют собой рабочую модель Mamba на основе Mamba, которая использует гибридную архитектуру Mamba-Преобразователя AI21. Это настраиваемая инструкцией версия гибридной модели пространства состояния ai21 (SSM) преобразователя Jamba. Семейные модели Jamba создаются для надежного коммерческого использования с учетом качества и производительности.
| Модель | Тип | Уровень | Возможности |
|---|---|---|---|
| AI21-Jamba-1.5-Mini | завершение чата | Глобальный стандарт |
-
Входные данные: текст (262 144 токена) - Выходные данные: (4096 токенов) - Языки: en, , esfr, ptde, arиhe - Вызов инструмента: Да - Форматы ответов: Текст, JSON, структурированные выходные данные |
| AI21-Jamba-1.5-Large | завершение чата | Глобальный стандарт |
-
Входные данные: текст (262 144 токена) - Выходные данные: (4096 токенов) - Языки: en, , esfr, ptde, arиhe - Вызов инструмента: Да - Форматы ответов: Текст, JSON, структурированные выходные данные |
См . эту коллекцию моделей на портале Azure AI Foundry.
Azure OpenAI
Служба Azure OpenAI предлагает разнообразный набор моделей с разными возможностями и ценовыми точками. Эти модели включают:
- Современные модели, предназначенные для решения проблем и задач решения проблем с повышенным фокусом и возможностями
- Модели, которые могут понять и создать естественный язык и код
- Модели, которые могут транскрибировать и переводить речь в текст
| Модель | Тип | Уровень | Возможности |
|---|---|---|---|
| o1 | завершение чата | Глобальный стандарт |
-
Входные данные: текст и изображение (200 000 маркеров) - Выходные данные: текст (100 000 маркеров) - Языки: en, itneruidfrpldeesafukelswjacytrkoarisbnzhlvthpaurmrи .te - Вызов инструмента: Да - Форматы ответов: Текст, JSON, структурированные выходные данные |
| o1-preview | завершение чата | Глобальный стандарт Стандартные |
-
Входные данные: текст (128 000 токенов) - Выходные данные: (32 768 токенов) - Языки: en, itneruidfrpldeesafukelswjacytrkoarisbnzhlvthpaurmrи .te - Вызов инструмента: Да - Форматы ответов: Текст, JSON, структурированные выходные данные |
| o1-mini | завершение чата | Глобальный стандарт Стандартные |
-
Входные данные: текст (128 000 токенов) - Выходные данные: (65 536 токенов) - Языки: en, itneruidfrpldeesafukelswjacytrkoarisbnzhlvthpaurmrи .te - Вызов инструмента: Да - Форматы ответов: Текст, JSON, структурированные выходные данные |
| gpt-4o-realtime-preview | реальном времени | Глобальный стандарт |
-
Входные данные: элемент управления, текст и звук (131 072 токенов) - Выходные данные: текст и звук (16 384 токенов) - Языки: en - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
| gpt-4o | завершение чата | Глобальный стандарт Стандартные Пакетная служба Подготовлено Глобальный подготовленный Зона данных |
-
Входные данные: текст и изображение (131 072 токенов) - Выходные данные: текст (16 384 токенов) - Языки: en, itneruidfrpldeesafukelswjacytrkoarisbnzhlvthpaurmrи .te - Вызов инструмента: Да - Форматы ответов: Текст, JSON, структурированные выходные данные |
| gpt-4o-mini | завершение чата | Глобальный стандарт Стандартные Пакетная служба Подготовлено Глобальный подготовленный Зона данных |
-
Входные данные: текст, изображение и звук (131 072 токенов) - Выходные данные: (16 384 токенов) - Языки: en, itneruidfrpldeesafukelswjacytrkoarisbnzhlvthpaurmrи .te - Вызов инструмента: Да - Форматы ответов: Текст, JSON, структурированные выходные данные |
| text-embedding-3-large | внедрение | Глобальный стандарт Стандартные Подготовлено Глобальный подготовленный |
-
Входные данные: текст (8 191 токенов) - Выходные данные: Vector (3072 dim.) - Языки: en |
| text-embedding-3-small | внедрение | Глобальный стандарт Стандартные Подготовлено Глобальный подготовленный |
-
Входные данные: текст (8 191 токенов) - Выходные данные: Vector (1536 dim.) - Языки: en |
См . эту коллекцию моделей на портале Azure AI Foundry.
Согласовываться
Семейство моделей Cohere включает различные модели, оптимизированные для различных вариантов использования, включая завершение чата и внедрение. Модели Cohere оптимизированы для различных вариантов использования, включающих причины, сводку и ответы на вопросы.
| Модель | Тип | Уровень | Возможности |
|---|---|---|---|
| Cohere-embed-v3-english | внедрение внедрение изображений |
Глобальный стандарт |
-
Входные данные: текст (512 токенов) - Выходные данные: вектор (1024 dim.) - Языки: en |
| Cohere-embed-v3-многоязычный | внедрение внедрение изображений |
Глобальный стандарт |
-
Входные данные: текст (512 токенов) - Выходные данные: вектор (1024 dim.) - Языки: en, fr, es, it, de, pt-br, ja, ko, zh-cn и ar |
| Cohere-command-r-plus-08-2024 | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (4096 токенов) - Языки: en, fr, es, it, de, pt-br, ja, ko, zh-cn и ar - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
| Cohere-command-r-08-2024 | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (4096 токенов) - Языки: en, fr, es, it, de, pt-br, ja, ko, zh-cn и ar - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
| Cohere-command-r-plus | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (4096 токенов) - Языки: en, fr, es, it, de, pt-br, ja, ko, zh-cn и ar - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
| Cohere-command-r | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (4096 токенов) - Языки: en, fr, es, it, de, pt-br, ja, ko, zh-cn и ar - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
См . эту коллекцию моделей на портале Azure AI Foundry.
Core42
Core42 включает в себя авторегистрированные двуязычные LLM для арабского и английского языка с возможностями на арабском языке.
| Модель | Тип | Уровень | Возможности |
|---|---|---|---|
| jais-30b-chat | завершение чата | Глобальный стандарт |
-
Входные данные: текст (8 192 токенов) - Выходные данные: (4096 токенов) - Языки: en и ar - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
См . эту коллекцию моделей на портале Azure AI Foundry.
Meta
Мета-Лама модели и инструменты — это коллекция предварительно обученных и точно настроенных моделей создания текста ИИ и моделей создания изображений. Диапазон метаданных моделей масштабируется для включения:
- Небольшие языковые модели (SLM), такие как 1B и 3B Base и инструктируют модели для вывода на устройстве и пограничных выводах
- Модели языка среднего размера (LLMs), такие как 7B, 8B и 70B Base и Instruct models
- Высокопроизводительные модели, такие как Meta Llama 3.1-405B, инструктируют для создания искусственных данных и вариантов использования дистилляции.
| Модель | Тип | Уровень | Возможности |
|---|---|---|---|
| Лама-3.3-70B-Instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (128 000 токенов) - Выходные данные: текст (8 192 токенов) - Языки: en, de, fr, it, pt, hi, es и th - Вызов инструмента: Нет* - Форматы ответов: текст |
| Лама-3.2-11B-Vision-Instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст и изображение (128 000 токенов) - Выходные данные: (8 192 токенов) - Языки: en - Вызов инструмента: Нет* - Форматы ответов: текст |
| Лама-3.2-90B-Vision-Instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст и изображение (128 000 токенов) - Выходные данные: (8 192 токенов) - Языки: en - Вызов инструмента: Нет* - Форматы ответов: текст |
| Meta-Llama-3.1-405B-Instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (8 192 токенов) - Языки: en, de, fr, it, pt, hi, es и th - Вызов инструмента: Нет* - Форматы ответов: текст |
| Мета-Ллома-3-8B-Instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (8 192 токенов) - Выходные данные: (8 192 токенов) - Языки: en - Вызов инструмента: Нет* - Форматы ответов: текст |
| Мета-Ллома-3.1-70B-Instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (8 192 токенов) - Языки: en, de, fr, it, pt, hi, es и th - Вызов инструмента: Нет* - Форматы ответов: текст |
| Мета-Ллома-3.1-8B-Instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (8 192 токенов) - Языки: en, de, fr, it, pt, hi, es и th - Вызов инструмента: Нет* - Форматы ответов: текст |
| Мета-Лама-3-70B-Instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (8 192 токенов) - Выходные данные: (8 192 токенов) - Языки: en - Вызов инструмента: Нет* - Форматы ответов: текст |
См . эту коллекцию моделей на портале Azure AI Foundry.
Microsoft
Phi — это семейство легких, открытых моделей. Эти модели были обучены с помощью наборов данных Phi-3. Наборы данных включают как искусственные данные, так и отфильтрованные, общедоступные данные веб-сайтов с акцентом на высококачественные и обоснованные свойства. Модели прошли строгий процесс усовершенствования, включив как контролируемые тонкой настройки, оптимизацию проксимальной политики, так и прямую оптимизацию предпочтений, чтобы обеспечить точное соблюдение инструкций и надежные меры безопасности.
| Модель | Тип | Уровень | Возможности |
|---|---|---|---|
| Phi-3-mini-128k-instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (4096 токенов) - Языки: en - Вызов инструмента: Нет - Форматы ответов: текст |
| Phi-3-mini-4k-instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (4096 токенов) - Выходные данные: (4096 токенов) - Языки: en - Вызов инструмента: Нет - Форматы ответов: текст |
| Phi-3-small-8k-instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (4096 токенов) - Языки: en - Вызов инструмента: Нет - Форматы ответов: текст |
| Phi-3-medium-128k-instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (4096 токенов) - Языки: en - Вызов инструмента: Нет - Форматы ответов: текст |
| Phi-3-medium-4k-instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (4096 токенов) - Выходные данные: (4096 токенов) - Языки: en - Вызов инструмента: Нет - Форматы ответов: текст |
| Phi-3.5-vision-instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст и изображение (131 072 токенов) - Выходные данные: (4096 токенов) - Языки: en - Вызов инструмента: Нет - Форматы ответов: текст |
| Phi-3.5-MoE-instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: текст (4096 токенов) - Языки: en, ar, zh, cs, da, nl, fi, fr, de, he, hu, it, ja, ko, no, pl, pt, ru, es, sv, th, tr и uk - Вызов инструмента: Нет - Форматы ответов: текст |
| Phi-3-small-128k-instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (4096 токенов) - Языки: en - Вызов инструмента: Нет - Форматы ответов: текст |
| Phi-3.5-mini-instruct | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (4096 токенов) - Языки: en, ar, zh, cs, da, nl, fi, fr, de, he, hu, it, ja, ko, no, pl, pt, ru, es, sv, th, tr и uk - Вызов инструмента: Нет - Форматы ответов: текст |
| Phi-4 | завершение чата | Глобальный стандарт |
-
Входные данные: текст (16 384 токенов) - Выходные данные: (16 384 токенов) - Языки: en, ar, bn, cs, da, de, el, es, fa, fi, gu, ha, ha, he, hi, hu, id, it, ja, jv, kn, ko, ml, mr, nl, no, or, pa, pl, ps, pt, ro, sv, sw, ta, th, tl, tr, uk, uk, vi, yo, and zh - Tool вызов: No - Форматы ответов: текст |
См . эту коллекцию моделей на портале Azure AI Foundry.
Мистраль ИИ
Мистраль ИИ предлагает две категории моделей: модели уровня "Премиум", в том числе "Мистраль крупный" и "Мистральные малые" и открытые модели, включая "Мистраль Nemo".
| Модель | Тип | Уровень | Возможности |
|---|---|---|---|
| Министерство-3B | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: текст (4096 токенов) - Языки: fr, de, es, it и en - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
| Мистраль-большой | завершение чата | Глобальный стандарт |
-
Входные данные: текст (32 768 токенов) - Выходные данные: (4096 токенов) - Языки: fr, de, es, it и en - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
| Мистраль-маленький | завершение чата | Глобальный стандарт |
-
Входные данные: текст (32 768 токенов) - Выходные данные: текст (4096 токенов) - Языки: fr, de, es, it и en - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
| Мистраль-Эмо | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: текст (4096 токенов) - Языки: en, fr, de, es, it, zh, ja, ko, pt, nl и pl - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
| Мистраль-большой-2407 | завершение чата | Глобальный стандарт |
-
Входные данные: текст (131 072 токенов) - Выходные данные: (4096 токенов) - Языки: en, fr, de, es, it, zh, ja, ko, pt, nl и pl - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
| Мистраль-Большой-2411 | завершение чата | Глобальный стандарт |
-
Входные данные: текст (128 000 токенов) - Выходные данные: текст (4096 токенов) - Языки: en, fr, de, es, it, zh, ja, ko, pt, nl и pl - Вызов инструмента: Да - Форматы ответов: Текст, JSON |
| Codestral-2501 | завершение чата | Глобальный стандарт |
-
Входные данные: текст (262 144 токена) - Выходные данные: текст (4096 токенов) - Языки: en - Вызов инструмента: Нет - Форматы ответов: текст |
См . эту коллекцию моделей на портале Azure AI Foundry.
NTT Data
Tsuzumi — это оптимизированный для авторегистрированного языка преобразователь. Настроенные версии используют защищенную настройку (SFT). Tsuzumi обрабатывает как японский, так и английский язык с высокой эффективностью.
| Модель | Тип | Уровень | Возможности |
|---|---|---|---|
| Tsuzumi-7b | завершение чата | Глобальный стандарт |
-
Входные данные: текст (8 192 токенов) - Выходные данные: текст (8 192 токенов) - Языки: en и jp - Вызов инструмента: Нет - Форматы ответов: текст |
Следующие шаги
- Начало работы и развертывание кулаком модели в службах ИИ Azure