Что такое вывод модели ИИ Azure?
Вывод модели искусственного интеллекта Azure предоставляет доступ к самым мощным моделям, доступным в каталоге моделей ИИ Azure. Модели приходят от ключевых поставщиков моделей в отрасли, включая OpenAI, Microsoft, Meta, Mistral, Cohere, G42 и AI21 Labs. Эти модели можно интегрировать с программными решениями, чтобы обеспечить широкий спектр задач, включая создание контента, сводку, понимание изображений, семантический поиск и создание кода.
Совет
DeepSeek-R1 доступен для развертывания как конечная точка API без сервера.
Вывод модели искусственного интеллекта Azure позволяет использовать модели в качестве API без размещения их в инфраструктуре. Модели размещаются в управляемой корпорацией Майкрософт инфраструктуре, которая обеспечивает доступ на основе API к модели поставщика моделей. Доступ на основе API может значительно сократить затраты на доступ к модели и упростить процесс подготовки.
Вывод модели искусственного интеллекта Azure является частью служб ИИ Azure, и пользователи могут получить доступ к службе через REST API, пакеты SDK на нескольких языках , таких как Python, C#, JavaScript и Java. Вы также можете использовать вывод модели ИИ Azure из Azure AI Foundry, настроив подключение.
Модели
Вы можете получить доступ к ключевым поставщикам моделей в отрасли, включая OpenAI, Microsoft, Meta, Mistral, Cohere, G42 и AI21 Labs. Поставщики моделей определяют условия лицензии и устанавливают цену на использование своих моделей. В следующем списке показаны все доступные модели:
Совет
Подробные сведения о моделях, возможностях и деталях см. в статье "Модели ".
| Provider | Модели |
|---|---|
| Лаборатории AI21 | — AI21-Jamba-1.5-Mini — AI21-Jamba-1.5-Large |
| Azure OpenAI | - o1 - gpt-4o - o1-preview - o1-mini - gpt-4o-mini - text-embedding-3-large - text-embedding-3-small |
| Согласовываться | — Cohere-embed-v3-english — Cohere-embed-v3-многоязычный — Cohere-command-r-plus-08-2024 — Cohere-command-r-08-2024 - Cohere-command-r-plus — Cohere-command-r |
| Core42 | - jais-30b-chat |
| Meta | - Лама-3.3-70B-Instruct - Лама-3.2-11B-Vision-Instruct - Лама-3.2-90B-Vision-Instruct - Meta-Llama-3.1-405B-Instruct - Meta-Llama-3-8B-Instruct - Meta-Llama-3.1-70B-Instruct - Meta-Llama-3.1-8B-Instruct - Meta-Llama-3-70B-Instruct |
| Microsoft | - Phi-3-mini-128k-instruct - Phi-3-mini-4k-instruct - Phi-3-small-8k-instruct - Phi-3-medium-128k-instruct - Phi-3-medium-4k-instruct - Phi-3.5-vision-instruct - Phi-3.5-MoE-instruct - Phi-3-small-128k-instruct - Phi-3.5-mini-instruct - Phi-4 |
| Мистраль ИИ | - Министерство-3B - Мистраль-большой - Мистраль-маленький - Мистраль-Эмо - Мистраль-большой-2407 - Mistral-Large-2411 - Codestral-2501 |
| NTT Data | - Цузуми-7b |
Цены
Для моделей от поставщиков, отличных от Майкрософт (например, метаИ ИИ и Мистральных моделей), выставление счетов осуществляется через Azure Marketplace. Для таких моделей необходимо подписаться на конкретное предложение модели в соответствии с условиями использования Коммерческой платформы Майкрософт. Пользователи принимают условия лицензии для использования моделей. Сведения о ценах на потребление предоставляются во время развертывания.
Для моделей Майкрософт (например, моделей Phi-3 и моделей Azure OpenAI) выставление счетов осуществляется через метры Azure в качестве служб потребления первой стороны. Как описано в условиях продукта, вы приобретаете службы потребления первой стороны с помощью счетчиков Azure, но они не применяются к условиям службы Azure.
Совет
Узнайте, как отслеживать затраты и управлять ими в модели искусственного интеллекта Azure.
Ответственное применение ИИ
В корпорации Майкрософт мы стремимся к развитию ИИ на основе принципов, которые ставят на первое место человека. Создаваемые модели, такие как те, которые доступны в моделях ИИ Azure, имеют значительные потенциальные преимущества, но без тщательного проектирования и тщательного устранения рисков такие модели могут создавать неправильное или даже вредное содержимое.
Корпорация Майкрософт помогает защититься от злоупотреблений и непреднамеренного вреда, выполнив следующие действия:
- Включение принципов Корпорации Майкрософт для ответственного использования искусственного интеллекта
- Принятие кодекса поведения для использования службы
- Создание фильтров содержимого для поддержки клиентов
- Предоставление ответственной информации и рекомендаций по искусственному интеллекту, которые клиенты должны учитывать при использовании Azure OpenAI.
Начало работы
Вывод модели искусственного интеллекта Azure — это новое предложение для ресурсов Служб искусственного интеллекта Azure. Вы можете приступить к работе с ним так же, как и любой другой продукт Azure, в котором вы создаете и настраиваете ресурс для вывода модели ИИ Azure или экземпляр службы в подписке Azure. Вы можете создать столько ресурсов, сколько необходимо, и настроить их независимо, если у вас несколько команд с различными требованиями.
После создания ресурса Служб искусственного интеллекта Azure необходимо развернуть модель, прежде чем начать вызовы API. По умолчанию на нем нет моделей, поэтому вы можете управлять тем, с чего начать. Ознакомьтесь с руководством по созданию первого развертывания модели в модели ИИ Azure.