Если вы не можете найти ответы на ваши вопросы в этом документе, и вам по-прежнему нужна помощь в руководстве по поддержке служб искусственного интеллекта Azure.
Общие
Какова разница между службой Azure OpenAI и моделью искусственного интеллекта Azure?
Служба Azure OpenAI предоставляет клиентам доступ к расширенным языковым моделям из OpenAI. Вывод модели искусственного интеллекта Azure расширяет такие возможности, предоставляя клиентам доступ ко всем флагманским моделям в Azure AI в рамках одной службы, конечной точки и учетных данных. Она включает Azure OpenAI, Cohere, Mistral AI, Meta Llama, AI21 labs и т. д. Клиенты могут легко переключаться между моделями, не изменяя свой код.
Вывод модели Azure OpenAI и Модели ИИ Azure являются частью семейства служб ИИ Azure и опираются на одно и то же обещание безопасности и корпоративного обещания Azure.
Хотя вывод модели искусственного интеллекта Azure сосредоточен на выводе, служба Azure OpenAI может использоваться с более сложными API, такими как пакетная настройка, настройка, помощники и файлы.
Какова разница между OpenAI и Azure OpenAI?
Модели ИИ Azure и Служба Azure OpenAI предоставляют клиентам доступ к расширенным языковым моделям из OpenAI с обещанием безопасности и корпоративным обещанием Azure. Azure OpenAI codevelops API с помощью OpenAI, обеспечивая совместимость и плавное переход с одного на другое.
Клиенты получают возможности безопасности Microsoft Azure, выполняя те же модели, что и OpenAI. Она предлагает частные сети, региональную доступность и фильтрацию содержимого ИИ.
Дополнительные сведения о службе Azure OpenAI.
Какова разница между службами ИИ Azure и Azure AI Foundry?
Службы ИИ Azure — это набор служб ИИ, которые предоставляют предварительно созданные API для распространенных сценариев ИИ. Службы ИИ Azure являются частью платформы Azure AI Foundry. Службы ИИ Azure можно использовать на портале Azure AI Foundry для улучшения моделей с помощью предварительно созданных возможностей ИИ.
Модели
Почему не все модели в каталоге моделей ИИ Azure поддерживаются в службах ИИ Azure?
Вывод модели ИИ Azure в службах ИИ поддерживает все модели в каталоге ИИ Azure с выставлением счетов по мере использования. Дополнительные сведения см . в статье "Модели".
Каталог моделей ИИ Azure содержит более широкий список моделей, однако для этих моделей требуется квота вычислений из подписки. Они также должны иметь проект или центр ИИ для размещения развертывания. Дополнительные сведения см. в параметрах развертывания в Azure AI Foundry.
Пакеты SDK и языки программирования
Какие поддерживаемые пакеты SDK и языки программирования для вывода модели искусственного интеллекта Azure?
Пакет SDK вывода Azure можно использовать с любой моделью, поддерживаемой моделью ИИ Azure, в службах ИИ Azure, AzureOpenAI классе в пакете SDK OpenAI или пакете SDK для Azure OpenAI.
Пакет SDK для cohere, Mistral SDK и пакеты SDK для конкретных поставщиков моделей не поддерживаются при подключении к службам ИИ Azure.
Дополнительные сведения см. в поддерживаемых пакетах SDK и языках программирования.
Работает ли вывод модели ИИ Azure с последней библиотекой Python, выпущенной OpenAI (версия>=1.0)?
Службы искусственного интеллекта Azure поддерживают последний выпуск библиотеки OpenAI Python (версия>=1.0).
Я делаю запрос на модель, которая поддерживает вывод модели ИИ Azure, но я получаю ошибку 404. Что делать?
Убедитесь, что вы создали развертывание для данной модели и что имя развертывания соответствует именно тому значению, которое вы передаете в model параметре. Хотя маршрутизация не учитывает регистр, убедитесь, что нет специальных знаков препинания или пробелов, так как это распространенные ошибки.
Я использую пакет "azure-ai-inference" для Python, и при попытке пройти проверку подлинности с помощью ключей я получаю ошибку 401. Что делать?
Для ресурса служб искусственного интеллекта Azure требуется версия azure-ai-inference>=1.0.0b5 Для Python. Убедитесь, что вы используете эту версию.
Я использую пакет SDK OpenAI и указал конечную точку вывода Azure OpenAI в качестве базового URL-адреса (https://<resource-name>.openai.azure.com). Однако я получаю ошибку 404. Что делать?
Убедитесь, что вы используете правильную конечную точку для службы Azure OpenAI и правильный набор учетных данных. Кроме того, убедитесь, что класс AzureOpenAI из пакета SDK OpenAI используется в качестве механизма проверки подлинности и URL-адресов, используемых по-разному.
Поддерживает ли вывод модели ИИ Azure пользовательские заголовки API? Мы добавляем пользовательские заголовки в запросы API и видим ошибки сбоя HTTP 431.
Наши текущие API позволяют выполнять до 10 пользовательских заголовков, которые передаются через конвейер и возвращаются. Мы заметили, что некоторые клиенты теперь превышают это число заголовков, что приводит к ошибкам HTTP 431. Для этой ошибки нет решения, кроме уменьшения тома заголовка. В будущих версиях API мы больше не передаваем пользовательские заголовки. Рекомендуется не зависеть от пользовательских заголовков в будущих системных архитектурах.
Цены и выставление счетов
Как выставляется счет на вывод модели ИИ Azure?
Плата за входные и выходные данные в API обычно взимается в токенах. Нет затрат, связанных с самим ресурсом или развертываниями.
Цена токена зависит от каждой модели и выставляется счет за 1000 токенов. Вы можете просмотреть сведения о ценах перед развертыванием данной модели. Дополнительные сведения о выставлении счетов см. в разделе "Управление затратами".
Где можно просмотреть сведения о счете?
Выставление счетов и затрат отображается в службе "Управление затратами Azure" и "Выставление счетов". Сведения об использовании можно просмотреть в портал Azure.
Выставление счетов не отображается на портале Azure AI Foundry.
Как разместить ограничение расходов на счет?
Вы можете настроить ограничение расходов в портал Azure в разделе "Управление затратами и выставление счетов Azure". Это ограничение не позволяет тратить больше, чем заданное ограничение. После достижения лимита расходов подписка будет отключена, и вы не сможете использовать конечную точку до следующей период выставления счетов.
Данные и конфиденциальность
Используете ли вы данные моей компании для обучения какой-либо из моделей?
Вывод модели искусственного интеллекта Azure не использует данные клиента для переобучения моделей, а данные клиентов никогда не используются поставщиками моделей.
Обязательство клиента по авторским правам
Разделы справки получить покрытие в соответствии с обязательством клиента об авторских правах?
Обязательство клиента об авторских правах — это подготовка, которая будет включена в условия 1 декабря 2023 года, в соответствии с условиями продукта Майкрософт, описывающими обязательство корпорации Майкрософт защищать клиентов от определенных утверждений интеллектуальной собственности, не относящихся к выходному содержимому. Если предметом утверждения является выходное содержимое, созданное из службы Azure OpenAI (или любого другого продукта, который позволяет клиентам настраивать системы безопасности), то для получения покрытия клиенты должны реализовать все способы устранения рисков, необходимые документации службы Azure OpenAI, в предложении, которое доставляло выходное содержимое. Необходимые меры по устранению рисков описаны здесь и обновляются на постоянной основе. Для новых служб, функций, моделей или вариантов использования новые требования CCC будут размещены и вступают в силу при запуске такой службы, функции, модели или варианта использования. В противном случае клиенты будут иметь шесть месяцев с момента публикации, чтобы реализовать новые способы устранения рисков для поддержания покрытия в рамках CCC. Если клиент тендерирует утверждение, клиенту потребуется продемонстрировать соответствие соответствующим требованиям. Эти способы устранения рисков необходимы для покрытых продуктов, которые позволяют клиентам настраивать системы безопасности, включая Службу Azure OpenAI; они не влияют на покрытие для клиентов, использующих другие покрытые продукты.