Службы ИИ в Fabric (предварительная версия)
Внимание
Эта функция доступна в предварительной версии.
Службы ИИ Azure помогают разработчикам и организациям быстро создавать интеллектуальные, современные, готовые к выходу на рынок и ответственные приложения с предварительно созданными и настраиваемыми интерфейсами и моделями. Ранее называвшиеся Azure Cognitive Services, службы ИИ Azure дают возможность разработчикам, даже если у них нет прямых навыков в области ИИ или знаний. Цель служб искусственного интеллекта Azure — помочь разработчикам создавать приложения, которые могут видеть, слышать, говорить, понимать и даже начать понять причину.
Fabric предоставляет два варианта использования служб ИИ Azure:
предварительно созданные модели ИИ в Fabric (предварительная версия)
Структура легко интегрируется со службами ИИ Azure, что позволяет дополнить данные предварительно созданными моделями ИИ без каких-либо предварительных требований. Мы рекомендуем этот параметр, так как вы можете использовать аутентификацию Fabric, чтобы получить доступ к службам ИИ, а все их использование оплачивается из вашей емкости Fabric. В настоящее время этот параметр доступен в общедоступной предварительной версии с ограниченными службами искусственного интеллекта.
Fabric предлагает службу Azure OpenAI, анализ текста Azureи переводчик Azure AI по умолчанию с поддержкой SynapseML и RESTful API. Вы также можете использовать библиотеку Python OpenAI для доступа к службе Azure OpenAI в Fabric. Дополнительные сведения о доступных моделях см. в разделе предварительно созданные модели ИИ в Fabric.
приносите свой ключ (BYOK)
Вы можете развернуть службы ИИ в Azure и предоставить собственный ключ для их использования с помощью Fabric. Если готовые модели ИИ еще не поддерживают нужные службы ИИ, вы по-прежнему можете использовать BYOK (принести собственный ключ).
Дополнительные сведения об использовании служб ИИ Azure с BYOK см . в Службах ИИ Azure в SynapseML с помощью собственного ключа.
Предварительно созданные модели ИИ в Fabric (предварительная версия)
Примечание.
Предварительно созданные модели ИИ в настоящее время доступны в предварительной версии и предоставляются бесплатно, с ограничением на количество одновременных запросов на пользователя. Для моделей Open AI ограничение составляет 20 запросов в минуту на пользователя.
Служба Azure OpenAI
REST API, пакет SDK для Python. SynapseML
- GPT-35-turbo: модели GPT-3.5 могут понять и создать естественный язык или код. Самая способная и экономически эффективная модель в семействе GPT-3.5 — GPT-3. Параметр
5 Turbo, оптимизированный для чата, хорошо подходит для традиционных задач завершения. Модельgpt-35-turbo-0125поддерживает до 16 385 входных маркеров и 4096 выходных маркеров. - Семейство gpt-4:
gpt-4-32kподдерживается. - text-embedding-ada-002 (версия 2), модель внедрения, которую можно использовать с запросами API внедрения. Максимальный допустимый маркер запроса — 8 191, а возвращаемый вектор имеет размеры 1536.
Анализ текста
- Обнаружение языка: обнаруживает язык входного текста
- Анализ тональности: возвращает оценку от 0 до 1, чтобы указать тональность во входном тексте
- Извлечение ключевых фраз: определяет ключевые точки разговора в входном тексте
- Распознавание сущностей персональных данных(PII): определение, классификация и изменение конфиденциальной информации в входном тексте
- Распознавание именованных сущностей: определяет известные сущности и общие именованные сущности в входном тексте
- Связывание сущностей: определяет и дизамбигуирует идентичность сущностей, найденных в тексте
Azure AI Translator
- Перевод: перевод текста
- Транслитерация: преобразует текст на одном языке в один скрипт в другой.
Доступные регионы
Доступные регионы для Службы Azure OpenAI
Список регионов Azure, где доступны предустановленные службы ИИ в Fabric, см. в разделе Доступные регионы статьи Обзор Copilot в Fabric и Power BI (предварительная версия).
Доступные регионы для Анализ текста и Azure AI Translator
Предварительно созданные
| Азиатско-Тихоокеанский регион | Европа | Северная и Южная Америка | Ближний Восток и Африка: |
|---|---|---|---|
| Восточная Австралия | Северная Европа | Южная Бразилия | Северная часть ЮАР |
| Юго-Восточная часть Австралии | Западная Европа | Центральная Канада | Северная часть ОАЭ; |
| Центральный индийец | Центральная Франция | Восточная Канада | |
| Восточная Азия | Восточная Норвегия; | Восточная часть США | |
| Восточная Япония | Северная Швейцария | Восточная часть США 2 | |
| Республика Корея, центральный регион | Западная Швейцария | Центрально-северная часть США | |
| Юго-Восточная Азия | южная часть Соединенного Королевства | Центрально-южная часть США | |
| Южная Индия | западная часть Соединенного Королевства | Западная часть США | |
| западная часть США 2 | |||
| Западная часть США — 3 |
Скорость потребления
Примечание.
Выставление счетов за готовые службы искусственного интеллекта в Fabric вступило в силу 1 ноября 2024 г. в рамках вашей существующей подписки Power BI Premium или Fabric.
Запрос готовых служб ИИ использует единицы емкости Fabric. Эта таблица определяет, сколько единиц емкости используется при использовании службы ИИ.
Уровень потребления для языковых моделей от OpenAI
| Модели | контекст | Объем входных данных на каждую 1000 токенов | результат (на 1000 токенов) |
|---|---|---|---|
| Глобальное развертывание GPT-4o-2024-08-06 | 128 K | 84.03 секунды CU | 336,13 секунды CU |
| GPT-4 | 32 K | 2016,81 CU секунды | 4 033.61 CU секунд |
| GPT-3.5-Turbo-0125 | 16K | 16,81 секунды CU | 50,42 секунды CU |
Уровень потребления для моделей встраивания OpenAI
| модели | единица измерения операций |
коэффициент потребления |
|---|---|---|
| text-embedding-ada-002 | 1000 токенов | 3,36 секунды CU |
Уровень использования для анализа текста
| операция | Единица измерения операций | коэффициент потребления |
|---|---|---|
| Обнаружение языка | 1000 текстовых записей | 33 613,45 секунды CU |
| Анализ тональности | 1000 текстовых записей | 33 613,45 секунды CU |
| Извлечение ключевых фраз | 1000 текстовых записей | 33 613,45 секунды CU |
| Распознавание объектов, содержащих информацию о персональных данных | 1000 текстовых записей | 33 613,45 секунды CU |
| Распознавание именованных сущностей | 1000 текстовых записей | 33 613,45 секунды CU |
| Связывание сущностей | 1000 текстовых записей | 33 613,45 секунды CU |
| Резюмирование | 1000 текстовых записей | 67 226,89 CU секунд |
Скорость потребления для переводчика текстов
| операции | единица измерения операций | коэффициент потребления |
|---|---|---|
| Перевести | 1M Символы | 336 134,45 CU с |
| Транслитерировать | 1M Символов | 336,134,45 с CU |
Изменение темпа потребления служб ИИ в Fabric
Ставки потребления в любое время изменяются. Корпорация Майкрософт использует разумные усилия для предоставления уведомления по электронной почте или через уведомление о продукте. Изменения должны применяться к дате, указанной в заметках о выпуске Майкрософт или блоге Microsoft Fabric. Если какое-либо изменение службы искусственного интеллекта в коэффициенте потребления Fabric существенно увеличивает единицы емкости (CU), необходимые для использования, клиенты могут использовать варианты отмены, доступные для выбранного метода оплаты.
Мониторинг использования
Счетчик рабочей нагрузки, связанный с задачей, определяет расходы на предварительно созданные службы ИИ в Fabric. Например, если использование службы ИИ является производным от рабочей нагрузки Spark, использование ИИ группируется вместе и оплачивается в соответствии с счетчиком выставления счетов Spark в приложении Метрики емкости Fabric.
Пример
Владелец интернет-магазина использует SynapseML и Spark для классификации миллионов продуктов в соответствующие категории. В настоящее время владелец магазина применяет жестко закодированную логику для очистки и сопоставления необработанного типа продукта с категориями. Однако владелец планирует переключиться на использование новых собственных конечных точек Fabric OpenAI LLM (большая языковая модель). Данные итеративно обрабатываются с помощью LLM для каждой строки, а затем классифицируются продукты по их "названию продукта", "описанию", "техническим сведениям" и так далее.
Ожидаемая стоимость использования Spark составляет 1000 CUs. Ожидаемая стоимость использования OpenAI составляет около 300 ЦС.
Чтобы протестировать новую логику, сначала итерацию проведите в записной книжке Spark в интерактивном режиме. Для названия операции запуска используйте "Интерактивный запуск записной книжки". Владелец ожидает увидеть полное использование 1300 CUs в разделе "Интерактивный запуск записной книжки", при этом счетчик выставления счетов Spark учитывает все это использование.
Когда владелец магазина проверяет логику, он настраивает регулярный запуск и ожидает увидеть общий объём использования 1300 ЦЕ под именем операции "Запланированное выполнение задания Spark", при этом счетчик выставления счетов Spark учитывает все использование.