Планирование затрат и управление затратами для Azure AI Foundry

Статья
11/19/2024

Внимание

Элементы, обозначенные в этой статье как (предварительная версия), сейчас предлагаются в общедоступной предварительной версии. Эта предварительная версия предоставляется без соглашения об уровне обслуживания, и мы не рекомендуем ее для рабочих нагрузок. Некоторые функции могут не поддерживаться или их возможности могут быть ограничены. Дополнительные сведения см. в статье Дополнительные условия использования Предварительных версий Microsoft Azure.

В этой статье описывается планирование затрат и управление затратами на Azure AI Foundry. Во-первых, вы используете калькулятор цен Azure для планирования затрат azure AI Foundry перед добавлением ресурсов для службы для оценки затрат. Затем, при добавлении ресурсов Azure, нужно проанализировать предполагаемые затраты.

Совет

Azure AI Foundry не содержит определенную страницу в калькуляторе цен Azure. Azure AI Foundry состоит из нескольких других служб Azure, некоторые из которых являются необязательными. В этой статье содержатся сведения об использовании калькулятора цен для оценки затрат на эти службы.

Службы ИИ Azure используются на портале Azure AI Foundry. Затраты на службы ИИ Azure являются лишь частью ежемесячных расходов в счете Azure. Плата взимается за все службы и ресурсы Azure, используемые в подписке Azure, включая сторонние службы.

Необходимые компоненты

Анализ затрат в Microsoft Cost Management поддерживает большинство типов учетных записей Azure, но не все из них. Полный список поддерживаемых типов учетных записей см. в статье Understand Cost Management data (Интерпретация данных службы "Управление затратами"). Чтобы просмотреть данные о затратах, для учетной записи Azure нужен как минимум доступ на чтение. Сведения о назначении доступа к данным Microsoft Cost Management см. в разделе "Назначение доступа к данным".

Оценка затрат перед использованием служб ИИ Azure

Используйте калькулятор цен Azure для оценки затрат перед добавлением служб ИИ Azure.

Выберите продукт, например Azure OpenAI, в калькуляторе цен Azure.
Введите количество единиц, которые планируется использовать. Например, введите количество маркеров для запросов и завершения.
Вы можете выбрать несколько продуктов, чтобы оценить затраты на несколько продуктов. Например, выберите Виртуальные машины, чтобы добавить потенциальные затраты на вычислительные ресурсы.

При добавлении новых ресурсов в проект вернитесь к этому калькулятору и добавьте тот же ресурс, чтобы обновить оценки затрат.

Затраты, которые обычно накапливаются с помощью Azure AI Foundry

При создании ресурсов для концентратора также создаются ресурсы для других служб Azure. В их число входят:

Страница цен на услуги	Описание с примерами вариантов использования
Службы ИИ Azure	Вы платите за использование таких служб, как Azure OpenAI, речь, безопасность содержимого, визуальное распознавание, аналитика документов и язык. Затраты зависят от каждой службы и для некоторых функций в каждой службе. Дополнительные сведения о подготовке служб ИИ Azure см. в центрах Azure AI Foundry.
Поиск по искусственному интеллекту Azure	Пример использования — хранение данных в индексе векторного поиска.
Машинное обучение Azure	Вычислительные экземпляры необходимы для запуска Visual Studio Code (Web или Desktop) и потока запросов через Azure AI Foundry. При создании вычислительного экземпляра виртуальная машина остается на ней, чтобы она была доступна для вашей работы. Включите отключение простоя, чтобы сэкономить на затратах при простое виртуальной машины в течение указанного периода времени. Или настройте расписание для автоматического запуска и остановки вычислительного экземпляра, чтобы сэкономить затраты, если вы не планируете использовать его.
виртуальной машины Azure;	Виртуальные машины Azure обеспечивают гибкость виртуализации для широкого спектра вычислительных решений с поддержкой Linux, Windows Server, SQL Server, Oracle, IBM, SAP и др.
Реестр контейнеров Azure, базовая учетная запись	Предоставляет хранилище частных образов контейнеров Docker, обеспечивая быстрое, масштабируемое извлечение и развертывание рабочих нагрузок контейнеров в Azure.
Хранилище BLOB-объектов Azure	Можно использовать для хранения файлов проекта Azure AI Foundry.
Хранилище ключей	Хранилище ключей для хранения секретов.
Приватный канал Azure	Приватный канал Azure позволяет получить доступ к службам PaaS Azure (например, служба хранилища Azure и База данных SQL) через частную конечную точку в виртуальной сети.

Затраты могут начисляться и до удаления ресурсов

Перед удалением концентратора в портал Azure или с помощью Azure CLI следующие вложенные ресурсы являются общими затратами, которые накапливаются, даже если вы не работаете в рабочей области. Если вы планируете вернуться в центр позже, эти ресурсы могут продолжать накапливаться затраты:

Поиск ИИ Azure (для данных)
Виртуальные машины
Load Balancer
Виртуальная сеть Azure
Пропускная способность

Плата за каждую виртуальную машину взимается в час. Стоимость зависит от характеристик виртуальной машины. Виртуальные машины, работающие, но не работающие в наборе данных, по-прежнему взимается с помощью подсистемы балансировки нагрузки. Для каждого вычислительного экземпляра плата взимается по одному подсистеме балансировки нагрузки в день. На каждые 50 узлов вычислительного кластера взимается одна стандартная подсистема балансировки нагрузки. За каждую стандартную подсистему балансировки нагрузки взимается 0,33 доллара США в сутки. Чтобы избежать затрат на подсистемы балансировки нагрузки по остановленным вычислительным экземплярам и кластерам, удалите вычислительный ресурс.

Вычислительные экземпляры также несут затраты на диск P10 даже в остановленном состоянии. Эта стоимость обусловлена тем, что содержимое пользователя, сохраненное на диске, сохраняется в остановленном состоянии, аналогичном виртуальным машинам Azure. Мы работаем над настройкой размера или типа диска ОС, чтобы повысить затраты на управление. Для виртуальная сеть Azure плата за одну виртуальную сеть взимается за подписку и в каждом регионе. Виртуальные сети не могут охватывать регионы или подписки. Кроме того, при настройке частных конечных точек в настройках виртуальной сети могут взиматься плата. Если виртуальная сеть использует Брандмауэр Azure, брандмауэр также может взимать плату. Плата за использование пропускной способности; чем больше передаваемых данных, тем больше взимается плата.

Совет

Использование управляемой виртуальной сети бесплатно. Однако некоторые функции управляемой сети зависят от Приватный канал Azure (для частных конечных точек) и Брандмауэр Azure (для правил FQDN) и будут взиматься плата. Дополнительные сведения см. в разделе "Изоляция управляемой виртуальной сети".

После удаления ресурсов могут начисляться затраты

После удаления концентратора в портал Azure или с помощью Azure CLI следующие ресурсы продолжают существовать. Для них продолжают начисляться затраты вплоть до их удаления.

Реестр контейнеров Azure
Хранилище BLOB-объектов Azure
Key Vault
Application Insights (если вы включили его для центра)

Мониторинг затрат

При использовании Azure AI Foundry с центрами вы несете расходы. Плата за единицу использования ресурсов Azure зависит от интервалов времени (секунды, минуты, часы и дни) или использования единиц потребления (байты, мегабайты и т. д.). Вы можете увидеть расходы, связанные с анализом затрат.

При использовании анализа затрат вы просматриваете затраты концентратора в графах и таблицах для разных интервалов времени. Например, можно отслеживать данные за день, текущий и предыдущий месяц и год. Вы также можете просматривать затраты по бюджету и прогнозируемые затраты. Чтобы выявить тенденции по затратам, можно выбрать представления затрат в динамике за более длительный срок. И вы видите, где может произойти перерасход. Если вы создаете бюджеты, вы также можете легко увидеть, где они превышены.

Мониторинг затрат на проект Azure AI Foundry

Вы можете получить анализ затрат из портал Azure. Вы также можете получить анализ затрат из Azure AI Foundry.

Внимание

Затраты на проект AI Foundry являются лишь подмножеством общих затрат на приложение или решение. Необходимо отслеживать затраты на все ресурсы Azure, используемые в приложении или решении. Дополнительные сведения см. в центрах Azure AI Foundry.

В примерах в этом разделе предполагается, что все ресурсы Azure AI Foundry находятся в одной группе ресурсов. Но у вас могут быть ресурсы в разных группах ресурсов. Например, ресурс поиска ИИ Azure может находиться в другой группе ресурсов, отличной от вашего проекта.

Ниже приведен пример отслеживания затрат на проект. Затраты используются только в качестве примера. Затраты зависят от используемых служб и объема использования.

Войдите в Azure AI Foundry.
Выберите проект и выберите центр управления в меню слева.
В разделе "Заголовок проекта" выберите "Обзор".
Выберите "Просмотреть затраты для ресурсов " в разделе "Общая стоимость ". Откроется портал Azure группе ресурсов для проекта.
Разверните столбец ресурсов, чтобы просмотреть затраты на каждую службу, которая лежит в основе проекта. Но это представление не включает затраты на все ресурсы, которые вы используете в проекте.
Выберите "Затраты по ресурсам>".
На странице анализа затрат, в которой вы находитесь, убедитесь, что область задана для группы ресурсов.

В этом примере:
- Имя группы ресурсов — rg-contosoairesource.
- Общая стоимость всех ресурсов и служб в группе ресурсов составляет $222,97. В этом примере $222.97 — это общая стоимость приложения или решения, которое вы создаете с помощью Azure AI Foundry. В этом примере предполагается, что все ресурсы Azure AI Foundry находятся в одной группе ресурсов. Но у вас могут быть ресурсы в разных группах ресурсов.
- Имя проекта — contoso-outdoor-proj.
- Затраты, которые ограничены ресурсами и службами в проекте , составляют 212,06 долл. США.
Разверните contoso-outdoor-proj , чтобы просмотреть затраты на службы, базовые ресурсы проекта .
Разверните contoso_ai_resource, чтобы просмотреть затраты на службы, базовые ресурсы концентратора. Вы также можете применить фильтр, чтобы сосредоточиться на других затратах в группе ресурсов.

Вы также можете просматривать затраты на группу ресурсов непосредственно из портал Azure. Для этого:

Войдите на портал Azure.
Выберите элемент Группы ресурсов.
Найдите и выберите группу ресурсов, содержащую ресурсы Azure AI Foundry.
В меню навигации слева выберите "Анализ затрат".

Дополнительные сведения см. на странице калькулятора цен Azure.

Мониторинг затрат на модели, предлагаемые через Azure Marketplace

Модели, развернутые как услуга с помощью оплаты по мере использования, предлагаются через Azure Marketplace. Издатели моделей могут применять различные затраты в зависимости от предложения. Каждый проект на портале Azure AI Foundry имеет собственную подписку с предложением, что позволяет отслеживать затраты и потребление, происходящие в этом проекте. Используйте microsoft Cost Management для мониторинга затрат:

Войдите на портал Azure.
В области навигации слева выберите "Управление затратами и выставление счетов ", а затем в том же меню выберите "Управление затратами".
В области навигации слева в разделе "Управление затратами" выберите " Анализ затрат".
Выберите представление, например ресурсы. Отображается стоимость, связанная с каждым ресурсом.
В столбце "Тип" выберите значок фильтра, чтобы отфильтровать все ресурсы типа microsoft.saas/resources. Этот тип соответствует ресурсам, созданным из предложений из Azure Marketplace. Для удобства можно фильтровать по типам ресурсов, содержащим строку SaaS.
Для каждого предложения модели на каждый проект отображается один ресурс. Именование этих ресурсов .[Model offer name]-[GUID]
Выберите, чтобы развернуть сведения о ресурсе, чтобы получить доступ к каждому из счетчиков затрат, связанных с ресурсом.
- Уровень представляет предложение.
- Продукт — это конкретный продукт внутри предложения.
Некоторые поставщики моделей могут использовать одинаковое имя для обоих.

Совет

Помните, что для каждого проекта создается один ресурс, каждый план подписывается на проект.

При расширении сведений о затратах по каждому из счетчиков, связанных с предложением. Каждый счетчик может отслеживать различные источники затрат, такие как вывод или тонкой настройки. Отображаются следующие метры (если с ними связана некоторая стоимость):

средство измерения.	Групповой	Description
`paygo-inference-input-tokens`	Базовая модель	Затраты, связанные с маркерами, используемыми в качестве входных данных для вывода базовой модели.
`paygo-inference-output-tokens`	Базовая модель	Затраты, связанные с маркерами, созданными в качестве выходных данных для вывода базовой модели.
`paygo-finetuned-model-inference-hosting`	Точно настроенная модель	Затраты, связанные с размещением конечной точки вывода для точно настроенной модели. Это значение не является стоимостью размещения модели, а стоимостью обслуживания конечной точки.
`paygo-finetuned-model-inference-input-tokens`	Точно настроенная модель	Затраты, связанные с маркерами, используемыми в качестве входных данных для вывода точно настроенной модели.
`paygo-finetuned-model-inference-output-tokens`	Точно настроенная модель	Затраты, связанные с маркерами, созданными в качестве выходных данных для вывода точно настроенной модели.

Создание бюджетов

Вы можете создать бюджеты, чтобы управлять затратами и создавать оповещения, которые автоматически уведомляют заинтересованные лица о нетипичных и чрезмерных затратах. Оповещения основываются на расходах по сравнению с пороговыми значениями бюджета и затрат. Бюджеты и оповещения создаются для подписок и групп ресурсов Azure, поэтому их рекомендуется использовать в рамках общей стратегии мониторинга затрат.

Бюджеты можно создавать с использованием фильтров для конкретных ресурсов или служб в Azure, если требуется дополнительная детализация результатов мониторинга. Фильтры помогают предотвратить случайное создание новых ресурсов, позволяя избежать дополнительных затрат. Дополнительные сведения о параметрах фильтра при создании бюджета см. в разделе Параметры группы и фильтра.

Экспорт данных о затратах

Можно также экспортировать данные о затратах в учетную запись хранения. Экспорт данных полезен, если вам или другим пользователям необходимо выполнить более подробный анализ данных для затрат. Например, специалисты по финансам могут анализировать данные с помощью Excel или Power BI. Можно экспортировать данные о затратах ежедневно, еженедельно или ежемесячно и задать настраиваемый диапазон дат. Экспорт данных по затратам — это рекомендуемый способ извлечения неагрегированных данных о затратах.

Общие сведения о полной модели выставления счетов для служб ИИ Azure

Службы ИИ Azure выполняются в инфраструктуре Azure, которая начисляет затраты вместе с ИИ Azure при развертывании нового ресурса. Важно понимать, что дополнительная инфраструктура может начислять затраты. Эти затраты необходимо контролировать при внесении изменений в развернутые ресурсы.

При создании или использовании ресурсов служб ИИ Azure плата может взиматься на основе используемых служб. Существует две модели выставления счетов для служб ИИ Azure:

Оплата по мере использования: цены на оплату по мере использования, счета выставляются в соответствии со службами ИИ Azure, которые вы используете, на основе сведений о выставлении счетов.
Уровни обязательств. С ценами на категории обязательств вы обязаны использовать несколько функций службы для фиксированной платы, что позволяет иметь прогнозируемую общую стоимость в зависимости от потребностей рабочей нагрузки. Вы оплачиваете счет в соответствии с планом, который вы выберете. Сведения о доступных службах, регистрации, а также рекомендации по приобретению плана см. в разделе Краткое руководство. Цены на уровень обязательств для покупки.

Примечание.

Если вы используете указанный ресурс сверх квоты, установленной в плане обязательств, будет взиматься плата за дополнительное использование в соответствии с суммой избытка, устанавливаемая в плане обязательств на портале Azure.

Вы можете оплатить расходы на службы Искусственного интеллекта Azure с помощью вашего кредита с оплатой Azure (ранее называемым денежным обязательством). Однако вы не можете использовать кредит на предоплату Azure для оплаты за расходы на сторонние продукты и службы, включая те из Azure Marketplace.