Присоединение ресурса azure AI с несколькими службами к набору навыков в службе "Поиск ИИ Azure"

Статья
11/19/2024

При настройке дополнительного конвейера обогащения искусственного интеллекта в службе "Поиск ИИ Azure" можно расширить небольшое количество документов бесплатно, не более 20 транзакций ежедневно на индекс. Для более крупных и частых рабочих нагрузок необходимо присоединить оплачиваемый ресурс Azure AI с несколькими службами.

Учетная запись с несколькими службами предоставляет коллекцию служб ИИ Azure, а не отдельных служб. Предоставление учетной записи в наборе навыков поиска ИИ Azure позволяет корпорации Майкрософт взимать плату за использование этих служб:

Azure AI Vision для анализа изображений, оптического распознавания символов (OCR) и многомодального текста и внедрения изображений.
Язык ИИ Azure для обнаружения языка, распознавания сущностей, анализа тональности и извлечения ключевых фраз
Речь ИИ Azure для преобразования речи в текст и текст в речь
Azure AI Translator для машинного перевода текста

В наборе навыков необходимо предоставить сведения о подключении к мультиресурсу Azure AI. Поиск по искусственному интеллекту Azure не использует подключение для рабочих нагрузок набора навыков, но он использует подключение для доступа к счетчикам выставления счетов в ресурсе. Таким образом, ваша учетная запись служб ИИ Azure используется для выставления счетов, а не для обработки навыков. Поиск по искусственному интеллекту Azure использует отдельные выделенные ресурсы для обработки навыков.

Вы можете использовать ключ для подключения или реализовать бессерверный подход, который в настоящее время находится в предварительной версии.

Совет

Azure предоставляет инфраструктуру для мониторинга выставления счетов и бюджетов. Дополнительные сведения о мониторинге служб ИИ Azure см. в статье "Планирование затрат и управление затратами на службы ИИ Azure".

Необходимые компоненты

Подключение через общедоступную конечную точку, если служба поиска не соответствует дате создания, уровням и регионам для частных подключений к учетной записи нескольких служб Azure AI.

Примечание.

Если ресурс ИИ Azure настроен для использования частной конечной точки, поиск Azure AI может подключиться с помощью общей приватной ссылки , если служба поиска была создана после 3 апреля 2024 г. и находится в регионе, который обеспечивает более высокую мощность вычислений емкости и находится на поддерживаемом уровне. Дополнительные сведения см. в требованиях к использованию общих приватных ссылок.

Выставление счетов через бессерверное подключение

Примечание.

Эта функция сейчас доступна в виде общедоступной предварительной версии. Эта предварительная версия предоставляется без соглашения на уровне обслуживания и не рекомендуется для рабочих нагрузок. Некоторые функции могут не поддерживаться или их возможности могут быть ограничены. Дополнительные сведения см. в статье Дополнительные условия использования Предварительных версий Microsoft Azure.

Используя портал Azure или более позднюю предварительную версию REST API и бета-версии пакетов SDK, можно подключить ресурс нескольких служб Azure AI с помощью управляемого удостоверения и разрешений. Преимущество этого подхода заключается в том, что выставление счетов является бессерверным и не зависит от регионов.

Настройте поиск ИИ Azure для использования управляемого удостоверения.
На ресурсе Azure AI с несколькими службами назначьте удостоверение роли пользователя Cognitive Services.
С помощью rest API портал Azure или набора навыков 2024-11-01-preview REST API или бета-пакета azure SDK, предоставляющего синтаксис, настройте набор навыков для использования удостоверения:
- Управляемое удостоверение, используемое в соединении, принадлежит службе поиска.
- Удостоверение может быть назначено системой или назначаемое пользователем.
- Удостоверение должно иметь разрешения пользователя Cognitive Services на ресурсЕ ИИ Azure.
- @odata.type#Microsoft.Azure.Search.AIServicesByIdentityвсегда .
- subdomainUrl — это конечная точка ресурса Azure AI с несколькими службами. Он может находиться в любом регионе, который совместно поддерживается службами поиска ИИ Azure и Azure.

Как и в случае с ключами, сведения о ресурсе Служб искусственного интеллекта Azure используются для выставления счетов, а не для подключений. Все запросы API, сделанные поиском ИИ Azure в службы ИИ Azure для встроенной обработки навыков, по-прежнему будут внутренними и управляемыми корпорацией Майкрософт.

Пример: назначаемое системой управляемое удостоверение

Удостоверение имеет значение NULL.

POST https://[service-name].search.windows.net/skillsets/[skillset-name]?api-version=2024-11-01-Preview  

{  
    "name": "my skillset name",  
    "skills":   
    [  
      // skills definition goes here 
    ],  
    "cognitiveServices": {  
        "@odata.type": "#Microsoft.Azure.Search.AIServicesByIdentity",  
        "description": "",  
        "subdomainUrl": “https://[subdomain-name].cognitiveservices.azure.com",  
        "identity": null 
    }  
}

Пример: назначаемое пользователем управляемое удостоверение

Удостоверение имеет идентификатор ресурса управляемого удостоверения, назначаемого пользователем. Сведения о поиске существующего управляемого удостоверения, назначаемого пользователем, см. в статье "Управление назначаемыми пользователем управляемыми удостоверениями".

Для управляемого удостоверения, назначаемого пользователем, задайте @odata.type свойства и userAssignedIdentity свойства.

POST https://[service-name].search.windows.net/skillsets/[skillset-name]?api-version=2024-11-01-Preview  

{  
    "name": "my skillset name",  
    "skills":   
    [  
      // skills definition goes here 
    ],  
    "cognitiveServices": {  
        "@odata.type": "#Microsoft.Azure.Search.AIServicesByIdentity",  
        "description": "",  
        "subdomainUrl": “https://[subdomain-name].cognitiveservices.azure.com",  
        "identity": {   
            "@odata.type":  "#Microsoft.Azure.Search.DataUserAssignedIdentity",   
            "userAssignedIdentity": ""/subscriptions/{subscription-ID}/resourceGroups/{resource-group-name}/providers/Microsoft.ManagedIdentity/userAssignedIdentities/{user-assigned-managed-identity-name}"" 
        }
    } 
}

Выставление счетов с помощью ключа ресурса

Поиск ИИ Azure также может взимать плату за транзакцию с помощью ключа ресурса с несколькими службами Azure. Этот подход используется по умолчанию и общедоступен. Вы можете использовать портал Azure, REST API или пакет SDK Azure для добавления ключа в набор навыков.

Необходимо добавить ключ, а не поддомен или конечную точку. Если свойство cognitiveServices не указано, служба поиска пытается использовать бесплатные обогащения, доступные индексатору ежедневно. Выполнение оплачиваемых навыков останавливается на 20 транзакций на вызов индексатора, а в журнале выполнения индексатора отображается сообщение time Out.

Войдите на портал Azure.
Создайте ресурс azure AI с несколькими службами в том же регионе, что и служба поиска.
Получите ключ ресурса на странице "Ключи ресурсов>" и "конечная точка".
Добавьте ключ в определение набора навыков:
- При использовании мастера импорта данных создайте или выберите учетную запись ИИ Azure. Мастер добавляет ключ ресурса в определение набора навыков.
- Для нового или существующего набора навыков укажите ключ в определении набора навыков.

Используйте API создания или обновления набора навыков, указав cognitiveServices раздел в тексте запроса:

PUT https://[servicename].search.windows.net/skillsets/[skillset name]?api-version=2024-07-01
api-key: [admin key]
Content-Type: application/json
{
    "name": "skillset name",
    "skills": 
    [
      {
        "@odata.type": "#Microsoft.Skills.Text.V3.EntityRecognitionSkill",
        "categories": [ "Organization" ],
        "defaultLanguageCode": "en",
        "inputs": [
          {
            "name": "text", "source": "/document/content"
          }
        ],
        "outputs": [
          {
            "name": "organizations", "targetName": "organizations"
          }
        ]
      }
    ],
    "cognitiveServices": {
        "@odata.type": "#Microsoft.Azure.Search.CognitiveServicesByKey",
        "description": "mycogsvcs",
        "key": "<your key goes here>"
    }
}

Следующий фрагмент кода состоит из azure-search-dotnet-samples, обрезанный для краткости.

IConfigurationBuilder builder = new ConfigurationBuilder().AddJsonFile("appsettings.json");
IConfigurationRoot configuration = builder.Build();

string searchServiceUri = configuration["SearchServiceUri"];
string adminApiKey = configuration["SearchServiceAdminApiKey"];
string cognitiveServicesKey = configuration["CognitiveServicesKey"];

SearchIndexerClient indexerClient = new SearchIndexerClient(new Uri(searchServiceUri), new AzureKeyCredential(adminApiKey));

// Create the skills
Console.WriteLine("Creating the skills...");
OcrSkill ocrSkill = CreateOcrSkill();
MergeSkill mergeSkill = CreateMergeSkill();

// Create the skillset
Console.WriteLine("Creating or updating the skillset...");
List<SearchIndexerSkill> skills = new List<SearchIndexerSkill>();
skills.Add(ocrSkill);
skills.Add(mergeSkill);

SearchIndexerSkillset skillset = CreateOrUpdateDemoSkillSet(indexerClient, skills, cognitiveServicesKey);

Удаление ключа

Обогащение — это оплачиваемые операции. Если вам больше не нужно вызывать службы ИИ Azure, следуйте этим инструкциям, чтобы удалить ключ с несколькими службами и запретить использование внешнего ресурса. Без ключа набор навыков возвращается к выделению по умолчанию 20 бесплатных транзакций на индексатор в день. Выполнение оплачиваемых навыков останавливается на 20 транзакций, а сообщение "Время ожидания" отображается в журнале выполнения индексатора при использовании выделения.

Портал Azure
REST

Войдите на портал Azure.
В разделе "Наборы навыков управления > поиском" выберите набор навыков из списка.
Прокрутите страницу до раздела в файле, содержаемом "cognitiveServices".
Удалите значение ключа из JSON и сохраните набор навыков.

Получите набор навыков, чтобы получить полное определение.
Сформулируйте запрос набора навыков обновления, предоставляя определение набора навыков в формате JSON.

Удалите ключ в тексте определения и отправьте запрос:

PUT https://[servicename].search.windows.net/skillsets/[skillset name]?api-version=2024-07-01
api-key: [admin key]
Content-Type: application/json
{
    "name": "skillset name",
    "skills": 
    [
      {
        "@odata.type": "#Microsoft.Skills.Text.V3.EntityRecognitionSkill",
        "categories": [ "Organization" ],
        "defaultLanguageCode": "en",
        "inputs": [
          {
            "name": "text", "source": "/document/content"
          }
        ],
        "outputs": [
          {
            "name": "organizations", "targetName": "organizations"
          }
        ]
      }
    ],
    "cognitiveServices": {
        "@odata.type": "#Microsoft.Azure.Search.CognitiveServicesByKey",
        "description": "mycogsvcs",
        "key": ""
    }
}

Кроме того, можно задать для cognitiveServices значение NULL:

"cognitiveServices": null,

Использование ключа

Выставление счетов вступает в силу, когда вызовы API к ресурсам служб ИИ Azure превышают 20 вызовов API на индексатор в день. Индексатор можно сбросить для сброса количества API.

Подключения на основе ключей и ключей используются для выставления счетов, но не для подключений операций обогащения. Для подключений служба поиска подключается по внутренней сети к ресурсу служб искусственного интеллекта Azure, расположенному в том же физическом регионе. Большинство регионов, которые предлагают поиск по искусственному интеллекту Azure, также предлагают другие службы ИИ Azure, такие как язык. Если вы попытаетесь обогащение ИИ в регионе, который не имеет обеих служб, вы увидите следующее сообщение: "Предоставленный ключ не является допустимым ключом типа CognitiveServices для региона службы поиска".

Индексаторы можно настроить для запуска в частной среде выполнения для выделенной обработки, используя только узлы поиска собственной службы поиска. Даже если вы используете частную среду выполнения, поиск ИИ Azure по-прежнему использует свой внутренний подготовленный ресурс многослужб Azure AI для выполнения всех обогащений навыков.

Примечание.

Некоторые встроенные навыки основаны на нерегионарных службах ИИ Azure (например, навык перевода текста). Использование нерегионированного навыка означает, что ваш запрос может обслуживаться в регионе, отличном от региона поиска ИИ Azure. Дополнительные сведения о нерегионарных службах см . на странице продуктов служб ИИ Azure по регионам .

Требования к общедоступному подключению

В зависимости от того, когда служба поиска была создана, а также ее уровень и регион, выставление счетов за встроенные навыки может потребовать общедоступного подключения из службы поиска ИИ Azure к нескольким службам Azure. Отключение выставления счетов через общедоступную сеть прерывает выставление счетов в некоторых сценариях. Просмотрите требования для подключений через общую приватную ссылку , чтобы определить, требуется ли служба поиска общедоступное подключение.

Если вы не можете использовать общедоступную сеть, можно настроить навык пользовательского веб-API, реализованный с помощью функции Azure, которая поддерживает частные конечные точки и добавить ресурс служб ИИ Azure в ту же виртуальную сеть. Таким образом можно вызвать ресурс служб ИИ Azure непосредственно из пользовательского навыка с помощью частных конечных точек.

Особые требования к ключевым требованиям

Поиск пользовательских сущностей измеряется службами поиска ИИ Azure, а не службами ИИ Azure, но требуется ключ ресурсов нескольких служб Azure для разблокировки транзакций за пределами 20 на индексатор в день. Только для этого навыка ключ ресурса разрешает использовать больше транзакций, но не используется при выставлении счетов.

Бесплатные обогащения

Обогащение искусственного интеллекта предлагает небольшое количество бесплатной обработки оплачиваемых обогащений, чтобы вы могли выполнить короткие упражнения, не подключив ресурс нескольких служб Azure AI. Бесплатные обогащения — это 20 документов в день, на индексатор. Индексатор можно сбросить, чтобы сбросить счетчик, если вы хотите повторить упражнение.

Некоторые обогащения всегда бесплатны:

Служебные навыки, которые не вызывают службы ИИ Azure (а именно, условное извлечение документов, фигура , слияние текста и навыки разделения текста) не оплачиваются.
Извлечение текста из PDF-документов и других файлов приложений не допускается. Извлечение текста, которое происходит во время взлома документа, не является обогащением ИИ, но происходит во время обогащения ИИ и таким образом отмечается здесь.

Оплачиваемые обогащения

Во время обогащения искусственного интеллекта Поиск Azure вызывает API служб ИИ Azure для встроенных навыков , основанных на Azure AI Vision, Переводчике и языке ИИ Azure.

Оплачиваемые встроенные навыки, которые вызывают внутренние вызовы к службам ИИ Azure, включают связывание сущностей, распознавание сущностей, анализ изображений, извлечение ключевых фраз, обнаружение языка, OCR, обнаружение персональных данных (PII), тональность и перевод текста.

Извлечение изображений — это операция поиска ИИ Azure, которая возникает при взломе документов до обогащения. Извлечение изображений оплачивается на всех уровнях, за исключением 20 бесплатных ежедневных извлечения на бесплатном уровне. Стоимость извлечения изображений применяется к файлам изображений в BLOB-объектам, встроенным в файлы другого формата (например, PDF) и изображениям, извлеченным с помощью извлечения документов. Цены на извлечение изображений см. на странице цен на поиск в Azure AI.

Совет

Чтобы снизить затраты на обработку набора навыков, включите добавочное обогащение для кэширования и повторного использования любых обогащений, не затронутых изменениями, внесенными в набор навыков. Для кэширования требуется служба хранилища Azure(см. цены), но возможность повторно использовать существующие обогащения снизит совокупную стоимость выполнения набора навыков, особенно если в них используется извлечение и анализ изображений.

Пример. Оценка затрат

Чтобы оценить затраты, связанные с индексированием поиска ИИ Azure, начните с представления о том, как выглядит средний документ, чтобы можно было выполнить некоторые числа. Например, возможный приблизительный результат:

1000 файлов PDF.
По шесть страниц каждый.
По одному изображению на странице (6000 изображений).
З000 символов на одну страницу.

Предположим, что конвейер состоит из распознавания каждого документа PDF, изображения и извлечения текста, оптического распознавания символов изображений (OCR), а также распознавания объектов организаций.

Представленные в этой статье цены являются гипотетическими. Они используются для демонстрации процесса оценки. Ваши затраты могут быть ниже. Сведения о фактической цене транзакций см. в ценах на службы искусственного интеллекта Azure.

Для открытия документа с содержимым в виде текста и изображения извлечение текста в настоящее время предоставляется бесплатно. Для 6000 изображений предполагается цена 1 долл. за каждые 1000 извлеченных изображений. Это стоимость 6,00 долл. для этого шага.
Для OCR 6000 образов на английском языке когнитивные навыки OCR используют наилучший алгоритм (DescribeText). При условии что 1000 изображений для анализа будет стоить 2,50 долл., вы выплатите 15,00 долл. за этот шаг.
Для извлечения объекта нужно всего три текстовые записи на страницу. (каждая запись — 1000 символов). Три текстовые записи на страницу умножены на 6000 страниц равны 18 000 текстовых записей. При тарифе 2,00 долл. за 1000 текстовых записей этот шаг будет стоить 36,00 долл.

Всего вы заплатите приблизительно 57,00 долл., чтобы принять 1000 документов PDF с указанным набором навыков.

Поделиться через

Присоединение ресурса azure AI с несколькими службами к набору навыков в службе "Поиск ИИ Azure"

Необходимые компоненты

Выставление счетов через бессерверное подключение

Пример: назначаемое системой управляемое удостоверение

Пример: назначаемое пользователем управляемое удостоверение

Выставление счетов с помощью ключа ресурса

Удаление ключа

Использование ключа

Требования к общедоступному подключению

Особые требования к ключевым требованиям

Бесплатные обогащения

Оплачиваемые обогащения

Пример. Оценка затрат

Следующие шаги

Обратная связь

Дополнительные ресурсы