Azure AI モデル推論を使用するように AI プロジェクトを構成する

Azure AI Foundry に既に AI プロジェクトがある場合、モデルカタログは、既定でサードパーティ モデル プロバイダーのモデルをスタンドアロン エンドポイントとしてプロジェクトにデプロイします。 各モデル デプロイには、それにアクセスするための独自の URI と資格情報のセットがあります。 一方で、Azure OpenAI モデルは、Azure AI サービス リソースまたは Azure OpenAI Service リソースにデプロイされます。

この動作を変更し、Azure AI モデル推論を使用して両方の種類のモデルを Azure AI サービス リソースにデプロイすることができます。 構成すると、従量課金制に対応したサービスとしてのモデルのデプロイは、(プロジェクト自体ではなく) 接続された Azure AI サービス リソースに対して行われるため、Azure AI Foundry においてデプロイされたすべてのモデルにアクセスするためのエンドポイントと資格情報の 1 つのセットが提供されます。 Azure OpenAI とサード パーティのモデル プロバイダーのモデルを、同じ方法で管理できます。

さらに、Azure AI モデル推論にモデルをデプロイすると、次のような追加の利点があります。

• ルーティング機能。
• カスタム コンテンツ フィルター。
• グローバルな容量のデプロイの種類。
• ロールベースのアクセス制御によるキーレス認証。

この記事では、Azure AI サービスにおいて Azure AI モデル推論内にデプロイされたモデルを使用するようにプロジェクトを構成する方法について説明します。

前提条件

このチュートリアルを完了するには、次のものが必要です。

• Azure サブスクリプション。 GitHub モデルを使用している場合は、エクスペリエンスをアップグレードし、プロセスで Azure サブスクリプションを作成できます。 このような場合は、「GitHub モデルから Azure AI サービスの Azure AI モデル推論にアップグレードする」をお読みください。

• Azure AI サービス リソース。 詳細については、「Azure AI サービス リソースを作成する」を参照してください。

• Azure AI プロジェクトと Azure AI ハブ。

  ヒント

  AI ハブがプロビジョニングされると、それとともに Azure AI サービス リソースが作成され、それら 2 つのリソースは接続されます。 プロジェクトに接続されている Azure AI サービス リソースを確認するには、Azure AI Foundry ポータル>[管理センター]>[接続されたリソース] に移動して、[AI サービス] の種類の接続を見つけてください。

Azure AI モデル推論を使用するようにプロジェクトを構成する

Azure AI サービスにおいて Azure AI モデル推論機能を使用するようにプロジェクトを構成するには、次の手順に従います。

1. Azure AI Foundry ポータルに移動します。

2. 上部のナビゲーション バーで、右上隅にあるプレビュー機能アイコンを選択します。 画面の右側にコンテキスト ブレードが表示されます。

3. [Azure AI モデル推論サービスにモデルをデプロイする] の機能をオンにします。

   

4. そのパネルを閉じます。

5. プロジェクトのランディング ページ内で、プロジェクトに接続されている Azure AI サービス リソースを特定します。 必要に応じて、ドロップダウンを使用して接続されているリソースを変更します。

6. ドロップダウンの中にリソースが一覧表示されていない場合は、AI ハブに Azure AI サービス リソースが接続されていません。 新しい接続を次のように作成します。

   1. 画面の左下隅にある [管理センター] を選択します。

   2. [接続] セクション内で [新しい接続] を選択します。

   3. [Azure AI サービス] を選択します。

   4. ブラウザーで、サブスクリプション内の既存 Azure AI サービス リソースを探します。

   5. [接続の追加] を選択します。

   6. 新しい接続がハブに追加されます。

   7. プロジェクトのランディング ページに戻って続行し、ここで新しく作成された接続を選択します。 ページがすぐに表示されない場合は更新してください。

7. [含まれる機能] の下で、確実に [Azure AI 推論] を選択してください。 [Azure AI モデル推論エンドポイント] の URI が、それにアクセスするための資格情報とともに表示されます。

   

   ヒント

   各 Azure AI サービス リソースには 1 つの Azure AI モデル推論エンドポイントがあり、その上にある任意のモデル デプロイにアクセスするために使用できます。 同じエンドポイントが、構成されているものに応じて複数のモデルに対応します。 エンドポイントのしくみを確認してください。

8. エンドポイントの URL と資格情報をメモしてください。

Azure AI モデル推論においてモデル デプロイを作成する

Azure AI モデル推論にデプロイする各モデルに対して、次の手順に従います。

1. Azure AI Foundry ポータル内の [モデルカタログ] セクションに移動します。

2. 関心のあるモデルまでスクロールして選択します。

   

3. モデル カードでモデルの詳細を確認できます。

4. [デプロイ] を選択します。

5. 追加の契約条件が必要なモデル プロバイダーの場合は、それらの条件に同意するように求められます。 [サブスクリプションとデプロイ] を選択して、これらのケースの使用条件に同意します。

   

6. この時点でデプロイ設定を構成できます。 既定では、デプロイはデプロイするモデルの名前を受け取ります。 デプロイ名は、この特定のモデル デプロイにルーティングする要求の model パラメーターで使用されます。 これにより、特定の構成をアタッチする際に、モデルに特定の名前を構成できます。 たとえば、厳密なコンテンツ安全性コンテンツ フィルターを使用するモデルは o1-preview-safe とします。

7. [Azure AI モデル推論サービスにモデルをデプロイする] の機能を有効にしたため、プロジェクトに応じて Azure AI サービス接続が自動的に選択されます。 [カスタマイズ] オプションを使用し、ニーズに基づいて接続を変更します。 デプロイの種類 [Standard] にデプロイする場合は、Azure AI サービス リソースの Azure リージョン内でそのモデルが提供されている必要があります。

   

8. [デプロイ] を選択します。

9. デプロイが完了すると、そのモデルにアクセスするためのエンドポイント URL と資格情報が表示されます。 ここで、指定された URL と資格情報が Azure AI モデル推論エンドポイント プロジェクトのランディング ページに表示されるものと同じになることに注意してください。

10. [モデル + エンドポイント] セクションに移動し、AI サービス リソースへの接続のグループを見つけると、そのリソースのもとで使用可能なすべてのモデルを表示できます。

    

新しいエンドポイントを使用してコードをアップグレードする

Azure AI サービス リソースが構成されたら、コードからそのリソースの使用を開始できます。 エンドポイント URL とそのキーが必要です。これは、[概要] セクションで確認できます。

サポートされている SDK のいずれかを使用して、エンドポイントから予測を取得できます。 次の SDK が正式にサポートされています。

• OpenAI SDK
• Azure OpenAI SDK
• Azure AI 推論パッケージ
• Azure AI Projects パッケージ

詳細と例については、サポートされている言語と SDK のセクションを参照してください。 次の例は、新しくデプロイされたモデルで Azure AI 推論パッケージを使用する方法を示しています。

Python

pip のように、パッケージ マネージャーを使用してパッケージ azure-ai-inference をインストールします。

pip install azure-ai-inference

その後、パッケージを使用してモデルを使用できます。 次の例では、チャット入力候補を使用してクライアントを作成する方法を示します。

import os
from azure.ai.inference import ChatCompletionsClient
from azure.core.credentials import AzureKeyCredential

model = ChatCompletionsClient(
    endpoint="https://<resource>.services.ai.azure.com/models",
    credential=AzureKeyCredential(os.environ["AZUREAI_ENDPOINT_KEY"]),
)

サンプルを確認し、API リファレンス ドキュメントを参照して、作業を開始してください。

JavaScript

npm を使用してパッケージ @azure-rest/ai-inference をインストールします。

npm install @azure-rest/ai-inference

その後、パッケージを使用してモデルを使用できます。 次の例では、チャット入力候補を使用してクライアントを作成する方法を示します。

import ModelClient from "@azure-rest/ai-inference";
import { isUnexpected } from "@azure-rest/ai-inference";
import { AzureKeyCredential } from "@azure/core-auth";

const client = new ModelClient(
    "https://<resource>.services.ai.azure.com/models", 
    new AzureKeyCredential(process.env.AZUREAI_ENDPOINT_KEY)
);

サンプルを確認し、API リファレンス ドキュメントを参照して、作業を開始してください。

C#

次のコマンドを使用して Azure AI 推論ライブラリをインストールします:

dotnet add package Azure.AI.Inference --prerelease

次の名前空間をインポートします。

using Azure;
using Azure.Identity;
using Azure.AI.Inference;

その後、パッケージを使用してモデルを使用できます。 次の例では、チャット入力候補を使用してクライアントを作成する方法を示します。

ChatCompletionsClient client = new ChatCompletionsClient(
    new Uri("https://<resource>.services.ai.azure.com/models"),
    new AzureKeyCredential(Environment.GetEnvironmentVariable("AZURE_INFERENCE_CREDENTIAL"))
);

サンプルを確認し、API リファレンス ドキュメントを参照して、作業を開始してください。

Java

パッケージをプロジェクトに追加します。

<dependency>
    <groupId>com.azure</groupId>
    <artifactId>azure-ai-inference</artifactId>
    <version>1.0.0-beta.1</version>
</dependency>

その後、パッケージを使用してモデルを使用できます。 次の例では、チャット入力候補を使用してクライアントを作成する方法を示します。

ChatCompletionsClient client = new ChatCompletionsClientBuilder()
    .credential(new AzureKeyCredential("{key}"))
    .endpoint("{endpoint}")
    .buildClient();

サンプルを確認し、API リファレンス ドキュメントを参照して、作業を開始してください。

REST

リファレンス セクションを活用して、API の設計と使用可能なパラメーターを調べることができます。 たとえば、チャット補完のリファレンス セクションでは、ルート /chat/completions を使用し、チャット形式の指示に基づいて予測を生成する方法について詳しく説明しています。 パス /models が URL のルートに含まれていることに注目してください。

Request

POST https://<resource>.services.ai.azure.com/models/chat/completions?api-version=2024-05-01-preview
api-key: <api-key>
Content-Type: application/json

最初のチャット補完を生成します。

Python

from azure.ai.inference.models import SystemMessage, UserMessage

response = client.complete(
    messages=[
        SystemMessage(content="You are a helpful assistant."),
        UserMessage(content="Explain Riemann's conjecture in 1 paragraph"),
    ],
    model="mistral-large"
)

print(response.choices[0].message.content)

JavaScript

var messages = [
    { role: "system", content: "You are a helpful assistant" },
    { role: "user", content: "Explain Riemann's conjecture in 1 paragraph" },
];

var response = await client.path("/chat/completions").post({
    body: {
        messages: messages,
        model: "mistral-large"
    }
});

console.log(response.choices[0].message.content)

C#

requestOptions = new ChatCompletionsOptions()
{
    Messages = {
        new ChatRequestSystemMessage("You are a helpful assistant."),
        new ChatRequestUserMessage("Explain Riemann's conjecture in 1 paragraph")
    },
    Model = "mistral-large"
};

response = client.Complete(requestOptions);
Console.WriteLine($"Response: {response.Value.Content}");

Java

List<ChatRequestMessage> chatMessages = new ArrayList<>();
chatMessages.add(new ChatRequestSystemMessage("You are a helpful assistant"));
chatMessages.add(new ChatRequestUserMessage("Explain Riemann's conjecture in 1 paragraph"));

ChatCompletions chatCompletions = client.complete(new ChatCompletionsOptions(chatMessages));

for (ChatChoice choice : chatCompletions.getChoices()) {
    ChatResponseMessage message = choice.getMessage();
    System.out.println("Response:" + message.getContent());
}

REST

Request

POST https://<resource>.services.ai.azure.com/models/chat/completions?api-version=2024-05-01-preview
api-key: <api-key>
Content-Type: application/json

{
    "messages": [
        {
            "role": "system",
            "content": "You are a helpful assistant"
        },
        {
            "role": "user",
            "content": "Explain Riemann's conjecture in 1 paragraph"
        }
    ],
    "model": "mistral-large"
}

パラメーター model="<deployment-name> を使用して、要求をこのデプロイにルーティングします。 デプロイは、特定の構成下で特定のモデルのエイリアスとして機能します。 Azure AI サービスがデプロイをルーティングする方法については、ルーティングの概念ページを参照してください。

サーバーレス API エンドポイントから Azure AI モデル推論へ移行する

Azure AI モデル推論を使用するようにプロジェクトを構成しましたが、既存のモデル デプロイはサーバーレス API エンドポイントとしてプロジェクト内に存在し続けます。 それらのデプロイは移行されません。 そのため、以前のモデル デプロイを参照する既存コードを、段階的にアップグレードすることができます。 モデル デプロイの移行を開始するには、次のワークフローをお勧めします。

1. Azure AI モデル推論においてモデル デプロイを再作成します。 このモデル デプロイには、Azure AI モデル推論エンドポイントからアクセスできます。

2. 新しいエンドポイントを使用するようにコードをアップグレードします。

3. サーバーレス API エンドポイントを削除して、プロジェクトをクリーンアップします。

新しいエンドポイントを使用してコードをアップグレードする

モデルが Azure AI サービスにデプロイされたら、Azure AI モデル推論エンドポイントを使用するようにコードをアップグレードすることができます。 サーバーレス API エンドポイントと Azure AI モデル推論のしくみの主な違いは、エンドポイント URL とモデル パラメーターにあります。 サーバーレス API エンドポイントでは、各モデル デプロイに対して URI とキーのセットがありますが、Azure AI モデル推論では、すべてに対して 1 セットしかありません。

次の表は、導入する必要がある変更をまとめたものです。

プロパティ	サーバーレス API エンドポイント	Azure AI モデル推論
エンドポイント	https://<endpoint-name>.<region>.inference.ai.azure.com	https://<ai-resource>.services.ai.azure.com/models
資格情報	モデル/エンドポイントごとに 1 つ。	Azure AI サービス リソースごとに 1 つ。 Microsoft Entra ID も使用できます。
モデル パラメーター	なし。	必須。 モデル デプロイの名前を使用します。

プロジェクトから既存サーバーレス API エンドポイントをクリーンアップする

コードをリファクタリングした後、プロジェクト内の既存サーバーレス API エンドポイント (もしあれば) を削除してください。

サーバーレス API エンドポイントとしてデプロイされた各モデルに対して、次の手順に従います。

1. Azure AI Foundry ポータルに移動します。

2. [モデル + エンドポイント] を選択します。

3. [サーバーレス] のエンドポイントの種類を特定し、削除するものを選択します。

4. [削除] オプションを選択します。

   警告

   この操作を元に戻すことはできません。 そのエンドポイントが現在、他のユーザーまたはコードの一部によって使用されていないことを確認してください。

5. [削除] を選択して操作を確認します。

6. 他のプロジェクトからこのエンドポイントへのサーバーレス API 接続を作成した場合、その接続は削除されず、存在しないエンドポイントを指し続けます。 エラーを回避するために、それらの接続をすべて削除してください。

制限事項

Azure AI モデル推論を使用するようにプロジェクトを構成する場合は、次の制限事項を考慮してください:

• ただし、Azure AI モデル推論へのデプロイに使用できるのは従量課金制 (サービスとしてのモデル) をサポートするモデルのみです。 カスタム モデルを含め、サブスクリプション (マネージド コンピューティング) からのコンピューティング クォータを必要とするモデルは、指定されたプロジェクト内でのみマネージド オンライン エンドポイントとしてデプロイでき、独自のエンドポイント URI と資格情報のセットを使用して引き続きアクセスできます。
• 従量課金制とマネージド コンピューティング オファリングの両方で利用できるモデルは、既定では、Azure AI サービス リソースの Azure AI モデル推論にデプロイされます。 Azure AI Foundry ポータルには、マネージド オンライン エンドポイントにデプロイする方法はありません。 「Azure AI モデル推論を使用するようにプロジェクトを構成する」で説明されている機能をオフにするか、Azure CLI/Azure ML SDK/ARM テンプレートを使用してデプロイを実行する必要があります。

次のステップ

• エンドポイントにさらにモデルを追加します。