Azure AI サービスの Azure AI モデル推論サービスでブロックリストを使用する方法

構成可能なコンテンツフィルターは、ほとんどのコンテンツモデレーションのニーズに十分です。ただし、ユースケースに固有の用語をフィルター処理する必要がある場合があります。

前提条件

Azure サブスクリプション。 GitHub モデルを使用している場合は、エクスペリエンスをアップグレードし、プロセスで Azure サブスクリプションを作成できます。このような場合は、「GitHub モデルから Azure AI サービスの Azure AI モデル推論にアップグレードする」をお読みください。
Azure AI サービスリソース。詳細については、「Azure AI サービスリソースを作成する」を参照してください。
Azure AI サービスリソースに接続されている Azure AI Foundry プロジェクトと Azure AI Foundry ハブ。
モデルデプロイ。リソースへのモデルの追加については、Azure AI サービスにモデルを追加して構成するに関するページを参照してください。

Note

ブロックリスト (プレビュー) は、Azure OpenAI モデルでのみサポートされています。

Azure AI Foundry にアクセスし、プロジェクト/ハブに移動します。次に、左側のナビゲーションで [安全性とセキュリティ] ページを選択し、[ブロックリスト] タブを選択します。
[ブロックリストの作成] を選択します。ブロックリストの名前を入力し、説明を追加して、接続する Azure OpenAI リソースを選択します。次に、[ブロックリストの作成] を選択します。
新しいブロックリストを作成したらそれを選択します。ブロックリストのページで、[新しい用語の追加] を選択します。
フィルター処理する用語を入力し、[用語の追加] を選択します。正規表現も使用できます。ブロックリスト内の各用語を削除できます。

ブロックリストの準備ができたら、[安全性とセキュリティ] ページに戻り、[コンテンツフィルター] タブを選択します。新しいコンテンツフィルター構成を作成します。これにより、複数の AI Content Safety コンポーネントが含まれたウィザードが開きます。
[入力フィルター] と [出力フィルター] 画面で、[ブロックリスト] ボタンをオンに切り替えます。その後、リストからブロックリストを選択できます。ブロックリストには 2 種類あります。ユーザーが作成するカスタムブロックリストと、Microsoft が提供する事前構築済みのブロックリストであり、この場合は、不適切な表現のブロックリスト (英語) です。
使用可能なブロックリストのうち、コンテンツフィルタリング構成に含めるブロックリストを決定できるようになりました。最後の手順では、[次へ] を選択してコンテンツフィルターの構成を確認し、完了します。いつでも戻って構成を編集できます。準備ができたら、[コンテンツの作成] フィルターを選択します。ブロックリストを含む新しい構成をデプロイに適用できるようになりました。