AzureOpenAIにてAzureOpenAIアカウントの「場所」が日本で、モデルのデプロイする際に設定する「デプロイの種類」を「Standard」にすれば、日本国外に入出力データが出ることはないか。

Question

AzureOpenAIでLLMモデルや埋め込みモデルのAPIを利用したいのですが、入力データや出力データが日本国外に出てほしくありません。

AzureOpenAIアカウントの「場所」が日本で、モデルのデプロイする際に設定する「デプロイの種類」を「Standard」にすれば、日本国外に入出力データが出ることはないでしょうか。

①まず、以下のURLに「デプロイの種類」が「Standard」のときの説明として「データ所在地の要件があるお客様向け。」とありますが、データが指定した地域外に出ることがありませんという文章はありません。

https://learn.microsoft.com/ja-jp/azure/ai-services/openai/how-to/deployment-types

②そして、以下のURLには

「データの冗長性または他の運用上の目的のために、特定の geo 内のリージョン間で顧客データをコピーする場合があります。」

と入出力データがバックアップされるような旨の記載がされておりますが、これもAzureOpenAIアカウントの「場所」が日本で、モデルのデプロイする際に設定する「デプロイの種類」を「Standard」にすれば、日本国内でバックアップされますか？

https://azure.microsoft.com/ja-jp/explore/global-infrastructure/data-residency/

Answer 1

@BUF_Y さん

①

以下のURLに「デプロイの種類」が「Standard」のときの説明として「データ所在地の要件があるお客様向け。」とありますが、データが指定した地域外に出ることがありませんという文章はありません。

以下のURLの最後に、「Azure OpenAI Service デプロイのどの種類についても、すべての格納データは引き続き Azure OpenAI リソースの地域にとどまります。」という表現があります。例えば東日本リージョンでStandard（Regional standard）を使う場合、東日本リージョンにデータがとどまります。

https://learn.microsoft.com/azure/ai-services/openai/how-to/deployment-types#azure-openai-deployment-data-processing-locations

同じことを以下のドキュメントでも述べています。

Prompts and responses are processed within the customer-specified geography (unless you are using a Global deployment type), but may be processed between regions within the geography for operational purposes (including performance and capacity management). See below for information about location of processing when using a Global deployment type. https://learn.microsoft.com/legal/cognitive-services/openai/data-privacy#generating-completions-images-or-embeddings-through-inferencing

②

以下のURLには 「データの冗長性または他の運用上の目的のために、特定の geo 内のリージョン間で顧客データをコピーする場合があります。」 と入出力データがバックアップされるような旨の記載がされておりますが...

この表現は、Regional pair（ペアリージョン）という考え方を示しています。具体的には、ストレージなどの地理冗長性を確保するために、東西日本リージョンで複製する場合のことを言っています。

Azure OpenAI ServiceのCompletions/Embeddings/Image APIはステートレスなので、プロンプトや生成結果をモデル内で保持することはありません。

The models are stateless: no prompts or generations are stored in the model. Additionally, prompts and generations are not used to train, retrain, or improve the base models. https://learn.microsoft.com/legal/cognitive-services/openai/data-privacy#generating-completions-images-or-embeddings-through-inferencing

同じことをBC/DRのドキュメントでも述べています。

https://learn.microsoft.com/azure/ai-services/openai/how-to/business-continuity-disaster-recovery#bcdr-requires-custom-code

Assistants APIはステートフルです。このAPIは、Azure OpenAI Serviceと同じリージョンにMicrosoftが作成したストレージを利用します。

https://learn.microsoft.com/ja-jp/azure/ai-services/openai/faq?source=recommendations#-----

なお、以下のドキュメントに記載の通り、悪用や誤用の監視目的でプロンプトや生成結果をログとして最大30日保持しますが、オプトアウトを申請すれば一切保持されなくなります。

https://learn.microsoft.com/en-us/legal/cognitive-services/openai/data-privacy