AI アプリ テンプレート
ドキュメントのこのセクションでは、これらのテンプレートを使用して主要な開発者タスクを実行する方法を示す、AI アプリ テンプレートと関連記事について説明します。 AI アプリ テンプレートは、適切にメンテナンスされ、デプロイが容易なリファレンス実装を提供します。これは、高品質な AI アプリの作成を開始するために役立ちます。
AI アプリ テンプレートには、構成要素とエンド ツー エンド ソリューションの 2 つのカテゴリがあります。 次のセクションでは、この記事の上部で選択したプログラミング言語の各カテゴリの主要なテンプレートの一部について説明します。 これらのテンプレートやその他のテンプレートを含むより包括的な一覧を参照するには、 AI アプリ テンプレート ギャラリーで AI アプリ テンプレートを参照してください。
構成要素
構成要素は、特定のシナリオとタスクに焦点を当てた小規模なサンプルです。 ほとんどのビルディングブロックは、独自のデータを使用するチャットアプリに対してエンドツーエンドのソリューションを活用する機能を示しています。
構成要素 | 説明 |
---|---|
Azure Container Apps による負荷分散 | アプリに負荷分散を追加して、Azure OpenAI トークンとモデルのクォータ制限を超えてチャット アプリを拡張する方法について説明します。 このアプローチでは、Azure Container Apps を使用して、3 つの Azure OpenAI エンドポイントと、受信トラフィックを3つのエンドポイントのいずれかに転送するプライマリ コンテナーを作成します。 |
構成要素 | 説明 |
---|---|
チャット アプリのドキュメント セキュリティを構成する | 独自のデータで RAG パターン を使用してチャット アプリケーションを構築する場合は、各ユーザーがアクセス許可に基づいて回答を受け取るようにします。 承認されたユーザーは、チャット アプリのドキュメントに含まれる回答にアクセスできる必要があります。 承認されていないユーザーは、閲覧権限のないセキュリティで保護されたドキュメントからの回答にアクセスできないようにする必要があります。 |
チャット アプリの回答を評価する | チャット アプリの回答を、一連の正しい回答または理想的な回答 (グラウンド トゥルースと呼ばれます) に対して評価する方法を確認します。 回答に影響を与えるような方法でチャット アプリケーションを変更するたびに、評価を実行して変更を比較します。 このデモ アプリケーションでは、評価を簡単に実行できるツールを提供しています。 |
Azure Container Apps による負荷分散 | アプリに負荷分散を追加して、Azure OpenAI トークンとモデルのクォータ制限を超えてチャット アプリを拡張する方法について説明します。 このアプローチでは、Azure Container Apps を使用して、3 つの Azure OpenAI エンドポイントと、受信トラフィックを3つのエンドポイントのいずれかに転送するプライマリ コンテナーを作成します。 |
API Management による負荷分散 | アプリに負荷分散を追加して、Azure OpenAI トークンとモデルのクォータ制限を超えてチャット アプリを拡張する方法について説明します。 このアプローチでは、Azure API Management を使用して、3 つの Azure OpenAI エンドポイントと、受信トラフィックを3つのエンドポイントのいずれかに転送するプライマリ コンテナーを作成します。 |
Locust を使用して Python チャット アプリの負荷テストを行う | RAG パターンと Locust という、多くのユーザーを持つオープンソースの負荷テストツールを使用して、Python チャット アプリケーションの負荷テストを実行するプロセスを説明します。 負荷テストの主な目的は、チャット アプリケーションで予想される負荷が、現在の Azure OpenAI Transactions Per Minute (TPM) のクォータを超えるのを防ぐことです。 負荷の高いユーザーの動作をシミュレートすることで、アプリケーションのボトルネックとスケーラビリティの問題を予知できます。 |
キーレス認証を使用して AI アプリをセキュリティで保護する | キーレス認証を使用して Python Azure OpenAI チャット アプリケーションをセキュリティで保護するプロセスについて説明します。 ほとんどの Azure サービスに対するアプリケーション要求は、キーレス接続またはパスワードレス接続で認証する必要があります。 キーレス認証の場合、キー (または接続文字列) を保存する必要がないため、アカウント キーよりも管理とセキュリティの面で利点があります。 |
構成要素 | 説明 |
---|---|
Azure Container Apps による負荷分散 | アプリに負荷分散を追加して、Azure OpenAI トークンとモデルのクォータ制限を超えてチャット アプリを拡張する方法について説明します。 このアプローチでは、Azure Container Apps を使用して、3 つの Azure OpenAI エンドポイントと、受信トラフィックを3つのエンドポイントのいずれかに転送するプライマリ コンテナーを作成します。 |
構成要素 | 説明 |
---|---|
チャット アプリの回答を評価する | チャット アプリの回答を、一連の正しい回答または理想的な回答 (グラウンド トゥルースと呼ばれます) に対して評価する方法を確認します。 回答に影響を与えるような方法でチャット アプリケーションを変更するたびに、評価を実行して変更を比較します。 このデモ アプリケーションでは、評価を簡単に実行できるツールを提供しています。 |
Azure Container Apps による負荷分散 | アプリに負荷分散を追加して、Azure OpenAI トークンとモデルのクォータ制限を超えてチャット アプリを拡張する方法について説明します。 このアプローチでは、Azure Container Apps を使用して、3 つの Azure OpenAI エンドポイントと、受信トラフィックを3つのエンドポイントのいずれかに転送するプライマリ コンテナーを作成します。 |
API Management による負荷分散 | アプリに負荷分散を追加して、Azure OpenAI トークンとモデルのクォータ制限を超えてチャット アプリを拡張する方法について説明します。 このアプローチでは、Azure API Management を使用して、3 つの Azure OpenAI エンドポイントと、受信トラフィックを3つのエンドポイントのいずれかに転送するプライマリ コンテナーを作成します。 |
エンドツーエンド ソリューション
エンド ツー エンド ソリューションは、ドキュメント、ソース コード、デプロイを含む包括的なリファレンス サンプルであり、独自の目的に合わせて実行および拡張できます。
.NET で Azure OpenAI と Azure AI Search を使用してデータとチャットする
このテンプレートは、Azure で実行される検索拡張生成 (RAG) パターンを示す完全なエンドツーエンドのソリューションです。 Azure AI Search を使用して取得し、Azure OpenAI の大規模言語モデルを使用して、ChatGPT スタイルと Q&A エクスペリエンスを強化します。
このテンプレートの使用を開始するには、「.NET 用の独自のデータ サンプルを使用してチャットを開始する」をご覧ください。 ソース コードにアクセスし、テンプレートの詳細を読むには、azure-search-openai-demo-csharp GitHub リポジトリをご覧ください。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Azure Container Apps Azure Functions |
Azure OpenAI Azure Computer Vision Azure From Recognizer Azure AI Search Azure Storage |
GPT 3.5 Turbo GPT 4.0 |
Contoso Chat Retail Copilot と .NET およびセマンティック カーネル
このテンプレートは、ハイキングやキャンプ愛好家向けのアウトドア用品を専門とするコンセプト ストアである Contoso Outdoors を実装しています。 この仮想ストアは、インテリジェントなチャット エージェントを通じてカスタマー エンゲージメントと販売サポートを強化しています。 このエージェントは、セマンティック カーネルと Prompty のサポートで強化された、Microsoft Azure AI Stack 内の取得拡張生成 (RAG) パターンによって強化されています。
ソース コードにアクセスし、テンプレートの詳細を読むには、contoso-chat-csharp-prompty GitHub リポジトリをご覧ください。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Azure Container Apps |
Azure OpenAI Microsoft Entra ID Azure マネージド ID Azure Monitor Azure AI Search Azure AI Studio Azure SQL Azure Storage |
GPT 3.5 Turbo GPT 4.0 |
.NET および GPT 3.5 Turbo を使用した音声テキスト変換と要約によるプロセス自動化
このテンプレートは、自動車バッテリーを製造する製造会社 Contoso Manufacturing という会社の現場担当者や店舗スタッフから報告された問題を受け取るプロセス自動化ソリューションです。 問題は、マイク入力を介してライブで、またはオーディオ ファイルとして事前に記録して、従業員が共有します。 ソリューションは音声入力を音声テキスト変換し、LLM と Prompty または Promptflow を使用して問題を要約した、ソリューションによって指定された形式で結果を返します。
ソース コードにアクセスし、テンプレートの詳細を読むには、summarization-openai-csharp-prompty GitHub リポジトリをご覧ください。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Azure Container Apps | 音声テキスト変換 概要 Azure OpenAI |
GPT 3.5 Turbo |
Python で Azure OpenAI と Azure AI Search を使用してデータとチャットする
このテンプレートは、Azure で実行される検索拡張生成 (RAG) パターンを示す完全なエンドツーエンドのソリューションです。 Azure AI Search を使用して取得し、Azure OpenAI の大規模言語モデルを使用して、ChatGPT スタイルと質問と回答 (Q&A) エクスペリエンスを強化します。
このテンプレートの使用を開始するには、「Python 用の独自のデータ サンプルを使用してチャットを開始する」をご覧ください。 ソース コードにアクセスし、テンプレートの詳細を読むには、azure-search-openai-demo GitHub リポジトリをご覧ください。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Azure Container Apps | Azure OpenAI Azure AI Search Azure Blob Storage Azure Monitor Azure Document Intelligence |
GPT 3.5 Turbo GPT 4 GPT 4o GPT 4o-mini |
マルチ モーダル クリエイティブ ライティング Copilot と DALL-E
このテンプレートは、ユーザーが記事を作成するのに役立つクリエイティブなマルチ エージェント ソリューションです。 Azure OpenAI を活用した AI エージェントを作成して操作する方法を示します。
次の情報が含まれます。
- ユーザーから記事と指示を受け取る Flask アプリ。
- Bing Search API を使用して記事を調査するリサーチ エージェント。
- Azure AI Search を使用して、ベクター ストアからの関連製品のセマンティック類似性検索を実行する製品エージェント。
- 研究と製品情報を役立つ記事に組み合わせるライター エージェント。
- ユーザーに提示された記事を絞り込むためのエディター エージェント。
ソース コードにアクセスし、テンプレートの詳細を読むには、agent-openai-python-prompty GitHub リポジトリをご覧ください。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Azure Container Registry Azure Kubernetes |
Azure OpenAI Bing Search Azure マネージド ID Azure Monitor Azure AI Search Azure AI Studio |
GPT 3.5 Turbo GPT 4.0 DALL-E |
Contoso Chat Retail Copilot と AI Studio
このテンプレートは、 Contoso Chat を実装します。Contoso Outdoor 向けのリテール 用の副操縦ソリューションです。このソリューションでは、 retrieval 拡張生成 設計パターンを使用して、小売業者の製品と顧客データでチャットボットの応答を実現します。 顧客は、Web サイトから自然言語で質問をしたり、購入履歴に基づいて潜在的な推奨事項を含む関連する回答を得たり、責任ある AI プラクティスを使用して応答の品質と安全性を確保したりできます。
このテンプレートは、Azure AI と Prompty を使用して RAG ベースの copilot code-first を構築するためのエンドツーエンド のワークフロー (GenAIOps) を示しています。 このサンプルを調査してデプロイすることで、次の方法について学習します。
- Prompty を使用してアプリのプロトタイプを迅速にアイデア化して反復処理する
- チャット、埋め込み、評価 Azure OpenAI モデルをデプロイして使用する
- データに Azure AI Search (インデックス) と Azure Cosmos DB (データベース) を使用する
- AI 支援評価フローを使用してチャット応答の品質を評価する
- Azure Container Apps にデプロイされた FastAPI エンドポイントとしてアプリケーションをホストする
- Azure Developer CLI を使用してソリューションをプロビジョニングしてデプロイする
- コンテンツの安全性と評価で責任ある AI プラクティスをサポートする
ソース コードにアクセスし、テンプレートの詳細を読むには、contoso-chat GitHub リポジトリをご覧ください。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Azure Container Apps |
Azure OpenAI Azure AI Search Azure AI Studio Prompty Azure Cosmos DB |
GPT 3.5 Turbo GPT 4.0 マネージド統合ランタイム (MIR) |
AI Studio を使用した音声テキスト変換と要約によるプロセス自動化
このテンプレートは、Contoso Manufacturing という会社の従業員がテキストまたは音声を使用して問題を報告できるようにする Web ベースのアプリを作成します。 オーディオ入力がテキストに変換され、要約されて重要な情報が強調表示され、レポートが適切な部門に送信されます。
ソース コードにアクセスし、テンプレートの詳細を読むには、gitHub リポジトリ summarization-openai-python-promptflow を参照してください。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Azure Container Apps | Azure AI Studio Speech to Text サービス Prompty マネージド統合ランタイム (MIR) |
GPT 3.5 Turbo |
アシスタント API Analytics Copilot と Python および Azure AI Studio
このテンプレートは、表形式のデータとチャットし、自然言語で分析を実行するためのアシスタント API です。
ソース コードにアクセスし、テンプレートの詳細を読むには、assistant-data-openai-python-promptflow GitHub リポジトリをご覧ください。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Machine Learning Service | Azure AI Search Azure AI Studio マネージド統合ランタイム (MIR) Azure OpenAI |
GPT 3.5 Turbo GPT 4 |
Java で Azure OpenAI と Azure AI Search を使用してデータとチャットする
このテンプレートは、Azure で実行される検索拡張生成 (RAG) パターンを示す完全なエンドツーエンドのソリューションです。 Azure AI Search を使用して取得し、Azure OpenAI の大規模言語モデルを使用して、ChatGPT スタイルと Q&A エクスペリエンスを強化します。
このテンプレートの使用を開始するには、「Java 用の独自のデータ サンプルを使用してチャットを開始する」をご覧ください。 ソース コードにアクセスし、テンプレートの詳細を読むには、azure-search-openai-demo-java GitHub リポジトリをご覧ください。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Azure App Service Azure Container Apps Azure Kubernetes Service |
Azure OpenAI Azure AI Search Azure Storage Azure Monitor |
JavaScript で Azure OpenAI と Azure AI Search を使用してデータとチャットする
このテンプレートは、Azure で実行される検索拡張生成 (RAG) パターンを示す完全なエンドツーエンドのソリューションです。 Azure AI Search を使用して取得し、Azure OpenAI の大規模言語モデルを使用して、ChatGPT スタイルと Q&A エクスペリエンスを強化します。
このテンプレートの使用を開始するには、「JavaScript 用の独自のデータ サンプルを使用してチャットを開始する」をご覧ください。 ソース コードにアクセスし、テンプレートの詳細を読むには、azure-search-openai-javascript GitHub リポジトリをご覧ください。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Azure Container Apps Azure Static Web Apps |
Azure OpenAI Azure AI Search Azure Storage Azure Monitor |
text-embedding-ada-002 |
Azure OpenAI チャット フロントエンド
このテンプレートは、クライアントとして任意のバックエンド実装にフックできる最小限の OpenAI チャット Web コンポーネントです。
ソース コードにアクセスし、テンプレートの詳細を読むには、azure-openai-chat-frontend GitHub リポジトリをご覧ください。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Azure Static Web Apps | Azure AI Search Azure OpenAI |
GPT 3.5 Turbo GPT4 |
LangChain.js を使用した RAG とのサーバーレス AI チャット
このテンプレートは、一連のエンタープライズ ドキュメントを使用してユーザー クエリへの応答を生成する、LangChain.jsと Azure を使用した取得拡張生成を備えたサーバーレス AI チャットボットです。 Contoso Real Estate という架空の会社を使用しており、このエクスペリエンスにより、顧客は製品の使用状況についてサポートに質問できます。 サンプル データには、サービス規約、プライバシー ポリシー、およびサポート ガイドを説明する一連のドキュメントが含まれています。
このテンプレートをデプロイして実行する方法については、「LangChain.js を使用した RAG によるサーバーレス AI チャットの概要」をご覧ください。 ソース コードにアクセスし、テンプレートの詳細を読むには、serverless-chat-langchainjs GitHub リポジトリをご覧ください。
この JavaScript リファレンス テンプレートをデプロイして実行する方法について説明します。
このテンプレートでは、これらの機能の使用方法が示されています。
Azure ホスティング ソリューション | テクノロジ | AI モデル |
---|---|---|
Azure Static Web Apps Azure Functions |
Azure AI Search Azure OpenAI Azure Cosmos DB Azure Storage Azure マネージド ID |
GPT4 ミストラル Ollama |