プロンプトとテキスト生成機能についてよくあるご質問
これらのよくある質問 (FAQ) では、AI Builder のプロンプト機能が AI に与える影響について説明します。
プロンプトとは?
AI Builder のプロンプト機能は、AI を活用したワークフロー、アプリケーション、データ変換、コパイロットのカスタマイズを開発するための多彩な機能をユーザーに提供します。 これにより、文書の要約、回答草案の作成、テキストの分類、言語の翻訳を行うワークフローとアプリケーションの作成が可能になります。 この機能は、Generative Pre-trained Transformer (GPT) テクノロジーを利用したAzure OpenAI Service に搭載されています。 これらのモデルは膨大な量のテキスト データでトレーニングされており、人間が書いたコンテンツに似たテキストを生成できます。
Azure OpenAI Service の透過性のためのメモに関する詳細について説明します。
プロンプトの使用目的は何ですか?
AI Builder のプロンプトを使用すると、インテリジェントなアプリケーション、ワークフローを構築し、コパイロットを拡張できます。 これらは事前トレーニングされた GPT モデルの機能を活用し、カスタム モデルのトレーニングの必要性を排除します。 たとえば、顧客から寄せられた苦情を要約するワークフローを構築することが目的である場合があります。 次に、受信した苦情のカテゴリに基づいて、インシデント管理ツールでチケットを作成します。 この例では、作成者はモデルに、受信した苦情を分類して要約し、新しいインシデントを作成するように指示できます。
次のリストには、このサービスの最も一般的な使用例が含まれています。
- メール、会話、トランスクリプト、ドキュメントなどの要約処理。
- 顧客の問い合わせ、苦情、メールなどに対する回答の下書きの提案。
- 契約書、メール、請求書、注文書などからの情報の抽出。
- コンテンツを目的のカテゴリに分類 (例: メールが注文、苦情、返品のいずれなのか)。
- 特定のテキストの感情分析 (たとえば、製品レビューの感情を識別する)。
- ドキュメントまたは画像からコンテンツを抽出します (たとえば、請求書から情報を抽出したり、画像内のオブジェクトを説明したりします)。
これらすべての場合において、ユーザーはシステムの最終的な結果に対して責任を負います。 生成されたコンテンツを使用する前に、不正確さや不完全さの可能性がないことを確認する必要があります。
プロンプト機能の準備状況はどのように評価されましたか? パフォーマンスの測定にはどのようなメトリックが使用されますか?
この機能の評価には、さまざまな安全パラメータにわたる包括的なテストが含まれます。 このテストにより、機能が当社の責任ある AI 標準と原則に準拠していることが保証されます。 また、サービスは潜在的な脆弱性についても継続的に評価されます。 私たちが使用するパフォーマンス指標には主に、コンテンツのフィルタリングの効率と、フィルタリングされたコンテンツとフィルタリングされていないコンテンツに関する人間とマシンの一致度が含まれます。
プロンプトにはどのようなコンテンツモデレーションが実装されていますか?
GPT モデルはインターネット データでトレーニングされるため、一般的な世界モデルの構築に最適です。 同時に、同じソースから有害で有害な偏ったコンテンツを継承する可能性があります。 モデルは安全に動作し、有害なコンテンツを生成しないようにトレーニングされていますが、場合によっては有害な出力を生成する可能性があります。 AI Builder プロンプトは Azure AI Content Satefy サービスを利用して、AI プロンプト内に最先端のコンテンツ モデレーション機能を組み込みます。 これには、マルチ重大度のテキスト スキャナーを使用して生成された出力を分析するサービスと、プロンプト インジェクション攻撃に対する安全性が含まれます。 出力では、保護された物質の逆流もスキャンされます。
このプロンプト機能にはどのような制限がありますか? システムを使用する際、ユーザーはどのようにプロンプト制限の影響を最小限に抑えられますか？
この技術の使用は、Azure OpenAI Service の行動規範 の要件に従う必要があります。 このテクノロジーは、政治的プロパガンダ、ヘイトスピーチ、誤った情報、自傷行為、差別、露骨な性的内容、または行動規範で禁止されているその他のコンテンツに関連するコンテンツの生成に使用してはなりません。 このテクノロジーでサポートされていない用途には、アドバイスの提供、法律、金融、健康関連のガイダンス、未来予測、金融、科学、数学的計算、および Azure OpenAI サービスに関する透明性のメモ に記載されているその他のサポートされていない使い方が含まれます。
AI によって生成されたコンテンツには間違いが含まれる可能性があるため、メーカーは、このモデルによるコンテンツ生成が AI によって透過的な方法で作成されていることをソリューションのエンド ユーザーに通知する必要があります。 生成されたコンテンツを明確に伝えることは、過度の依存を避けるのに役立ちます。 メーカーは、AI が生成したコンテンツが正確かつ適切であることを使用前に確認するために、人間によるレビュー ステップの可能性を組み込む必要があります。
システムを効果的に責任を持って利用できるようにするために、どのような運用要因および設定がありますか?
AI モデルによって生成されるコンテンツは本質的に確率的なものであるため、同じプロンプトに対してモデルの応答が異なる可能性があります。 生成された応答は不正確または誤解を招く可能性があり、フローまたはアプリから意図しない結果が生じる可能性があります。 たとえば、法人顧客は、誤った情報、推奨事項、サポートを受け取る可能性があります。 作成者は、フローとアプリ内に意味のある人間による監視を実装し、Microsoft の倫理規定に記載されている有害な動作や禁止されているコンテンツの生成につながる可能性についてプロンプトをテストする必要があります。 ローコード開発者は、アプリやフローでの AI の使用について透明性を確保し、コンテンツが AI によって生成されたものであることをビジネス ユーザーに通知する必要もあります。 さらに、生成された応答は、長さの制限、コンテンツのフィルタリング、またはモデルの選択により、ローコード開発者の期待と一致しない可能性があります。
GPT モデルは何と呼ばれ、どこでホストされ、どのようにアクセスできますか？
AI Builder は、GPT 4o モデル ファミリをサポートします、それは Azure OpenAI サービスでホストされています。 これらのモデルには、アプリケーション、フロー、Copilot の Power Platform 全体のプロンプトを通してアクセスできます。
詳細については、Azure OpenAI サービスの新機能 を参照してください
データは、AI Builderで利用可能な大規模言語モデルのトレーニングや改善に使用されますか?
AI Builder プロンプトは、Microsoft がホストする Azure OpenAI サービス上で実行されます。 顧客データは、Azure OpenAI サービス基盤モデルのトレーニングや改善には使用されません。 顧客が許可を与えない限り、Microsoft は顧客のデータをサード パーティと共有しません。 顧客プロンプト (入力) とその基礎データも、モデル応答 (出力) も、Azure OpenAI サービス基盤モデルのトレーニングや改善には使用されません。
「プロンプトを使用して GPT でテキストを作成する」アクションに追加されたコンテンツは、一般公開されていますか?
アクションの バージョン情報タブには、このアクションは、Azure OpenAI Service上で実行されている GPT モデルを活用したプロンプトへのアクセスを提供します と記述されています。
プロンプトを使用して GPT でテキストを作成する アクション Power Automate に追加するプロンプトは、規定では非公開です。 これらは組織内でのみ表示および使用可能であり、世界からアクセスすることはできません。 プロンプトは非公開であり、社内での使用を目的としています。
新しく作成されたプロンプトは既定で非公開です。 これは、それらを作成した人のみが Power Automate、Power Apps、および Microsoft Copilot Studio で表示および使用できることを意味します。 これにより、作成者はアプリやワークフローでテストおよび評価し、共有する前にその正確性を確認する時間を確保できます。
環境またはグループの他のユーザーが Power Apps または Power Automate でプロンプトを使用できるようにするには、プロンプトを共有する必要があります。
詳細については、プロンプトの共有 を参照してください。
AI Builder プロンプト内の人物の画像はどのように処理されますか?
AI Builder は、顔の特徴や生体認証データに基づいて個人を識別するために使用することを意図したものではありません。 AI Builder に人物が写っている画像を送信すると、個人のプライバシーを保護するために、システムは画像を分析する前に顔ぼかし機能を自動的に適用します。 このぼかし手順により、顔の特徴に基づく識別を防ぐことができ、プライバシーに関する懸念に対処することができます。 ぼかしでは、顔認識や顔テンプレートのマッチングは行われません。 代わりに、よく知られた個人の識別は、顔ではなく、制服や独特の設定などの文脈上の手がかりに依存します。 このプライバシー対策は、受け取る結果の品質に影響を与えることはありません。 システムの応答では、顔のぼかしが時々参照されることがあります。
詳細については、顔のぼかしを参照してください。
カスタムプロンプトとAI機能とは何ですか?
カスタム プロンプト
カスタム プロンプト は、LLM (大規模言語モデル) に、特定の挙動やタスクを指示する自由を与えます。 注意深くプロンプトを作成することで、特定のビジネス ニーズに合った回答を生み出すことができます。 これにより、LLM モデルは様々なタスクを達成するための柔軟なツールへと変化しました。
例
言語モデルを使用すると、カスタム プロンプトによってモデルが質問に答えたり、テキストを補完したり、言語を翻訳したり、ドキュメントを要約したり、テキスト内のタスク、ToDo、アクション項目を識別したり、画像やドキュメントからコンテンツを抽出したりできるようになります。 カスタム プロンプトの複雑さは、タスクによって、一文からより複雑なものまでさまざまです。
AI 関数
事前構築済み AI 関数は、マイクロソフトチームによって作成された事前設定済みのプロンプトで、メーカーが一般的なタスクを簡単に達成できるように支援します。 さまざまなユースケースですぐに使えるAI機能を提供しており、ソリューションにインテリジェンスを注入するためのメーカー エクスペリエンスを簡素化します。
例
言語モデルに事前構築されたプロンプトは次のようになります:
[TextToExtract] から行動ポイントを番号付きリストとして抽出します
この場合、ユーザーはアクション ポイントを抽出したい [TextToExtract] のテキストを入力するだけですみます。 あとは事前構築されたプロンプトが処理します。