操作負責任的生成式 AI 解決方案

已完成

一旦您識別潛在的危害，請開發一種方法來測量其存在，並在您的解決方案中實作風險降低措施，您就可以準備好釋出您的解決方案。 在您這麼做之前，需要考慮一些事項，以協助您確保發行和後續作業成功。

完成發行前檢閱

在發行生成式 AI 解決方案之前，請先識別組織和產業中的各種合規性需求，並確保適當的小組有機會檢閱系統及其文件。 常見的合規性檢閱包括：

• 法務
• 隱私權
• 安全性
• 協助工具選項

發行及操作解決方案

成功的發行需要一些規劃和準備。 請參考下列指引：

• 設計「階段式傳遞計畫」，可讓您一開始向受限的使用者群組發行解決方案。 這種方法可讓您先收集意見反應並識別問題，然後向更廣泛的受眾發行。
• 建立「事件回應計劃」，其中包含回應非預期事件所需時間的估計。
• 建立 復原計劃 ，定義在事件發生時將解決方案還原為先前狀態的步驟。
• 實作在發現有害系統回應時立即封鎖這些回應的功能。
• 實作在系統誤用時封鎖特定使用者、應用程式或用戶端 IP 位址的功能。
• 實作讓使用者提供意見反應和報告問題的方式。 特別是，讓使用者能夠將產生的內容報告為「不正確」、「不完整」、「有害」、「冒犯性」或其他問題。
• 追蹤遙測資料，可讓您確定使用者滿意度並識別功能差距或可用性挑戰。 收集的遙測資料應遵守隱私權法律，以及貴組織對使用者隱私權的原則和承諾。

利用 Azure AI 內容 保管庫

數個 Azure AI 資源提供其使用內容的內建分析，包括語言、視覺和 Azure OpenAI，方法是使用內容篩選。

Azure AI 內容 保管庫 ty 提供更多功能，著重於讓 AI 和警戒安全免於風險。 這些功能包括偵測來自輸入或產生的不當或冒犯性語言，以及偵測有風險或不適當的輸入。

Azure AI 內容 保管庫 功能包括：

功能	功能
提示防護	掃描語言模型的使用者輸入攻擊風險
基礎性偵測	偵測文字回應是否落在使用者的來源內容中
受保護的材料偵測	掃描已知的著作權內容
自訂類別	定義任何新模式或新興模式的自定義類別

如需使用 Azure AI 內容 保管庫 ty 的詳細數據和快速入門，請參閱服務的文件頁面。