內容安全性

  • 2 分鐘

Azure AI 內容安全性可在應用程式與服務中偵測使用者產生和 AI 產生的有害內容。 Azure AI 內容安全性內的功能可協助確保產品評論、論壇文章和影像符合 Contoso 野營商店的內容指導方針。

Azure AI 內容安全提供了一套功能，旨在即時監視和仲裁內容。 包括：

  • 文字仲裁：偵測並篩選文字中的有害內容，如仇恨言論、暴力或不當語言。

  • 影像仲裁：分析影像以識別和封鎖可能被認為不安全或冒犯性的內容。

  • 多模式內容分析：跨不同類型的內容工作，確保全面的內容安全策略。

  • 根據性偵測：根據所提供的來源材料，偵測並封鎖模型輸出中的錯誤資訊，確保大型語言模型的文字回應真實準確。

  • 提示盾：分析大型語言模型 (LLM) 輸入並偵測使用者提示攻擊和文件攻擊。

  • 受(版權)保護素材偵測：透過掃描協力廠商文字內容索引 (包括歌曲、新聞文章、食譜和特定網路內容) 的相符項，識別並封鎖可能違反著作權的輸出。

這些功能是以尖端 AI 模型為基礎所建置，可偵測各種潛在風險、威脅和品質問題。 識別這些問題可協助您確保 Contoso 野營商店網站上所有使用者的安全包容性環境。