簡介
線上所張貼使用者產生的內容數量與日俱增。 我們也日趨意識到保護每個人免於受到不當或有害內容的需求。
Azure AI 內容安全是一項 AI 服務，旨在協助開發人員在其應用程式和服務中包含進階內容安全。
對於負責舉辦線上討論的開發人員小組而言，維護安全且互相尊重的線上空間挑戰日益增加。 Azure AI 內容安全可識別潛在的不安全內容，並協助組織遵守法規及符合自己的品質標準。
改善線上內容安全性的需求有四個主要驅使因素：
- 有害內容增加：使用者產生的線上內容 (包括有害和不當的內容) 大幅成長。
- 法規壓力：政府對於規範線上內容的壓力。
- 透明：使用者需要內容仲裁標準和強制執行的透明度。
- 複雜內容：技術的進步能讓使用者更輕鬆地張貼多模式內容和影片。
注意
Azure AI 內容安全取代了 2024 年 2 月所取代並將於 2027 年 2 月淘汰的 Azure 內容仲裁工具。
在本課程模組中，您將了解 Azure AI 內容安全的主要功能，以及何時可能會用到每個功能。