使用 Azure AI 內容安全的時機
許多線上網站鼓勵使用者分享他們的觀點。 人們信任別人對產品、服務、品牌等的意見反應。 這些評論通常是坦率的、具有洞察力的，並且被認為沒有行銷偏見。 但並非所有內容都是出於好意的。
Azure AI 內容安全是一項 AI 服務，旨在提供一個更全面的內容監管審核方法。 Azure AI 內容安全可協助組織在越來越多的情境下優先考慮人類審核員的工作：
教育程度
學習平台和線上教育網站的數目正在迅速增長，並且不斷增加越來越多的資訊。 教育工作者需要確保學生不會接觸到不適當的內容，或向 LLM 輸入有害的要求。 此外，教育工作者和學生都想知道他們正在使用的內容是否正確且接近來源資料。
社交網路
社群媒體平台是動態且快速變化的，需要即時審核。 審核使用者所產生的內容包括貼文、評論和影像。 Azure AI 內容安全有助於審核具有細微差別且涉及多種語言的內容，以識別有害的資料。
品牌
品牌越來越多地利用聊天室和訊息論壇來鼓勵忠實客戶分享他們的觀點。 然而，冒犯性的資料可能會損害品牌，並打消客戶分享觀點的念頭。 他們希望確保可以快速識別和移除不適當的資料。 品牌也增加了生成式 AI 服務來幫助人們與他們溝通，因此需要防範試圖利用大型語言模式 (LLM) 的不良行為者。
電子商務
使用者內容是透過評論產品和與其他人討論產品而產生的。 此資料是強大的行銷方式，但若發佈不當的內容時，則會損害消費者的信心。 此外，法規和合規性問題也變得越來越重要。 Azure AI 內容安全可協助篩選產品清單中的虛假評論和其他不當的內容。
遊戲
審核遊戲是一個具有挑戰性的領域，因為它具有高度的視覺效果且經常包含暴力圖形內容。 遊戲擁有強大的社群，其中的成員熱衷於分享他們的進展和經驗。 支援人類審核員確保遊戲安全的項目包括監視虛擬人偶、使用者名稱、影像和以文字為基礎的資料。 Azure AI 內容安全擁有先進的 AI 視覺工具，可協助監管遊戲平台來偵測不當的行為。
生成式 AI 服務
組織越來越多地使用生成式 AI 服務來更輕易地存取內部資料。 為了維護內部資料的完整性和安全，需要檢查使用者提示和 AI 生成的輸出，以防止惡意使用這些系統。
新聞
新聞網站需要審核使用者的評論，以防止錯誤訊息的傳播。 Azure AI 內容安全可以識別包含仇恨言論和其他有害內容的語言。
其他情境
還有許多其他情境需要對內容進行審核。 Azure AI 內容安全可以加以自訂，以識別特定場景中有問題的語言。