介绍

已完成

在线发布的用户生成的内容量正在迅速增长。 我们也越来越意识到需要保护每个人免受不当或有害内容的影响。

Azure AI 内容安全是一项 AI 服务，旨在帮助开发人员在其应用程序和服务中添加高级内容安全。

对于负责主持在线讨论的开发人员团队，维护安全和得体的在线空间的挑战越来越大。 Azure AI 内容安全可识别潜在的不安全内容，并帮助组织遵守法规，符合自己的质量标准。

提高在线内容安全的需求有四个主要驱动因素：

• 有害内容增加：用户生成的在线内容（包括有害和不适当的内容）急剧增长。
• 监管压力：来自政府的监管在线内容的压力。
• 透明：用户需要在内容审查标准和强制执行方面保持透明度。
• 复杂内容：技术的进步使用户能够更轻松地发布多模式内容和视频。

注意

Azure AI 内容安全取代了 2024 年 2 月弃用的 Azure 内容审查器，将审查器将于 2027 年 2 月停用。

在本模块中，你将了解 Azure AI 内容安全的重要功能，以及每个功能可在何时使用。