Content Safety

  • 2 分钟

Azure AI Content Safety 检测应用程序和服务中用户生成和 AI 生成的有害内容。 Azure AI 内容安全中的功能有助于确保产品评论、论坛帖子和图像符合 Contoso Camping Store 的内容准则。

Azure AI 内容安全提供了一套旨在实时监视和审查内容的功能。 其中包括：

  • 文本审查：检测并筛除文本中的有害内容，例如仇恨言论、暴力或不当语言。

  • 图像审查：分析图像以标识和阻止可能被视为不安全或冒犯性的内容。

  • 多模式内容分析：适用于不同类型的内容，可确保全面的内容安全策略。

  • 基础性检测：根据提供的源材料，检测并阻止模型输出中的错误信息，确保大型语言模型的文本响应真实且准确。

  • 提示防护：分析大语言模型 (LLM) 输入，并检测用户提示攻击和文档攻击。

  • 受保护的材料检测：通过扫描与第三方文本内容（包括歌曲、新闻文章、食谱和所选 Web 内容）索引匹配的内容，识别并阻止可能侵犯版权的输出。

这些功能基于先进的 AI 模型构建，可以检测各种潜在风险、威胁和质量问题。 识别这些问题有助于确保为所有 Contoso Camping Store 网站用户提供安全的包容性环境。