使用内容安全在 Azure AI Studio 中审核内容并检测有害内容

  • 模块
  • 11 单元
初级
开发人员
Azure

了解如何在 Azure AI Studio 中选择和构建内容审查系统。

注意

本模块是一个引导式项目模块，你可以按照分步说明完成端到端项目。

学习目标

学完本模块后，你将能够：

  • 配置筛选器和阈值级别，以阻止有害内容。
  • 对文本和图像进行有害内容审核。
  • 分析并改进“精准率”、“查全率”和“F1 评分”指标。
  • 检测模型输出中的基础性。
  • 识别和阻止 AI 生成的受版权保护的内容。
  • 缓解直接和间接提示词注入。
  • 将筛选器配置输出到代码。

先决条件