介绍

已完成

Contoso 露营商店正在为其网站开发新的 AI 支持功能,以增强用户交互和安全。 作为开发人员,你的任务是将 Azure AI 内容安全功能整合到商店的平台中。 你的目标是确保所有客户支持对话和用户生成的内容(如产品评论和图像)都遵守公司的内容准则,为所有用户营造一个安全、包容的环境。 对于测试目的,你选择使用 Azure AI Studio 中的审核和安全功能。

学习目标

完成本模块后,你能够:

  • 配置筛选器和阈值级别以阻止有害内容。
  • 对文本和图像进行有害内容审核。
  • 分析并改进“精准率”、“查全率”和“F1 评分”指标。
  • 检测模型输出中的基础性。
  • 缓解直接和间接提示注入。
  • 将筛选器配置输出到代码。

先决条件