介绍
Contoso 露营商店正在为其网站开发新的 AI 支持功能,以增强用户交互和安全。 作为开发人员,你的任务是将 Azure AI 内容安全功能整合到商店的平台中。 你的目标是确保所有客户支持对话和用户生成的内容(如产品评论和图像)都遵守公司的内容准则,为所有用户营造一个安全、包容的环境。 对于测试目的,你选择使用 Azure AI Studio 中的审核和安全功能。
学习目标
完成本模块后,你能够:
- 配置筛选器和阈值级别以阻止有害内容。
- 对文本和图像进行有害内容审核。
- 分析并改进“精准率”、“查全率”和“F1 评分”指标。
- 检测模型输出中的基础性。
- 缓解直接和间接提示注入。
- 将筛选器配置输出到代码。
先决条件
- Azure 订阅 - 免费创建一个
- 熟悉 Azure 和 Azure 门户