运营负责任的生成式 AI 解决方案
当你识别了潜在的危害、开发了一种方法来衡量其存在情况并在解决方案中实施了缓解措施后，就可以准备好发布解决方案了。 在发布之前，需要考虑一些注意事项，以帮助你确保发布和后续运营成功。
完成发布前评审
在发布生成式 AI 解决方案之前，请确定组织和行业的各种合规性要求，并确保相应的团队有机会查看系统及其文档。 常见的合规性评审包括：
- Legal
- 隐私
- 安全性
- 辅助功能
发布和运营解决方案
成功的发布需要一些规划和准备。 遵循以下指南：
- 设计分阶段交付计划，首先将解决方案发布给一组有限的用户。 通过这种方法，你可以在向更广泛的受众发布之前收集反馈并识别问题。
- 创建事件响应计划，其中包括响应意外事件所花费的估计时间。
- 创建回滚计划，定义在发生事件时将解决方案还原到先前状态的步骤。
- 实现在发现有害系统响应时立即阻止这些响应的功能。
- 实现在发生系统滥用时阻止特定用户、应用程序或客户端 IP 地址的功能。
- 实现一种让用户提供反馈和报告问题的方法。 特别是，使用户能够将生成的内容报告为“不准确”、“不完整”、“有害”、“攻击性”或其他问题。
- 跟踪遥测数据，使你能够确定用户满意度并确定功能差距或可用性挑战。 收集的遥测数据应符合隐私法以及你自己组织的策略和对用户隐私的承诺。
利用 Azure AI 内容安全性
多个 Azure AI 资源使用内容筛选器提供对它们使用的内容的内置分析，包括语言、视觉和 Azure OpenAI。
Azure AI 内容安全提供了更多功能，致力于确保 AI 和助手规避风险。 这些功能包括检测来自输入或生成的不当或冒犯性语言，以及检测有风险或不适当的输入。
Azure AI 内容安全性中的功能包括：
| 功能 | 功能 |
|---|---|
| 提示防护 | 扫描用户输入攻击语言模型的风险 |
| 基础性检测 | 检测文本响应是否基于用户的源内容 |
| 受保护材料检测 | 扫描已知版权内容 |
| 自定义类别 | 定义任何新模式或新兴模式的自定义类别 |
有关使用 Azure AI 内容安全的详细信息和快速入门，请参阅该服务的文档页。