你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

如何在 Azure AI 服务中将阻止列表与 Azure AI 模型推理服务配合使用

可配置的内容筛选器足以满足大多数内容审核需求。 但是,可能需要筛选特定于用例的术语。

先决条件

创建阻止列表

  1. 转到 Azure AI Foundry 并导航到你的项目/中心。 然后依次选择左侧导航栏上的“安全和安保”页、“阻止列表”选项卡。

    “阻止列表”页选项卡的屏幕截图。

  2. 选择“创建阻止列表”。 输入阻止列表的名称,添加说明,然后选择要连接到的 Azure OpenAI 资源。 然后选择“创建阻止列表”。

  3. 创建新的阻止列表后,选择它。 在阻止列表的页面上,选择“添加新字词”

  4. 输入应筛选的字词,然后选择“添加字词”。 还可以使用正则表达式。 可以在阻止列表中删除每个词语。

将阻止列表附加到内容筛选器配置

  1. 在阻止列表准备就绪后,返回到“安全和安保”页,然后选择“内容筛选器”选项卡。创建新的内容筛选器配置。 这会打开包含多个 AI 内容安全组件的向导。

    “创建内容筛选器”按钮的屏幕截图。

  2. 在“输入筛选器”和“输出筛选器”屏幕上,将“阻止列表”按钮切换到“开”。 然后,可以从列表中选择阻止列表。 有两种类型的阻止列表:你创建的自定义阻止列表,以及 Microsoft 提供的预生成阻止列表 - 在本例中为 Profanity 阻止列表(英文版)。

  3. 你现在可以决定要将哪个可用的阻止列表包含在你的内容筛选配置中。 最后一步是通过选择“下一步”来查看和完成内容筛选配置。 始终可以返回并编辑配置。 当它准备就绪后,选择“创建内容筛选器”。 现在可将包含阻止列表的新配置应用于部署。

后续步骤