你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
快速入门:受保护的文本材料检测
受保护的文本材料功能提供了一个全面的解决方案,用于管理与 AI 生成的内容(仅限英文内容)相关的风险。 通过检测和防止显示受保护材料,组织可以确保遵守知识产权法,维护内容原创性,并保护其声誉。 受保护材料是指与来自有版权来源的已知文本相匹配的内容,例如歌词、文章、食谱或其他选定的网络内容。
针对 AI 生成的内容,受保护文本材料检测功能的主要目标如下:
- 检测和防止显示 AI 模型生成的受保护内容。
- 使组织能够管理与 AI 生成的内容相关的风险。
- 确保 AI 生成的内容符合法律、道德和内容政策指导原则。
有关受保护材料检测的详细信息,请参阅受保护材料检测概念页面。 如需了解 API 输入限制,请参阅“概述”的输入要求部分。
先决条件
- Azure 订阅 - 免费创建订阅
- 拥有 Azure 订阅后,请在 Azure 门户中创建 Content Safety 资源 ,以获取密钥和终结点。 输入资源的唯一名称,选择订阅,并选择资源组、支持的区域(请参阅上市区域)和支持的定价层。 然后选择“创建”。
- 部署资源需要几分钟时间。 完成后,选择“转到资源”。 在左侧窗格中的“资源管理”下,选择“订阅密钥和终结点”。 终结点和任一密钥都用于调用 API。
- 已安装 cURL
分析文本以检测受保护材料
下一部分介绍使用 cURL 进行请求的示例。 将以下命令粘贴到文本编辑器,并进行以下更改。
- 将
<endpoint>
替换为与资源关联的终结点 URL。 - 将
<your_subscription_key>
替换为资源附带的密钥之一。 - (可选)将正文中的
"text"
字段替换为要分析的你自己的文本。提示
有关最大文本长度限制,请参阅输入要求。 受保护材料检测应在 LLM 完成时运行,而不是在出现用户提示时运行。
curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
"text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'
URL 中必须包含以下字段:
名称 | 必需? | 说明 | 类型 |
---|---|---|---|
API 版本 | 必需 | 这是要检查的 API 版本。 当前版本为:api-version=2024-09-01。 示例: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01 |
字符串 |
请求正文中的参数在此表中定义:
名称 | 必需? | 说明 | 类型 |
---|---|---|---|
text | 必需 | 这是要检查的原始文本。 可以包含其他非 ascii 字符。 | 字符串 |
请参阅以下示例请求正文:
{
"text": "string"
}
打开命令提示符窗口并运行 cURL 命令。
解释 API 响应
应会在控制台输出中看到显示为 JSON 数据的受保护材料检测结果。 例如:
{
"protectedMaterialAnalysis": {
"detected": true
}
}
输出中的 JSON 字段定义如下:
名称 | 说明 | 类型 |
---|---|---|
protectedMaterialAnalysis | API 预测的每个输出类。 | 字符串 |
detected | 是否检测到受保护材料。 | 布尔 |
清理资源
如果想要清理并移除 Azure AI 服务订阅,可以删除资源或资源组。 删除资源组同时也会删除与之相关联的任何其他资源。
相关内容
- 受保护材料检测概念
- 使用 Content Safety Studio 为每个类别配置筛选器并测试数据集,导出代码并部署。