你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
Azure AI 内容安全中的新增功能
了解服务中的新增功能。 这些内容可能包括发布说明、视频、博客文章和其他类型的信息。 为此页添加书签可了解最新的新功能、增强功能、修补程序和文档更新。
2024 年 10 月
即将弃用
为了与内容安全版本控制和生命周期管理策略保持一致,计划弃用以下版本:
- 自 2024 年 10 月 28 日起生效:除
2024-09-01
、2024-09-15-preview
、2024-09-30-preview
外所有版本将被弃用,不再受支持。 我们鼓励用户过渡到最新的可用版本,以继续获得完整的支持和更新。 如果对此过程有任何疑问或需要有关过渡的帮助,请联系我们的支持团队。
2024 年 9 月
多模式分析(预览版)
多模式 API 会分析包含图像内容和文本内容的材料,有助于提高应用程序和服务的安全性,使其免受有害的用户生成内容或 AI 生成内容的侵害。 将图像及其关联的文本内容一起分析可以保留上下文,对内容进行更全面的理解。 按快速入门的说明开始使用。
代码的受保护材料检测(预览版)
受保护材料代码 API 会标记可能由大型语言模型输出的受保护代码内容(来自已知的 GitHub 存储库,包括软件库、源代码、算法和其他专有编程内容)。 按快速入门的说明开始使用。
注意
内容安全服务的代码扫描程序/索引器仅适用于截止到 2021 年 11 月 6 日的代码。 该日期之后添加到 GitHub 的代码不会被检测到。 在使用受保护代码材料检测最新的代码主体时,请自行判断。
有据性校正(预览版)
有据性检测 API 包含一个校正功能,可以根据提供的基础源自动校正文本中检测到的任何无据性之处。 启用校正功能时,响应会包含一个 corrected Text
字段,该字段显示与基础源一致的已校正文本。 按快速入门的说明开始使用。
2024 年 8 月
新功能已正式发布
文本 API 的 Prompt Shields API 和受保护的材料现已正式发布 (GA)。 请按照快速入门指南进行试用。
2024 年 7 月
自定义类别(标准)API(公共预览版)
自定义类别(标准)API 可以创建和训练自己的自定义内容类别并扫描文本以查找匹配项。 请参阅自定义类别了解详细信息。
2024 年 5 月
自定义类别(快速)API(公共预览版)
自定义类别(快速)API 可以快速定义新兴的有害内容模式,并扫描文本和图像以查找匹配项。 请参阅自定义类别了解详细信息。
2024 年 3 月
Prompt Shields 公共预览版
这一更新功能(以前称为“越狱风险检测”)可检测提示攻击,在这种攻击中,用户会故意利用系统漏洞从大型语言模型中诱发未经授权的行为。 Prompt Shields 分析直接用户提示攻击和嵌入在输入文档或图像中的间接攻击。 有关详细信息,请参阅 Prompt Shields。
有据性检测公共预览版
有据性检测 API 检测大型语言模型 (LLM) 的文本响应是否以用户提供的源材料为依据。 无据性说明 LLM 根据源材料内容所生成的信息与事实不符或不准确。 有关详细信息,请参阅有据性检测。
2024 年 1 月
内容安全 SDK GA
Azure AI 内容安全服务现已通过以下客户端库 SDK 正式发布:
- C#:包 | API 参考 | 示例 | 快速入门:文本、图像
- Python:包 | API 参考 | 示例 | 快速入门:文本、图像
- Java:包 | API 参考 | 示例 | 快速入门:文本、图像
- JavaScript:包 | API 参考 | 示例 | 快速入门:文本、图像
重要
Azure AI 内容安全 SDK 的公共预览版将于 2024 年 3 月 31 日弃用。 请更新应用程序以使用 GA 版本。
2023 年 11 月
越狱风险和受保护材料检测(预览版)
通过新的越狱风险检测和受保护材料检测 API,你能够在使用生成式 AI 时缓解一些风险。
仅在特定区域提供越狱风险和受保护材料检测。 请参阅区域可用性。
2023 年 10 月
Azure AI 内容安全现已正式发布 (GA)
Azure AI 内容安全服务现已正式发布为云服务。
- 该服务可在更多 Azure 区域中使用。 有关列表,请参阅概述。
- Analyze API 的返回格式已更改。 有关最新示例,请参阅快速入门。
- 多个其他 API 的名称和返回格式已更改。 有关重大更改的完整列表,请参阅迁移指南。 其他指南和快速入门现在反映了 GA 版本。
Azure AI 内容安全 Java 和 JavaScript SDK
Azure AI 内容安全服务现已通过 Java 和 JavaScript SDK 提供。 这些 SDK 可分别在 Maven 和 npm 上获取。 按快速入门的说明开始操作。
2023 年 7 月
Azure AI 内容安全 C# SDK
Azure AI 内容安全服务现已通过 C# SDK 提供。 可在 NuGet 上获取该 SDK。 按快速入门的说明开始操作。
2023 年 5 月
Azure AI 内容安全公开预览版
Azure AI 安全内容服务可检测包含潜在攻击性内容、风险内容或其他不良内容的材料。 这项服务提供了最先进的文本和图像模型,可以检测有问题的内容。 Azure AI 安全内容服务可帮助提高应用程序和服务的安全性,免受用户生成和 AI 生成的有害内容影响。 按快速入门的说明开始操作。