你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

Azure AI 内容安全中的新增功能

了解服务中的新增功能。 这些内容可能包括发布说明、视频、博客文章和其他类型的信息。 为此页添加书签可了解最新的新功能、增强功能、修补程序和文档更新。

2024 年 10 月

即将弃用

为了与内容安全版本控制和生命周期管理策略保持一致,计划弃用以下版本:

  • 自 2024 年 10 月 28 日起生效:除 2024-09-012024-09-15-preview2024-09-30-preview 外所有版本将被弃用,不再受支持。 我们鼓励用户过渡到最新的可用版本,以继续获得完整的支持和更新。 如果对此过程有任何疑问或需要有关过渡的帮助,请联系我们的支持团队。

2024 年 9 月

多模式分析(预览版)

多模式 API 会分析包含图像内容和文本内容的材料,有助于提高应用程序和服务的安全性,使其免受有害的用户生成内容或 AI 生成内容的侵害。 将图像及其关联的文本内容一起分析可以保留上下文,对内容进行更全面的理解。 按快速入门的说明开始使用。

代码的受保护材料检测(预览版)

受保护材料代码 API 会标记可能由大型语言模型输出的受保护代码内容(来自已知的 GitHub 存储库,包括软件库、源代码、算法和其他专有编程内容)。 按快速入门的说明开始使用。

注意

内容安全服务的代码扫描程序/索引器仅适用于截止到 2021 年 11 月 6 日的代码。 该日期之后添加到 GitHub 的代码不会被检测到。 在使用受保护代码材料检测最新的代码主体时,请自行判断。

有据性校正(预览版)

有据性检测 API 包含一个校正功能,可以根据提供的基础源自动校正文本中检测到的任何无据性之处。 启用校正功能时,响应会包含一个 corrected Text 字段,该字段显示与基础源一致的已校正文本。 按快速入门的说明开始使用。

2024 年 8 月

新功能已正式发布

文本 API 的 Prompt Shields API 和受保护的材料现已正式发布 (GA)。 请按照快速入门指南进行试用。

2024 年 7 月

自定义类别(标准)API(公共预览版)

自定义类别(标准)API 可以创建和训练自己的自定义内容类别并扫描文本以查找匹配项。 请参阅自定义类别了解详细信息。

2024 年 5 月

自定义类别(快速)API(公共预览版)

自定义类别(快速)API 可以快速定义新兴的有害内容模式,并扫描文本和图像以查找匹配项。 请参阅自定义类别了解详细信息。

2024 年 3 月

Prompt Shields 公共预览版

这一更新功能(以前称为“越狱风险检测”)可检测提示攻击,在这种攻击中,用户会故意利用系统漏洞从大型语言模型中诱发未经授权的行为。 Prompt Shields 分析直接用户提示攻击和嵌入在输入文档或图像中的间接攻击。 有关详细信息,请参阅 Prompt Shields

有据性检测公共预览版

有据性检测 API 检测大型语言模型 (LLM) 的文本响应是否以用户提供的源材料为依据。 无据性说明 LLM 根据源材料内容所生成的信息与事实不符或不准确。 有关详细信息,请参阅有据性检测

2024 年 1 月

内容安全 SDK GA

Azure AI 内容安全服务现已通过以下客户端库 SDK 正式发布:

重要

Azure AI 内容安全 SDK 的公共预览版将于 2024 年 3 月 31 日弃用。 请更新应用程序以使用 GA 版本。

2023 年 11 月

越狱风险和受保护材料检测(预览版)

通过新的越狱风险检测和受保护材料检测 API,你能够在使用生成式 AI 时缓解一些风险。

  • 越狱风险检测会扫描文本,来查找大型语言模型上的越狱攻击风险。 快速入门
  • 受保护材料检测会扫描 AI 生成的文本,来查找已知文本内容(例如歌词、文章、食谱、选定的 Web 内容)。 快速入门

仅在特定区域提供越狱风险和受保护材料检测。 请参阅区域可用性

2023 年 10 月

Azure AI 内容安全现已正式发布 (GA)

Azure AI 内容安全服务现已正式发布为云服务。

  • 该服务可在更多 Azure 区域中使用。 有关列表,请参阅概述
  • Analyze API 的返回格式已更改。 有关最新示例,请参阅快速入门
  • 多个其他 API 的名称和返回格式已更改。 有关重大更改的完整列表,请参阅迁移指南。 其他指南和快速入门现在反映了 GA 版本。

Azure AI 内容安全 Java 和 JavaScript SDK

Azure AI 内容安全服务现已通过 Java 和 JavaScript SDK 提供。 这些 SDK 可分别在 Mavennpm 上获取。 按快速入门的说明开始操作。

2023 年 7 月

Azure AI 内容安全 C# SDK

Azure AI 内容安全服务现已通过 C# SDK 提供。 可在 NuGet 上获取该 SDK。 按快速入门的说明开始操作。

2023 年 5 月

Azure AI 内容安全公开预览版

Azure AI 安全内容服务可检测包含潜在攻击性内容、风险内容或其他不良内容的材料。 这项服务提供了最先进的文本和图像模型,可以检测有问题的内容。 Azure AI 安全内容服务可帮助提高应用程序和服务的安全性,免受用户生成和 AI 生成的有害内容影响。 按快速入门的说明开始操作。

Azure AI 服务更新

Azure AI 服务的 Azure 更新公告