将负责任 AI 框架付诸实践

  • 8 分钟

如上一单元中所述，Microsoft 已经开发并完善用于负责任地管理 AI 的内部流程。 本单元介绍此管理系统在实际情况下是如何运作的。 虽然每个组织都需要有自己独特的管理框架和审查流程，但是我们相信我们的敏感用例框架可以作为一个有用的起点。 在早期，Microsoft 在负责任 AI 管理过程中的一个步骤是使用敏感使用情况评审触发器。 该框架帮助面向客户的内部团队确定了特定用例何时需要更多指导。

Microsoft 敏感用例框架

根据我们的负责任 AI 管理文档，如果 AI 开发或部署场景属于以下一个或多个类别，则被视为“敏感用例”：

  • 拒绝重要服务：此场景涉及到使用 AI 的方式可能直接导致拒绝向个人提供重要的服务或支持（例如金融、住宅、保险、教育、招聘或医疗保健服务）。
  • 伤害风险：此场景涉及到使用 AI 的方式可能制造对个人造成重大的身体、精神或心理伤害的风险（例如在军事、安全关键的医疗保健环境中的生死抉择、涉及到儿童或其他弱势群体的任何场景等）。
  • 侵犯人权：此场景涉及到使用 AI 的方式可能导致严重限制个人自由、观点或言论、集会或社团、隐私等（例如执法或维持治安时）。

我们会培训员工，让其能够使用此框架来确定是否应标记某一 AI 用例以供进一步审查，无论是面向客户的销售人员还是研究内部 AI 解决方案的人员都要接受培训。 我们还会培训 Responsible AI Champ，使其能够胜任员工和中心治理团队之间联络人的角色。

Microsoft 敏感用例审查过程

敏感用例的评审过程有三个阶段：识别、评估和缓解。 为了更好地说明这个过程，真实的案例研究将每个步骤的解释结合在一起。 在此案例研究中，一位客户来找我们开发一个人脸识别系统。

标识

如果某员工识别出某用例属于这三个类别中的一类（拒绝重要服务、伤害风险或侵犯人权），他们将报告该用例。 报告通过中心提交工具进行，然后该用例会转交给本地 Responsible AI Champ，此人负责促进员工认识和了解公司负责任 AI 政策、标准和指南。

在本例中，一家执法机构与我们联系，要求我们开发一个面部识别系统，以增强现有的身份验证方法。 这些场景包括使用面部识别功能在交通站点检查驾驶员身份、加快在监狱的签到过程以及在穿过设施时验证囚犯的身份。 一名员工通过用于负责任 AI 审查的中心接纳工具提交了这三个用例。

评估

Responsible AI Champ 与负责任 AI 办公室以及用例涉及的 Microsoft 团队合作，调查案例以收集相关事实，遵循指导流程评估建议系统对个人和社会的影响，并审查过去的用例以确定是否存在适用于类似场景的指南。 如果之前的指南不存在，或者如果该用例需要其他专业技能和评估，Responsible AI Cham p 会向 Aether 委员会的敏感用例工作组提供此用例。

在这个人脸识别案例中，Responsible AI Champ 与负责任 AI 办公室、帐户团队以及客户紧密合作，对风险进行评估。 经确定，这三个案例都需要上报到 Aether 敏感用例工作组以获取进一步的意见，因为这些案例都涉及到一个或多个 AI 敏感用例。

缓解

敏感用例工作组与不同的专家小组进行讨论，以提供有关如何应对与特定用例相关的风险的见解和建议。 如果需要进一步上报，可以将用例上报到 Aether 委员会，该委员会将直接向高级领导团队提供建议。 最终，高级领导团队对新的、影响重大的案件做出决策。

注意

审查敏感用例时，建议集合具有不同背景和专业知识的人。 创建一个具有包容性的空间，让每个人都能自在地分享自己的想法和观点，这一点也非常重要。

审查案例后，Responsible AI Champ 将与负责任的 AI 办公室合作，为项目团队提供关于符合负责任的 AI 实践和原则的缓解策略的建议。 这些缓解策略可以包括技术方法、员工培训、治理方法或项目范围的更改。 有时，我们会收到不要继续进行某些项目的建议，因为我们无法以符合我们原则的方式交付它们。

在用例中，Aether 敏感用例工作组针对每个方案分别做出决策。 经过斟酌，他们决定不支持在交通站点识别“目标人员”的巡逻场景。 由于技术和更广泛的生态系统还不够成熟，不能减轻技术执行不完善所带来的有害后果，因此 Aether 工作组将此场景视为不成熟的用例。

我们向客户解释了这些问题，他们决定不采用该方案。

注意

有研究支持：此外，试图在不受控制的环境中识别单个人员可能侵犯人权，造成由于识别错误而造成的不当逮捕。 研究表明，AI 更有可能弄错女性和少数民族的身份，这也可能导致不成比例地拘留这些人群。1

对于设施内用例，我们确定可以支持设计和开发概念证明 (POC)，采取安全措施以确保对解决方案进行适当的人为控制，并且可以在客户和 Microsoft 之间建立双向反馈循环。 同样重要的是，客户为与解决方案交互的人员实施了一个培训计划，并且客户要就这些受支持的场景之外的部署与 Microsoft 重新合作。

负责任的 AI 治理的发展历程

在你了解了我们的实践流程之后，我们想重申一个重要的点 - 我们还处于开发 AI 管理系统的开始阶段。 围绕 AI 的流程正在迅速发展。 展望未来，我们计划在进一步投资 AI 的同时，完善我们的管理政策，我们建议其他企业也这样做。 每个组织都需要根据自己的 AI 需求和成熟度定制其审查流程，但希望我们的流程可以作为一个有用的起点。

接下来，请通过知识检查总结你所学到的所有内容。