讓負責任 AI 架構能夠運作
如前一個單元中所討論，Microsoft 已開發並精簡內部流程，以便透過負責任的方式治理 AI。 本單元說明此治理系統在實際情況下的運作方式。 每個組織確實都需要各自的治理架構和檢閱流程，但我們相信我們的敏感性用途架構仍可充當實用的起點。 Microsoft 負責任 AI 治理流程的其中一個早期步驟，就是運用敏感性用途檢閱觸發程序。 這項架構使我們的內部和客戶對應小組懂得分辨特定使用案例需要進一步指導的時機。
Microsoft 敏感性使用案例架構
根據我們的負責任 AI 治理文件，我們認為 AI 開發或部署情節只要屬於一個或多個下列類別，即算為「敏感性用途」：
- 重要服務遭拒：此情節涉及的 AI 使用方式，可能會直接導致個人使用重要服務或支援 (例如財務、居住、保險、教育、雇傭或醫療保健服務) 時遭到拒絕。
- 傷害風險：此情節涉及的 AI 使用方式，可能會產生對個人身體、情緒或心理造成傷害的重大風險 (例如軍事上攸關生死的決策、攸關安全的製造環境、醫療保健環境、任何涉及兒童或其他弱勢人員的大部分情節等等)。
- 侵犯人權：此情節涉及的 AI 使用方式，可能會嚴重限制個人自由、意見表達、集會或相關事務、隱私權等等 (例如執法或監督)。
我們會訓練員工使用此架構來判斷是否應將 AI 使用案例標示為須進行進一步檢閱 (無論他們是面對客戶的銷售人員，或是使用內部 AI 解決方案的人員)。 我們也會將負責任 AI Champ 訓練為員工和中央治理小組之間的聯絡人。
Microsoft 敏感性使用案例檢閱程序
敏感性使用案例的檢閱流程分成三個階段：識別、評量和風險降低措施。 為了進一步說明這項流程，我們會在說明每個步驟時納入真實世界的案例研究。 在此案例研究中，客戶要求我們建立臉部辨識系統。
識別
只要員工發現使用案例屬於三個類別的其中之一 (重要服務遭拒、傷害風險或侵犯人權)，就會向上呈報。 呈報流程會透過中央提交工具進行，並傳送至當地負責任 AI Champ。拉抬對於公司負責任 AI 政策、標準和指導的相關意識與理解，都是負責任 AI Champ 的責任。
在本案例中，找上門來的是執法機關，他們想開發臉部辨識系統，來加強現有的身分識別驗證方法。 相關情節包括使用臉部辨識在汽車靜止時檢查司機身分、加速監獄登記流程，以及在犯人於設施間移動時確認身分。 員工透過中央受理工具提交這三個使用案例，針對負責任 AI 進行檢閱。
評量
負責任 AI Champ 會與負責任 AI 辦公室及使用案例的相關 Microsoft 小組一起進行調查，以收集相關事實的案例、遵循引導式流程來評定建議系統對於個人和社會的影響，並回顧過去案例，判斷是否已經有類似情節的指導。 如果沒有先前的指導可用，或如果案例需要其他專業知識和評估，則負責任 AI Champ 會將案例呈報給 Aether 委員會的敏感性用途工作團隊。
針對這項臉部辨識案例，負責任 AI Champ 與負責任 AI 辦公室、客戶小組和客戶密切合作評定風險。 最後決定這三種案例都必須呈報到 Aether 敏感性用途工作團隊獲得進一步協助，因為這些案例觸及一或多項 AI 敏感性用途。
風險降低
敏感性用途工作團隊會與不同的專家團隊商議，以提供如何解決特定使用案例相關風險的深入解析和建議。 如果狀況需要再往上呈報，案例可能會一路送達 Aether 委員會本身，他們會直接向資深領導小組提供建議。 最後，資深領導小組會針對新興高影響案例做出決策。
注意
在檢閱敏感性使用案例時，我們建議您將各種不同背景和專業知識的人員組合在一起。 也請務必建立一個包容性空間，讓每個人都能放心分享想法和觀點。
案例經過檢閱之後，負責任 AI Champ 就會與負責任 AI 辦公室合作，為專案小組提供降低風險的策略建議，而該建議會符合我們負責任 AI 的做法和準則。 這些風險降低策略可能包括技術方法、員工訓練和治理方法，或改變專案範圍。 有時候，我們的團隊會建議您不要繼續進行某些專案，因為我們無法使其遵循我們的準則。
在此使用案例中，Aether 敏感性用途工作團隊針對每個情節做出個別決策。 經過審慎考量，他們決定不支援在汽車靜止時識別「嫌疑人士」的偵查情節。 由於技術和更廣泛生態系統的狀態不夠成熟，無法降低不當執行技術時造成的有害後果，因此 Aether 工作團隊認為該情節屬於不成熟的使用案例。
向客戶說明問題之後，他們也決定放棄這項情節。
注意
研究證實，嘗試在未受控制的環境中識別個人身分可能侵害人權，並因誤判導致錯誤的追捕。 研究顯示 AI 較可能在識別女性和少數族群時出錯，這也可能導致這些人口受到拘捕的比例高出其他族群。1
針對設施內的使用案例，我們判斷可以支援概念證明 (POC) 的設計和開發，並備妥保護措施以確保適當地以人為方式掌控解決方案，以及在客戶與 Microsoft 之間建立雙向意見反應迴圈。 此外，客戶必須為與解決方案互動的人員實行訓練計畫，且需在這些支援情節以外的部署上與 Microsoft 再次合作。
負責任 AI 治理的演進
現在您已經看過我們的實際運作流程，但我們要重申一個重點：這只是發展 AI 治理的開端。 AI 的相關流程日新月異。 未來我們打算在進一步投資 AI 時更細緻地制定治理原則，並建議其他企業比照辦理。 每個組織都必須根據自己的 AI 需求和成熟度自訂檢閱流程，但希望我們的流程是實用的起點。
接下來，讓我們用知識檢定總結您已了解的所有內容。