評估傷害的基礎
傷害模型化是一種做法，旨在協助您預測損害的可能性、找出產品中的差距，讓人員面臨風險，並最終建立主動解決傷害的方法。
為什麼要傷害模型化？
身為技術建置者，您的工作是全域的。 設計可信任的 AI 需要建立解決方案，以反映根深植於重要且永恆值的道德準則。 在設計和建置技術的過程中，不僅要評估理想的結果，而且評估可能的負面結果也是不可或缺的。
技術和人權
瞭解數字技術如何影響人權一樣重要。 除了繼續保護隱私權和安全性之外，我們必須解決 AI 和其他新興技術的風險，例如臉部辨識。 歷史教導我們，侵犯人權不僅源於惡意使用技術，而且源於那些有良好意圖的人缺乏認識。 作為公司致力於保護人權的一部分，Microsoft與我們的行業以外的重要利益相關者（包括聯合國）建立了夥伴關係。
我們公司堅決支援由250多個國家批准的聯合國一套重要原則是《人權宣言》（UDHR）。 UDHR 是里程碑檔。 宣言由一個多元化的全球法律和文化專家小組起草，1948年聯合國大會宣布為全體人民和所有國家的共同成就標準。 它首次提出了普遍保護的基本人權。 它已翻譯成超過 500 種語言。 此外，Microsoft是聯合國全球契約的4700個企業簽署國之一，這是一項旨在促進負責任企業公民的國際商業倡議。
人類理解
除了欣賞人權的重要性外，建立值得信任的系統還需要我們考慮許多人的觀點。 詢問利害關係人是誰、他們的價值、他們如何受益，以及技術如何受到傷害，是一個強大的步驟，可讓我們設計和建置更好的產品。
技術對誰有影響？
客戶是誰？
- 它們的價值為何？
- 他們應該如何受益？
- 科技如何傷害他們？
誰是非客戶項目關係人？
- 它們的價值為何？
- 他們應該如何受益？
- 科技如何傷害他們？
詢問這些問題是「價值敏感性設計」中的一種做法，是進一步瞭解項目關係人的重要性，以及它如何發揮其與產品的關係。
項目關係人類型
專案贊助者
支援者、決策者和擁有者組成這個類別。 其價值觀在專案策略和目標中清楚說明。
技術建置者
設計工具、開發人員、項目經理和直接處理設計系統的人員組成此群組。 他們把自己的道德標準和職業特有的價值觀帶到了系統中。
直接和間接項目關係人
這些項目關係人受到系統的重大影響。 受影響的人包括使用者、軟體人員、客戶、旁觀者、中介機構，甚至過去或子孫後代。 非人為因素，例如歷史建築或神聖的空間，也可能包括。
邊緣化的人口
這一類別由經常被視為少數、脆弱或汙名化的人口組成。 這一類別包括兒童、老年人、LGBTQ+ 社區成員、少數民族和其他經常經歷獨特和不成比例後果的人口。
評估傷害
一旦您定義技術用途、使用案例和項目關係人，請進行 Harms 模型化練習，以評估您正在建置之技術的潛在使用方式，可能會對人員和社會產生負面結果。
上圖是傷害評估的範例。 此模型是一種定性的方法，用來瞭解潛在的傷害程度。
您可以個別完成此想法活動，但理想情況下，它會在開發人員、數據科學家、設計工具、使用者研究人員、商務決策者和其他參與建置技術的專業領域之間進行共同作業。
傷害描述語句的建議：
- 預定用途：如果 [功能] 用於 [使用案例]，則 [項目關係人] 可能會遇到 [傷害描述]。
- 非預期的使用：如果 [使用者] 嘗試使用 [功能] 進行 [使用案例]，則 [項目關係人] 可能會遇到 [傷害描述]。
- 系統錯誤：如果使用 [使用案例] 時 [功能] 無法正常運作，則 [項目關係人] 可能會遇到 [損害描述]。
- 誤用：[惡意執行者] 可能會使用 [功能]，對 [項目關係人] 造成 [傷害描述]。
使用傷害類型中所述的類別、問題和範例，來產生特定的想法，以瞭解傷害的發生方式。 本文列出以常見負面影響區域為基礎的危害類別。 調整並採用與您相關的其他類別。
下一步
如需進一步的傷害分析，請閱讀 傷害 類型。