Judgment Call
判斷通話是一種遊戲和小組式活動,可讓 Microsoft 的 AI 原則公平性、隱私權和安全性、可靠性和安全性、透明度、包容性和責任納入行動。 遊戲藉由虛構專案關係人案例,提供便於使用的方法,以利利害關係人同理心。 遊戲參與者會從特定專案關係人的觀點來撰寫產品評論,並從其觀點描述技術可能產生何種類型的影響和損害。
優點
技術建立者需要實際的方法,才能將道德納入軟體發展中,方法是考慮各種專案關係人的值,以及技術如何支援或不尊重這些值。 遊戲的目標是要藉由進一步瞭解專案關係人及其需求和預期,來想像產品或平臺的潛在結果。
遊戲可協助人們在遊戲內容內的安全空間中討論具挑戰性的主題,並提供技術建立者詞彙,以在軟體發展期間促進道德討論。 它為經理和設計人員提供了一個互動式工具,可引導其小組進行道德對話,以將道德設計納入其產品中。
判斷通話遊戲的理論基礎和初始結果是在 2019 ACM 設計互動式系統會議中呈現,而遊戲是 Fast Company 2019 Innovation by Design Awards (Social Goods 類別) 的最後一位。 遊戲已呈現給美國和國際的數千人。 雖然遊戲中促進的最大群組已超過 100 個,但每個卡片牌組可以牽涉到 1-10 位球員。 此遊戲並非用來替代執行強固的使用者研究。 相反地,這是一個練習,可協助技術建置者瞭解如何練習其思維。
準備
判斷通話使用角色扮演來呈現軟體發展的道德考慮,讓玩家預期社會影響、撰寫產品評論,以及探索風險降低。 玩家認為從專案關係人的觀點來看,技術可能會產生何種損害和影響。
若要準備此遊戲,請下載 可列印的判斷通話遊戲套件。
在遊戲期間
玩家預期會經歷此遊戲中的下列步驟:
識別產品
從識別小組正在建置的產品,或您正在處理的案例開始。 例如,如果您的小組正在開發綜合語音技術,您的案例可能會開發語音助理以進行線上學習。
傳遞卡片
一旦您決定案例之後,請傳遞卡片。 每位玩家都會收到專案關係人卡片、道德準則卡片、評等卡片和評論表單。 以下是這些卡片的描述:
利益 相關 者: 這代表受所選技術或案例影響的人員群組。 專案關係人也可以包括製作者 (那些提議並處理技術) ,以及支援專案) 的內部專案贊助者 (經理和主管。
原則: 這包括 Microsoft 公平性、隱私權和安全性、可靠性和安全性、透明度、包含和責任的道德原則。
評級:星型卡片提供評等:1 star不佳、3 star很平常、5 star很棒。
腦力激蕩並識別專案關係人
身為群組,腦力激蕩可能會直接或間接受到技術影響的所有專案關係人。 然後從清單中為每個玩家指派專案關係人。 在某些情況下,判斷通話牌組可能已預先填入專案關係人卡片,但玩家可以新增與其情況相關的其他卡片。
此組提供下列專案關係人類別:
直接: 這些會使用技術和/或技術。
間接: 這些感覺技術的效果。
特殊母體: 各種類別,包括無法使用技術或選擇不使用它的人員,以及可能有興趣部署的組織,例如宣傳群組或政府。
有一系列的損害可以感覺或延續到每個專案關係人群組上。 專案關係人類型可以包含產品、系統管理員、內部小組、宣傳群組、製造商、可能排除使用產品的人員。 專案關係人也可以包含提出和處理技術的製作者,以及內部專案贊助者,也就是支援專案的經理和主管。
仲裁選取
仲裁者描述遊戲、指南討論及收集結尾批註卡片的案例。 他們也會概述在牌組中考慮的道德原則。
產品簡報
仲裁者引進了一個產品,也就是真實或虛構,讓玩家扮演角色。 他們可以使用下列提示,從產品相關問題開始:
誰會使用產品?
其有哪些功能?
何時會使用它?
其使用位置?
為什麼它很有用?
如何使用它?
撰寫評論
玩家會根據已解除的卡片,撰寫產品或案例的檢閱。 玩家會大聲朗讀其評論。 請仔細聆聽任何可能發生的問題或主題。 根據所討論的深入解析,記下您對產品所做的任何變更。
專案關係人卡片會告訴他們誰是用於回合。
道德準則卡片是六個 Microsoft AI 原則的其中一個;它會告訴他們他們在其檢閱中著重于哪些領域。
評等卡會告知專案關係人喜歡技術 (1、3 或 5 顆星) 。
接著,玩家會從利害關係人的觀點撰寫技術檢閱,從他們收到的道德準則的觀點來看,他們喜歡或不喜歡產品的原因。
討論
仲裁者會讓每位玩家閱讀其評論。 每個人都受邀討論不同觀點,以及可能沒有出現的其他考慮。
可能的仲裁者問題包括:
誰最受到影響?
哪些功能有問題?
有哪些潛在損害?
損害風險降低
最後,群組會從討論中挑選一個執行緒,以開始識別可減輕特定損害的設計或程式變更。 在每個四捨五入的結尾,牌組會隨機顯示,而另一個回合的開頭可以是相同或不同的案例。
下一步
在您充分瞭解產品或案例可能造成的潛在損害或負面影響之後,請繼續 瞭解如何建立這些損害的模型 ,以便您可以設計有效的緩和措施。