共用方式為

整合和負責任地使用個人化工具的指導

  • 發行項

重要

從 2023 年 9 月 20 日起，您將無法建立新的個人化工具資源。 個人化工具服務將於 2026 年 10 月 1 日淘汰。

Microsoft 致力於協助客戶使用 Azure AI 個人化工具負責開發和部署解決方案。 我們的原則方法考慮 AI 系統的下列項目，來尊重個人動力和尊嚴：

  • 公平性、可靠性和安全。
  • 隱私權和安全性。
  • 包容性。
  • 透明度。
  • 人類責任。

這些考量反映我們對開發負責任 AI 的承諾。

整合和負責任地使用準則的一般指導方針

當您準備好整合和負責任地使用 AI 提供的產品或功能時，下列活動將可協助您成功：

  • 了解其可執行的作業。 完整評定個人化工具的可能性，以了解其功能和限制。 使用實際條件和資料徹底進行測試，以了解其在特定案例和內容中的執行方式。

  • 尊重個人對隱私權的權利。 僅收集個人的資料和資訊，以達到合法和合理用途。 僅使用您同意用於此用途的資料和資訊。

  • 取得法律檢閱。 取得適當的法律建議，以檢閱個人化工具，以及其在解決方案中的使用方式，特別是當您將其用於敏感性或高風險應用程式時。 了解您可能需要使用哪些限制，並負責解決未來可能發生的任何問題。

  • 讓真人掌握最新資訊。 將人為監督納入為一致的模式區域以進行探索。 確保持續人為監督 AI 所提供的產品或功能。 維持人類在決策方面的角色。 請確定您可以在解決方案中擁有即時人為介入，以防止損害和管理 AI 系統未如預期般執行的情況。

  • 與受影響的專案關係人建立信任。 將預期的優點和潛在風險傳達給受影響的專案關係人。 協助人們了解為何需要資料，以及資料使用方式將如何帶來其好處。 以可理解的方式描述資料處理。

  • 建立客戶意見反應迴圈。 提供意見反應通道，以讓使用者和個人在部署服務之後回報服務問題。 部署 AI 提供的產品或功能之後，需要持續對其進行監視和改善。 準備好實作任何意見反應和建議以進行改善。 建立通道，以收集受影響專案關係人的問題和疑慮。 系統可能直接或間接影響的人員包括員工、訪客和一般大眾。

  • 意見反應：在開發與評估程序期間，從社群的不同取樣中尋找意見反應 (例如，歷史上被邊緣化的群組、殘障人士和服務工作者)。 如需詳細資訊，請參閱社群陪審團。

  • 使用者研究：任何同意或洩漏建議都應該放在使用者研究中。 使用社群代表性範例來評估第一個且持續使用的體驗，以驗證設計選項是否導致有效洩漏。 進行 10-20 名社群成員 (受影響的專案關係人) 的使用者研究，以評估其對資訊的理解，並判斷是否符合其期望。

  • 透明度與可解釋性：考慮啟用和使用個人化工具的推斷可解釋性 \(部分機器翻譯\) 功能，進一步了解哪些特徵在每個排名呼叫中的個人化工具決策選擇中扮演了重要角色。 此功能讓您能夠為使用者提供透明度，說明其資料如何在產生建議的最佳動作中扮演重要的角色。 例如，您可以向使用者提供標示為「為何提供這些建議?」的按鈕，以顯示哪些最高排名的特徵會影響個人化工具結果的產生。 此資訊也可用來進一步了解哪些有關您使用者、內容和動作的資料屬性對個人化工具的最佳動作選擇有利，哪些對其不利，而哪些的影響很小或沒有影響。 此功能也可提供有關使用者區段的見解，並協助您識別並解決潛在的偏差。

  • 對立使用：請考慮建立可偵測和因應惡意操作的程序。 有些執行者會利用機器學習和 AI 系統的能力來了解其環境。 透過協調的攻擊，他們可以人工假照行為模式，以操控出有利於其目標的資料和 AI 模型。 如果您使用的個人化工具可能會影響重要選擇，則請確定您有適當的方法可以就地偵測和緩解這些攻擊類別。

  • 退出：請考慮為使用者提供控制項，以退出接收個人化建議。 對於這些使用者，不會從您的應用程式呼叫個人化工具排名 API。 相反地，您的應用程式可以使用替代機制來決定所採取的動作。 例如，藉由退出個人化建議並選擇預設或基準動作，使用者就會體驗在沒有個人化工具建議情況下所採取的動作。 或者，您的應用程式可以根據彙總或母體型測量單位來使用建議 (例如，現在的趨勢、前 10 大熱門等)。

您的責任

所有關於善盡實作責任的指導方針在建置時均採行下列基本原則：開發人員和使用個人化工具的企業都必須對在社會中使用這些演算法的效果負責。 如果您要開發組織將部署的應用程式，則應該了解自身的角色，以及您對於該應用程式的運作和其對社會大眾之影響的責任。 如果您要設計由第三方部署的應用程式，則應該就應用程式行為的最終責任歸屬於哪一方，與第三方達成共識。 請務必記載該瞭解。

問題和意見反應

Microsoft 會持續將升級工具和文件，以協助您善盡相關責任。 如果您認為有其他工具、產品功能和文件可協助您遵循這些使用個人化工具的指導方針，則請提供意見反應給 Microsoft。

  • 請參閱 Microsoft 在 2018 年 1 月出版的書籍 The Future Computed 中針對負責任的 AI 開發提供的六項準則。

下一步

了解個人化工具 API 如何接收功能：功能：動作和內容