整合和負責任使用個人化工具的指引
重要
從 2023 年 9 月 20 日起，您將無法建立新的個人化工具資源。 個人化工具服務將於 2026 年 10 月 1 日淘汰。
Microsoft 致力於協助客戶使用 Azure AI 個人化工具負責開發和部署解決方案。 我們的原則式方法藉由考慮 AI 系統的下列專案來維護個人機構與尊嚴：
- 公平性、可靠性和安全性。
- 隱私權和安全性。
- 包容性。
- 透明度。
- 人的責任。
這些考慮反映了我們對開發負責任 AI 的承諾。
整合和負責任使用原則的一般指導方針
當您準備好整合並負責任地使用 AI 支援的產品或功能時，下列活動將協助您設定成功：
瞭解它可以做什麼。 充分評估個人化工具的潛力，以瞭解其功能和限制。 透過徹底測試實際狀況和數據，瞭解其在特定案例和內容中的執行方式。
尊重個人的隱私權。 僅針對合法和合理的目的，從個人收集數據和資訊。 只使用您同意用於此目的的數據和資訊。
取得法律審查。 取得適當的法律建議，以檢閱個人化工具，以及如何在解決方案中使用，特別是當您將用於敏感性或高風險應用程式中時。 瞭解您可能需要在 哪些限制內運作，並負責解決未來可能發生的任何問題。
在迴圈中具有人類。 將人為監督納入一致的模式區域來探索。 確保持續人為監督 AI 提供的產品或功能。 維護人類在決策中的角色。 請確定您可以即時介入解決方案，以防止傷害和管理 AI 系統未如預期般執行的情況。
使用受影響的項目關係人建置信任。 將預期的好處和潛在風險傳達給受影響的項目關係人。 協助人們了解為何需要數據，以及數據使用方式會導致其權益。 以可理解的方式描述數據處理。
建立客戶意見反應迴圈。 提供意見反應通道，可讓用戶和個人在部署服務之後回報服務的問題。 部署 AI 產品或功能之後，需要持續監視和改進。 準備好實作任何改進意見反應和建議。 建立管道，以收集受影響項目關係人的問題和疑慮。 人員 系統可能直接或間接受到影響的人員包括員工、訪客和一般公眾。
意見反應：在開發和評估過程中，從社區的各種取樣尋求意見反應（例如，歷史上邊緣化的群體、殘疾人和服務工作者）。 如需詳細資訊，請參閱社群陪審團。
使用者研究：任何同意或披露建議都應該包含在使用者研究中。 使用社群代表性範例評估第一個且持續使用的體驗，以驗證設計選擇是否會導致有效披露。 與 10-20 個社群成員（受影響的項目關係人）進行使用者研究，以評估他們對信息的瞭解，並判斷其期望是否符合。
透明度和可解釋性： 請考慮啟用和使用個人化工具的 推斷可解釋性 功能，以進一步瞭解哪些功能在每個排名呼叫的個人化工具決策選擇中扮演重要角色。 這項功能可讓您為使用者提供有關其數據在產生建議最佳動作方面扮演角色的透明度。 例如，您可以為使用者提供一個標示為「為什麼這些建議？」的按鈕，其中顯示哪些頂級功能在產生個人化工具結果方面扮演了角色。 此資訊也可以用來進一步瞭解使用者、內容和動作的相關數據屬性，有利於個人化工具選擇最適合的動作，這些動作正在針對它運作，而且可能沒有什麼效果或沒有作用。 這項功能也可以提供使用者區隔的深入解析，並協助您識別並解決潛在的偏差。
對立使用：請考慮建立一個程式來偵測並處理惡意操作。 有動作專案會利用機器學習和 AI 系統從其環境學習的能力。 透過協調式攻擊，他們可以人為地偽造行為模式，以將數據和 AI 模型轉移到其目標。 如果您使用個人化工具可能會影響重要選擇，請確定您有適當的方法來偵測並減輕這些類型的攻擊。
退出宣告：請考慮為使用者提供控件，以選擇不接收個人化建議。 對於這些使用者，個人化工具排名 API 將不會從您的應用程式呼叫。 相反地，您的應用程式可以使用替代機制來決定採取什麼動作。 例如，藉由退出宣告個人化建議並選擇預設或基準動作，使用者就會體驗在沒有個人化工具建議的情況下採取的動作。 或者，您的應用程式可以根據匯總或母體型量值使用建議（例如，現在趨勢、前10名最熱門等等）。
您的責任
負責任實作的所有指導方針都建立在開發人員和企業使用個人化工具的基礎之上，負責並負責在社會中使用這些演算法的效果。 如果您要開發組織將部署的應用程式，您應該辨識其作業的角色和責任，以及它如何影響人員。 如果您要設計要由第三方部署的應用程式，請共同瞭解誰最終負責應用程式的行為。 請務必記錄該瞭解。
問題和意見反應
Microsoft 會持續升級工具和檔，以協助您處理這些責任。 如果您認為其他工具、產品功能和文件可協助您實作這些使用個人化工具的指導方針，我們的小組會邀請您 提供意見反應給 Microsoft 。
建議的閱讀資料
- 請參閱 Microsoft 在 2018 年 1 月出版的《未來計算》一書中所發佈負責任 AI 的六項原則。
下一步
瞭解個人化工具 API 如何接收功能：功能： 動作和內容