你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

主观判断

  • 项目

主观判断是一个游戏，也是一项基于团队的活动，它将 Microsoft 的公平、隐私和安全、可靠性和安全性、透明、包容和责任等 AI 原则付诸行动。 通过“情景想象”，该游戏为培养利益干系人的同理心提供了一种简便方法。 游戏参与者从特定利益干系人的角度撰写产品评论，描述技术从他们的角度可能产生的影响和危害。

好处

技术构建者需要实用的方法，通过考虑不同利益干系人的价值观以及技术如何维护或不维护这些价值观，将道德纳入产品开发中。 游戏的目标是通过更好地了解利益干系人及其需求和期望来设想产品或平台的潜在结果。

游戏帮助人们在游戏环境内的安全空间中讨论具有挑战性的话题，并为技术创建者提供词汇来辅助产品开发过程中的道德讨论。 它为管理员和设计师提供了一种交互式工具，可用于引导他们与团队进行道德对话，从而将道德设计纳入其产品中。

主观判断游戏的理论基础和初步成果在 2019 年 ACM 设计交互式系统会议上提出，该游戏入围了 2019 年快公司创新设计奖（社会商品类别）。 该游戏已向美国和国际上的数千人提供。 虽然参与游戏的最大群体已超过 100 人，但每个卡片组可容纳 1-10 名玩家。 此游戏并非旨在替代执行可靠的用户研究。 相反，这是一种有助于技术构建者了解如何运用道德想象力的练习。

准备工作

主观判断使用角色扮演来揭示产品开发中的道德问题，因此玩家将预测社会影响、撰写产品评论并探索缓解措施。 玩家从利益干系人的角度撰写产品评论来思考技术可能产生的危害和影响。

若要为此游戏做准备，请下载可打印的主观判断游戏工具包。

在游戏期间

预计玩家将在此游戏中完成以下步骤：

  1. 确定产品

    首先确定团队正在生成的产品，或者正在处理的方案。 例如，如果你的团队正在开发合成语音技术，那么方案可能是开发用于在线学习的语音助理。

  2. 传递卡片

    方案确定后，请将卡片分发出去。 每个玩家都会收到一张利益干系人卡、一张道德原则卡、一张评级卡和一份评论表。 以下是对这些卡片的介绍：

    • 利益干系人：这表示受所选技术或方案影响的人群。 利益干系人还包括制造商（提出并致力于这项技术的人）以及内部项目发起人（支持项目的经理和高管）。

    • 原则：这包括 Microsoft 的公平、隐私和安全、可靠性和安全性、透明、包容和责任的道德原则。

    • 评级：星级卡片评级（1 星表示差劲，3 星表示一般，5 星表示优秀）。

  3. 集思广益并确定利益干系人

    作为一个小组，集思广益可能直接或间接受到技术影响的所有利益干系人。 然后从列表中为每个玩家分配一个利益干系人。 在某些情况下，主观判断卡片组可能已经预先填充了利益干系人卡片，但玩家可以添加与其情况相关的其他卡片。

    卡片组提供以下类别的利益干系人：

    • 直接利益干系人：使用技术和/或将技术用于他们的人。

    • 间接利益干系人：受技术影响的人。

    • 特殊人群：范围广泛的类别，包括那些不能使用或选择不使用技术的人，以及可能对其部署感兴趣的组织，例如宣传组或政府。

    每组利益干系人都会受到或持续存在一系列危害。 利益干系人的类型包括产品的最终用户、管理员、内部团队、宣传组、制造商、可能无法使用产品的人。 利益干系人还包括制造商（提出并致力于这项技术的人）以及内部项目发起人（支持项目的经理和高管）。

  4. 仲裁人选择

    仲裁人描述游戏方案，引导讨论，最后收集评论卡。 他们还将概述卡片组中考虑的道德原则。

  5. 产品演示

    仲裁人介绍一款产品，无论是真实的还是虚构的，让玩家进行角色扮演。 他们可以从有关产品的问题开始，提示如下：

    • 谁将使用产品？

    • 它有哪些功能？

    • 何时使用？

    • 它将在哪里使用？

    • 它为何有用？

    • 如何使用它？

  6. 撰写评论

    每位玩家都根据其收到的卡片撰写对产品或方案的评论。 玩家轮流大声读出其评论。 仔细聆听可能出现的任何问题或主题。 根据所讨论的见解，记下可能对产品进行的任何更改。

    • 利益干系人卡片会提示轮次顺序。

    • 道德原则卡是 Microsoft AI 六大原则之一；它会提示他们在评论中关注的领域。

    • 评级卡片会将其利益干系人对这项技术的喜爱程度（1 星、3 星或 5 星）反馈给他们。

    然后玩家从其利益干系人的角度写一篇技术评论，从收到的道德原则的角度来看利益干系人喜欢或不喜欢产品的原因。

讨论 (Discussion)

仲裁人让每个玩家读出他们的评论。 邀请每个人讨论可能没有出现的不同观点和其他考虑因素。

潜在的仲裁人问题包括：

  • 谁受影响最大？

  • 哪些功能存在问题？

  • 潜在的危害是什么？

危害缓解措施

最后，小组从讨论中挑选一个思路，开始确定可以减轻特定危害的设计或进程变更。 在每轮结束时，将一系列卡片洗牌，另一轮可以以相同或不同的方案开始。

后续步骤

足够了解产品或方案可能导致的潜在危害或负面影响后，请继续了解如何对这些危害进行建模，以便设计出有效的缓解措施。