Judgment CallJudgment Call

Judgment Call (Ermessensentscheidung) ist ein preisgekröntes Spiel und eine Teamaktivität, bei der die KI-Prinzipien von Microsoft im Hinblick auf Fairness, Datenschutz, Sicherheit, Zuverlässigkeit, Transparenz, Inklusion und Verantwortlichkeit umgesetzt werden.Judgment Call is an award-winning game and team-based activity that puts Microsoft’s AI principles of fairness, privacy and security, reliability and safety, transparency, inclusion, and accountability into action. Das Spiel bietet eine einfach zu verwendende Methode zur Förderung von Empathie gegenüber Betroffenen, indem versucht wird, sich in ihre Lage zu versetzen.The game provides an easy-to-use method for cultivating stakeholder empathy by imagining their scenarios. Die Spielteilnehmer schreiben Produktreviews aus der Perspektive eines bestimmten Projektbeteiligten und beschreiben, welche Auswirkungen und Schäden die Technologie aus ihrer Sicht verursachen könnte.Game participants write product reviews from the perspective of a particular stakeholder, describing what kind of impact and harms the technology could produce from their point of view.

Die Spielkarten zum Ausdrucken können hier heruntergeladen werden.Download a printable card deck

VorteileBenefits

Technologieentwickler benötigen praktische Methoden, um ethische Aspekte in die Produktentwicklung zu integrieren, indem sie die Werte verschiedenster Betroffener berücksichtigen und sich überlegen, ob die Technologie diesen Werten gerecht wird.Technology builders need practical methods to incorporate ethics in product development, by considering the values of diverse stakeholders and how technology may uphold or not uphold those values. Das Ziel des Spiels besteht darin, sich die potenziellen Ergebnisse eines Produkts oder einer Plattform vorzustellen, indem versucht wird, die Betroffenen und ihre Bedürfnisse und Erwartungen besser zu verstehen.The goal of the game is to imagine potential outcomes of a product or platform by gaining a better understanding of stakeholders, and what they need and expect.

Das Spiel hilft Menschen dabei, schwierige Themen in einem sicheren, spielerischen Umfeld zu besprechen, und bietet Technologieentwicklern ein Vokabular, das ethische Diskussionen im Rahmen der Produktentwicklung vereinfacht.The game helps people discuss challenging topics in a safe space within the context of gameplay, and gives technology creator a vocabulary to facilitate ethics discussions during product development. Managern und Designern steht damit ein interaktives Tool zur Verfügung, das sie für einen ethischen Dialog mit ihren Teams nutzen können, um ethische Gesichtspunkte in ihr Produktdesign zu integrieren.It gives managers and designers an interactive tool to lead ethical dialogue with their teams to incorporate ethical design in their products.

Die theoretische Grundlage und die ersten Ergebnisse des Judgment Call-Spiels wurden 2019 auf der ACM Design Interactive Systems-Konferenz vorgestellt, und das Spiel gehörte zu den Finalisten bei den Fast Company 2019 Innovation by Design Awards (in der Kategorie „Social Goods“).The theoretical basis and initial outcomes of the Judgment Call game were presented at the 2019 ACM Design Interactive Systems conference and the game was a finalist in the Fast Company 2019 Innovation by Design Awards (Social Goods category). Das Spiel wurde Tausenden von Menschen in den USA und auf der ganzen Welt präsentiert.The game has been presented to thousands of people in the US and internationally. Das Spiel wurde zwar schon von mehr als 100 Teilnehmern gleichzeitig gespielt, ein Kartenstapel ist jedoch für bis zu zehn Spieler ausgelegt.While the largest group facilitated in game play has been over 100, each card deck can involve 1-10 players. Dieses Spiel kann keine sorgfältige Benutzeruntersuchung ersetzen.This game is not intended to be a substitute for performing robust user research. Es soll vielmehr Technologieentwickler dabei unterstützen, ihre moralische Vorstellungskraft zu nutzen.Rather, it's an exercise to help tech builders learn how to exercise their moral imagination.

VorbereitungPreparation

Judgment Call nutzt Rollenspielelemente, um ethische Bedenken bei der Produktentwicklung hervorzuheben. Dazu antizipieren die Spieler gesellschaftliche Auswirkungen, schreiben Produktrezensionen und beschäftigen sich mit Abhilfeoptionen.Judgment Call uses role play to surface ethical concerns in product development so players will anticipate societal impact, write product reviews, and explore mitigations. Die Spieler überlegen sich, welche Arten von Schäden und Auswirkungen sich durch die Technologie ergeben könnten, indem sie Produktrezensionen aus der Sicht eines Betroffenen schreiben.Players think of what kind of harms and impacts the technology might produce by writing product reviews from the point of view of a stakeholder.

SpielverlaufDuring the Game

Die Spieler durchlaufen folgende Schritte:The players are expected to go through the following steps in this game:

  1. Identifizieren des ProduktsIdentify the product

    Identifizieren Sie zunächst ein von Ihrem Team entwickeltes Produkt oder ein Szenario, an dem Sie arbeiten.Start by identifying a product that your team is building, or a scenario you are working on. Wenn Ihr Team also beispielsweise an der Entwicklung einer Technologie für die Sprachsynthese arbeitet, wäre ein mögliches Szenario die Entwicklung eines Sprachassistenten für Onlinelernen.For example, if your team is developing synthetic voice technology, your scenario could be developing a voice assistant for online learning.

  2. Austeilen der KartenPass the cards

    Nachdem Sie sich für ein Szenario entschieden haben, können Sie die Karten austeilen.Once you have decided on the scenario, pass out the cards. Jeder Spieler erhält eine Betroffenenkarte, eine Karte mit einem ethischen Prinzip, eine Bewertungskarte und ein Rezensionsformular.Each player receives a stakeholder card, an ethical principle card, a rating card, and a review form. Im Anschluss folgt Sie eine Beschreibung dieser Karten:The following is a description of these cards:

    • Betroffener: Hierbei handelt es sich um die Personengruppe, die von der gewählten Technologie oder dem gewählten Szenario betroffen ist.Stakeholder - This represents the group of people impacted by the technology or scenario you’ve chosen. Zu den Betroffenen können auch die Entwickler (also diejenigen, die die Technologie vorschlagen und daran arbeiten) sowie die internen Projektsponsoren (Manager und Führungskräfte, die das Projekt unterstützen) zählen.Stakeholders can also include the makers (those proposing and working on the technology) as well as the internal project sponsors (managers and executives who are supportive of the project).

    • Prinzip: Hierbei handelt es sich um ethische Prinzipien von Microsoft im Hinblick auf Fairness, Datenschutz, Sicherheit, Zuverlässigkeit, Transparenz, Inklusion und Verantwortlichkeit.Principle - This includes Microsoft’s ethical principles of fairness, privacy and security, reliability and safety, transparency, inclusion, and accountability.

    • Bewertung: Sternkarten zur Bewertung: Ein Stern ist schlecht, drei Sterne sind mittelmäßig und fünf Sterne sind hervorragend.Rating - Star cards give a rating: 1-star is poor, 3-star is mediocre, 5-star is excellent.

  3. Brainstorming und Identifizieren von BetroffenenBrainstorm and identify stakeholders

    Machen Sie sich als Gruppe Gedanken dazu, wer alles direkt oder indirekt von der Technologie betroffen sein könnte.As a group, brainstorm all the stakeholders that could be directly or indirectly affected by the technology. Weisen Sie dann jedem Spieler einen Betroffenen aus der Liste zu.Then assign each player a stakeholder from the list. Manchmal enthalten die Kartenstapel von Judgment Call ggf. bereits ausgefüllte Betroffenenkarten, die Spieler können jedoch weitere Karten hinzufügen, die für ihre Situation relevant sind.In some cases, the Judgment Call decks may have pre-populated stakeholder cards, but players can add additional cards relevant to their situation.

    Der Kartenstapel enthält folgende Betroffenenkategorien:The deck provides following categories of stakeholders:

    • Direkt: Diese Betroffenen verwenden die Technologie, oder die Technologie wird für sie verwendet.Direct - These use the technology and/or the technology is used on them.

    • Indirekt: Diese Betroffenen bekommen die Auswirkungen der Technologie zu spüren.Indirect - These feel the effects of the technology.

    • Sondergruppen: Ein breites Spektrum an Kategorien, das Personen, die die Technologie nicht verwenden können oder möchten, sowie Organisationen umfasst, die ggf. ein Interesse an der Bereitstellung der Technologie haben (beispielsweise Interessengruppen oder die Regierung).Special populations - A wide range of categories that includes those who cannot use the technology or choose not to use it, and organizations that may be interested in its deployment like advocacy groups or the government.

    Es gibt verschiedene Schäden, von denen die Gruppen jeweils betroffen sein können.There are a range of harms that can be felt or perpetuated onto each group of stakeholder. Bei den Betroffenen kann es sich um unter anderem Endbenutzer des Produkts, um Administratoren, interne Teams, Interessengruppen, Hersteller oder um Personen enthalten, die von der Nutzung des Produkts ausgeschlossen sind.Types of stakeholders can include end users of the product, administrators, internal teams, advocacy groups, manufacturers, someone who might be excluded from using the product. Zu den Betroffenen können auch die Entwickler (also diejenigen, die die Technologie vorschlagen und daran arbeiten) sowie die internen Projektsponsoren (also die Manager und Führungskräfte, die das Projekt unterstützen) zählen.Stakeholders can also include the makers who propose and work on the technology, as well as the internal project sponsors, that is, the managers and executives who are supportive of the project.

  4. Bestimmung eines ModeratorsModerator selection

    Der Moderator beschreibt Szenarien für das Spiel, leitet die Diskussion und sammelt am Ende die Kommentarkarten ein.The moderator describes scenarios for gameplay, guides discussion, and collects comment cards at the end. Darüber hinaus gibt er einen Überblick über die ethischen Prinzipien aus dem Kartenstapel.They will also give an overview of the ethical principles considered in the deck.

  5. Präsentation eines ProduktsPresentation of a product

    Der Moderator stellt ein (echtes oder imaginäres) Produkt als Grundlage für das Rollenspiel vor.The moderator introduces a product, real or imaginary, for the players to role play. Die Spieler können zunächst Fragen wie die folgenden zu dem Produkt stellen:They can start with questions about the product with prompts such as:

    • Von wem wird das Produkt verwendet?Who will use the product?

    • Über welche Features verfügt es?What features will it have?

    • Wann wird es verwendet?When will it be used?

    • Wo wird es verwendet?Where will it be used?

    • Warum ist es nützlich?Why is it useful?

    • Wie wird es verwendet?How will it be used?

  6. Schreiben von RezensionenWriting reviews

    Die Spieler schreiben auf der Grundlage der Karten, die sie erhalten haben, jeweils eine Rezension für das Produkt oder Szenario.Players each write a review of the product or scenario based on the cards they’ve been dealt. Die Spieler lesen abwechselnd Ihre Rezension vor.Players take turns reading their reviews aloud. Hören Sie aufmerksam zu, und achten Sie auf alle Probleme oder Themen, die ggf. angesprochen werden.Listen carefully for any issues or themes that might come up. Notieren Sie sich alle Änderungen, die Sie angesichts der besprochenen Aspekte für Ihr Produkt in Betracht ziehen.Take note of any changes you might make to your product based on insights discussed.

    • Die Betroffenenkarte bestimmt, wen die Spieler in der Runde jeweils verkörpern.The stakeholder card tells them who they are for the round.

    • Die Karte mit dem ethischen Prinzip enthält eines der sechs KI-Prinzipien von Microsoft und gibt an, auf welchen Bereich sich der jeweilige Spieler bei seiner Rezension konzentrieren soll.The ethical principle card is one of the six Microsoft AI principles; it tells them what area they’re focusing on in their review.

    • Die Bewertungskarte gibt in Form einer Sternebewertung (ein Stern, drei Sterne oder fünf Sterne) an, wie gut dem Betroffenen die Technologie gefällt.The rating card tells them how much their stakeholder likes the technology (1, 3, or 5 stars).

    Der Spieler schreibt dann eine Rezension für die Technologie aus der Sicht des zugewiesenen Betroffenen und gibt unter Berücksichtigung des erhaltenen ethischen Prinzips an, warum ihm das Produkt gefällt oder nicht gefällt.The player then writes a review of the technology, from the perspective of their stakeholder, of why they like or dislike the product from the perspective of the ethical principle they received.

DiskussionDiscussion

Der Moderator bittet jeden Spieler, seine Rezension vorzulesen.The moderator has each player read their reviews. Die Spieler können im Rahmen einer Gruppendiskussion die verschiedenen Sichtweisen sowie andere Überlegungen besprechen, die möglicherweise noch nicht zur Sprache kamen.Everyone is invited to discuss the different perspectives and other considerations that may not have come up.

Mögliche Fragen des Moderators wären beispielsweise:Potential moderator questions include:

  • Wer ist am stärksten betroffen?Who is the most impacted?

  • Welche Features sind problematisch?What features are problematic?

  • Was sind mögliche Schäden?What are the potential harms?

SchadensminderungHarms mitigation

Abschließend wählt die Gruppe ein Thema aus der Diskussion aus und beginnt mit der Suche nach Design- oder Prozessänderungen, die zur Minderung eines bestimmten Schadens beitragen können.Finally, the group picks a thread from the discussion to begin identifying design or process changes that can mitigate a particular harm. Am Ende jeder Runde werden die Karten neu gemischt, und eine weitere Runde kann beginnen. Dabei kann das gleiche oder ein anderes Szenario verwendet werden.At the end of each round, the decks are shuffled, and another round can begin with the same or a different scenario.

Nächste SchritteNext steps

Wenn Sie sich ausreichend mit den potenziellen Schäden oder negativen Auswirkungen Ihres Produkts oder Szenarios auseinandergesetzt haben, können Sie sich mit den Grundlagen der Bewertung von Schäden befassen, um wirksame Maßnahmen zur Schadensminderung auszuarbeiten.Once you have enough understanding of potential harms or negative impact your product or scenario may cause, proceed to learn how to model these harms so you can devise effective mitigations.