Judgment Call

  • Artikel

Judgment Call (Ermessensentscheidung) ist ein Spiel und eine Teamaktivität, bei der die KI-Prinzipien von Microsoft im Hinblick auf Fairness, Datenschutz, Sicherheit, Zuverlässigkeit, Transparenz, Inklusion und Verantwortlichkeit umgesetzt werden. Das Spiel bietet eine einfach zu verwendende Methode zur Förderung von Empathie gegenüber Betroffenen, indem versucht wird, sich in ihre Lage zu versetzen. Die Spielteilnehmer schreiben Produktreviews aus der Perspektive eines bestimmten Projektbeteiligten und beschreiben, welche Auswirkungen und Schäden die Technologie aus ihrer Sicht verursachen könnte.

Vorteile

Technologieentwickler benötigen praktische Methoden, um ethische Aspekte in die Produktentwicklung zu integrieren, indem sie die Werte verschiedenster Betroffener berücksichtigen und sich überlegen, ob die Technologie diesen Werten gerecht wird. Das Ziel des Spiels besteht darin, sich die potenziellen Ergebnisse eines Produkts oder einer Plattform vorzustellen, indem versucht wird, die Betroffenen und ihre Bedürfnisse und Erwartungen besser zu verstehen.

Das Spiel hilft Menschen dabei, schwierige Themen in einem sicheren, spielerischen Umfeld zu besprechen, und bietet Technologieentwicklern ein Vokabular, das ethische Diskussionen im Rahmen der Produktentwicklung vereinfacht. Managern und Designern steht damit ein interaktives Tool zur Verfügung, das sie für einen ethischen Dialog mit ihren Teams nutzen können, um ethische Gesichtspunkte in ihr Produktdesign zu integrieren.

Die theoretische Grundlage und die ersten Ergebnisse des Judgment Call-Spiels wurden 2019 auf der ACM Design Interactive Systems-Konferenz vorgestellt, und das Spiel gehörte zu den Finalisten bei den Fast Company 2019 Innovation by Design Awards (in der Kategorie „Social Goods“). Das Spiel wurde Tausenden von Menschen in den USA und auf der ganzen Welt präsentiert. Das Spiel wurde zwar schon von mehr als 100 Teilnehmern gleichzeitig gespielt, ein Kartenstapel ist jedoch für bis zu zehn Spieler ausgelegt. Dieses Spiel kann keine sorgfältige Benutzeruntersuchung ersetzen. Es soll vielmehr Technologieentwickler dabei unterstützen, ihre moralische Vorstellungskraft zu nutzen.

Vorbereitung

Judgment Call nutzt Rollenspielelemente, um ethische Bedenken bei der Produktentwicklung hervorzuheben. Dazu antizipieren die Spieler gesellschaftliche Auswirkungen, schreiben Produktrezensionen und beschäftigen sich mit Abhilfeoptionen. Die Spieler überlegen sich, welche Arten von Schäden und Auswirkungen sich durch die Technologie ergeben könnten, indem sie Produktrezensionen aus der Sicht eines Betroffenen schreiben.

Laden Sie zur Vorbereitung auf dieses Spiel das ausdruckbare Spielset für Judgement Call herunter.

Spielverlauf

Die Spieler durchlaufen folgende Schritte:

  1. Identifizieren des Produkts

    Identifizieren Sie zunächst ein von Ihrem Team entwickeltes Produkt oder ein Szenario, an dem Sie arbeiten. Wenn Ihr Team also beispielsweise an der Entwicklung einer Technologie für die Sprachsynthese arbeitet, wäre ein mögliches Szenario die Entwicklung eines Sprachassistenten für Onlinelernen.

  2. Austeilen der Karten

    Nachdem Sie sich für ein Szenario entschieden haben, können Sie die Karten austeilen. Jeder Spieler erhält eine Betroffenenkarte, eine Karte mit einem ethischen Prinzip, eine Bewertungskarte und ein Rezensionsformular. Im Anschluss folgt Sie eine Beschreibung dieser Karten:

    • Beteiligter: Hierbei handelt es sich um die Personengruppe, die von der gewählten Technologie oder dem gewählten Szenario betroffen ist. Zu den Betroffenen können auch die Entwickler (also diejenigen, die die Technologie vorschlagen und daran arbeiten) sowie die internen Projektsponsoren (Manager und Führungskräfte, die das Projekt unterstützen) zählen.

    • Prinzip: Hierbei handelt es sich um ethische Prinzipien von Microsoft im Hinblick auf Fairness, Datenschutz, Sicherheit, Zuverlässigkeit, Transparenz, Inklusion und Verantwortlichkeit.

    • Bewertung: Sternkarten zur Bewertung: 1 Stern ist schlecht, 3 Sterne sind mittelmäßig, 5 Sterne sind hervorragend.

  3. Brainstorming und Identifizieren von Betroffenen

    Machen Sie sich als Gruppe Gedanken dazu, wer alles direkt oder indirekt von der Technologie betroffen sein könnte. Weisen Sie dann jedem Spieler einen Betroffenen aus der Liste zu. Manchmal enthalten die Kartenstapel von Judgment Call ggf. bereits ausgefüllte Betroffenenkarten, die Spieler können jedoch weitere Karten hinzufügen, die für ihre Situation relevant sind.

    Der Kartenstapel enthält folgende Betroffenenkategorien:

    • Direkt: Diese Betroffenen verwenden die Technologie, oder die Technologie wird für sie verwendet.

    • Indirekt: Diese Betroffenen bekommen die Auswirkungen der Technologie zu spüren.

    • Sondergruppen: Ein breites Spektrum an Kategorien, das Personen, die die Technologie nicht verwenden können oder möchten, sowie Organisationen umfasst, die ggf. ein Interesse an der Bereitstellung der Technologie haben (beispielsweise Interessengruppen oder die Regierung).

    Es gibt verschiedene Schäden, von denen die Gruppen jeweils betroffen sein können. Bei den Betroffenen kann es sich um unter anderem Endbenutzer des Produkts, um Administratoren, interne Teams, Interessengruppen, Hersteller oder um Personen enthalten, die von der Nutzung des Produkts ausgeschlossen sind. Zu den Betroffenen können auch die Entwickler (also diejenigen, die die Technologie vorschlagen und daran arbeiten) sowie die internen Projektsponsoren (also die Manager und Führungskräfte, die das Projekt unterstützen) zählen.

  4. Bestimmung eines Moderators

    Der Moderator beschreibt Szenarien für das Spiel, leitet die Diskussion und sammelt am Ende die Kommentarkarten ein. Darüber hinaus gibt er einen Überblick über die ethischen Prinzipien aus dem Kartenstapel.

  5. Präsentation eines Produkts

    Der Moderator stellt ein (echtes oder imaginäres) Produkt als Grundlage für das Rollenspiel vor. Die Spieler können zunächst Fragen wie die folgenden zu dem Produkt stellen:

    • Von wem wird das Produkt verwendet?

    • Über welche Features verfügt es?

    • Wann wird es verwendet?

    • Wo wird es verwendet?

    • Warum ist es nützlich?

    • Wie wird es verwendet?

  6. Schreiben von Rezensionen

    Die Spieler schreiben auf der Grundlage der Karten, die sie erhalten haben, jeweils eine Rezension für das Produkt oder Szenario. Die Spieler lesen abwechselnd Ihre Rezension vor. Hören Sie aufmerksam zu, und achten Sie auf alle Probleme oder Themen, die ggf. angesprochen werden. Notieren Sie sich alle Änderungen, die Sie angesichts der besprochenen Aspekte für Ihr Produkt in Betracht ziehen.

    • Die Betroffenenkarte bestimmt, wen die Spieler in der Runde jeweils verkörpern.

    • Die Karte mit dem ethischen Prinzip enthält eines der sechs KI-Prinzipien von Microsoft und gibt an, auf welchen Bereich sich der jeweilige Spieler bei seiner Rezension konzentrieren soll.

    • Die Bewertungskarte gibt in Form einer Sternebewertung (ein Stern, drei Sterne oder fünf Sterne) an, wie gut dem Betroffenen die Technologie gefällt.

    Der Spieler schreibt dann eine Rezension für die Technologie aus der Sicht des zugewiesenen Betroffenen und gibt unter Berücksichtigung des erhaltenen ethischen Prinzips an, warum ihm das Produkt gefällt oder nicht gefällt.

Diskussion

Der Moderator bittet jeden Spieler, seine Rezension vorzulesen. Die Spieler können im Rahmen einer Gruppendiskussion die verschiedenen Sichtweisen sowie andere Überlegungen besprechen, die möglicherweise noch nicht zur Sprache kamen.

Mögliche Fragen des Moderators wären beispielsweise:

  • Wer ist am stärksten betroffen?

  • Welche Features sind problematisch?

  • Was sind mögliche Schäden?

Schadensminderung

Abschließend wählt die Gruppe ein Thema aus der Diskussion aus und beginnt mit der Suche nach Design- oder Prozessänderungen, die zur Minderung eines bestimmten Schadens beitragen können. Am Ende jeder Runde werden die Karten neu gemischt, und eine weitere Runde kann beginnen. Dabei kann das gleiche oder ein anderes Szenario verwendet werden.

Nächste Schritte

Wenn Sie sich ausreichend mit den potenziellen Schäden oder negativen Auswirkungen Ihres Produkts oder Szenarios auseinandergesetzt haben, können Sie sich mit den Grundlagen der Bewertung von Schäden befassen, um wirksame Maßnahmen zur Schadensminderung auszuarbeiten.