Judgement Call

Judgment Call is een met prijzen gewonnen game en op teams gebaseerde activiteit die de AI-principes van Microsoft op het gebied van redelijkheid, privacy en beveiliging, betrouwbaarheid en veiligheid, transparantie, inclusiviteit en verantwoordelijkheid in actie brengt. Het spel biedt een eenvoudig te gebruiken methode om empathie van belanghebbenden te bevorderen door hun scenario's te bedenken. Deelnemers aan het spel schrijven productrecensies vanuit het perspectief van een bepaalde belanghebbende, met een beschrijving van de impact en nadelige gevolgen die de technologie kan hebben vanuit hun oogpunt.

Voordelen

Technologiebouwers hebben praktische methoden nodig om ethiek op te nemen in productontwikkeling, door rekening te houden met de waarden van diverse belanghebbenden en hoe technologie deze waarden kan behouden of niet kan handhaven. Het doel van het spel is om mogelijke resultaten van een product of platform voor te stellen door meer inzicht te krijgen in belanghebbenden en wat ze nodig hebben en verwachten.

Het spel helpt mensen bij het bespreken van uitdagende onderwerpen in een veilige ruimte binnen de context van de game en geeft technologiemakers een vocabulaire om discussies over ethiek tijdens productontwikkeling te faciliteren. Het biedt managers en ontwerpers een interactief hulpmiddel om een ethisch dialoog te leiden met hun teams om ethisch ontwerp in hun producten op te nemen.

De theoretische basis en de eerste resultaten van de game Judgment Call werden gepresenteerd op de conferentie ACM Design Interactive Systems in 2019 en het spel was een spel in de categorie Fast Company 2019 Innovation by Design Award (sociale goederen). Het spel is gepresenteerd aan duizenden mensen in de VERENIGDE Staten en internationaal. Hoewel de grootste groep die wordt gefaciliilieerd in het spel meer dan 100 spelers is, kan elke stapel kaarten 1-10 spelers omvatten. Dit spel is niet bedoeld als vervanging voor het uitvoeren van robuust gebruikersonderzoek. Het is in plaats van een oefening om technische bouwers te leren hoe ze hun moreel eigen verbeelding kunnen oefenen.

Voorbereiding

Judgment Call maakt gebruik van rollenspel om ethische kwesties in productontwikkeling aan het oppervlak te brengen, zodat spelers rekening houden met de gevolgen voor de samenleving, productbeoordelingen schrijven en oplossingen verkennen. Spelers denken na over wat voor soort schade en impact de technologie kan hebben door productbeoordelingen te schrijven vanuit het oogpunt van een belanghebbende.

Als voorbereiding op dit spel downloadt u de afdrukbare Game Kit van Judgment Call.

Tijdens het spel

Van de spelers wordt verwacht dat ze de volgende stappen in dit spel doorlopen:

  1. Het product identificeren

    Begin met het identificeren van een product dat uw team bouwt of een scenario waar u aan werkt. Als uw team bijvoorbeeld synthetische spraaktechnologie ontwikkelt, kan uw scenario een spraakassistent ontwikkelen voor online leren.

  2. De kaarten doorgeven

    Zodra u een besluit hebt genomen over het scenario, kunt u de kaarten doorgeven. Elke speler ontvangt een kaart van belanghebbenden, een ethische principekaart, een beoordelingskaart en een beoordelingsformulier. Hier volgt een beschrijving van deze kaarten:

    • Belanghebbenden: Dit vertegenwoordigt de groep mensen die wordt beïnvloed door de technologie of het scenario dat u hebt gekozen. Belanghebbenden kunnen ook de makers (die de technologie voorstellen en er aan werken) en de interne projectsponsoren (managers en leidinggevenden die het project ondersteunen) omvatten.

    • Beginsel: Dit omvat de ethische principes van Microsoft voor redelijkheid, privacy en beveiliging, betrouwbaarheid en veiligheid, transparantie, inclusiviteit en aansprakelijkheid.

    • Rating: Sterkaarten geven een classificatie: 1 ster is slecht, 3 sterren is onversterfd, 5 sterren is uitstekend.

  3. Brainstormen en belanghebbenden identificeren

    Bedenk als groep alle belanghebbenden die direct of indirect door de technologie kunnen worden beïnvloed. Wijs vervolgens aan elke speler een belanghebbende uit de lijst toe. In sommige gevallen hebben de Judgment Call-stapels mogelijk vooraf gevulde kaarten van belanghebbenden, maar kunnen spelers extra kaarten toevoegen die relevant zijn voor hun situatie.

    De stapel bevat de volgende categorieën belanghebbenden:

    • Directe: Deze maken gebruik van de technologie en/of de technologie wordt op deze technologie gebruikt.

    • Indirecte: Deze zijn van invloed op de effecten van de technologie.

    • Speciale populaties: Een breed scala aan categorieën, waaronder degenen die de technologie niet kunnen gebruiken of niet willen gebruiken, en organisaties die mogelijk geïnteresseerd zijn in de implementatie, zoals belangengroepen of de overheid.

    Er zijn diverse schade die aan elke groep belanghebbenden kan worden toe- of teruggeslagen. Typen belanghebbenden kunnen eindgebruikers zijn van het product, beheerders, interne teams, belangengroepen, fabrikanten, iemand die mogelijk is uitgesloten van het gebruik van het product. Belanghebbenden kunnen ook de makers omvatten die de technologie voorstellen en er aan werken, evenals de interne projectsponsoren, dat wil zeggen de managers en leidinggevenden die het project ondersteunen.

  4. Selectie moderator

    De moderator beschrijft scenario's voor het maken van een discussie, begeleidt de discussie en verzamelt opmerkingskaarten aan het einde. Ze geven ook een overzicht van de ethische principes die in de stapel worden overwogen.

  5. Presentatie van een product

    De moderator introduceert een product, echt of denkbeeldig, voor de spelers om rollen te spelen. Ze kunnen beginnen met vragen over het product met prompts zoals:

    • Wie wordt het product gebruikt?

    • Welke functies heeft deze?

    • Wanneer wordt deze gebruikt?

    • Waar wordt deze gebruikt?

    • Waarom is het nuttig?

    • Hoe wordt deze gebruikt?

  6. Beoordelingen schrijven

    Spelers schrijven elk een beoordeling van het product of scenario op basis van de kaarten die zijn gedeeld. Spelers lezen om de beurt hun beoordelingen hardop voor. Kijk zorgvuldig naar eventuele problemen of thema's die zich kunnen voor doen. Noteer eventuele wijzigingen die u aan uw product kunt aanbrengen op basis van de inzichten die worden besproken.

    • De belanghebbendenkaart vertelt hen wie ze zijn voor de ronde.

    • De ethische principekaart is een van de zes AI-principes van Microsoft; Het vertelt hen op welk gebied ze zich richten in hun beoordeling.

    • De classificatiekaart geeft aan hoeveel belanghebbenden van de technologie houden (1, 3 of 5 sterren).

    De speler schrijft vervolgens een beoordeling van de technologie, vanuit het perspectief van de belanghebbende, over waarom ze het product willen of vertoveren vanuit het perspectief van het ethische principe dat ze hebben ontvangen.

Discussie

De moderator heeft elke speler de beoordelingen laten lezen. Iedereen wordt uitgenodigd om de verschillende perspectieven en andere overwegingen te bespreken die mogelijk niet zijn besproken.

Mogelijke moderatorvragen zijn onder andere:

  • Wie het meest beïnvloed?

  • Welke functies zijn problematisch?

  • Wat zijn de mogelijke schade?

Risicobeperking

Ten slotte kiest de groep een thread uit de discussie om te beginnen met het identificeren van ontwerp- of proceswijzigingen die een bepaalde schade kunnen beperken. Aan het einde van elke ronde worden de stapels in willekeurige volgorde georganiseerd en kan een andere ronde beginnen met hetzelfde of een ander scenario.

Volgende stappen

Als u voldoende inzicht hebt in mogelijke schade of negatieve gevolgen die uw product of scenario kan veroorzaken, gaat u verder met het modelleren van deze schade, zodat u effectieve oplossingen kunt bedenken.