Judgement Call
Judgment Call is een belangrijke game en op teams gebaseerde activiteit die de AI-principes van Microsoft voor redelijkheid, privacy en beveiliging, betrouwbaarheid en veiligheid, transparantie, inclusiviteit en verantwoordelijkheid van Microsoft in actie brengt. Het spel biedt een eenvoudig te gebruiken methode om empathie van belanghebbenden te bevorderen door hun scenario's te onderbouwen. Deelnemers aan het spel schrijven productrecensies vanuit het perspectief van een bepaalde belanghebbende, met een beschrijving van de impact en nadelige gevolgen die de technologie kan hebben vanuit hun oogpunt.
Voordelen
Technologiebouwers hebben praktische methoden nodig om ethiek op te nemen in productontwikkeling, door rekening te houden met de waarden van diverse belanghebbenden en hoe technologie deze waarden kan handhaven of niet kan handhaven. Het doel van het spel is om mogelijke resultaten van een product of platform voor te stellen door meer inzicht te krijgen in belanghebbenden en wat ze nodig hebben en verwachten.
Het spel helpt mensen bij het bespreken van uitdagende onderwerpen in een veilige ruimte binnen de context van de game, en biedt technologiemakers een vocabulaire om discussies over ethiek tijdens de ontwikkeling van een product te faciliteren. Het biedt managers en ontwerpers een interactief hulpmiddel om een ethisch dialoog te leiden met hun teams om ethisch ontwerp in hun producten op te nemen.
De theoretische basis en de eerste resultaten van het game Judgment Call werden gepresenteerd op de ACM Design Interactive Systems-conferentie in 2019 en het spel was een kans in de categorie Fast Company 2019 Innovation by Design Award (sociale goederen). Het spel is gepresenteerd aan duizenden mensen in de Verenigde Staten en internationaal. Hoewel de grootste groep die wordt gefaciliilieerd in het spel meer dan 100 spelers heeft, kan elke stapel kaarten 1-10 spelers omvatten. Dit spel is niet bedoeld als vervanging voor het uitvoeren van robuust gebruikersonderzoek. Het is in plaats van een oefening om technische bouwers te leren hoe ze hun eigen eigen verbeelding kunnen oefenen.
Voorbereiding
Judgment Call maakt gebruik van rollenspel om ethische kwesties in productontwikkeling aan het oppervlak te brengen, zodat spelers rekening houden met de gevolgen voor de samenleving, productbeoordelingen schrijven en oplossingen verkennen. Spelers denken na over wat voor soort schade en impact de technologie kan hebben door productbeoordelingen te schrijven vanuit het oogpunt van een belanghebbende.
Als voorbereiding op dit spel downloadt u de afdrukbare Judgment Call-gamekit.
Tijdens het spel
Van de spelers wordt verwacht dat ze de volgende stappen in dit spel doorlopen:
Het product identificeren
Begin met het identificeren van een product dat uw team bouwt of een scenario waar u aan werkt. Als uw team bijvoorbeeld synthetische spraaktechnologie ontwikkelt, kan uw scenario een spraakassistent ontwikkelen voor online leren.
De kaarten doorgeven
Zodra u een besluit hebt genomen over het scenario, kunt u de kaarten doorgeven. Elke speler ontvangt een kaart van belanghebbenden, een ethisch principekaart, een beoordelingskaart en een beoordelingsformulier. Hier volgt een beschrijving van deze kaarten:
Belanghebbende: dit vertegenwoordigt de groep mensen die worden beïnvloed door de technologie of het scenario dat u hebt gekozen. Belanghebbenden kunnen ook de makers (die de technologie voorstellen en verantwoordelijk zijn) en de interne projectsponsoren (managers en leidinggevenden die het project voorstellen en verantwoordelijk zijn) omvatten.
Principe: dit omvat de ethische principes van Microsoft voor redelijkheid, privacy en beveiliging, betrouwbaarheid en veiligheid, transparantie, inclusiviteit en aansprakelijkheid.
Waardering: sterkaarten geven een waardering: 1 ster is slecht, 3 sterren is een hoge waardering, 5 sterren is uitstekend.
Brainstormen en belanghebbenden identificeren
Bedenk als groep alle belanghebbenden die direct of indirect door de technologie kunnen worden beïnvloed. Wijs vervolgens aan elke speler een belanghebbende uit de lijst toe. In sommige gevallen hebben de Judgment Call-stapels mogelijk vooraf ingevulde kaarten voor belanghebbenden, maar kunnen spelers extra kaarten toevoegen die relevant zijn voor hun situatie.
De stapel bevat de volgende categorieën belanghebbenden:
Direct: deze maken gebruik van de technologie en/of de technologie wordt op de technologie gebruikt.
Indirect: deze gaan over de effecten van de technologie.
Speciale populaties: een breed scala aan categorieën, waaronder personen die de technologie niet kunnen gebruiken of niet willen gebruiken, en organisaties die mogelijk geïnteresseerd zijn in de implementatie ervan, zoals belangengroepen of de overheid.
Er zijn diverse soorten schade die aan elke groep belanghebbenden kunnen worden toe-eigenen of waar ze zich mee kunnen houden. Typen belanghebbenden kunnen eindgebruikers van het product zijn, beheerders, interne teams, belangengroepen, fabrikanten, iemand die mogelijk wordt uitgesloten van het gebruik van het product. Belanghebbenden kunnen ook de makers omvatten die de technologie voorstellen en er aan werken, evenals de interne projectsponsoren, dat wil zeggen de managers en leidinggevenden die verantwoordelijk zijn voor het project.
Selectie moderator
De moderator beschrijft scenario's voor het maken van een video, begeleidt de discussie en verzamelt opmerkingskaarten aan het einde. Ze geven ook een overzicht van de ethische principes die in de stapel worden overwogen.
Presentatie van een product
De moderator introduceert een product, echt of denkbeeldig, om de spelers een rol te laten spelen. Ze kunnen beginnen met vragen over het product met prompts zoals:
Wie wordt het product gebruikt?
Welke functies krijgt deze?
Wanneer wordt deze gebruikt?
Waar wordt het gebruikt?
Waarom is het nuttig?
Hoe wordt deze gebruikt?
Beoordelingen schrijven
Spelers schrijven elk een beoordeling van het product of scenario op basis van de kaarten die zijn gedeeld. Spelers lezen om de beurt hun beoordelingen hardop. Luister zorgvuldig naar eventuele problemen of thema's die zich kunnen voor doen. Noteer eventuele wijzigingen die u aan uw product kunt aanbrengen op basis van de inzichten die worden besproken.
De belanghebbendenkaart vertelt hen wie ze zijn voor de ronde.
De ethisch principekaart is een van de zes AI-principes van Microsoft; Het vertelt hen op welk gebied ze zich richten in hun beoordeling.
De classificatiekaart geeft aan hoeveel belanghebbenden van de technologie houden (1, 3 of 5 sterren).
De speler schrijft vervolgens een beoordeling van de technologie, vanuit het perspectief van de belanghebbende, over waarom ze het product leuk vinden of aan het product uit het oogpunt van het ethisch principe dat ze hebben ontvangen.
Discussie
De moderator heeft elke speler de beoordelingen laten lezen. Iedereen wordt uitgenodigd om de verschillende perspectieven en andere overwegingen te bespreken die mogelijk niet zijn besproken.
Mogelijke moderatorvragen zijn onder andere:
Wie is het meest beïnvloed?
Welke functies zijn problematisch?
Wat zijn de mogelijke schade?
Risicobeperking
Ten slotte kiest de groep een thread uit de discussie om te beginnen met het identificeren van ontwerp- of proceswijzigingen die een bepaalde schade kunnen beperken. Aan het einde van elke ronde worden de stapels in willekeurige volgorde georganiseerd en kan een andere ronde beginnen met hetzelfde of een ander scenario.
Volgende stappen
Als u voldoende inzicht hebt in mogelijke schade of negatieve gevolgen die uw product of scenario kan veroorzaken, gaat u verder met het modelleren van deze schade, zodat u effectieve oplossingen kunt bedenken.