Bedömning
Judgment Call är ett prisbelönande spel och en teambaserad aktivitet som sätter Microsofts AI-principer för rättvisa, sekretess och säkerhet, tillförlitlighet och säkerhet, transparens, inkludering och ansvarstagande i praktiken. Spelet är en lättanvänd metod för att skapa intressenternas empati genom att föreställa sig deras scenarier. Speldeltagarna skriver produktrecensioner från en viss intressents perspektiv, som ur deras synvinkel beskriver hur tekniken skulle kunna skada och påverka dem.
Fördelar
Teknikbyggare behöver praktiska metoder för att införliva etik i produktutvecklingen genom att överväga värden från olika intressenter och hur tekniken kan upprätthålla eller inte upprätthålla dessa värden. Målet med spelet är att föreställa sig potentiella resultat för en produkt eller plattform genom att få en bättre förståelse för intressenter och vad de behöver och förväntar sig.
Spelet hjälper människor att diskutera utmanande ämnen inom ett säkert område inom kontexten för spel, och ger teknikskapare en vokabulär för att underlätta etikdiskussioner under produktutvecklingen. Det ger chefer och designers ett interaktivt verktyg för att leda etisk dialog med sina team för att införliva etisk design i sina produkter.
Den teoretiska grunden och de första resultaten av Judgment Call-spelet presenterades på ACM Design Interactive Systems-konferensen 2019 och spelet var en 2019 års Innovation från Design Award (kategorin Sociala varor). Spelet har presenterats för tusentals personer i USA och internationellt. Den största gruppen som underlättas i spelspel har varit över 100, men varje kortlek kan omfatta 1–10 spelare. Det här spelet är inte avsett att ersätta robust användarforskning. I stället är det en övning som hjälper teknikerna att lära sig hur de kan använda sin fantasi.
Förberedelse
Bedömningssamtalet använder rollspel för att visa etiska frågor inom produktutveckling, så att spelarna förväntar sig att påverka miljön, skriva produktrecensioner och utforska lösningar. Spelarna tänker på vilken typ av skada som tekniken kan orsaka genom att skriva produktrecensioner från intressenternas perspektiv.
För att förbereda dig för det här spelet laddar du ned det utskrivbara Game Call-spelpaketet.
Under spelet
Spelarna förväntas gå igenom följande steg i det här spelet:
Identifiera produkten
Börja med att identifiera en produkt som ditt team skapar eller ett scenario som du arbetar med. Om ditt team till exempel utvecklar syntetisk röstteknik kan ditt scenario vara att utveckla en röstassistent för onlineinlärning.
Skicka korten
När du har bestämt dig för scenariot ska du skicka ut korten. Varje spelare får ett intressentkort, ett etisk principkort, ett omdömeskort och ett granskningsformulär. Följande är en beskrivning av dessa kort:
Intressenter: Detta representerar den grupp av personer som påverkas av den teknik eller det scenario som du har valt. Intressenterna kan även omfatta skapare (de som föreslår och arbetar med tekniken) samt interna projektsponsorer (chefer och chefer som är ansvariga för projektet).
Principen: Detta omfattar Microsofts etiska principer för rättvisa, sekretess och säkerhet, tillförlitlighet och säkerhet, transparens, inkludering och ansvar.
Betyg: Stjärnkort ger ett omdöme: 1 stjärna är dålig, 3 stjärnor är medelmåttigt, 5 stjärnor är utmärkt.
Brainstorma och identifiera intressenter
Som grupp kan du diskutera alla intressenter som kan påverkas direkt eller indirekt av tekniken. Tilldela sedan varje spelare en intressent från listan. I vissa fall kan korten för bedömningssamtalet ha förifyllda intressentkort, men spelarna kan lägga till ytterligare kort som är relevanta för deras situation.
I kortleken finns följande kategorier av intressenter:
Direkt: Dessa använder tekniken och/eller tekniken som används på dem.
Indirekt: De här effekterna av tekniken.
Särskilda populationer: En mängd olika kategorier som omfattar de som inte kan använda tekniken eller väljer att inte använda den, och organisationer som kan vara intresserade av distributionen, t.ex.vocacy-grupper eller myndigheter.
Det finns en mängd skador som kan kännas eller framtgå av varje grupp med intressenter. Typer av intressenter kan vara slutanvändare av produkten, administratörer, interna team,vokacygrupper, tillverkare, någon som kan undantas från att använda produkten. Intressenterna kan även omfatta de beslutsfattare som föreslår och arbetar med tekniken, samt de interna projektsponsorerna, det vill säga chefer och chefer som är ansvariga för projektet.
Val av moderator
Moderatorn beskriver scenarier för spel, vägleder diskussionen och samlar in kommentarskort i slutet. De ger också en översikt över de etiska principer som övervägs i kortleken.
Presentation av en produkt
Moderatorn introducerar en produkt, verklig eller föreställd, för spelarna att spela roll. De kan börja med frågor om produkten med frågor som:
Vem kommer att använda produkten?
Vilka funktioner kommer den att ha?
När kommer den att användas?
Var ska den användas?
Varför är det användbart?
Hur används det?
Skriva recensioner
Spelare skriver varje recension av produkten eller scenariot baserat på de kort som de har fått. Spelarna turas om att läsa upp sina recensioner. Lyssna noga efter eventuella problem eller teman som kan komma upp. Anteckna eventuella ändringar som du kan göra i produkten baserat på de insikter som beskrivs.
Intressentkortet talar om för dem vilka de är för omgång.
Kortet med etiska principer är en av de sex Microsoft AI-principerna. den talar om för dem vilket område de fokuserar på i sin granskning.
Omdömeskortet visar hur mycket deras intressent gillar tekniken (1, 3 eller 5 stjärnor).
Spelaren skriver sedan en granskning av tekniken, ur intressenternas perspektiv, om varför de gillar eller tar produkten ur perspektivet med den etiska princip som de har fått.
Diskussion
Moderatorn får varje spelare att läsa sina recensioner. Alla bjuds in för att diskutera de olika perspektiven och andra överväganden som kanske inte har kommit fram.
Potentiella moderatorfrågor är:
Vem påverkas mest?
Vilka funktioner är problematiska?
Vilka är de potentiella skadorna?
Skadereducering
Slutligen väljer gruppen en tråd från diskussionen för att börja identifiera design- eller processändringar som kan minska en viss skada. I slutet av varje omgång blandas kortlekarna och en annan omgång kan börja med samma eller ett annat scenario.
Nästa steg
När du har tillräcklig förståelse för potentiella skador eller negativ inverkan på din produkt eller ditt scenario kan orsaka kan du gå vidare och lära dig hur du modellerar dessa skador så att du kan utforma effektiva åtgärder.