Judgment Call

O Judgment Call é uma atividade baseada em jogos e em equipa que coloca em ação os princípios de IA da Microsoft de equidade, privacidade e segurança, fiabilidade e segurança, transparência, inclusão e responsabilidade. O jogo fornece um método fácil de utilizar para cultivar a empatia dos intervenientes ao imaginar os seus cenários. Os participantes do jogo escrevem avaliações de produtos na perspetiva de um determinado interveniente, descrevendo que tipo de impacto e danos a tecnologia pode produzir do seu ponto de vista.

Benefícios

Os construtores de tecnologia precisam de métodos práticos para incorporar a ética no desenvolvimento de produtos, considerando os valores de diversos intervenientes e como a tecnologia pode defender ou não defender esses valores. O objetivo do jogo é imaginar potenciais resultados de um produto ou plataforma ao obter uma melhor compreensão dos intervenientes e do que precisam e esperam.

O jogo ajuda as pessoas a discutirem tópicos desafiantes num espaço seguro no contexto do gameplay e dá ao criador de tecnologia um vocabulário para facilitar discussões de ética durante o desenvolvimento de produtos. Dá aos gestores e designers uma ferramenta interativa para liderar o diálogo ético com as suas equipas para incorporar o design ético nos seus produtos.

A base teórica e os resultados iniciais do jogo Judgment Call foram apresentados na conferência ACM Design Interactive Systems de 2019 e o jogo foi finalista na Fast Company 2019 Innovation by Design Awards (categoria Bens Sociais). O jogo foi apresentado a milhares de pessoas nos EUA e internacionalmente. Embora o maior grupo facilitado no jogo tenha sido superior a 100, cada baralho de cartas pode envolver 1-10 jogadores. Este jogo não se destina a ser um substituto para realizar pesquisas de utilizadores robustas. Pelo contrário, é um exercício para ajudar os construtores tecnológicos a aprender a exercer a sua imaginação moral.

Preparação

O Judgment Call utiliza o role play para surgir preocupações éticas no desenvolvimento de produtos para que os intervenientes prevejam o impacto social, escrevam revisões de produtos e explorem mitigações. Os jogadores pensam que tipo de danos e impactos a tecnologia pode produzir ao escrever revisões de produtos do ponto de vista de um interveniente.

Para se preparar para este jogo, transfira o kit de jogos do Judgment Call imprimível.

Durante o Jogo

Espera-se que os jogadores sigam os seguintes passos neste jogo:

1. Identificar o produto

   Comece por identificar um produto que a sua equipa está a criar ou um cenário em que está a trabalhar. Por exemplo, se a sua equipa estiver a desenvolver tecnologia de voz sintética, o seu cenário poderá estar a desenvolver uma assistente de voz para aprendizagem online.

2. Passar os cartões

   Depois de decidir o cenário, desmaia os cartões. Cada jogador recebe um cartão de interveniente, um cartão de princípio ético, um cartão de classificação e um formulário de revisão. Segue-se uma descrição destes cartões:

   • Interveniente: Isto representa o grupo de pessoas afetadas pela tecnologia ou cenário que escolheu. Os intervenientes também podem incluir os criadores (os que propõem e trabalham na tecnologia), bem como os patrocinadores internos do projeto (gestores e executivos que apoiam o projeto).

   • Princípio: Isto inclui os princípios éticos da Microsoft de equidade, privacidade e segurança, fiabilidade e segurança, transparência, inclusão e responsabilidade.

   • Classificação: As cartas-estrela dão uma classificação: 1-star é pobre, 3-star é medíocre, 5-star é excelente.

3. Debater ideias e identificar intervenientes

   Como um grupo, debater ideias sobre todos os intervenientes que podem ser directa ou indiretamente afectados pela tecnologia. Em seguida, atribua a cada jogador um interveniente a partir da lista. Em alguns casos, os decks do Judgment Call podem ter cartões de interveniente pré-preenchidos, mas os jogadores podem adicionar cartões adicionais relevantes à sua situação.

   O conjunto fornece as seguintes categorias de intervenientes:

   • Direto: Estes utilizam a tecnologia e/ou a tecnologia é utilizada nos mesmos.

   • Indireto: Estes sentem os efeitos da tecnologia.

   • Populações especiais: Uma vasta gama de categorias que inclui aqueles que não podem utilizar a tecnologia ou optam por não utilizá-la, e organizações que podem estar interessadas na sua implementação, como grupos de advocacia ou o governo.

   Há uma série de danos que podem ser sentidos ou perpetuados em cada grupo de intervenientes. Os tipos de intervenientes podem incluir utilizadores finais do produto, administradores, equipas internas, grupos de advocacia, fabricantes, alguém que possa ser excluído da utilização do produto. Os intervenientes também podem incluir os criadores que propõem e trabalham na tecnologia, bem como os patrocinadores internos do projeto, ou seja, os gestores e executivos que apoiam o projeto.

4. Seleção do moderador

   O moderador descreve cenários de jogo, orienta a discussão e recolhe cartões de comentário no final. Também darão uma descrição geral dos princípios éticos considerados no convés.

5. Apresentação de um produto

   O moderador apresenta um produto, real ou imaginário, para os jogadores desempenharem funções. Podem começar com perguntas sobre o produto com pedidos como:

   • Quem vai utilizar o produto?

   • Que funcionalidades terá?

   • Quando será utilizado?

   • Onde será utilizado?

   • Por que é útil?

   • Como será utilizado?

6. Escrever críticas

   Cada um dos jogadores escreve uma revisão do produto ou cenário com base nos cartões que lhes foram entregues. Os jogadores revezam-se ao ler as suas críticas em voz alta. Escute atentamente quaisquer problemas ou temas que possam surgir. Tome nota de quaisquer alterações que possa efetuar ao seu produto com base nas informações abordadas.

   • O cartão do interveniente diz-lhes quem são para a ronda.

   • O cartão de princípio ético é um dos seis princípios de IA da Microsoft; indica-lhes em que área estão a focar-se na sua revisão.

   • O cartão de classificação diz-lhes o quanto os intervenientes gostam da tecnologia (1, 3 ou 5 estrelas).

   Em seguida, o jogador escreve uma revisão da tecnologia, na perspetiva dos seus intervenientes, do porquê de gostarem ou não gostarem do produto do ponto de vista do princípio ético que receberam.

Debate

O moderador fez com que cada jogador leia as suas críticas. Todos são convidados a discutir as diferentes perspectivas e outras considerações que podem não ter surgido.

As potenciais perguntas do moderador incluem:

• Quem é o mais afetado?

• Que funcionalidades são problemáticas?

• Quais são os potenciais danos?

Mitigação de danos

Por fim, o grupo escolhe um tópico do debate para começar a identificar alterações de design ou processo que podem mitigar um dano específico. No final de cada ronda, os decks são baralhados, e outra ronda pode começar com o mesmo cenário ou um cenário diferente.

Passos seguintes

Assim que tiver uma compreensão suficiente dos potenciais danos ou impacto negativo que o seu produto ou cenário possa causar, continue a aprender a modelar estes danos para que possa conceber mitigações eficazes.