Grunderna i skadebedömning

Skademodellering är ett sätt att hjälpa dig att förutse potentiella skador, att identifiera problem med produkter som kan utgöra en risk för personer samt att ta fram strategier för att proaktivt förebygga sådana skador.

Varför behövs skademodellering?

Arbetet som teknikutvecklare är globalt. Att utveckla tillförlitlig AI innebär att skapa lösningar som tar hänsyn till etiska normer som är djupt rotade i fundamentala och tidlösa värderingar. När du utformar och utvecklar dina tekniker är det viktigt att utvärdera inte bara idealresultatet, utan även potentiella negativa konsekvenser.

Teknik och mänskliga rättigheter

Det är viktigare än någonsin att ha i åtanke hur digital teknik kan påverka mänskliga rättigheter. Förutom att skydda integriteten och säkerheten måste vi hantera riskerna med AI och andra nya tekniker, till exempel ansiktsigenkänning. Historien lär oss att brott mot mänskliga rättigheter inte bara beror på den skadliga användningen av teknik, utan även på bristande medvetenhet bland dem som har goda avsikter. Microsoft är engagerade i arbetet med att skydda mänskliga rättigheterna och har därför ingått partnerskap med viktiga aktörer utanför vår bransch, däribland Förenta nationerna (FN).

Vårt företag står bakom FN:s universella deklaration om mänskliga rättigheter (UDHR), som har ratificerats av 250 länder. UDHR är en milstolpe i historien. Deklarationen arbetades fram av ett globalt team med juridiska och kulturella experter och antogs av FN:s generalförsamling 1948 som en gemensam standard för alla människor och alla länder. Den kungör, för första gången, att grundläggande mänskliga rättigheter är universellt skyddade. Den har översatts till över 500 språk. Dessutom är Microsoft ett av 4 700 företag som har undertecknat FN:s Global Compact, ett internationellt företagsinitiativ för att främja ansvarsfullt företagande.

Ladda ned i Microsoft Word

Förstå andra

Förutom respekt för mänskliga rättigheter är det viktigt att vi tar hänsyn till människors olika perspektiv när vi bygger tillförlitliga system. Genom att fråga oss vilka intressenterna är, vad de värdesätter, hur de kan ha nytta av våra produkter och hur de kan skadas av vår teknik kan vi utforma och skapa bättre produkter.

Vem påverkar tekniken?

Vilka är kunderna?

• Vad värdesätter de?
• Hur kan de få nytta av våra produkter?
• Hur kan tekniken skada dem?

Vilka andra intressenter finns det utöver kunderna?

• Vad värdesätter de?
• Hur kan de få nytta av våra produkter?
• Hur kan tekniken skada dem?

Att ställa dessa frågor är en del av en värdekänslig design och är början till en bättre förståelse av vad som är viktigt för intressenterna, och hur det påverkar deras syn på produkten.

Typer av intressenter

Projektsponsorer

Den här kategorin utgörs av aktörer i bakgrunden, beslutsfattare och ägare. Deras värden formuleras i projektstrategin och målen.

Teknikutvecklare

Designers, utvecklare, projektledare och personer som arbetar direkt med att utforma system utgör den här gruppen. De tar med sig sina egna etiska standarder och yrkesspecifika värden till systemet.

Direkta & indirekta intressenter

Dessa intressenter påverkas i hög grad av systemet. Exempel på sådana som påverkas är slutanvändare, programvarupersonal, klienter, personer som står vid sida, interfacerande institutioner och till och med tidigare eller framtida generationer. Även icke-mänskliga faktorer såsom platser, till exempel historiska byggnader eller heliga platser, kan ingå.

Marginaliserade grupper

Den här kategorin utgörs av grupper som brukar klassas som minoritetsgrupper, särskilt sårbara grupper eller stigmatiserade grupper. Den här kategorin omfattar barn, ras, medlemmar i COMMUNITYN FÖR PERSONERQ+, etniska konflikter och andra grupper som ofta upplever unika och oproportionerliga konsekvenser.

Skadebedömning

När du har definierat syftet med tekniken, användningsfall och intressenter, gör du en skademodellering för att utvärdera om den teknik som du utvecklar potentiellt kan få negativa följder för människor eller samhället.

Ladda ned i Microsoft Word

Diagrammet ovan är ett exempel på en skadebedömning. Den här modellen är en kvalitativ metod som används för att förstå den potentiella omfattningen av skada.

Du kan göra den här bedömningen individuellt, men om möjligt bör den genomföras i samarbete mellan utvecklare, dataexperter, designers, användarexperter, beslutsfattare och andra som är involverade i teknikutvecklingen.

Förslag på formulär för skadebedömning:

• Avsedd användning: Om [funktion] användes för [användningsfall] kan [intressent] uppleva [skadebeskrivning].
• Oavsiktlig användning: Om [användare] försökte använda [funktion] för [användningsfall] kan [intressent] uppleva [skadebeskrivning].
• Systemfel: Om [funktion] inte fungerar korrekt när den används för [användningsfall] kan [intressent] uppleva [skadebeskrivning].
• Missbruk: [Illvillig aktör] kan potentiellt använda [funktion] för att utsätta [intressent] för [skadebeskrivning].

Använd kategorierna, frågorna och exemplen som beskrivs i Typer av skada för att identifiera hur olika skador skulle kunna uppstå. Artikeln innehåller en lista över skador baserat på de områden där skador är vanligast förekommande. Anpassa och lägg till ytterligare kategorier som är relevanta för dig.

Efterföljande moment

Läs Typer av skada för ytterligare hjälp med skadeanalysen.