Grondbeginselen van het beoordelen van schadelijke effecten

Modellering van schadelijke effecten is bedoeld om u te helpen te anticiperen op potentiële schadelijke effecten, onvolkomenheden in een product op te sporen die een risico voor de mens kunnen vormen, en uiteindelijk te komen tot proactieve oplossingen.

Waarom zou ik schadelijke effecten modelleren?

Het werk van technologiebouwers strekt zich uit over de hele wereld. Voor het ontwerpen van betrouwbare AI-oplossingen (kunstmatige intelligentie) moeten ethische principes diep geworteld zijn in belangrijke en tijdloze waarden. Bij het ontwerpen en ontwikkelen van uw technologieën is het essentieel om niet alleen de ideale resultaten te evalueren, maar ook mogelijke negatieve resultaten.

Technologie en mensenrechten

Het is onverminderd belangrijk dat u weet hoe digitale technologie van invloed kan zijn op de rechten van de mens. Naast de blijvende bescherming van privacy en beveiliging, moeten we de risico's van AI en andere opkomende technologieën, zoals gezichtsherkenning, aanpakken. De geschiedenis leert ons dat schendingen van de mensenrechten niet alleen het gevolg zijn van het verkeerde gebruik van technologie, maar ook van een gebrek aan bewustzijn onder degenen die goede bedoelingen hebben. Als onderdeel van de toewijding van ons bedrijf aan de bescherming van mensenrechten, is Microsoft een partnerschap aangegaan met belangrijke belanghebbenden buiten de IT-sector, waaronder de Verenigde Naties (VN).

Een belangrijke set principes van de VN waar ons bedrijf sterk achter staat, en die door meer dan 250 naties is geratificeerd, is de Universele Verklaring van de Rechten van de Mens (UVRM). De UVRM is een mijlpaaldocument. De verklaring is opgesteld door een gevarieerde wereldwijde groep van juridische en culturele deskundigen en is door de Algemene Vergadering van de Verenigde Naties in 1948 uitgeroepen tot het gemeenschappelijk door alle volkeren en alle naties te bereiken ideaal. Hierin zijn voor het eerst de grondrechten van de mens die universeel dienen te worden beschermd, verankerd. Het is vertaald in meer dan 500 talen. Microsoft is bovendien een van 4.700 zakelijke ondertekenaars van het Global Compact-initiatief van de VN, dat is ontworpen om verantwoordelijk zakelijk burgerschap te stimuleren.

Downloaden in Microsoft Word

Menselijk begrip

Naast waardering voor het belang van mensenrechten, moeten voor het bouwen van betrouwbare systemen de perspectieven van een groot aantal mensen worden afgewogen. Wie zijn de belanghebbenden, wat waarderen ze, wat zijn mogelijke toepassingen en wat zijn eventuele nadelige effecten van onze technologie? Het stellen van dergelijke vragen is een belangrijke stap voor het ontwerpen en bouwen van betere producten.

Op wie is de technologie van invloed?

Wie zijn de klanten?

• Wat vinden zij belangrijk?
• Hoe komt het hen ten goede?
• Hoe kan technologie schadelijk voor hen zijn?

Wie zijn de overige belanghebbenden (naast klanten)?

• Wat vinden zij belangrijk?
• Hoe komt het hen ten goede?
• Hoe kan technologie schadelijk voor hen zijn?

Het stellen van deze vragen maakt deel uit van een waardegevoelig ontwerp en vormt het startpunt voor het verkrijgen van meer inzicht in wat betrokkenen belangrijk vinden en welke rol dat speelt in hun relatie tot het product.

Soorten belanghebbenden

Projectsponsors

Deze categorie bestaat uit sponsors, besluitvormers en eigenaars. Hun waarden worden verwoord in de projectstrategie en de doelstellingen.

Technische bouwers

Ontwerpers, ontwikkelaars, projectmanagers en mensen die rechtstreeks aan het ontwerpen van systemen werken, vormen deze groep. Zij dragen hun eigen ethische en professionele normen en waarden bij aan het systeem.

Directe en indirecte belanghebbenden

Deze belanghebbenden worden aanzienlijk beïnvloed door het systeem. Degenen die worden beïnvloed, zijn eindgebruikers, softwaremedewerkers, klanten, omstanders, interfacing-instellingen en zelfs eerdere of toekomstige generaties. Niet-menselijke factoren zoals plaatsen, bijvoorbeeld historische gebouwen of heilige plekken, kunnen ook worden opgenomen.

Gemarginaliseerde populaties

Deze categorie bestaat uit populaties die regelmatig worden beschouwd als een minderheidsgroep, kwetsbare groep of gestigmatiseerde groep. Deze categorie omvat kinderen, ouderen, leden van de GAYQ+-gemeenschap, etnische minderheden en andere populaties die vaak unieke en onevenredige gevolgen ondervinden.

Schadelijke effecten beoordelen

Zodra u het doel, het gebruik en de belanghebbenden van de technologie hebt gedefinieerd, voert u een oefening voor modellering van schadelijke effecten uit om te evalueren hoe het gebruik van een technologie die u bouwt, negatieve gevolgen zou kunnen hebben voor mens en samenleving.

Downloaden in Microsoft Word

Het bovenstaande diagram is een voorbeeld van een evaluatie van schadelijke effecten. Dit model is een kwalitatieve benadering die wordt gebruikt om inzicht te krijgen in de mogelijke omvang van de schade.

U kunt deze ideatie-activiteit individueel voltooien, maar idealiter gebeurt dit in samenwerking tussen ontwikkelaars, gegevenswetenschappers, ontwerpers, gebruikersonderzoekers, besluitvormers en andere vakgebieden die betrokken zijn bij het bouwen van de technologie.

Suggesties voor beschrijvingen van schadelijke effecten:

• Bedoeld gebruik: Als [functie] is gebruikt voor [use case], kan [belanghebbende] [beschrijving van schade] ervaren.
• Onbedoeld gebruik: Als [gebruiker] heeft geprobeerd [functie] te gebruiken voor [use case], kan [belanghebbende] [beschrijving van schade] ervaren.
• Systeemfout: Als [functie] niet goed functioneert wanneer deze wordt gebruikt voor [use case], kan [belanghebbende] [beschrijving van schade] ervaren.
• Misbruik: [kwaadwillende] kan [functie] mogelijk gebruiken om [beschrijving van schadelijk effect] te veroorzaken op [belanghebbende].

Gebruik de categorieën, vragen en voorbeelden die worden beschreven in Soorten schadelijke effecten om specifieke ideeën te genereren over mogelijke schadelijke effecten. In het artikel worden diverse soorten schadelijke effecten vermeld, op basis van veelvoorkomende gevallen met negatieve gevolgen. U kunt aanvullende categorieën die relevant voor u zijn, aanpassen en opnemen.

Volgende stappen

Lees Soorten schadelijke effecten voor een verdere analyse van schadelijke effecten.