Grundlagen der Bewertung von Schäden

  • Artikel

Die Modellierung ist eine Vorgehensweise, die Sie dabei unterstützen soll, potenzielle Schäden vorherzusagen, Lücken in Produkten zu finden, die Personen gefährden könnten, und schließlich Ansätze zu entwickeln, mit denen Schäden proaktiv behandelt werden.

Zweck der Schadensmodellierung

Als Technologieentwickler ist Ihre Arbeit global. Das Entwerfen von vertrauenswürdiger KI erfordert das Erstellen von Lösungen, die ethische Prinzipien widerspiegeln und fest in wichtigen und zeitlosen Werten begründet liegen. Beim Entwerfen und Entwickeln von Technologien ist es von entscheidender Bedeutung, nicht nur die Idealergebnisse, sondern auch die negativen Ergebnisse zu beurteilen.

Technologie und Menschenrechte

Es ist mehr denn je wichtig, die Auswirkungen digitaler Technologien auf die Menschenrechte im Blick zu behalten. Neben dem dauerhaften Schutz von Privatsphäre und Sicherheit müssen Sie auch die Risiken von KI und anderen neuen Technologien berücksichtigen, z. B. der Gesichtserkennung. Die Geschichte lehrt uns, dass Menschenrechtsverletzungen nicht nur aus einer böswilligen Verwendung von Technologien resultieren, sondern auch aus einem Mangel an Bewusstsein bei Personen, die über gute Absichten verfügen. Da sich Microsoft dem Schutz der Menschenrechte verschrieben hat, ist das Unternehmen Partnerschaften mit wichtigen Beteiligten außerhalb der eigenen Branche eingegangen, einschließlich der Vereinten Nationen (UN).

Eine wichtige UN-Resolution, die unser Unternehmen tatkräftig unterstützt und die von mehr als 250 Nationen ratifiziert wurde, ist die Allgemeine Erklärung der Menschenrechte (AEMR). Die AEMR ist ein Meilenstein in der Geschichte. Die Erklärung wurde von einer vielschichtigen Gruppe globaler Rechts- und Kulturexperten entworfen und 1948 von der Generalversammlung der Vereinten Nationen als allgemeiner Erfolgsstandard für alle Völker und Nationen verkündet. Darin werden zum ersten Mal grundlegende Menschenrechte festgelegt, die universell geschützt werden müssen. Sie wurde in mehr als 500 Sprachen übersetzt. Darüber hinaus ist Microsoft eines von 4.700 Unternehmen, die den UN Global Compact unterzeichnet haben, eine internationale Unternehmensinitiative, die eine verantwortungsbewusste Unternehmenspolitik fördern soll.

Stakeholder process tableIn Microsoft Word herunterladen

Menschliches Verständnis

Neben der Berücksichtigung der Bedeutung von Menschenrechten erfordert die Erstellung vertrauenswürdiger Systeme auch, dass Sie die Perspektiven vieler unterschiedlicher Menschen in Erwägung ziehen. Die Frage, wer die Beteiligten sind, was sie schätzen, welche Vorteile sie erhalten können und wie sie durch Ihre Technologie verletzt werden könnten, ist ein enorm wichtiger Schritt, um bessere Produkte zu entwerfen und zu erstellen.

Auf wen wirkt sich die Technologie aus?

Wer sind die Kunden?

  • Was schätzen sie?
  • Wie sollten sie profitieren?
  • Wie könnte die Technologie ihnen schaden?

Wer sind andere Beteiligte als die Kunden?

  • Was schätzen sie?
  • Wie sollten sie profitieren?
  • Wie könnte die Technologie ihnen schaden?

Die Beantwortung dieser Fragen ist eine der Vorgehensweisen beim Value Sensitive Design (Entwicklung mit Rücksicht auf Werte) und der Einstiegspunkt, um besser verstehen zu können, was für Beteiligte wichtig ist und welche Rolle es in der Beziehung mit dem Produkt spielt.

Typen von Beteiligten

Projektsponsoren

Diese Kategorie umfasst Finanzierer, Entscheidungsträger und Besitzer. Ihre Werte werden in der Projektstrategie und den Zielen formuliert.

Technologieentwickler

Diese Gruppe bilden Designer, Entwickler, Projektmanager und Personen, die direkt mit dem Entwerfen von Systemen beschäftigt sind. Sie bringen ihre eigenen ethischen Standards und berufsspezifischen Werte in das System ein.

Direkt und indirekt Beteiligte

Auf diese Projektbeteiligten hat das System maßgeblichen Einfluss. Zu den betroffenen Personen gehören Endbenutzer, Softwaremitarbeiter, Kunden, Beobachter, beteiligte Institutionen und sogar vergangene oder zukünftige Generationen. Nichtmenschliche Faktoren wie Orte (z. B. historische Gebäude oder sakrale Räume) können ebenfalls eingeschlossen werden.

Marginalisierte Bevölkerungsgruppen

Diese Kategorie umfasst Bevölkerungsgruppen, die häufig als Minderheit, schwach oder stigmatisiert angesehen wird. Zu dieser Kategorie gehören Kinder, ältere Menschen, Mitglieder der LGBTQ+-Community, ethnische Minderheiten und andere Bevölkerungsgruppen, die häufig einzigartige und unverhältnismäßige Konsequenzen erleben.

Bewerten von Schäden

Nachdem Sie den Zweck der Technologie, Anwendungsfälle und beteiligte Personen definiert haben, führen Sie eine Übung zur Schadensmodellierung durch, um potenzielle Möglichkeiten der Verwendung der entwickelten Technologie zu bewerten.

Harms modeling overviewIn Microsoft Word herunterladen

Das obige Diagramm ist ein Beispiel für eine Schadensbewertung. Bei diesem Modell handelt es sich um einen qualitativen Ansatz, der genutzt wird, um das potenzielle Ausmaß von Schäden zu verstehen.

Sie können diese ideelle Aktivität einzeln ausführen, im Idealfall wird sie aber in Zusammenarbeit mit Entwicklern, Data Scientists, Designern, Benutzerforschern, Entscheidungsträgern im Unternehmen und anderen Disziplinen durchgeführt, die an der Entwicklung der Technologie beteiligt sind.

Vorschläge für Schadensbeschreibungen:

  • Beabsichtigte Verwendung: Wenn [Feature] für [Anwendungsfall] verwendet wurde, dann könnte [Beteiligtem] der Schaden [Schadensbeschreibung] entstehen.
  • Nicht beabsichtigte Verwendung: Wenn [Benutzer] versucht, [Feature] für [Anwendungsfall] zu verwenden, dann könnte [Beteiligtem] der Schaden [Schadensbeschreibung] entstehen.
  • Systemfehler: Wenn [Feature] bei der Verwendung für [Anwendungsfall] nicht richtig funktioniert, dann könnte [Beteiligtem] der Schaden [Schadensbeschreibung] entstehen.
  • Missbrauch: [Böswilliger Akteur] könnte möglicherweise [Feature] verwenden, um [Beteiligtem] den Schaden [Schadensbeschreibung] zuzufügen.

Verwenden Sie die Kategorien, Fragen und Beispiele, die unter Schadenstypen beschrieben sind, um verschiedene Ideen für das Auftreten von Schäden zu gewinnen. In diesem Artikel werden Schadenskategorien aufgelistet, die häufig negative Auswirkungen haben. Ergänzen Sie weitere Kategorien, die für Sie relevant sind, und passen Sie diese an.

Nächste Schritte

Lesen Sie Schadenstypen, um mehr über die Analyse von Schäden zu erfahren.