Grundlagen der Bewertung von SchädenFoundations of assessing harm

Die Modellierung ist eine Vorgehensweise, die Sie dabei unterstützen soll, potenzielle Schäden vorherzusagen, Lücken in Produkten zu finden, die Personen gefährden könnten, und schließlich Ansätze zu entwickeln, mit denen Schäden proaktiv behandelt werden.Harms Modeling is a practice designed to help you anticipate the potential for harm, identify gaps in product that could put people at risk, and ultimately create approaches that proactively address harm.

Zweck der SchadensmodellierungWhy harms modeling?

Als Technologieentwickler ist Ihre Arbeit global.As technology builders, your work is global. Das Entwerfen von vertrauenswürdiger KI erfordert das Erstellen von Lösungen, die ethische Prinzipien widerspiegeln und fest in wichtigen und zeitlosen Werten begründet liegen.Designing AI to be trustworthy requires creating solutions that reflect ethical principles deeply rooted in important and timeless values. Beim Entwerfen und Entwickeln von Technologien ist es von entscheidender Bedeutung, nicht nur die Idealergebnisse, sondern auch die negativen Ergebnisse zu beurteilen.In the process of designing and building your technologies, it is essential to evaluate not only ideal outcomes, but possible negative ones as well.

Technologie und MenschenrechteTechnology and human rights

Es ist mehr denn je wichtig, die Auswirkungen digitaler Technologien auf die Menschenrechte im Blick zu behalten.It is as important as ever to be aware of how digital technology could impact human rights. Neben dem dauerhaften Schutz von Privatsphäre und Sicherheit müssen Sie auch die Risiken von KI und anderen neuen Technologien berücksichtigen, z. B. der Gesichtserkennung.In addition to continuing to protect privacy and security, we must address the risks of AI and other emerging technologies, such as facial recognition. Die Geschichte lehrt uns, dass Menschenrechtsverletzungen nicht nur aus einer böswilligen Verwendung von Technologien resultieren, sondern auch aus einem Mangel an Bewusstsein bei Personen mit guten Absichten.History teaches us that human rights violations not only result from the nefarious use of technology, but also from a lack of awareness amongst those with good intentions. Da sich Microsoft dem Schutz der Menschenrechte verschrieben hat, ist das Unternehmen Partnerschaften mit wichtigen Beteiligten außerhalb der eigenen Branche eingegangen, einschließlich der Vereinten Nationen (UN).As a part of our company's dedication to the protection of human rights, Microsoft forged a partnership with important stakeholders outside of our industry, including the United Nations (UN).

Eine wichtige UN-Resolution, die unser Unternehmen tatkräftig unterstützt und die von mehr als 250 Nationen ratifiziert wurde, ist die Allgemeine Erklärung der Menschenrechte (AEMR).An important set of UN principles that our company firmly supports, which was ratified by over 250 nations, is the Universal Declaration of Human Rights (UDHR). Die AEMR ist ein Meilenstein in der Geschichte.The UDHR is a milestone document. Die Erklärung wurde von einer vielschichtigen Gruppe globaler Rechts- und Kulturexperten entworfen und 1948 von der Generalversammlung der Vereinten Nationen als allgemeiner Erfolgsstandard für alle Völker und Nationen verkündet.Drafted by a diverse global group of legal and cultural experts, the Declaration was proclaimed by the United Nations General Assembly in 1948 as a common standard of achievements for all peoples and all nations. Darin werden zum ersten Mal grundlegende Menschenrechte festgelegt, die universell geschützt werden müssen.It sets out, for the first time, fundamental human rights to be universally protected. Sie wurde in mehr als 500 Sprachen übersetzt.It has been translated into over 500 languages. Darüber hinaus ist Microsoft eines von 4.700 Unternehmen, die den UN Global Compact unterzeichnet haben, eine internationale Unternehmensinitiative, die eine verantwortungsbewusste Unternehmenspolitik fördern soll.Additionally, Microsoft is one of 4,700 corporate signatories to the UN Global Compact, an international business initiative designed to promote responsible corporate citizenship.

Diagramm der Projektbeteiligten In Microsoft Word herunterladenStakeholder process table Download in Microsoft Word

Menschliches VerständnisHuman understanding

Neben der Berücksichtigung der Bedeutung von Menschenrechten erfordert die Erstellung vertrauenswürdiger Systeme auch, dass Sie die Perspektiven vieler unterschiedlicher Menschen in Erwägung ziehen.In addition to appreciating the importance of human rights, building trustworthy systems requires us to consider many people's perspectives. Die Frage, wer die Beteiligten sind, was sie schätzen, welche Vorteile sie erhalten können und wie sie durch Ihre Technologie verletzt werden könnten, ist ein enorm wichtiger Schritt, um bessere Produkte zu entwerfen und zu erstellen.Asking who the stakeholders are, what they value, how they could benefit, and how they could be hurt by our technology, is a powerful step that allows us to design and build better products.

Auf wen wirkt sich die Technologie aus?Who does the technology impact?

Wer sind die Kunden?Who are the customers?

  • Was schätzen sie?What do they value?
  • Wie sollten sie profitieren?How should they benefit?
  • Wie könnte die Technologie ihnen schaden?How could tech harm them?

Wer sind andere Beteiligte als die Kunden?Who are the non-customer stakeholders?

  • Was schätzen sie?What do they value?
  • Wie sollten sie profitieren?How should they benefit?
  • Wie könnte die Technologie ihnen schaden?How could tech harm them?

Die Beantwortung dieser Fragen ist eine der Vorgehensweisen beim Value Sensitive Design (Entwicklung mit Rücksicht auf Werte) und der Einstiegspunkt, um besser verstehen zu können, was für Beteiligte wichtig ist und welche Rolle es in der Beziehung mit dem Produkt spielt.Asking these questions is a practice in Value Sensitive Design and is the beginning to better understanding what is important to stakeholders, and how it plays into their relationship with the product.

Typen von BeteiligtenTypes of stakeholders

ProjektsponsorenProject sponsors

Diese Kategorie umfasst Finanzierer, Entscheidungsträger und Besitzer.Backers, decision makers, and owners make up this category. Ihre Werte werden in der Projektstrategie und den Zielen formuliert.Their values are articulated in the project strategy and goals.

TechnologieentwicklerTech builders

Diese Gruppe bilden Designer, Entwickler, Projektmanager und diejenigen, die direkt mit dem Entwerfen von Systemen beschäftigt sind.Designers, developers, project managers, and those working directly on designing systems make up this group. Sie bringen ihre eigenen ethischen Standards und berufsspezifischen Werte in das System ein.They bring their own ethical standards and profession-specific values to the system.

Direkt und indirekt BeteiligteDirect & indirect stakeholders

Auf diese Projektbeteiligten hat das System maßgeblichen Einfluss.These stakeholders are significantly impacted by the system. Hierzu gehören Endbenutzer, Softwaremitarbeiter, Kunden, Beobachter, beteiligte Institutionen und sogar vergangene oder zukünftige Generationen.This includes end users, software staff, clients, bystanders, interfacing institutions, and even past or future generations. Nichtmenschliche Faktoren wie Orte (z. B. historische Gebäude oder sakrale Räume) können ebenfalls eingeschlossen werden.Non-human factors such as places, for example, historic buildings or sacred spaces, may also be included.

Marginalisierte BevölkerungsgruppenMarginalized populations

Diese Kategorie umfasst Bevölkerungsgruppen, die häufig als Minderheit, schwach oder stigmatisiert angesehen wird.This category is made up of the population frequently considered a minority, vulnerable, or stigmatized. Hierzu gehören Kinder, ältere Menschen, Mitglieder der LGBTQ+-Community, ethnische Minderheiten und andere Bevölkerungsgruppen, die häufig einzigartige und unverhältnismäßige Konsequenzen erleben.This includes children, the elderly, members of the LGBTQ+ community, ethnic minorities, and other populations who often experience unique and disproportionate consequences.

Bewerten von SchädenAssessing Harm

Nachdem Sie den Zweck der Technologie, Anwendungsfälle und beteiligte Personen definiert haben, führen Sie eine Übung zur Schadensmodellierung durch, um potenzielle Möglichkeiten der Verwendung der entwickelten Technologie zu bewerten.Once you have defined the technology purpose, use cases, and stakeholders, conduct a Harms Modeling exercise to evaluate potential ways the use of a technology you are building could result in negative outcomes for people and society.

Übersicht über die Schadensmodellierung In Microsoft Word herunterladenHarms modeling overview Download in Microsoft Word

Das obige Diagramm ist ein Beispiel für eine Schadensbewertung.The diagram above is an example of a harms evaluation. Dies ist ein qualitativer Ansatz, der zum Verständnis potenzieller Schäden dient.This is a qualitative approach used to understand potential magnitude of harm.

Sie können diese ideelle Aktivität einzeln ausführen, im Idealfall wird sie aber in Zusammenarbeit mit Entwicklern, Data Scientists, Designern, Benutzerforschern, Entscheidungsträgern im Unternehmen und anderen Disziplinen durchgeführt, die an der Entwicklung der Technologie beteiligt sind.You can complete this ideation activity individually, but ideally it is conducted as collaboration between developers, data scientists, designers, user researcher, business decision-makers, and other disciplines that are involved in building the technology.

Vorschläge für Schadensbeschreibungen:Suggestions for harm description statements:

  • Beabsichtigte Verwendung: Wenn [Feature] für [Anwendungsfall] verwendet wurde, könnte [Beteiligtem] der Schaden [Schadensbeschreibung] entstehen.Intended use: If [feature] was used for [use case], [stakeholder] could experience [harm description].
  • Nicht beabsichtigte Verwendung: Wenn [Benutzer] versucht, [Feature] für [Anwendungsfall] zu verwenden, könnte [Beteiligtem] der Schaden [Schadensbeschreibung] entstehen.Unintended use: If [user] tried to use [feature] for [use case], [stakeholder] could experience [harm description].
  • Systemfehler: Wenn [Feature] bei der Verwendung für [Anwendungsfall] nicht ordnungsgemäß funktioniert, könnte [Beteiligtem] der Schaden [Schadensbeschreibung] entstehen.System error: If [feature] failed to function properly when used for [use case], [stakeholder] could experience [harm description].
  • Missbrauch: [Böswilliger Akteur] könnte möglicherweise [Feature] verwenden, um [Beteiligtem] den Schaden [Schadensbeschreibung] zuzufügen.Misuse: [Malicious actor] could potentially use [feature], to cause [harm description] to [stakeholder].

Verwenden Sie die Kategorien, Fragen und Beispiele, die unter Schadenstypen beschrieben sind, um verschiedene Ideen für das Auftreten von Schäden zu gewinnen.Use the categories, questions, and examples described in the Types of harm to generate specific ideas for how harm could occur. In diesem Artikel werden Schadenskategorien aufgelistet, die häufig negative Auswirkungen haben.The article lists categories of harms, that are based upon common negative impact areas. Ergänzen Sie weitere Kategorien, die für Sie relevant sind, und passen Sie diese an.Adapt and adopt additional categories that are relevant to you.

Nächste SchritteNext Steps

Lesen Sie Schadenstypen, um mehr über die Analyse von Schäden zu erfahren.Read Types of harm for further harms analysis.