Základy posuzování škod

Modelování škod je postup navržený tak, aby vám pomohl odhadnout potenciální škody, identifikovat nedostatky produktu, které by mohly ohrozit lidi, a nakonec vytvořit přístupy, které potenciální škody aktivně řeší.

Proč modelování škod?

Vzhledem k tomu, že vytváříte technologie, je vaše práce globální. Návrh důvěryhodného AI vyžaduje vytvoření řešení, která odrážejí etické principy hluboko zakořeněné v důležitých a nadčasových hodnotách. Při navrhování a sestavování technologií je důležité vyhodnotit nejen ideální výsledky, ale také možná negativa.

Technologie a lidská práva

Je stále nesmírně důležité uvědomovat si, jakým způsobem digitální technologie mohou ovlivňovat lidská práva. Kromě setrvalé ochrany osobních údajů a zabezpečení je potřeba vyřešit rizika AI a dalších vznikajících technologií, jako je rozpoznávání obličeje. Historie nám ukazuje, že k porušování lidských práv nedochází jenom v důsledku nekalého využití technologie, ale také kvůli nedostatečnému povědomí těch, jejichž úmysly jsou dobré. V rámci úsilí o ochranu lidských práv Microsoft posiluje partnerství s důležitými subjekty mimo svoje odvětví, včetně Organizace spojených národů (OSN).

Důležitou součástí principů OSN, kterou naše společnost pevně podporuje a která byla ratifikována více 250 členy, je Všeobecná deklarace lidských práv. Všeobecná deklarace lidských práv je zásadní dokument. Tato deklarace, jejíž koncept vypracovala mezinárodní skupina odborníků na právo a kulturní tradice, byla Organizací spojených národů v roce 1948 prohlášena za společný výchozí bod pro všechny mezinárodní lidskoprávní úmluvy. Poprvé stanovuje všeobecnou ochranu základních lidských práv. Byla přeložena do více než 500 jazyků. Microsoft je navíc jedním ze 4 700 firemních signatářů UN Global Compactu. Tato mezinárodní iniciativa je zaměřená na propagaci zodpovědných občanských praktik v podnikatelské sféře.

Stáhnout v Microsoft Wordu

Lidské porozumění

Sestavování důvěryhodných systémů kromě uznání důležitosti lidských práv po nás také vyžaduje, abychom zvážili různé pohledy celé řady osob. Důležitým krokem, který nám umožní navrhovat a sestavovat lepší produkty, je položit si otázky, kdo jsou zúčastněné strany, jaké získají výhody a jak jim naše technologie může uškodit.

Koho tato technologie ovlivní?

Kdo jsou její zákazníci?

• Jaké mají hodnotové žebříčky?
• Jaké získají výhody?
• Jak by jim mohla technologie uškodit?

Kdo jsou zúčastněné strany (kromě zákazníků)?

• Jaké mají hodnotové žebříčky?
• Jaké získají výhody?
• Jak by jim mohla technologie uškodit?

Kladení těchto otázek je jedním z postupů hodnotově citlivého designu a je základem lepšího porozumění tomu, co je pro zúčastněné strany důležité a jak to souvisí s jejich vztahem k danému produktu.

Typy zúčastněných stran

Sponzoři projektu

Tuto kategorii tvoří podporovatelé, osoby s rozhodovací pravomocí a vlastníci. Jejich hodnoty vyjadřují cíle a strategie projektu.

Tvůrci technologií

Tuto skupinu tvoří návrháři, vývojáři, projektoví manažeři a osoby přímo pracující na návrhu systémů. Do systému vnášejí vlastní etické standardy a hodnoty specifické pro konkrétní profese.

Přímí a nepřímí účastníci

Tyto zúčastněné strany jsou systémem výrazně ovlivněné. Patří sem koncoví uživatelé, softwaroví pracovníci, klienti, pozorovatelé, spolupracující instituce a dokonce i minulé nebo budoucí generace. Mohou sem spadat i jiné než lidské faktory, například historické budovy nebo posvátná místa.

Opomíjené obyvatelstvo

Tuto kategorii tvoří část obyvatelstva, která je často považovaná za minoritní, zranitelnou nebo stigmatizovanou. Patří sem děti, starší generace, členové LGBTQ+ komunity, etnické menšiny a další části populace, které se často setkávají se specifickými nebo nepřiměřenými následky.

Posouzení škod

Jakmile definujete technologický účel, případy použití a zúčastněné strany, proveďte modelování škod a vyhodnoťte potenciální způsoby využití vytvářené technologie, které by mohly vést k negativním výsledkům pro lidi a společnost.

Stáhnout v Microsoft Wordu

Příkladem posouzení škod je výše uvedený diagram. Jedná se o kvalitativní přístup, který slouží k pochopení rozsahu potenciálních škod.

Tuto aktivitu můžete realizovat individuálně, ale v ideálním případě se v jejím rámci využívá spolupráce mezi vývojáři, odborníky na data, návrháři, uživatelským výzkumníkem, pracovníky s rozhodovací pravomocí a dalšími disciplínami, které se podílejí na sestavování příslušné technologie.

Návrhy pro vyjádření popisu škod:

• Zamýšlené použití: Pokud se [funkce] použije pro [případ použití], [zúčastněné straně] by mohla vzniknout škoda ([popis škody]).
• Nezamýšlené použití: Pokud se [uživatel] pokusí využít [funkci] pro [případ použití], [zúčastněné straně] by mohla vzniknout škoda ([popis škody]).
• Chyba systému: Pokud [funkce] nebude fungovat správně při použití pro [případ použití], [zúčastněné straně] by mohla vzniknout škoda ([popis škody]).
• Zneužití: [Aktér se zlými úmysly] může potenciálně využít [funkci] k tomu, aby [zúčastněné straně] způsobil škodu ([popis škody]).

Kategorie, otázky a příklady popsané v článku Typy škod použijte k vygenerování konkrétních nápadů, jak by mohlo dojít ke škodám. V článku jsou uvedeny kategorie škod, které vycházejí z běžných oblastí negativních dopadů. Přizpůsobte a zařaďte další kategorie, které jsou pro vás relevantní.

Další kroky

Další analýzy škod najdete v článku Typy škod.