Zararları değerlendirmeyle ilgili temel bilgiler
Zarar Modellemesi olası zararları tahmin etmenize, üründe kullanıcıları riske atabilecek boşlukları tespit etmenize ve böylece zararlı durumlara karşı proaktif yaklaşımlar oluşturmanıza yardımcı olmak için tasarlanmıştır.
Zarar modellemesi neden kullanılmalıdır?
Teknolojiyi oluşturan kişiler olarak global çalışmalar yapıyorsunuz. Yapay zekanın güvenilir olacak biçimde tasarlanması için, önemli ve zamandan bağımsız değerlere dayanan etik ilkeleri yansıtan çözümler oluşturulması gerekir. Teknolojilerinizi tasarlayıp oluştururken yalnızca ideal sonuçları değil, aynı zamanda olumsuz ihtimalleri de değerlendirmek gerekir.
Teknoloji ve insan hakları
Dijital teknolojinin insan hakları üzerindeki etkisinin farkında olmak her zaman önemlidir. Gizliliği ve güvenliği korumayı sürdürmek için, yapay zekanın ve yüz tanıma gibi yeni ortaya çıkan diğer teknolojilerin risklerini göz önünde bulundurmak zorundayız. Tarih, insan hakları ihlallerinin yalnızca teknolojinin kötü kullanımından değil, iyi niyetli olanlar arasındaki farkındalık eksikliğinden kaynaklansa da olduğunu öğretir. Microsoft, şirketimizin insan haklarını koruma konusuna gösterdiği hassasiyet dolayısıyla, Birleşmiş Milletler (BM) de dahil olmak üzere sektörümüzün dışındaki önemli taraflarla bir iş ortaklığı kurdu.
Şirketimizin güçlü bir şekilde desteklediği BM ilkelerinden biri, 250’den fazla ulusun da onayladığı İnsan Hakları Evrensel Beyannamesi’dir (UDHR). UDHR, kilometre taşı niteliğinde bir belgedir. Tüm dünyadan hukuk ve kültür uzmanlarından oluşan karışık bir grup tarafından hazırlanan bu beyanname, 1948’de Birleşmiş Milletler Genel Kurulu tarafından tüm insanların ve tüm ulusların ulaşması gereken ortak bir standart olarak yayınlanmıştır. Temel insan haklarının evrensel olarak korunması, ilk kez bu belgeyle belirtilmiştir. 500’den fazla dile çevrilmiştir. Ayrıca Microsoft, kurumsal sosyal sorumluluğu geliştirmeyi amaçlayan uluslararası bir iş girişimi olan Küresel İlkeler Sözleşmesi’ni imzalayan 4.700 kurumsal şirketten biridir.
İnsan anlayışı
İnsan haklarının anlaşılmasının yanı sıra, güvenilir sistemler oluşturmak için birçok kişinin bakış açısının da dikkate alınması gerekir. Katılımcıların kim olduklarını, neye değer verdiklerini, teknolojimizden nasıl faydalanacaklarını ve nasıl zarar görebileceklerini bilmek, daha iyi ürünler tasarlayıp oluşturmamızı sağlayan güçlü bir adımdır.
Teknoloji kimi etkiliyor?
Müşteriler kimler?
- Müşteriler neye değer veriyor?
- Nasıl bir fayda sağlanacak?
- Teknoloji nasıl bir zarar verebilir?
Müşteri olmayan katılımcılar kimler?
- Müşteriler neye değer veriyor?
- Nasıl bir fayda sağlanacak?
- Teknoloji nasıl bir zarar verebilir?
Bu soruların sorulması, Değere Duyarlı Tasarım uygulamalarından biridir. Katılımcıların neye önem verdiğini ve bunun ürünle olan ilişkilerinde nasıl bir rol oynayacağını daha iyi anlamak için öncelikle bunlar gereklidir.
Katılımcı türleri
Proje sponsorları
Bu kategoride destekçiler, karar alma yetkisi olanlar ve sahipler yer alır. Bu tarafların değerleri, proje stratejisiyle ve hedeflerle ifade edilir.
Teknolojiyi oluşturanlar
Tasarımcılar, geliştiriciler, proje yöneticileri ve doğrudan sistem tasarlama üzerinde çalışan kişiler bu grubu tasarlar. Kendi etik standartlarını ve mesleki değerlerini sisteme yansıtırlar.
Doğrudan & dolaylı paydaşlar
Sistem, bu katılımcıları önemli ölçüde etkiler. Bu etkiyi olanlar arasında son kullanıcılar, yazılım personeli, müşteriler, bystanders, interfacing institutions ve hatta geçmiş veya gelecek nesiller yer almaktadır. Tarihi binalar veya kutsal yerler gibi insan dışı faktörler de buna dahil edilebilir.
Ötekileştirilmiş topluluklar
Bu kategoride sıkça azınlık, savunmasız veya damgalanmış olarak değerlendirilen topluluklar yer alır. Bu kategori çocuklar, gençleri, LGBTQ+ topluluğu üyelerini, etnik kökenleri ve genellikle benzersiz ve orantısız sonuçlarla karşı karşılan diğer popülasyonları içerir.
Zararı Değerlendirme
Teknolojinin amacını, kullanım örneklerini ve katılımcılarını belirlediğinizde, oluşturduğunuz teknolojinin insanlar ve toplum üzerinde olumsuz sonuçlara neden olabilecek olası kullanımlarını değerlendirmek için bir Zarar Modellemesi yapın.
Yukarıdaki diyagram bir zarar değerlendirmesi örneğidir. Bu model, olası zarar büyüklüğünü anlamak için kullanılan nitel bir yaklaşımdır.
Bu düşünsel etkinliği bireysel olarak da gerçekleştirebilirsiniz. Ancak ideal olan, bunun geliştiriciler, veri bilimcileri, tasarımcılar, kullanıcı araştırmacıları, işle ilgili kararları alanlar ve teknoloji oluşturma sürecine katkıda bulunan diğer disiplinlerle işbirliği içinde yürütülmesidir.
Zarar açıklaması bildirimleri için öneriler:
- Amaçlanan kullanım: [özellik] [kullanım durumu] için kullanılıyorsa, [paydaş] [zarar açıklaması] ile karşılasa.
- Un intended use: [user] if use [feature] for [use case] ([kullanım durumu] için [feature] kullanmayı denemişse[ paydaş] [zarar açıklaması] ile karşıdan genişletilebilir.
- Sistem hatası: [özellik] [kullanım durumu] için kullanılırken düzgün şekilde çalışmazsa[paydaş] [zarar açıklaması] ile sonuçlanabilecektir.
- Kötüye kullanma: [Kötü amaçlı kişi], [özellik] yoluyla [katılımcıyı] [zarar açıklaması] ile karşı karşıya bırakabilir.
Zarara neden olabilecek durumlara ilişkin fikir üretmek için bu kategorilerden, sorulardan ve Zarar türleri bölümünde açıklanan örneklerden faydalanın. Bu makalede, sıkça karşılaşılan etki alanlarına dayalı olarak, zarar kategorilerinin bir listesi verilmiştir. Kendi çalışmanızla ilgili olan kategorileri kullanın.
Sonraki Adımlar
Zararlara ilişkin daha ayrıntılı bir analiz için Zarar türleri bölümünü okuyun.