Kişiselleştirici sorumlu uygulamasına ilişkin yönergeler

  • Makale
  • Okumak için 11 dakika

Kişiler ve topluluğu 'ın AI 'nin tüm potansiyelini karşılamalarını sağlamak için, uygulamaların uygulamalara AI ekledikleri güvenlerini ve AI ile derlenen uygulamaların kullanıcılarını elde ettikleri şekilde tasarlanmaları gerekir. Bu yönergeler, şirketinizde ve hizmetinizde güven oluşturmanıza yardımcı olacak bir şekilde kişiselleştirici uygulamanıza yardımcı olmaya yönelik olarak tasarlanmıştır. Araştırmayı durakladığınızdan emin olun, insanların yaşamına yönelik olarak kişiselleştirmenin etkisini öğrenin ve bilinçli edin. Şüpheli, Arama Kılavuzu.

Bu yönergeler yasal öneri olarak düşünülmemiştir ve uygulamanızın bu alandaki ve sektörün yasaların hızlı ilerlekiyle uyumlu olması için ayrı olarak emin olmanız gerekir.

Ayrıca, kişiselleştirici kullanarak uygulamanızı tasarlarken, her türlü veri merkezli AI sistemi geliştirirken, etklilik, gizlilik, güvenlik, güvenlik, içerme, saydamlık ve sorumluluk dahil olmak üzere sahip olduğunuz çok sayıda sorumluluğu göz önünde bulundurmanız gerekir. Önerilen okuma bölümünde bunlar hakkında daha fazla bilgi edinebilirsiniz.

Aşağıdaki içeriği bir başlatıcı denetim listesi olarak kullanabilir ve senaryonuza özelleştirip geliştirebilirsiniz. Bu belgenin iki ana bölümü vardır: ilki, Kişiselleştiriciye yönelik senaryolar, Özellikler ve ödüller seçerken sorumlu kullanım konularını vurgulamak için ayrılmıştır. İkincisi, Microsoft 'un AI sistemleri derlerken göz önünde bulundurulması gereken bir değer kümesi alır ve kişiselleştirici kullanım kullanmanın bunları nasıl etkilediği hakkında eylem yapılabilir öneriler ve riskler sağlar.

Sorumluluğu

Sorumlu uygulamaya yönelik tüm yönergeler, bu algoritmaları Topluluğu ' de kullanmanın etkileri açısından, geliştiricilerin ve işletmelerin kişiselleştirici ve sorumlu olduğunu temel alır. Kuruluşunuzun dağıtabolacağı bir uygulama geliştiriyorsanız, işlemi için rol ve sorumluluğun yanı sıra kişileri nasıl etkileyeceğini de bilmelisiniz. Üçüncü taraf tarafından dağıtılacak bir uygulama tasarladıysanız, uygulamanın davranışından sorumlu olan ve öğrenmiş olan belge ile paylaşılan bir anlama gelin.

Güven, karşılamış taahhütler kavramı üzerine kurulmuştur. kullanıcılarınızı, topluluğu ve uygulamalarınızın üzerinde çalıştıkları geçerli çatıyı, sahip oldukları açık ve örtük taahhütlerini belirlemek için göz önünde bulundurun.

Microsoft, bu sorumluluklar üzerinde işlem yapmanıza yardımcı olmak için sürekli olarak kendi araçlarına ve belgelerine bir çaba yerleştiriliyor. Ek araçlara inanıyorsanız, ürün özellikleri ve belgelerinin kişiselleştirici kullanımı için bu yönergeleri uygulamanıza yardımcı olacağını Microsoft 'a geri bildirim sağlayın .

Kişiselleştirici uygulayan bir sorumlu için etken

Kişiselleştirici uygulama, kullanıcılarınız ve işletmeniz için harika bir değer olabilir. Kişiselleştirici sorumlu uygulamak için aşağıdaki yönergeleri göz önünde bulundurarak başlatın:

  • Kişiselleştirmeyi uygulamak için kullanım durumlarını seçme.
  • Ödül işlevlerioluşturma.
  • Bağlam ve kişiselleştirme için kullanacağınız olası eylemlerle ilgili özellikleri seçme.

Kişiselleştirici için kullanım örneklerini seçme

İçeriği ve kullanıcı arabirimlerini kişiselleştirmek için öğrenmiş bir hizmet kullanmak faydalıdır. Bu, kişiselleştirmenin gerçek dünyada negatif yan etkileri oluşturmasının, kullanıcılar içerik kişiselleştirmenin farkında olup olmadığı da dahil olmak üzere, yanlış bir şekilde uygulanabilir.

Negatif yan etkileri veya "ödül", bir hızlı bir şekilde daha fazla basitleştirilmesi gereken çok sayıda uzun süreli karmaşık faktörlere bağlı olduğunda, bu durum, bir yandan elde edilen birçok karmaşık etkene bağlı olan kişiselleştirici kullanımı örnekleri. Bu, "SONUÇSAL" seçimler veya bir zarar riski içeren seçimler olarak değerlendirilir. Örnek:

  • Finans: kredi, mali ve sigorta ürünlerinin tekliflerini kişiselleştirmek, risk faktörleri kişilerin bilgi sahibi olmadığı, bu bilgileri edinemediğini veya itiraz etmediğini öğrenmez.
  • Eğitim: önerilerin okullara ve eğitim kurumlarına yönelik dereceleri kişiselleştirilmesi ve bunların diğer seçeneklere yönelik kullanıcıların farkında olabileceğini tahmin etmek.
  • Democracy ve Cıvic katılımı: Kullanıcı için içerik kişiselleştirilmesi, etkili bir şekilde opvaons
  • Üçüncü taraf ödül değerlendirmesi: kullanıcının kendi davranışından bir değerlendirme yapmak yerine, kullanıcının bir ikinci üçüncü taraf değerlendirmesini temel alan öğelerin kişiselleştirilmesi.
  • Araştırmayla Ilgili toleranslı: kişiselleştiriciye ait araştırma davranışının zararlı olmasına neden olabilecek herhangi bir durum.

Kişiselleştirici için kullanım durumları seçerken:

  • Kişiselleştirmenin kullanıcılarınıza nasıl yardımcı olduğunu göz önünde bulundurarak tasarım sürecini başlatın.
  • Kişiselleştirme desenleri veya araştırması nedeniyle bazı öğeler kullanıcılar için derecelendirilmemişse gerçek dünyada olumsuz sonuçları göz önünde bulundurun.
  • Kullanım durumlarınızın otomatik işleme oluşturduğunu, GDPR article 22 veya diğer yasalar kapsamında düzenlenen veri konularını önemli ölçüde etkilediği konusunda düşünün.
  • Kendi kendini karşılayan Prophecy döngülerini düşünün. Bu durum, bir kişiselleştirmenin bir modeli daha sonra ilgili içeriğe erişimini daha sonra daha sonra dışlanmasını sağlamak için meydana gelebilir. Örneğin, düşük bir gelir alanındaki kişilerin çoğu Premium bir sigorta teklifi elde etmeyin ve komşulardan hiç kimse, yeterince araştırma olmaması durumunda teklifi bir bütün olarak görebilir.
  • Daha sonra kişiselleştirici yeniden oluşturulması gereken durumlarda modellerin ve öğrenme ilkelerinin kopyalarını kaydedin. Bu işlemi düzenli aralıklarla veya her model yenileme döneminde yapabilirsiniz.
  • Alan için araştırma düzeyini göz önünde bulundurun ve "yankı oluklığı" efektlerini azaltmak için bunu bir araç olarak nasıl kullanacağınızı düşünün.

Kişiselleştirici için özellikleri seçme

İçeriği kişiselleştirmek, içerik ve Kullanıcı hakkında faydalı bilgiler olmasına bağlıdır. Bazı uygulamalar ve sektörler için bazı kullanıcı özelliklerinin doğrudan veya dolaylı olarak Discriminatory ve potansiyel olarak kabul edilebilir olduğunu aklınızda bulundurun.

Bu özelliklerin etkisini göz önünde bulundurun:

  • Kullanıcı demografu: cinsel, cinsiyet, yaş, Yarış, dini ile ilgili Özellikler: Bu özelliklere, yasal nedenlerle belirli uygulamalarda izin verilmiyor olabilir ve kişiselleştirmenin genelleştirilmesi ve sapması yaydığı için bu özelliklere, bunları kişiselleştirmek için de hiç bir çözüm bulunmayabilir. Bu sapma yayılmaya bir örnek, Mühendislik için, ELDERLY veya cinsiyet tabanlı hedef kitlelere gösterilmeyecek bir iş postadır.
  • Yerel ayar bilgileri: dünyanın birçok yerinde, konum bilgileri (örneğin, bir posta kodu, posta kodu veya komşuları adı) gelir, yarış ve dini ile yüksek bir şekilde bağıntılı olabilir.
  • Eşitliği 'ın Kullanıcı tarafından algılanma sayısı: Uygulamanızın ses kararları aldığı durumlarda bile, uygulamanızda görüntülenen içeriğin Discriminatory olabilecek özelliklerle bağıntılı bir şekilde değişeceği şekilde, kullanıcılar perceiving ' un etkisini göz önünde bulundurun.
  • Özelliklerde ISTENMEDEN sapma: yalnızca popülasyonun bir alt kümesini etkileyen özellikler kullanılarak tanıtılamayabilir. Bu, bir resimdeki öğeleri ayıklamak için görüntü analizini veya metin içindeki varlıkları bulmaya yönelik metin analizinde olduğu gibi, Özellikler oluşturulduysa daha fazla dikkat gerektirir. Bu özellikleri oluşturmak için kullandığınız hizmetlerin özelliklerinden haberdar olun.

İçerik ve eylemlerde, Kişiselleştiriciye göndermek için özellikler seçerken aşağıdaki uygulamaları uygulayın:

  • Bazı uygulamalar için belirli özellikleri kullanmanın yasallığını ve ahiteyi göz önünde bulundurun ve masum görünümlü özelliklerin,
  • Algoritmaların ve veri analizinin göreceği seçenekleri kişiselleştirmek için kullanıldığı kullanıcılara saydam olun.
  • Kendinize sorun: kullanıcılarınızın içeriği kişiselleştirmek için bu bilgileri kullandım. Belirli öğeleri vurgulamak veya gizlemek için kararının nasıl yapıldığını rahatlıkla göstermem gerekir mi?
  • Diğer özelliklere göre sınıflandırma veya segmentasyon verileri yerine davranış kullanın. Demografik bilgileri, geçmiş nedenlerle perakendeciler tarafından, bir dijital çağdan önce toplanması ve üzerinde işlem yapması basit olan, ancak ilgili demografik özelliklerinin, Kullanıcı tercihleri ve kimliğiyle daha yakından ilgili olan gerçek etkileşim, bağlamsal ve geçmiş verileriniz olduğunda nasıl olduğunu sorulıydı.
  • Özelliklerin kötü amaçlı kullanıcılar tarafından ' sahte ' olarak nasıl önlenebildiğini, büyük sayılarda yararlanılması durumunda eğitim kişiselleştirmesine, emtibss ve belirli kullanıcı sınıflarının tacklerini yanıltmak için bir yanılmmaya yol açabilecek şekilde nasıl engelleyebileceğiniz göz önünde bulundurun.
  • Uygun ve uygun olduğunda, kullanıcılarınızın belirli kişisel özelliklerine sahip olmaya izin vermek veya bu özellikleri kabul etmek için uygulamanızı tasarlayın. Bunlar, "konum bilgileri", "cihaz bilgileri", "geçmiş satın alma geçmişi" vb. gibi gruplandırılabilir.

Kişiselleştirici için yeniden ödüller hesaplanıyor

Kişiselleştirici, uygulama iş mantığınızın verdiği ödül puanına göre hangi eylemin yeniden ele alınacağı seçimini geliştirmek için çaba harcar.

İyi oluşturulmuş bir ödül puanı, bir kuruluşun görevi için bağlı olan bir iş hedefine yönelik kısa süreli bir ara sunucu olarak görev görür.

Örneğin, tıklatmalar üzerinde yeniden çarpıtma,, tıklanmış veya bir iş sonucuna bağlı olmadığı durumlarda bile, diğer her şeyin masrafına, kişiselleştirici hizmet arama tıklamasını sağlar.

Benzer bir örnek olarak, bir haber sitesi, "kullanıcının içeriği okumak için yeterli zaman harcadığı" gibi, her şeyin daha anlamlı bir şeye bağlı olmasını isteyebilir. "İlgili makalelere veya başvurulara tıkladık mi?". Kişiselleştirici ile ölçümleri birbirine yakından bağlamak çok kolay. Ancak iyi sonuçlar ile kısa süreli kullanıcı etkileşimini onaylamamaya dikkat edin.

Ödül Puanlarından gelen istenmeyen sonuçlar

Reward puanları, en iyi şekilde oluşturulabilir, ancak kişiselleştirici içeriği nasıl derecelendirildiği konusunda beklenmedik sonuçlarla veya istemeden sonuçlar oluşturabilir.

Aşağıdaki örnekleri inceleyin:

  • Video içeriğinin kişiselleştirilmesini video uzunluğu oranında izlemek, büyük olasılıkla daha kısa videolar sıralama eğilimi gösterir.
  • Sosyal medya paylaşımlarını, nasıl paylaşıldığını veya içeriğin kendisini analiz etmeden daha iyi hale getirme, çok sayıda "katılım" de kapsayan ve çok az değer ekleyen rahatsız edici, aracılı veya ınflammatory içeriğini derecelendirmeye neden olabilir.
  • Kullanıcıların değişiklik yapması beklendikleri Kullanıcı arabirimi öğelerinde eylemi yeniden çarpıtmak, Kullanıcı arabiriminin kullanılabilirliğini ve tahmin edilebilirliğini etkileyebilir; burada düğmeler, uyarı olmadan konum veya amaca göre değişiklik gösterir ve belirli kullanıcı gruplarının üretken kalmasını zorlaştırır.

Bu en iyi yöntemleri uygulayın:

  • Etki ve yan etkileri anlamak için farklı ödül yaklaşımlarını kullanarak sisteminizdeki çevrimdışı denemeleri çalıştırın.
  • Ödül işlevlerinizi değerlendirin ve size son derece Naïve bir kişinin yorumu ile nasıl eğmekte olduğunu ve bununla istenmeyen sonuçlara nasıl ulaşabilmesini isteyin.

Sorumlu tasarım konuları

Aşağıda AI 'nin sorumlu uygulamalarına ilişkin tasarımın alanları verilmiştir. Gelecekte hesaplananbu çerçeveyi daha fazla öğrenin.

Gelecekte hesaplanan AI değerleri

Sorumluluk

AI sistemlerini tasarlayan ve dağıtan kişilerin, sistemlerinin nasıl çalıştığı konusunda sorumlu olması gerekir.

  • Kişiselleştirici, belge oluşturma ve bunları ekibiniz, Yöneticiler ve tedarikçilerle iletişim kurma hakkında iç yönergeler oluşturun.
  • Yeniden puanlarının nasıl hesaplandığı hakkında düzenli incelemeler yapın, hangi özelliklerin kişiselleştirmeyi etkilediğini görmek için çevrimdışı değerlendirmeler gerçekleştirin ve gereksiz ve gereksiz özellikleri ortadan kaldırmak için sonuçları kullanın.
  • Kişiselleştirici 'ın nasıl kullanıldığı, ne amaçla ve hangi verileri içeren kullanıcılarınız için net bir şekilde iletişim kurun.
  • Kişiselleştirici tarafından sonuçları yeniden oluşturmak için kullanılan modeller, öğrenme ilkeleri ve diğer veriler gibi arşiv bilgileri ve varlıklar.

Şeffaflık

AI sistemleri anlaşılabilir olmalıdır. Kişiselleştirici ile:

  • Kullanıcılara içeriğin nasıl kişiselleştirilmiş olduğu hakkında bilgi verme. Örneğin, kullanıcınıza, kişiselleştirme sonuçlarında hangi en önemli özelliklerin ve eylemlerin rol oynamış olduğunu gösteren Why These Suggestions? etiketli bir düğme gösterebilirsiniz.
  • Kullanım koşullarınızı, deneyimi kişiselleştirmek için kullanıcılar ve onların davranışları hakkında bilgi kullanabileceğinizi ifade edin.

Eşitlik

AI Sistemleri tüm insanları adil bir şekilde davranmalı.

  • Sonuçların uzun süreli, sonuçların sonucunda olduğu veya gerçek zarara neden olduğu kullanım örnekleri için Kişiselleştirme'i kullanmayın.
  • ile içerik kişiselleştirmek için uygun olmayan veya istediğiniz gibi bir karşıtlama yaymanıza yardımcı olacak özellikleri kullanmayın. Örneğin, benzer finansal koşulları olan herkes finansal ürünler için aynı kişiselleştirilmiş önerileri görmeli.
  • Düzenleyicilerden, algoritma araçlarından veya kullanıcılardan gelen özelliklerde mevcut olan iki yönlü özellikleri anlıyoruz.

Güvenilirlik ve güvenlik

AI Sistemleri güvenilir ve güvenli bir şekilde çalışmalı. Kişiselleştirme için:

  • Kişiselleştirme'ye seçilmeması gereken eylemler sağlamayın. Örneğin, anonim veya küçük bir kullanıcı için öneride bulunulsa, filmlerin kişiselleştirmek için uygun olmayan şekilde filtrelenmiş olması gerekir.
  • Kişiselleştirme modelinizi bir iş varlığı olarak yönetin. Kişiselleştirme Döngüsü'nizin ardındaki model ve öğrenme ilkelerini ne sıklıkta kaydedebileceğinizi ve ne sıklıkta geri alasınız ve bunu önemli bir iş varlığı olarak değerlendirin. Geçmiş sonuçları yeniden elde etme, kendi kendine denetim ve geliştirmeyi ölçme açısından önemlidir.
  • Kullanıcılardan doğrudan geri bildirim almak için kanallar sağlama. Yalnızca doğru hedef kitlenin doğru içeriği görene kadar güvenlik denetimleri kodlamaya ek olarak, kullanıcıların şaşırtıcı veya rahatsız edici içerikler bildirmesi için bir geri bildirim mekanizması da sağlar. İçeriğiniz özellikle kullanıcılardan veya üçüncü taraflardan geliyorsa, içeriği gözden geçirmek ve doğrulamak için Microsoft Content Moderator veya ek araçlar kullanmayı göz önünde bulundurabilirsiniz.
  • Sık sık çevrimdışı Değerlendirmeler gerçekleştirin. Bu, eğilimleri izlemenizi ve etkinliğin bilinmelerini sağlar.
  • Kötü amaçlı işlemeyi algılamak ve üzerinde işlem yapmak için bir işlem kurma. Makine öğrenmesi ve AI sistemlerinin, sonuçları hedeflerine kaydırmak için kendi ortamından öğrenme becerilerinden yararlanacak aktörler vardır. Kişiselleştirme kullanımınız önemli seçimleri etkilemek için uygun bir konumda ise, uygun koşullarda insan incelemesi de dahil olmak üzere bu saldırı sınıflarını algılamak ve azaltmak için uygun bir şekilde sahip olun.

Güvenlik ve gizlilik

AI Sistemleri güvenli olmalı ve gizliliğine saygı duymaktadır. Kişiselleştirme kullanırken:

  • Toplanan veriler ve nasıl kullanıldıklarıyla ilgili olarak kullanıcıları önceden bilgilendirin ve yerel ve sektör düzenlemelerinizi takip edin.
  • Gizlilik koruma kullanıcı denetimleri sağlama. Kişisel bilgileri depolarken, aşağıdakiler gibi işlevler için kolay bulunan bir düğme sağlamayı düşünün:
    • Show me all you know about me
    • Forget my last interaction
    • Delete all you know about me

Bazı durumlarda bunlar yasal olarak gerekli olabilir. Silinen verilerin izlemelerini içermeleri için modelleri düzenli aralıklarla yeniden eğitin.

Kapsayıcılık

çeşitli insan ihtiyaçlarını ve deneyimlerini ele ala.

  • Erişilebilirlik özellikli arabirimler için kişiselleştirilmiş deneyimler sağlayın. İyi kişiselleştirmeden gelen verimlilik ; etkileşimlerde efor, hareket ve tekrarı azaltmak için uygulanır; özellikle engelli kişiler için yararlı olabilir.
  • Uygulama davranışını bağlamına ayarlayın. Kişiselleştirme'nin bir sohbet botunda amaç arasındaki farkı anlanması için kullanabilirsiniz. Örneğin, doğru yorumlama bağlamsal olabilir ve tek bir boyut tüm boyuta sığmayabilirsiniz.

Artan veri koruma ve idare için proaktif hazırlık

Mevzuat bağlamındaki belirli değişiklikleri tahmin etmek zordur, ancak genel olarak kişisel verilerin uygun şekilde kullanımını sağlamak ve algoritmalı kararlarla ilgili saydamlık ve seçim sağlamak için en düşük yasal çerçevenin ötesine geçmeniz akıllıca olacaktır.

  • Bireylerden toplanan verilerde yeni kısıtlamaların olduğu ve bunun karar almak için nasıl kullanılmaya ihtiyaç olduğunu gösterme ihtiyacının olduğu bir durumu önceden planlamayı göz önünde bulundurabilirsiniz.
  • Kullanıcıların marjinal güvenlik açığı olan popülasyonları, çocukların, ekonomik güvenlik açığına sahip kullanıcıları veya algoritmasal işlemeden etkilenmeye açık olan kullanıcıları dahil etmek için fazladan hazır olma durumlarını göz önünde bulundurabilirsiniz.
  • Hedef kitleyi hedefleme ve hedef kitleyi etkileyen veri toplama programlarının ve algoritmalarının nasıl oynanmış olduğu ve kanıtlanmış stratejik hatalardan nasıl kaçınılmasıyla ilgili yaygın memnuniyetsizliği göz önünde bulundurabilirsiniz.

Proje yaşam döngüniz sırasında proaktif değerlendirmeler

Ekip üyeleri, kullanıcılar ve işletme sahipleri için sorumlu kullanımla ilgili endişeleri bildirmeleri için yöntemler oluşturmayı ve çözümlerini öncelik sırasına alan ve misillemeleri önleyen bir süreç oluşturmayı göz önünde bulundurabilirsiniz.

Herhangi bir teknolojinin yan etkileri hakkında düşünmeyen kişiler kendi perspektifi ve yaşam deneyimiyle sınırlıdır. Ekiplerinize, kullanıcılarınıza veya danışmanlık panolarına daha farklı görüşler getirerek mevcut fikir aralığını genişletin; bu şekilde konuşmaları mümkün ve teşvik edilecek şekilde. Bu etki alanındaki ekip bilgisini daha da genişletmek ve karmaşık ve hassas konuları tartışma yeteneği eklemek için eğitim ve öğrenme malzemelerini göz önünde bulundurabilirsiniz.

Sorumlu kullanımla ilgili görevleri, kullanıcı deneyimi, güvenlik veya güvenlik görevleri gibi uygulama yaşam döngüsünde diğer çapraz geçiş görevleri gibi DevOps. Bu görevler ve gereksinimleri bir daha açıklanmış olmayacaktır. Sorumlu kullanım, uygulama yaşam döngüsü boyunca açıklanmalıdır ve doğrulanmalıdır.

Sorular ve geri bildirim

Microsoft, bu sorumluluklara göre hareket etmeye yardımcı olmak için araçlara ve belgelere sürekli olarak çaba gösteriyor. Ek araçların, ürün özelliklerinin ve belgelerin Kişiselleştirme'nin kullanımına yönelik bu yönergeleri uygulamanıza yardımcı olacağını inanıyorsanız ekibimiz sizi Microsoft'a geri bildirim sağlamanız için davet eder.

Sonraki adımlar

Özellikler: eylem ve bağlam.