責任ある AI を理解する

完了

Microsoft では、6 つの原則のセットを指針として、AI ソフトウェアを開発しています。これらの原則は、意図しない悪影響を及ぼすことなく困難な問題に対する素晴らしいソリューションを確実に提供できるように設計されています。

公平性

AI システムではすべての人を公平に扱う必要があります。 たとえば、銀行の融資承認申請をサポートする機械学習モデルを作成するとします。 このモデルでは、性別、民族性、または特定の申請者グループに不当な優位性や不利益をもたらす可能性のあるその他の要因に基づく偏りを組み込むことなく、ローンを承認するかどうかの予測を行う必要があります。

Azure Machine Learning には、モデルを解釈し、データの各特徴量がモデルの予測にどの程度影響するかを定量化する機能が含まれています。 この機能は、データ サイエンティストや開発者がモデルの偏りを特定し、軽減するのに役立ちます。

公平性に関する考慮事項の詳細については、次のビデオをご覧ください。

信頼性と安全性

AI システムは確実かつ安全に実行される必要があります。 たとえば、自律走行車用の AI ベースのソフトウェア システム、または患者の症状を診断し、処方箋を推奨する機械学習モデルを考えてみましょう。 この種のシステムの信頼性が低いと、人命に大きなリスクが生じる可能性があります。

AI ベースのソフトウェア アプリケーション開発では、リリース前に期待どおりの動作を確保するために、厳格なテストおよびデプロイ管理プロセスを実施する必要があります。

信頼性と安全性に関する考慮事項の詳細については、次のビデオをご覧ください。

プライバシーとセキュリティ

AI システムは安全であり、プライバシーを尊重する必要があります。 AI システムのベースとなる機械学習モデルは、大量のデータに依存しており、これには非公開にする必要のある個人の詳細が含まれている場合があります。 モデルでは、トレーニング後、システムが運用中であっても、新しいデータを使用して、プライバシーやセキュリティ上の懸念をもたらす可能性のある予測やアクションを実行します。

プライバシーとセキュリティに関する考慮事項の詳細については、次のビデオをご覧ください。

包括性

AI システムはあらゆる人に力を与え、人々を結びつける必要があります。 AI は、身体能力、性別、性的指向、民族性などの要因に関係なく、社会のすべての部分に利益をもたらす必要があります。

包括性に関する考慮事項の詳細については、次のビデオをご覧ください。

透明性

AI システムは理解しやすい必要があります。 ユーザーは、システムの目的、しくみ、想定される制限事項を十分に認識する必要があります。

透明性に関する考慮事項の詳細については、次のビデオをご覧ください。

アカウンタビリティ

人々は AI システムに対して説明責任があります。 AI ベースのソリューションの設計者と開発者は、ソリューションが明確に定義された倫理的および法的基準を満たすことを保証するガバナンスと組織の原則の枠組みの中で作業する必要があります。

アカウンタビリティに関する考慮事項の詳細については、次のビデオをご覧ください。

責任ある AI の原則は、開発者が倫理的な AI ソリューションを作成しようとするときに直面する課題の一部を理解するのに役立ちます。

その他のリソース

責任ある AI の原則を実践するのに役立つその他のリソースについては、https://www.microsoft.com/ai/responsible-ai-resources を参照してください。