AI の課題とリスク
人工知能は、世界の人々に大きな利益をもたらすために使用できる強力なツールです。 ただし、他のツールと同様に、責任を持って使用する必要があります。
次の表に、AI アプリケーションの開発者が直面する潜在的な課題とリスクのいくつかを示します。
| 課題またはリスク | 例 |
|---|---|
| 偏りが結果に影響する可能性がある | ローン承認モデルで、モデルのトレーニングに使用されたデータの偏りが原因で性別による差別が生じる |
| エラーによって損害が発生する可能性がある | 自律走行車でシステム障害が発生したために衝突が起こる |
| データが流出する可能性がある | 医療診断ボットが、安全でない状態で保存されている患者の機密データを使用してトレーニングされる |
| ソリューションがすべてのユーザーに対して有効ではない可能性がある | ホーム オートメーション アシスタントで、視覚障碍のあるユーザーに対してオーディオ出力が提供されない |
| ユーザーが複雑なシステムを信頼する必要がある | AI ベースの金融ツールで推奨事項が作成されるが、何に基づいているのかがわからない |
| 誰が AI 主導の意思決定の責任を負うのか | 顔認識による証拠に基づいて無実の人が有罪判決を受けた場合、誰がその責任を負うのか |