モデルは人間から学習します。すべてのトレーニングセットには実際の個人の痕跡が含まれており、すべての予測は、システムを形成するデータを提供した誰かと関わっています。データプライバシーは、その情報がどのように収集、保存、使用、保護されるかを扱うものです。
規制は最低限の基準を定めている。欧州のGDPR、カリフォルニア州のCCPA、その他同様の法律は、個人データへのアクセス、訂正、削除の権利を保障している。AIシステムは、モデルがデータからパターンを学習し、特定の事例を容易に忘れることができないため、コンプライアンスを複雑化させる。
主な懸念事項
- データ収集における同意と透明性
- 匿名データからの再識別
- 訓練例のモデル記憶
- 国境を越えたデータ転送
- 機密属性の推論
差分プライバシー、連合学習、データ最小化といった技術はリスクを低減するものの、コストと複雑さを増大させる。完全なプライバシーはめったに実現できない。現実的な目標は、明確な説明責任を伴う、意味のある保護を実現することである。
Comments (2)
Leave a comment