Modeller insanlardan öğrenir. Her eğitim veri seti gerçek bireylerin izlerini içerir ve her tahmin, verileri sistemi şekillendiren bir kişiye dokunur. Veri gizliliği, bu bilgilerin nasıl toplandığı, saklandığı, kullanıldığı ve korunduğuyla ilgilidir.

Düzenlemeler asgari standartları belirler. Avrupa'daki GDPR, Kaliforniya'daki CCPA ve diğer yerlerdeki benzer yasalar, kişisel verilere erişme, düzeltme ve silme hakları tanır. Yapay zeka sistemleri, modeller verilerden kalıpları özümsediği ve belirli örnekleri kolayca unutamadığı için uyumluluğu karmaşıklaştırır.

Başlıca endişeler

• Veri toplama sürecinde rıza ve şeffaflık
• Anonim olduğu varsayılan verilerden yeniden kimlik tespiti
• Eğitim örneklerinin model ezberlenmesi
• Sınır ötesi veri aktarımı
• Hassas özelliklerin çıkarımı

Diferansiyel gizlilik, birleşik öğrenme ve veri minimizasyonu gibi teknikler riski azaltır ancak maliyeti ve karmaşıklığı artırır. Mükemmel gizlilik nadiren elde edilebilir. Pratik hedef, net hesap verebilirlik ile anlamlı bir koruma sağlamaktır.