Model belajar dari manusia. Setiap set data pelatihan berisi jejak individu nyata, dan setiap prediksi melibatkan seseorang yang datanya membentuk sistem tersebut. Privasi data membahas bagaimana informasi tersebut dikumpulkan, disimpan, digunakan, dan dilindungi.

Regulasi menetapkan standar minimum. GDPR di Eropa, CCPA di California, dan undang-undang serupa di tempat lain memberikan hak untuk mengakses, memperbaiki, dan menghapus data pribadi. Sistem AI mempersulit kepatuhan karena model menyerap pola dari data dan tidak mudah melupakan contoh spesifik.

Kekhawatiran utama

• Persetujuan dan transparansi dalam pengumpulan data
• Identifikasi ulang dari data yang seharusnya anonim
• Model menghafal contoh pelatihan
• Transfer data lintas batas
• Inferensi atribut sensitif

Teknik-teknik seperti privasi diferensial, pembelajaran federasi, dan minimisasi data mengurangi risiko tetapi menambah biaya dan kompleksitas. Privasi sempurna jarang tercapai. Tujuan praktisnya adalah perlindungan yang bermakna dengan akuntabilitas yang jelas.