Modeller lærer av mennesker. Hvert treningssett inneholder spor av virkelige individer, og hver prediksjon berører noen hvis data formet systemet. Personvern handler om hvordan denne informasjonen samles inn, lagres, brukes og beskyttes.

Forskrifter setter grensen. GDPR i Europa, CCPA i California og lignende lover andre steder gir rettigheter til å få tilgang til, korrigere og slette personopplysninger. AI-systemer kompliserer samsvar fordi modeller absorberer mønstre fra data og ikke lett kan glemme spesifikke eksempler.

Viktige bekymringer

• Samtykke og åpenhet i datainnsamling
• Gjenidentifikasjon fra angivelig anonyme data
• Modellmemorering av treningseksempler
• Grenseoverskridende dataoverføring
• Slutning av sensitive attributter

Teknikker som differensiell personvern, føderert læring og dataminimering reduserer risiko, men øker kostnadene og kompleksiteten. Perfekt personvern er sjelden oppnåelig. Det praktiske målet er meningsfull beskyttelse med tydelig ansvarlighet.