Modeller lærer af mennesker. Hvert træningssæt indeholder spor af virkelige individer, og hver forudsigelse berører en person, hvis data har formet systemet. Databeskyttelse omhandler, hvordan disse oplysninger indsamles, opbevares, bruges og beskyttes.

Regler sætter grænsen. GDPR i Europa, CCPA i Californien og lignende love andre steder giver rettigheder til at få adgang til, rette og slette personoplysninger. AI-systemer komplicerer overholdelse af regler, fordi modeller absorberer mønstre fra data og ikke let kan glemme specifikke eksempler.

Vigtige bekymringer

• Samtykke og gennemsigtighed i dataindsamling
• Genidentifikation fra angiveligt anonyme data
• Modeludlæring af træningseksempler
• Grænseoverskridende dataoverførsel
• Inferens af følsomme attributter

Teknikker som differentiel privatlivsbeskyttelse, fødereret læring og dataminimering reducerer risiko, men øger omkostninger og kompleksitet. Perfekt privatliv er sjældent opnåeligt. Det praktiske mål er meningsfuld beskyttelse med klar ansvarlighed.