Modellen leren van mensen. Elke trainingsset bevat sporen van echte individuen en elke voorspelling is verbonden met iemand wiens gegevens het systeem hebben gevormd. Gegevensprivacy heeft betrekking op hoe die informatie wordt verzameld, opgeslagen, gebruikt en beschermd.

Regelgeving stelt de basis. De AVG in Europa, de CCPA in Californië en soortgelijke wetten elders geven recht op inzage, correctie en verwijdering van persoonsgegevens. AI-systemen bemoeilijken de naleving, omdat modellen patronen uit data absorberen en specifieke voorbeelden niet snel vergeten.

Belangrijkste aandachtspunten

• Toestemming en transparantie bij gegevensverzameling
• Heridentificatie op basis van zogenaamd anonieme gegevens
• Het modelleren van het onthouden van trainingsvoorbeelden
• Grensoverschrijdende gegevensoverdracht
• Afleiding van gevoelige kenmerken

Technieken zoals differentiële privacy, federated learning en dataminimalisatie verminderen risico's, maar brengen extra kosten en complexiteit met zich mee. Perfecte privacy is zelden haalbaar. Het praktische doel is zinvolle bescherming met duidelijke verantwoordingsplicht.