Modeller lär sig av människor. Varje träningsuppsättning innehåller spår av verkliga individer, och varje förutsägelse berör någon vars data format systemet. Datasekretess handlar om hur informationen samlas in, lagras, används och skyddas.

Regleringar sätter gränsen. GDPR i Europa, CCPA i Kalifornien och liknande lagar på andra håll ger rätt att få tillgång till, korrigera och radera personuppgifter. AI-system komplicerar efterlevnaden eftersom modeller absorberar mönster från data och inte lätt kan glömma specifika exempel.

Viktiga problem

• Samtycke och transparens i datainsamling
• Återidentifiering från till synes anonyma uppgifter
• Modellmemorering av träningsexempel
• Gränsöverskridande dataöverföring
• Inferens av känsliga attribut

Tekniker som differentiell integritet, federerad inlärning och dataminimering minskar risker men ökar kostnader och komplexitet. Perfekt integritet är sällan uppnåelig. Det praktiska målet är meningsfullt skydd med tydlig ansvarsskyldighet.