A modellek tanulnak az emberektől. Minden tanulóhalmaz valós személyek nyomait tartalmazza, és minden előrejelzés érint valakit, akinek az adatai formálták a rendszert. Az adatvédelem azt szabályozza, hogyan gyűjtik, tárolják, használják és védik ezeket az információkat.

A szabályozások határozzák meg az alapkövetelményeket. Az európai GDPR, a kaliforniai CCPA és a hasonló törvények másutt biztosítják a személyes adatokhoz való hozzáférés, azok helyesbítése és törlése jogát. A mesterséges intelligencia rendszerei bonyolítják a megfelelést, mivel a modellek mintákat vesznek fel az adatokból, és nem könnyen felejtenek el konkrét példákat.

Főbb aggodalmak

• Hozzájárulás és átláthatóság az adatgyűjtésben
• Újraazonosítás állítólagosan anonim adatokból
• A betanítási példák modellmemorizálása
• Határokon átnyúló adatátvitel
• Érzékeny attribútumok következtetése

Az olyan technikák, mint a differenciális adatvédelem, az összevont tanulás és az adatminimalizálás, csökkentik a kockázatot, de költségeket és bonyolultságot okoznak. A tökéletes adatvédelem ritkán érhető el. A gyakorlati cél az érdemi védelem egyértelmű elszámoltathatósággal.