Modelele învață de la oameni. Fiecare set de antrenament conține urme ale unor indivizi reali, iar fiecare predicție se referă la cineva ale cărui date au modelat sistemul. Confidențialitatea datelor se referă la modul în care aceste informații sunt colectate, stocate, utilizate și protejate.

Reglementările stabilesc pragul. GDPR în Europa, CCPA în California și legi similare din alte părți acordă drepturi de acces, corectare și ștergere a datelor cu caracter personal. Sistemele de inteligență artificială complică conformitatea, deoarece modelele absorb tipare din date și nu pot uita cu ușurință exemple specifice.

Preocupări cheie

• Consimțământ și transparență în colectarea datelor
• Reidentificare din date presupus anonime
• Memorarea modelului de exemple de antrenament
• Transfer transfrontalier de date
• Inferența atributelor sensibile

Tehnici precum confidențialitatea diferențială, învățarea federativă și minimizarea datelor reduc riscul, dar adaugă costuri și complexitate. Confidențialitatea perfectă este rareori realizabilă. Scopul practic este o protecție semnificativă, cu o responsabilitate clară.