Modely se učí od lidí. Každá trénovací sada obsahuje stopy skutečných osob a každá predikce se dotýká někoho, jehož data formovala systém. Ochrana osobních údajů se zabývá tím, jak jsou tyto informace shromažďovány, ukládány, používány a chráněny.

Předpisy stanovují rámec. GDPR v Evropě, CCPA v Kalifornii a podobné zákony jinde zaručují právo na přístup k osobním údajům, jejich opravu a mazání. Systémy umělé inteligence komplikují dodržování předpisů, protože modely absorbují vzory z dat a nemohou snadno zapomenout na konkrétní příklady.

Klíčové obavy

• Souhlas a transparentnost při shromažďování údajů
• Opětovná identifikace z údajně anonymních dat
• Modelové memorování příkladů tréninku
• Přeshraniční přenos dat
• Odvození citlivých atributů

Techniky jako diferenciální soukromí, federované učení a minimalizace dat snižují riziko, ale zvyšují náklady a složitost. Dokonalé ochrany soukromí je zřídka dosažitelné. Praktickým cílem je smysluplná ochrana s jasnou odpovědností.