मॉडल लोगों से सीखते हैं। प्रत्येक प्रशिक्षण सेट में वास्तविक व्यक्तियों के अंश होते हैं, और प्रत्येक भविष्यवाणी किसी ऐसे व्यक्ति से जुड़ी होती है जिसके डेटा ने सिस्टम को आकार दिया है। डेटा गोपनीयता इस बात से संबंधित है कि उस जानकारी को कैसे एकत्र किया जाता है, संग्रहीत किया जाता है, उपयोग किया जाता है और संरक्षित किया जाता है।

नियम न्यूनतम सीमा निर्धारित करते हैं। यूरोप में GDPR, कैलिफ़ोर्निया में CCPA और अन्य जगहों पर इसी तरह के कानून व्यक्तिगत डेटा तक पहुँचने, उसे सुधारने और हटाने का अधिकार प्रदान करते हैं। AI प्रणालियाँ अनुपालन को जटिल बनाती हैं क्योंकि मॉडल डेटा से पैटर्न को आत्मसात कर लेते हैं और विशिष्ट उदाहरणों को आसानी से नहीं भूल सकते।

प्रमुख चिंताएँ

• डेटा संग्रह में सहमति और पारदर्शिता
• कथित रूप से गुमनाम डेटा से पुनः पहचान
• प्रशिक्षण उदाहरणों के स्मरण का मॉडल
• सीमा पार डेटा स्थानांतरण
• संवेदनशील विशेषताओं का अनुमान

डिफरेंशियल प्राइवेसी, फेडरेटेड लर्निंग और डेटा मिनिमाइजेशन जैसी तकनीकें जोखिम को कम करती हैं, लेकिन लागत और जटिलता को बढ़ाती हैं। पूर्ण गोपनीयता शायद ही कभी प्राप्त की जा सकती है। व्यावहारिक लक्ष्य स्पष्ट जवाबदेही के साथ सार्थक सुरक्षा प्रदान करना है।