Les modèles apprennent des humains. Chaque ensemble d'entraînement contient des traces de personnes réelles, et chaque prédiction a un impact sur une personne dont les données ont contribué à façonner le système. La confidentialité des données concerne la manière dont ces informations sont collectées, stockées, utilisées et protégées.

La réglementation fixe un cadre minimal. Le RGPD en Europe, le CCPA en Californie et des lois similaires ailleurs garantissent les droits d'accès, de rectification et de suppression des données personnelles. Les systèmes d'IA complexifient la conformité car les modèles analysent les tendances des données et peuvent difficilement oublier des exemples précis.

Principaux points à surveiller

• Consentement et transparence dans la collecte de données
• Réidentification à partir de données supposément anonymes
• Mémorisation par modèle d'exemples d'entraînement
• Transfert transfrontalier de données
• Déduction des attributs sensibles

Des techniques comme la confidentialité différentielle, l'apprentissage fédéré et la minimisation des données réduisent les risques, mais augmentent les coûts et la complexité. Une confidentialité parfaite est rarement atteignable. L'objectif pratique est une protection efficace assortie d'une responsabilité clairement définie.