Os modelos aprendem com as pessoas. Cada conjunto de treino contém vestígios de indivíduos reais, e cada previsão afeta alguém cujos dados moldaram o sistema. A privacidade de dados aborda a forma como essas informações são recolhidas, armazenadas, utilizadas e protegidas.

Os regulamentos estabelecem o mínimo necessário. O RGPD na Europa, o CCPA na Califórnia e leis semelhantes noutros locais garantem o direito de aceder, corrigir e eliminar dados pessoais. Os sistemas de IA complicam a conformidade porque os modelos absorvem padrões dos dados e não conseguem esquecer facilmente exemplos específicos.

Principais preocupações

• Consentimento e transparência na recolha de dados
• Reidentificação a partir de dados supostamente anónimos
• Memorização de modelos de treino
• Transferência de dados transfronteiriça
• Inferência de atributos sensíveis

Técnicas como a privacidade diferencial, a aprendizagem federada e a minimização de dados reduzem o risco, mas aumentam o custo e a complexidade. A privacidade perfeita raramente é alcançável. O objetivo prático é uma proteção significativa com uma responsabilidade clara.