Los modelos aprenden de las personas. Cada conjunto de datos de entrenamiento contiene información de individuos reales, y cada predicción involucra a alguien cuyos datos dieron forma al sistema. La privacidad de los datos aborda cómo se recopila, almacena, utiliza y protege esa información.

Las normativas establecen los estándares mínimos. El RGPD en Europa, la CCPA en California y leyes similares en otros lugares otorgan derechos de acceso, rectificación y supresión de datos personales. Los sistemas de IA complican el cumplimiento normativo, ya que los modelos absorben patrones de los datos y no pueden olvidar fácilmente ejemplos específicos.

Principales preocupaciones

• Consentimiento y transparencia en la recopilación de datos
• Reidentificación a partir de datos supuestamente anónimos
• Memorización de modelos de ejemplos de entrenamiento
• Transferencia transfronteriza de datos
• Inferencia de atributos sensibles

Técnicas como la privacidad diferencial, el aprendizaje federado y la minimización de datos reducen el riesgo, pero aumentan el costo y la complejidad. La privacidad perfecta rara vez es alcanzable. El objetivo práctico es una protección efectiva con una clara rendición de cuentas.