Los sistemas que deciden quién recibe un préstamo, quién obtiene la libertad condicional y qué currículum llega a manos de un responsable de contratación exigen un análisis exhaustivo. La ética de la IA examina las cuestiones morales que plantean estos sistemas, desde la equidad y la responsabilidad hasta la privacidad y la autonomía.

Este campo se sitúa entre la filosofía, el derecho y la ingeniería. Se pregunta quién es responsable cuando un sistema autónomo causa daño, cómo auditar modelos opacos y si ciertas aplicaciones deberían existir. El reconocimiento facial, la vigilancia predictiva y la contratación automatizada son temas que generan un debate constante.

Preocupaciones recurrentes

• Sesgo codificado en los datos de entrenamiento
• Falta de transparencia en la toma de decisiones
• Vigilancia y consentimiento
• Responsabilidad cuando fallan los sistemas
• Concentración de poder en unas pocas empresas

La regulación va a la zaga de la implementación. La Ley de IA de la UE y propuestas similares pretenden establecer normas, pero su aplicación sigue siendo desigual. Los profesionales adoptan cada vez más comités de revisión interna y evaluaciones de impacto, aunque los críticos argumentan que estas medidas son demasiado voluntarias.