Os sistemas que decidem quem recebe um empréstimo, quem recebe a liberdade condicional e cujo currículo chega a um responsável de contratação exigem escrutínio. A ética da IA ​​examina as questões morais levantadas por estes sistemas, desde a justiça e a responsabilidade até à privacidade e à autonomia.

O campo situa-se entre a filosofia, o direito e a engenharia. Questiona quem é o responsável quando um sistema autónomo causa danos, como por exemplo auditar modelos opacos e se determinadas aplicações deveriam sequer existir. O reconhecimento facial, o policiamento preditivo e a contratação automatizada são temas que atraem debates constantes.

Preocupações recorrentes

• Viés codificado nos dados de treino
• Falta de transparência na tomada de decisões
• Vigilância e consentimento
• Responsabilização quando os sistemas falham
• Concentração de poder em poucas empresas

A regulamentação está atrasada em relação à implementação. A Lei da IA ​​da UE e propostas semelhantes visam estabelecer regras, mas a aplicação continua a ser desigual. Os profissionais da área adoptam cada vez mais comités de revisão interna e avaliações de impacto, embora os críticos argumentem que estas medidas são demasiado voluntárias.