System som avgör vem som får ett lån, vem som får villkorlig frigivning och vems CV når en rekryterare kräver granskning. AI-etik undersöker de moraliska frågor som dessa system väcker, från rättvisa och ansvarsskyldighet till integritet och autonomi.

Fältet ligger mellan filosofi, juridik och ingenjörskonst. Det frågar sig vem som är ansvarig när ett autonomt system orsakar skada, hur man granskar ogenomskinliga modeller och om vissa tillämpningar överhuvudtaget borde existera. Ansiktsigenkänning, prediktiv polisverksamhet och automatiserad rekrytering väcker alla en lång debatt.

Återkommande oro

• Bias kodad i träningsdata
• Brist på transparens i beslutsfattandet
• Övervakning och samtycke
• Ansvarsskyldighet när systemen fallerar
• Maktkoncentration i ett fåtal företag

Reglering släpar efter införandet. EU:s AI-lag och liknande förslag syftar till att fastställa regler, men tillämpningen är fortfarande ojämn. Utövare använder sig i allt högre grad av interna granskningsnämnder och konsekvensbedömningar, även om kritiker menar att dessa åtgärder är för frivilliga.