Systemer som bestemmer hvem som får lån, hvem som får prøveløslatelse og hvem sin CV når en ansettelsesansvarlig krever gransking. AI-etikk undersøker de moralske spørsmålene som reises av disse systemene, fra rettferdighet og ansvarlighet til personvern og autonomi.

Feltet befinner seg mellom filosofi, jus og ingeniørfag. Det spør hvem som er ansvarlig når et autonomt system forårsaker skade, hvordan man skal revidere ugjennomsiktige modeller, og om visse applikasjoner i det hele tatt bør eksistere. Ansiktsgjenkjenning, prediktiv politiarbeid og automatiserte ansettelser er alle gjenstand for vedvarende debatt.

Gjentakende bekymringer

• Skjevhet kodet i treningsdata
• Mangel på åpenhet i beslutningstaking
• Overvåking og samtykke
• Ansvarlighet når systemer svikter
• Maktkonsentrasjon i noen få selskaper

Regulering henger etter i utrullingen. EUs KI-lov og lignende forslag har som mål å sette regler, men håndhevingen er fortsatt ujevn. Utøvere tar i økende grad i bruk interne kontrollråd og konsekvensutredninger, selv om kritikere hevder at disse tiltakene er for frivillige.