Systemer, der bestemmer, hvem der får et lån, hvem der får prøveløsladelse, og hvis CV når en ansættelseschef, kræver granskning. AI-etik undersøger de moralske spørgsmål, som disse systemer rejser, lige fra retfærdighed og ansvarlighed til privatliv og autonomi.

Feltet befinder sig mellem filosofi, jura og ingeniørvidenskab. Det spørger, hvem der er ansvarlig, når et autonomt system forårsager skade, hvordan man reviderer uigennemsigtige modeller, og om visse applikationer overhovedet bør eksistere. Ansigtsgenkendelse, prædiktiv politiarbejde og automatiseret ansættelse er alle genstand for vedvarende debat.

Tilbagevendende bekymringer

• Bias indkodet i træningsdata
• Manglende gennemsigtighed i beslutningstagningen
• Overvågning og samtykke
• Ansvarlighed når systemer fejler
• Magtkoncentration i få virksomheder

Regulering halter bagefter i forhold til implementeringen. EU's AI-lov og lignende forslag har til formål at fastsætte regler, men håndhævelsen er fortsat ujævn. Praktiserende aktører anvender i stigende grad interne kontroludvalg og konsekvensanalyser, selvom kritikere hævder, at disse foranstaltninger er for frivillige.