Systémy, které rozhodují o tom, kdo dostane půjčku, kdo bude propuštěn na podmínku a čí životopis se dostane k personalistovi, vyžadují důkladnou kontrolu. Etika umělé inteligence zkoumá morální otázky, které tyto systémy vyvolávají, od spravedlnosti a odpovědnosti až po soukromí a autonomii.

Tato oblast se nachází na pomezí filozofie, práva a inženýrství. Zabývá se otázkami, kdo je zodpovědný za to, když autonomní systém způsobí škodu, jak auditovat neprůhledné modely a zda by určité aplikace vůbec měly existovat. Rozpoznávání obličejů, prediktivní policejní práce a automatizované náborové řízení – to vše je předmětem neustálé debaty.

Opakující se obavy

• Zkreslení zakódované v tréninkových datech
• Nedostatek transparentnosti v rozhodování
• Dohled a souhlas
• Odpovědnost v případě selhání systémů
• Koncentrace moci v několika málo firmách

Regulace zaostává za zaváděním. Zákon EU o umělé inteligenci a podobné návrhy si kladou za cíl stanovit pravidla, ale jejich vymáhání je stále nerovnoměrné. Odborníci stále častěji zavádějí interní hodnotící komise a posouzení dopadů, ačkoli kritici tvrdí, že tato opatření jsou příliš dobrovolná.