Azok a rendszerek, amelyek eldöntik, hogy ki kaphat kölcsönt, ki kaphat feltételes szabadlábra helyezést, és kinek az önéletrajza jut el a HR-eshez, alapos vizsgálatot igényelnek. A mesterséges intelligencia etikája az ilyen rendszerek által felvetett erkölcsi kérdéseket vizsgálja, a méltányosságtól és az elszámoltathatóságtól a magánéletig és az autonómiáig.

A terület a filozófia, a jog és a mérnöki tudományok határán helyezkedik el. Azt kérdezi, hogy ki a felelős, ha egy autonóm rendszer kárt okoz, hogyan lehet auditálni az átlátszatlan modelleket, és hogy bizonyos alkalmazásoknak egyáltalán létezniük kell-e. Az arcfelismerés, a prediktív rendőrségi ellenőrzés és az automatizált felvétel mind tartós vitákat vált ki.

Ismétlődő aggodalmak

• A betanítási adatokban kódolt torzítás
• Átláthatóság hiánya a döntéshozatalban
• Megfigyelés és beleegyezés
• Felelősségvállalás rendszerek meghibásodása esetén
• A hatalom koncentrációja néhány vállalat kezében

A szabályozás elmarad a bevezetéstől. Az EU mesterséges intelligencia törvénye és a hasonló javaslatok célja szabályok meghatározása, de a végrehajtás továbbra is egyenetlen. A gyakorlati szakemberek egyre inkább belső felülvizsgálati bizottságokat és hatásvizsgálatokat alkalmaznak, bár a kritikusok szerint ezek az intézkedések túlságosan önkéntesek.