Systemy decydujące o tym, kto otrzyma pożyczkę, kto zostanie zwolniony warunkowo i czyje CV trafi do rekrutera, wymagają kontroli. Etyka sztucznej inteligencji bada kwestie moralne, jakie stawiają te systemy, od uczciwości i odpowiedzialności po prywatność i autonomię.

Ta dziedzina mieści się pomiędzy filozofią, prawem i inżynierią. Pyta, kto ponosi odpowiedzialność, gdy system autonomiczny wyrządza szkodę, jak audytować nieprzejrzyste modele i czy pewne aplikacje w ogóle powinny istnieć. Rozpoznawanie twarzy, predykcyjne działania policji i automatyczne zatrudnianie – wszystkie te zagadnienia budzą nieustanne debaty.

Powtarzające się obawy

• Błąd zakodowany w danych treningowych
• Brak przejrzystości w podejmowaniu decyzji
• Nadzór i zgoda
• Odpowiedzialność w przypadku awarii systemów
• Koncentracja władzy w kilku firmach

Przepisy nie nadążają za wdrażaniem. Ustawa UE o sztucznej inteligencji i podobne propozycje mają na celu ustanowienie przepisów, ale ich egzekwowanie pozostaje nierównomierne. Praktycy coraz częściej korzystają z wewnętrznych komisji rewizyjnych i ocen skutków, choć krytycy twierdzą, że środki te są zbyt dobrowolne.