Kime kredi verileceğine, kimin şartlı tahliye edileceğine ve kimin özgeçmişinin işe alım yöneticisine ulaşacağına karar veren sistemler, incelemeyi gerektirir. Yapay zeka etiği, adalet ve hesap verebilirlikten gizlilik ve özerkliğe kadar bu sistemlerin ortaya çıkardığı ahlaki soruları inceler.

Bu alan felsefe, hukuk ve mühendislik arasında yer almaktadır. Otonom bir sistem zarar verdiğinde kimin sorumlu olduğu, şeffaf olmayan modellerin nasıl denetleneceği ve bazı uygulamaların var olup olmaması gerektiği gibi soruları ele alır. Yüz tanıma, tahmine dayalı polislik ve otomatik işe alım gibi konular sürekli tartışmalara konu olmaktadır.

Tekrarlayan endişeler

• Eğitim verilerinde kodlanmış önyargı
• Karar alma süreçlerinde şeffaflık eksikliği
• Gözetim ve onay
• Sistemler arızalandığında hesap verebilirlik
• Gücün birkaç şirkette yoğunlaşması

Düzenlemeler uygulamaya geçiliyor. AB Yapay Zeka Yasası ve benzeri öneriler kurallar koymayı amaçlıyor, ancak uygulama hala düzensiz. Uygulayıcılar giderek daha fazla iç denetim kurulları ve etki değerlendirmeleri benimsiyor, ancak eleştirmenler bu önlemlerin çok gönüllü olduğunu savunuyor.