Sistem yang menentukan siapa yang mendapatkan pinjaman, siapa yang mendapatkan pembebasan bersyarat, dan resume siapa yang sampai ke manajer perekrutan membutuhkan pengawasan. Etika AI mengkaji pertanyaan-pertanyaan moral yang diajukan oleh sistem-sistem ini, mulai dari keadilan dan akuntabilitas hingga privasi dan otonomi.

Bidang ini berada di antara filsafat, hukum, dan teknik. Bidang ini mempertanyakan siapa yang bertanggung jawab ketika sistem otonom menyebabkan kerugian, bagaimana mengaudit model yang tidak transparan, dan apakah aplikasi tertentu seharusnya ada sama sekali. Pengenalan wajah, kepolisian prediktif, dan perekrutan otomatis semuanya memicu perdebatan yang berkelanjutan.

Kekhawatiran yang berulang

• Bias yang terkode dalam data pelatihan
• Kurangnya transparansi dalam pengambilan keputusan
• Pengawasan dan persetujuan
• Akuntabilitas ketika sistem gagal
• Konsentrasi kekuasaan di beberapa perusahaan

Regulasi tertinggal di belakang implementasi. Undang-Undang AI Uni Eropa dan proposal serupa bertujuan untuk menetapkan aturan, tetapi penegakannya masih belum merata. Para praktisi semakin banyak mengadopsi dewan peninjauan internal dan penilaian dampak, meskipun para kritikus berpendapat bahwa langkah-langkah ini terlalu bersifat sukarela.