決定誰能獲得貸款、誰能獲得假釋以及誰的履歷能進入招募流程的系統，都需要接受嚴格的審查。人工智慧倫理學探討了這些系統引發的道德問題，從公平和問責到隱私和自主權。

該領域介於哲學、法律和工程學之間。它探討的問題包括：當自主系統造成傷害時，誰該負責？如何審核不透明的模型？以及某些應用是否應該存在？人臉辨識、預測性警務和自動化招募等都引發了持續的爭論。

反覆出現的問題

• 訓練資料中編碼的偏差
• 決策缺乏透明度
• 監控與同意
• 系統故障時的責任追究
• 權力集中在少數幾家公司手中

監管滯後於應用。歐盟人工智慧法案及類似提案旨在製定規則，但執行力度仍參差不齊。從業者越來越多地採用內部審查委員會和影響評估，但批評者認為這些措施過於自願。