Các hệ thống quyết định ai được vay tiền, ai được ân xá và hồ sơ của ai đến tay người quản lý tuyển dụng cần được xem xét kỹ lưỡng. Đạo đức trí tuệ nhân tạo (AI) nghiên cứu các vấn đề đạo đức do các hệ thống này đặt ra, từ sự công bằng và trách nhiệm giải trình đến quyền riêng tư và quyền tự chủ.

Lĩnh vực này nằm giữa triết học, luật học và kỹ thuật. Nó đặt ra các câu hỏi: ai chịu trách nhiệm khi một hệ thống tự động gây hại, làm thế nào để kiểm toán các mô hình thiếu minh bạch, và liệu một số ứng dụng nhất định có nên tồn tại hay không. Nhận dạng khuôn mặt, dự đoán hành vi phạm tội và tuyển dụng tự động đều thu hút những cuộc tranh luận không ngừng.

Những mối lo ngại lặp đi lặp lại

• Thiên kiến ​​được mã hóa trong dữ liệu huấn luyện
• Thiếu minh bạch trong quá trình ra quyết định
• Giám sát và sự đồng thuận
• Trách nhiệm giải trình khi hệ thống gặp sự cố
• Sự tập trung quyền lực vào một vài công ty.

Việc điều chỉnh pháp lý thường chậm hơn so với việc triển khai thực tiễn. Đạo luật AI của EU và các đề xuất tương tự nhằm mục đích thiết lập các quy tắc, nhưng việc thực thi vẫn còn chưa đồng đều. Các chuyên gia ngày càng áp dụng các hội đồng đánh giá nội bộ và đánh giá tác động, mặc dù các nhà phê bình cho rằng những biện pháp này quá tự nguyện.