تتطلب الأنظمة التي تحدد من يحصل على قرض، ومن يحصل على إفراج مشروط، ومن تصل سيرته الذاتية إلى مدير التوظيف، تدقيقاً دقيقاً. يدرس علم أخلاقيات الذكاء الاصطناعي المسائل الأخلاقية التي تثيرها هذه الأنظمة، بدءاً من العدالة والمساءلة وصولاً إلى الخصوصية والاستقلالية.

يقع هذا المجال بين الفلسفة والقانون والهندسة. ويطرح تساؤلات حول المسؤولية عندما يتسبب نظام مستقل في ضرر، وكيفية تدقيق النماذج المبهمة، وما إذا كان ينبغي وجود تطبيقات معينة أصلاً. وتثير قضايا مثل التعرف على الوجوه، والشرطة التنبؤية، والتوظيف الآلي نقاشات مستفيضة.

مخاوف متكررة

• التحيز المضمن في بيانات التدريب
• انعدام الشفافية في عملية صنع القرار
• المراقبة والموافقة
• المساءلة عند فشل الأنظمة
• تركز السلطة في عدد قليل من الشركات

لا يزال تطبيق القوانين واللوائح متأخراً عن تطبيقها الفعلي. يهدف قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي والمقترحات المماثلة إلى وضع قواعد، لكن تطبيقها لا يزال متفاوتاً. يلجأ الممارسون بشكل متزايد إلى مجالس المراجعة الداخلية وتقييمات الأثر، على الرغم من أن النقاد يرون أن هذه الإجراءات اختيارية للغاية.