वे प्रणालियाँ जो यह तय करती हैं कि किसे ऋण मिलेगा, किसे पैरोल मिलेगी और किसका रिज्यूमे भर्ती प्रबंधक तक पहुंचेगा, उनकी गहन जांच आवश्यक है। एआई नैतिकता इन प्रणालियों द्वारा उठाए गए नैतिक प्रश्नों की पड़ताल करती है, जिनमें निष्पक्षता और जवाबदेही से लेकर गोपनीयता और स्वायत्तता तक शामिल हैं।

यह क्षेत्र दर्शन, कानून और इंजीनियरिंग के बीच स्थित है। इसमें यह सवाल उठता है कि जब कोई स्वायत्त प्रणाली नुकसान पहुंचाती है तो कौन जिम्मेदार होता है, अपारदर्शी मॉडलों का ऑडिट कैसे किया जाए, और क्या कुछ अनुप्रयोगों का अस्तित्व होना ही चाहिए। चेहरे की पहचान, पूर्वानुमानित पुलिसिंग और स्वचालित भर्ती, ये सभी विषय निरंतर बहस का विषय बने रहते हैं।

बार-बार होने वाली चिंताएँ

• प्रशिक्षण डेटा में निहित पूर्वाग्रह
• निर्णय लेने में पारदर्शिता का अभाव
• निगरानी और सहमति
• सिस्टम विफल होने पर जवाबदेही
• कुछ कंपनियों में सत्ता का केंद्रीकरण

नियमन क्रियान्वयन से पीछे है। यूरोपीय संघ का कृत्रिम बुद्धिमत्ता अधिनियम और इसी तरह के अन्य प्रस्तावों का उद्देश्य नियम निर्धारित करना है, लेकिन उनका प्रवर्तन असमान बना हुआ है। हालांकि, अभ्यासकर्ता आंतरिक समीक्षा बोर्ड और प्रभाव आकलन को तेजी से अपना रहे हैं, लेकिन आलोचकों का तर्क है कि ये उपाय बहुत स्वैच्छिक हैं।