Τα συστήματα που αποφασίζουν ποιος θα λάβει δάνειο, ποιος θα λάβει αποφυλάκιση υπό όρους και ποιου το βιογραφικό θα φτάσει σε έναν υπεύθυνο προσλήψεων απαιτούν έλεγχο. Η ηθική της Τεχνητής Νοημοσύνης εξετάζει τα ηθικά ερωτήματα που εγείρουν αυτά τα συστήματα, από τη δικαιοσύνη και την λογοδοσία έως την ιδιωτικότητα και την αυτονομία.

Ο τομέας αυτός βρίσκεται ανάμεσα στη φιλοσοφία, το δίκαιο και τη μηχανική. Διερωτάται ποιος είναι υπεύθυνος όταν ένα αυτόνομο σύστημα προκαλεί βλάβη, πώς να ελέγχονται αδιαφανή μοντέλα και εάν ορισμένες εφαρμογές θα πρέπει να υπάρχουν καθόλου. Η αναγνώριση προσώπου, η προγνωστική αστυνόμευση και οι αυτοματοποιημένες προσλήψεις προσελκύουν συνεχείς συζητήσεις.

Επαναλαμβανόμενες ανησυχίες

• Κωδικοποιημένη μεροληψία στα δεδομένα εκπαίδευσης
• Έλλειψη διαφάνειας στη λήψη αποφάσεων
• Επιτήρηση και συναίνεση
• Λογοδοσία όταν τα συστήματα αποτυγχάνουν
• Συγκέντρωση εξουσίας σε λίγες εταιρείες

Η νομοθεσία υστερεί σε σχέση με την ανάπτυξη. Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη και παρόμοιες προτάσεις στοχεύουν στον καθορισμό κανόνων, αλλά η εφαρμογή τους παραμένει άνιση. Οι επαγγελματίες υιοθετούν ολοένα και περισσότερο εσωτερικές επιτροπές αξιολόγησης και εκτιμήσεις επιπτώσεων, αν και οι επικριτές υποστηρίζουν ότι αυτά τα μέτρα είναι υπερβολικά προαιρετικά.