Τα μοντέλα μαθαίνουν από τους ανθρώπους. Κάθε σύνολο εκπαίδευσης περιέχει ίχνη πραγματικών ατόμων και κάθε πρόβλεψη αγγίζει κάποιον του οποίου τα δεδομένα διαμόρφωσαν το σύστημα. Το απόρρητο δεδομένων αφορά τον τρόπο με τον οποίο συλλέγονται, αποθηκεύονται, χρησιμοποιούνται και προστατεύονται αυτές οι πληροφορίες.

Οι κανονισμοί καθορίζουν το κατώτατο όριο. Ο GDPR στην Ευρώπη, ο CCPA στην Καλιφόρνια και παρόμοιοι νόμοι αλλού παρέχουν δικαιώματα πρόσβασης, διόρθωσης και διαγραφής προσωπικών δεδομένων. Τα συστήματα τεχνητής νοημοσύνης περιπλέκουν τη συμμόρφωση επειδή τα μοντέλα απορροφούν μοτίβα από τα δεδομένα και δεν μπορούν εύκολα να ξεχάσουν συγκεκριμένα παραδείγματα.

Βασικές ανησυχίες

• Συναίνεση και διαφάνεια στη συλλογή δεδομένων
• Επαναταυτοποίηση από υποτιθέμενα ανώνυμα δεδομένα
• Απομνημόνευση παραδειγμάτων εκπαίδευσης μέσω μοντέλου
• Διασυνοριακή μεταφορά δεδομένων
• Συμπερασματολογία ευαίσθητων χαρακτηριστικών

Τεχνικές όπως η διαφορική ιδιωτικότητα, η ομόσπονδη μάθηση και η ελαχιστοποίηση δεδομένων μειώνουν τον κίνδυνο, αλλά προσθέτουν κόστος και πολυπλοκότητα. Η τέλεια ιδιωτικότητα σπάνια επιτυγχάνεται. Ο πρακτικός στόχος είναι η ουσιαστική προστασία με σαφή λογοδοσία.