Πιέστε τα δεδομένα μέσα από ένα στενό άνοιγμα και αναγκάστε τα να ανακατασκευαστούν. Ένας αυτόματος κωδικοποιητής μαθαίνει συμπιέζοντας την είσοδο σε μια συμπαγή αναπαράσταση και στη συνέχεια ανακατασκευάζοντας το πρωτότυπο από αυτό το σημείο συμφόρησης. Το δίκτυο δεν μπορεί απλώς να αντιγράψει. Πρέπει να καταγράψει τη δομή που έχει σημασία.

Δύο μισά κάνουν τη δουλειά. Ο κωδικοποιητής αντιστοιχίζει την είσοδο σε ένα λανθάνον διάνυσμα. Ο αποκωδικοποιητής αντιστοιχίζει αυτό το διάνυσμα πίσω στον αρχικό χώρο. Η εκπαίδευση ελαχιστοποιεί το σφάλμα ανακατασκευής, το οποίο συχνά μετριέται σε μέσο τετραγωνικό σφάλμα ή διασταυρούμενη εντροπία.

Κοινές χρήσεις

• Μείωση διαστάσεων ως μη γραμμική εναλλακτική λύση στην PCA
• Αποθόρυξη, όπου το δίκτυο εξαλείφει τη διαφθορά
• Ανίχνευση ανωμαλίας με μέτρηση σφάλματος ανακατασκευής
• Προεκπαίδευση για εργασίες κατάντη

Οι παραλλαγές επεκτείνουν την ιδέα. Οι παραλλαγμένοι αυτόματοι κωδικοποιητές επιβάλλουν μια πιθανοτική δομή στον λανθάνοντα χώρο, η οποία τους επιτρέπει να δημιουργούν νέα δείγματα. Οι αραιοί αυτόματοι κωδικοποιητές προσθέτουν κυρώσεις για να ενθαρρύνουν τους συμπαγείς κώδικες.