Man presst Daten durch eine enge Öffnung und zwingt sie zur Rekonstruktion. Ein Autoencoder lernt, indem er Eingabedaten in eine kompakte Repräsentation komprimiert und anschließend das Original aus diesem Engpass wiederherstellt. Das Netzwerk kann nicht einfach kopieren. Es muss die relevante Struktur erfassen.

Zwei Hälften erledigen die Arbeit. Der Encoder bildet die Eingabe auf einen latenten Vektor ab. Der Decoder bildet diesen Vektor zurück in den ursprünglichen Raum ab. Das Training minimiert den Rekonstruktionsfehler, der häufig als mittlerer quadratischer Fehler oder Kreuzentropie gemessen wird.

Übliche Verwendungen

• Dimensionsreduktion als nichtlineare Alternative zur PCA
• Denoising, bei dem das Netzwerk Korruption entfernt
• Anomalieerkennung durch Messung des Rekonstruktionsfehlers
• Vortraining für nachgelagerte Aufgaben

Varianten erweitern dieses Konzept. Variationelle Autoencoder legen dem latenten Raum eine probabilistische Struktur auf, wodurch sie neue Stichproben generieren können. Sparse Autoencoder fügen Strafen hinzu, um kompakte Codes zu fördern.