Pres data gennem en smal åbning og tving dem til at rekonstruere. En autoencoder lærer ved at komprimere input til en kompakt repræsentation og derefter genopbygge originalen fra den flaskehals. Netværket kan ikke bare kopiere. Det er nødt til at indfange den struktur, der betyder noget.

To halvdele udfører arbejdet. Encoderen mapper input til en latent vektor. Dekoderen mapper denne vektor tilbage til det oprindelige rum. Træning minimerer rekonstruktionsfejl, ofte målt i middelkvadratfejl eller krydsentropi.

Almindelige anvendelser

• Dimensionalitetsreduktion som et ikke-lineært alternativ til PCA
• Støjreduktion, hvor netværket fjerner korruption
• Anomalidetektion ved måling af rekonstruktionsfejl
• Foruddannelse til downstream-opgaver

Varianter udvider ideen. Variationelle autoencodere pålægger en probabilistisk struktur på det latente rum, hvilket giver dem mulighed for at generere nye prøver. Sparsomme autoencodere tilføjer sanktioner for at fremme kompakte koder.