Przeciśnij dane przez wąski otwór i zmuś je do rekonstrukcji. Autoenkoder uczy się, kompresując dane wejściowe do zwartej reprezentacji, a następnie odbudowując oryginał z tego wąskiego gardła. Sieć nie może po prostu kopiować. Musi uchwycić strukturę, która ma znaczenie.

Dwie połowy wykonują pracę. Koder mapuje dane wejściowe na wektor ukryty. Dekoder mapuje ten wektor z powrotem do przestrzeni pierwotnej. Trening minimalizuje błąd rekonstrukcji, często mierzony w średnim błędzie kwadratowym lub entropii krzyżowej.

Typowe zastosowania

• Redukcja wymiarowości jako nieliniowa alternatywa dla PCA
• Denoising, czyli usuwanie zakłóceń z sieci
• Wykrywanie anomalii poprzez pomiar błędu rekonstrukcji
• Wstępne szkolenie dla zadań dalszych

Warianty rozszerzają tę ideę. Autoenkodery wariacyjne narzucają probabilistyczną strukturę przestrzeni ukrytej, co pozwala im generować nowe próbki. Rzadkie autoenkodery dodają kary, aby zachęcić do tworzenia zwartych kodów.