Klem data gjennom en smal åpning og tving dem til å rekonstruere. En autokoder lærer ved å komprimere input til en kompakt representasjon, og deretter gjenoppbygge originalen fra den flaskehalsen. Nettverket kan ikke bare kopiere. Det må fange opp strukturen som betyr noe.
To halvdeler gjør jobben. Koderen mapper input til en latent vektor. Dekoderen mapper den vektoren tilbake til det opprinnelige rommet. Trening minimerer rekonstruksjonsfeil, ofte målt i gjennomsnittlig kvadratfeil eller kryssentropi.
Vanlige bruksområder
- Dimensjonalitetsreduksjon som et ikke-lineært alternativ til PCA
- Støyfjerning, der nettverket fjerner korrupsjon
- Anomalideteksjon ved å måle rekonstruksjonsfeil
- Forhåndstrening for nedstrømsoppgaver
Varianter utvider ideen. Variasjonsautokodere pålegger en probabilistisk struktur på det latente rommet, som lar dem generere nye prøver. Sparsomme autokodere legger til straff for å oppmuntre til kompakte koder.
Comments (2)
Leave a comment