Fodr en variationel autoencoder med tusindvis af ansigtsfotografier, og den vil lære et komprimeret kort over, hvordan ansigter ser ud, og derefter generere nye, der aldrig har eksisteret. Modellen tilhører den generative familie, og dens kendetegn er en probabilistisk twist på den almindelige autoencoder.

En standard autoencoder klemmer input ind i en fast vektor og rekonstruerer den. En VAE koder i stedet hvert input som en fordeling, typisk en middelværdi og en varians, og sampler derefter fra denne fordeling før afkodning. Denne tvungne tilfældighed udjævner det latente rum, så nærliggende punkter afkodes til lignende output, hvilket gør interpolation og sampling meningsfuld.

Vigtige ingredienser

• Et encodernetværk, der udsender parametre for en latent fordeling
• Et samplingstrin ved hjælp af reparametriseringstricket for at holde gradienterne flydende
• Et dekodernetværk, der rekonstruerer inputtet fra en samplet latent vektor
• En tabskombinationsrekonstruktionsfejl med et KL-divergensterm, der regulariserer det latente rum

VAE'er producerer slørede billeder end GAN'er, men deres latente rum er mere strukturerede og lettere at navigere i. Denne ulempe gør dem populære til lægemiddelforskning, anomalidetektion og enhver opgave, hvor en jævn, fortolkelig repræsentation betyder mere end pixelperfekt skarphed.