Fournissez à un auto-encodeur variationnel des milliers de photographies de visages et il apprendra une représentation compressée des visages, puis générera de nouveaux visages inédits. Ce modèle appartient à la famille des modèles génératifs et sa particularité réside dans son approche probabiliste de l'auto-encodeur classique.

Un autoencodeur standard transforme l'entrée en un vecteur fixe et le reconstruit. Un VAE, quant à lui, encode chaque entrée sous forme de distribution, généralement une moyenne et une variance, puis effectue un échantillonnage à partir de cette distribution avant le décodage. Cette aléatorité forcée lisse l'espace latent, de sorte que les points proches sont décodés en sorties similaires, ce qui rend l'interpolation et l'échantillonnage pertinents.

Ingrédients clés

• Un réseau d'encodeur qui produit les paramètres d'une distribution latente
• Une étape d'échantillonnage utilisant l'astuce de reparamétrisation pour maintenir la circulation des gradients
• Un réseau de décodeur qui reconstruit l'entrée à partir d'un vecteur latent échantillonné
• Une fonction de perte combinant l'erreur de reconstruction avec un terme de divergence KL qui régularise l'espace latent

Les VAE produisent des images plus floues que les GAN, mais leurs espaces latents sont plus structurés et plus faciles à explorer. Ce compromis explique leur popularité dans la découverte de médicaments, la détection d'anomalies et toute tâche où une représentation lisse et interprétable prime sur une netteté parfaite au pixel près.