Forcer les données à passer par une ouverture étroite les oblige à se reconstruire. Un auto-encodeur apprend en compressant l'entrée en une représentation compacte, puis en reconstruisant l'original à partir de ce goulot d'étranglement. Le réseau ne peut pas se contenter de copier ; il doit saisir la structure essentielle.
Le processus se déroule en deux étapes. L'encodeur transforme l'entrée en un vecteur latent. Le décodeur transforme ce vecteur en l'espace d'origine. L'apprentissage minimise l'erreur de reconstruction, souvent mesurée par l'erreur quadratique moyenne ou l'entropie croisée.
usages courants
- Réduction de dimensionnalité comme alternative non linéaire à l'ACP
- Débruitage, où le réseau supprime la corruption
- Détection d'anomalies par mesure de l'erreur de reconstruction
- Pré-entraînement pour les tâches en aval
Des variantes étendent cette idée. Les auto-encodeurs variationnels imposent une structure probabiliste à l'espace latent, ce qui leur permet de générer de nouveaux échantillons. Les auto-encodeurs épars ajoutent des pénalités pour favoriser les codes compacts.
Comments (2)
Leave a comment