Deux couches, sans connexion à l'intérieur d'une même couche. Une machine de Boltzmann restreinte est composée d'unités visibles et d'unités cachées, les connexions se limitant aux groupes visible et caché. Cette restriction rend l'apprentissage possible grâce à la divergence contrastive.
Le modèle apprend une distribution de probabilité sur les unités visibles. Les unités cachées capturent les caractéristiques latentes. Une fois entraîné, le réseau peut générer des échantillons en effectuant un échantillonnage de Gibbs entre les couches.
Propriétés clés
- structure de graphe biparti
- Modèle probabiliste basé sur l'énergie
- Formation à la divergence contrastive
- Utilisés comme éléments de base dans les réseaux de croyances profonds
Les RBM ont joué un rôle central dans le renouveau de l'apprentissage profond en 2006, lorsque leur empilement a permis un pré-entraînement efficace. Les architectures modernes telles que les VAE et les modèles de diffusion les ont largement remplacés, mais leurs concepts restent présents dans la recherche en modélisation énergétique.
Comments (2)
Leave a comment