Zwei Schichten, keine Verbindungen innerhalb einer Schicht. Eine Restricted Boltzmann Machine besteht aus sichtbaren und verborgenen Einheiten, wobei Verbindungen nur zwischen den beiden Gruppen bestehen. Diese Einschränkung ermöglicht das Training mittels kontrastiver Divergenz.

Das Modell lernt eine Wahrscheinlichkeitsverteilung über die sichtbaren Einheiten. Versteckte Einheiten erfassen latente Merkmale. Nach dem Training kann das Netzwerk durch Gibbs-Sampling zwischen den Schichten Stichproben generieren.

Wichtigste Eigenschaften

• Bipartite Graphstruktur
• Energiebasiertes probabilistisches Modell
• Kontrastives Divergenztraining
• Werden als Bausteine ​​in tiefen Glaubensnetzwerken verwendet

RBMs spielten 2006 eine zentrale Rolle beim Wiederaufleben des Deep Learning, da ihre Stapelung ein effektives Vortraining ermöglichte. Moderne Architekturen wie VAEs und Diffusionsmodelle haben sie weitgehend ersetzt, doch die zugrundeliegenden Ideen finden sich weiterhin in der Forschung zur energiebasierten Modellierung wieder.