Twee lagen, geen verbindingen binnen een laag. Een beperkte Boltzmann-machine bestaat uit zichtbare en verborgen eenheden, met verbindingen alleen tussen de twee groepen. Deze beperking maakt training via contrastieve divergentie haalbaar.
Het model leert een waarschijnlijkheidsverdeling over zichtbare eenheden. Verborgen eenheden leggen latente kenmerken vast. Na de training kan het netwerk steekproeven genereren door Gibbs-sampling tussen de lagen uit te voeren.
Belangrijkste eigenschappen
- Bipartiete graafstructuur
- Probabilistisch model gebaseerd op energie
- Contrastieve divergentietraining
- Gebruikt als bouwstenen in diepe geloofsnetwerken.
RBM's speelden een centrale rol in de heropleving van deep learning in 2006, toen het stapelen ervan effectieve pretraining mogelijk maakte. Moderne architecturen zoals VAE's en diffusiemodellen hebben ze grotendeels vervangen, maar de ideeën duiken nog steeds op in onderzoek naar energiegebaseerde modellering.
Comments (2)
Leave a comment