兩層結構,層內無連接。受限玻爾茲曼機由可見單元和隱藏單元組成,連接僅存在於這兩組單元之間。這種限制使得透過對比散度進行訓練變得可行。
此模型學習可見單元上的機率分佈。隱藏單元則捕獲潛在特徵。訓練完成後,網路可以透過在各層之間運行吉布斯採樣來產生樣本。
主要屬性
- 二分圖結構
- 基於能量的機率模型
- 對比發散訓練
- 用作深度信念網路的建構模組
在2006年深度學習復興時期,受限玻爾茲曼機(RBM)發揮了核心作用,當時堆疊RBM可以實現有效的預訓練。現代架構,例如變分自編碼器(VAE)和擴散模型,已經在很大程度上取代了RBM,但其想法仍然出現在基於能量的建模研究中。
Comments (2)
Leave a comment