两层结构,层内无连接。受限玻尔兹曼机由可见单元和隐藏单元组成,连接仅存在于这两组单元之间。这种限制使得通过对比散度进行训练变得可行。
该模型学习可见单元上的概率分布。隐藏单元则捕获潜在特征。训练完成后,网络可以通过在各层之间运行吉布斯采样来生成样本。
主要属性
- 二分图结构
- 基于能量的概率模型
- 对比发散训练
- 用作深度信念网络的构建模块
在2006年深度学习复兴时期,受限玻尔兹曼机(RBM)发挥了核心作用,当时堆叠RBM可以实现有效的预训练。现代架构,例如变分自编码器(VAE)和扩散模型,已经很大程度上取代了RBM,但其思想仍然出现在基于能量的建模研究中。
Comments (2)
Leave a comment