RBM

两层的神经网络,即输入层和输出层,训练时包括 2 个方向,从输入层到输出层 + 从输出层到输入层

什么是 RBM ?

  • RBM 包含两个层,可见层(v)和隐藏层(h)。神经元之间的连接具有如下特点:层内无连接,层间全连接。训练时首先在可见层输入原始数据,经过计算后,得到 h,然后再通过 h 生成 v
  • 一般来说,可见层单元用来描述观察数据的一个方面或一个特征,而隐藏层单元的意义一般来说并不明确,可以看作特征提取层

RBM 的应用?

  • RBM 可以看做是一个编码解码的过程,从可见层到隐藏层就是编码,而反过来从隐藏层到可见层就是解码。在推荐系统中,有些用户对部分商品评分了,输入 RBM 训练
  • 对于训练好的 RBM,根据当前用户的喜好输入,RBM 会预测用户对其他商品的评分,取最高评分作为推荐商品

什么是深度信念网络 (DBN)?

  • 由多层受限制玻尔兹曼机堆叠起来的网络叫作深度信念网络 (DBN),深度信念网络在最后一层接入一个 Softmax 层用作分类,训练的时候采取逐层训练 + 微调的方式

参考:

  1. 受限制玻尔兹曼机 (RBM) 以及自编码器 (Autoencoder) - 知乎
  2. 受限玻尔兹曼机(RBM)原理总结_受限玻尔兹曼机 原理_喜欢打酱油的老鸟的博客 - CSDN 博客
  3. 一起读懂传说中的经典:受限玻尔兹曼机 - 知乎