接下来是受限玻尔兹曼机，图示如下：
包含三个可见单元和四个隐单元的受限玻尔兹曼机示意图（不包含偏置节点）
RBM与前馈神经网络不一样，RBM在可见层和隐层间的连接方向是不确定的，值可以进行双向传播；且可见层与隐层，层间完全连接，而层内没有连接，也即二分图（不受限玻尔兹曼机隐层单元间存在连接，使之成为递归神经网络）。
标准的受限玻尔兹曼机由二值（布尔/伯努利）隐层和可见层单元组成，权重矩阵W中的每个元素指定了隐层单元hj和可见层单元vi之间连接的权重值（受限玻尔兹曼机每条边必须连接一个隐单元和可见单元），此外对于每个可见层单元vi有偏置ai，对每个隐层单元hj有偏置bi。前面在讲述玻尔兹曼机时提到过，我们要确定两部分内容，一个是联合概率分布、边缘概率分布和条件概率分布，另一个是能量函数。给出了前面的定义，我们先给出受限玻尔兹曼机的能量函数：
更换其为矩阵表示：
根据能量函数，我们进一步给出受限玻尔兹曼机中隐层和可见层之间的联合概率分布：
边缘概率分布（通过对所有隐层配置求和得到）：
