受限玻尔兹曼机 (RBM)

概述

受限玻尔兹曼机（Restricted Boltzmann Machine, RBM）是一种生成式随机神经网络，由可见层和隐藏层组成，层间全连接但层内无连接。

主要特点

• 二分图结构：可见层和隐藏层之间有连接，层内无连接
• 能量模型：基于能量函数定义概率分布
• 无监督学习：能够学习数据的特征表示

基本结构

1. 可见层 (Visible Layer)

• 接收输入数据
• 节点数量等于输入特征维度

2. 隐藏层 (Hidden Layer)

• 学习数据的潜在特征
• 节点数量可调，影响模型容量

3. 权重和偏置

• 连接权重矩阵 W
• 可见层偏置 b
• 隐藏层偏置 c

训练算法

对比散度 (Contrastive Divergence, CD)

• CD-1：一步吉布斯采样
• 近似最大似然估计
• 计算效率高

应用领域

• 降维和特征学习
• 推荐系统
• 协同过滤
• 深度信念网络的基础组件