2006:无类别标签的逐层学习,怎样建立训练起点?

完整解释、原始数值、素材与实验仍可访问;默认翻页不进入此内容。

这里专看2006年的DBN路线:局部RBM先学习输入的统计结构,得到一层隐藏表示;固定已学部分后,用这个表示作为第二层的可见数据,再以这些参数为起点协调整体生成模型。训练并非没有目标,只是不依赖本课类别标签。它与后来对比学习、MAE共享“怎样从数据获得信号”的长期问题,方法并不相同。监督微调、深自编码器的重建也另有路线。同期还有把局部描述与分类器分段组织的办法,接着看它怎样工作。

原始说明

这里专看2006年的DBN路线:局部RBM先学习输入的统计结构,得到一层隐藏表示;固定已学部分后,用这个表示作为第二层的可见数据,再以这些参数为起点协调整体生成模型。训练并非没有目标,只是不依赖本课类别标签。它与后来对比学习、MAE共享“怎样从数据获得信号”的长期问题,方法并不相同。监督微调、深自编码器的重建也另有路线。同期还有把局部描述与分类器分段组织的办法,接着看它怎样工作。 历史定位:本页为Hinton等2006 DBN路线。与现代SSL共享学习信号问题,不把它们视作同一方法。 证据与制作说明:本页只讲Hinton等2006 DBN路线:局部RBM逐层训练,W1固定时h1作为第二层可见数据,随后整体生成式训练。单元数与矩阵值为结构示意。深自编码器的BP重建、监督分类微调是不同路线,留在专题,不混为同一个整体目标。

Hinton et al. · A Fast Learning Algorithm for Deep Belief Nets (2006)

CS231n 2026 · Neural Networks and Backpropagation