受限玻尔兹曼机器:如何在机器学习中使用?


21

背景:

是的,可以使用受限玻尔兹曼机(RBM)来启动神经网络的权重。此外,它可以在一个“层-层”的方式被用于建立一个深信念网络(即,培养一个上的顶部第层ñ - 1 个层,然后训练ñ + 1上的顶层第ñ个层,漂洗和重复...) ññ-1个ñ+1个ñ

关于如何使用RBM,可以从《受限玻尔兹曼机器》(RBM)的“ 良好”教程的线程中找到详细信息,在该 文章中可以找到一些论文和教程。

我的问题是:

  • RBM是否真的用于工业项目或学术项目中
  • 如果是,如何使用它以及在哪个项目上使用?
  • 有没有流行的库(例如tensorflow,Caffe,Theono等)提供RBM模块?

感谢分享。我想知道成果管理制在实践中是否真的有用。

Answers:


2

RBM是培训/学习深度网络的最早实用方法之一,它不仅具有一层或两层。我认为,深度信念网络是由杰弗里·欣顿提出的,我认为这是深度学习的“父亲”之一,尽管我认为,Yann LeCun是​​深度学习的另一个主要“父亲”,或者我就是这样看的。当然,一切都是Jurgen Schmidhuber几年前发明的:-)

因此,RBM之所以出名是因为1. 1.进行深度学习的第一种方法2. Geoffrey Hinton。

但是,在实践中,它们确实在学术研究中得到了使用,因为许多人试图找到一些独特的利基市场,他们可以成为专家,并且在某些RBM利基市场中成为全球专家是一个很好的选择。小众。但是,在实践中,虽然我不会声称它们从未使用过,但在工业中却很少出现。真的有这么多非常标准的技术可以真正快速而轻松地进行训练,例如逻辑回归和前馈卷积神经网络。对于无人监督,诸如GAN之类的东西目前真的很流行。


1

可以使用RBM来处理数据收集中出现的典型问题(例如可以用来训练机器学习模型)。这样的问题包括不平衡的数据集(在分类问题中)或缺少值的数据集(某些要素的值未知)。在第一种情况下,可以使用少数类的数据来训练RBM,并使用它来生成该类的示例,而在第二种情况下,可以分别为每个类训练RBM并发现未知特征值。

RBM的另一个典型应用是协作过滤(http://dl.acm.org/citation.cfm?id=1273596)。

就流行的图书馆而言,我认为deeplearning4j是一个很好的例子(http://deeplearning4j.org)。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.