对HTM性能有何批评?


16

我最近才了解到这种分层时态内存(HTM)的存在。我已经读过文档《分层时间记忆:概念,理论和术语》(Jeff Hawkins和Dileep George撰写),这似乎很容易理解,但有一个危险信号是,该文档既没有经过同行评审,也没有试图解释为什么应该这样做。详细工作。

我试图四处寻找一些独立的消息来源。我发现有几篇论文将其性能与其他产品进行了比较,但没有一篇解释它为什么表现良好(或不好)。我注意到一些评论声称它被主流专家所否定,但是我找不到任何实际的批评。

对HTM性能有何批评?由于HTM是通用的,因此任何针对特定领域的批评都应与更基本的问题相关。

此外,还有大量的培训数据要使用,即使是数月的培训课程也足够使用。基本上,对培训规模或时间长短的任何批评都无关紧要。

Answers:


6

在以下摘自http://www.theregister.co.uk/2014/03/29/hawkins_ai_feature/的文章中,对杰夫·霍金斯的批评得到了很好的总结

我本人相信,HTM理论具有巨大的潜力,并将成为真正的机器智能的基础。IBM最近宣布支持HTM理论,并成立了包括数百名成员的Cortical学习中心。

http://www.technologyreview.com/news/536326/ibm-tests-mobile-computing-pioneers-controversial-brain-algorithms/

正如文章中指出的那样,Numenta的共同创始人Dillep George创立了初创公司Vicarious,该公司吸引了大量资金,这实际上表明了HTM理论的潜力。

资料来源:对杰夫·霍金斯的批评,The Register

他的精通媒体,自信的态度似乎激起了其他学者的不适感,这些学者正确地指出,霍金斯尚未发表广泛的著作,也没有他自己发明许多想法。

Numenta也有麻烦,部分原因是霍金斯(Hawkins)对大脑如何运作的特质看法。

例如,在2010年,Numenta联合创始人Dileep George离开,创立了自己的公司Vicarious,以在有前途的AI领域中摘取一些比较低调的成果。据我们了解,这种友好的分离源于乔治和霍金斯之间的观点差异,因为乔治倾向于一种更数学的方法,而霍金斯则倾向于一种更生物学的方法。

纽约大学心理学教授加里·马库斯(Gary Marcus)在《纽约客》(New Yorker)一篇题为《大数据》(Steamroll)的标题为《大数据》(New Yorker)的文章中驳斥了努曼塔(Numenta)的做法,霍金斯(Hawkins)也从知识分子那里有点麻烦。

El Reg接受本文采访的其他学者都不想被引用,因为他们认为Hawkins缺乏同行评审的论文以及他的企业家个性降低了他整个研究方法的可信度。

霍金斯消除了这些批评,并认为它们归结于他和AI知识分子之间的意见分歧。

他告诉我们:“这些复杂的生物系统不是由数学原理设计的,很难完全形式化。”


2

我学习HTM已有一段时间了。挺酷的 HTM的默认行为是分析时间数据。另一方面,如今,您需要一个“花式”神经网络(例如递归神经网络)来建模序列到序列问题(例如聊天机器人)。但是HTM可以自然地应用于此类问题!

我打算用它制作某种交互式电视,将控制数据与可视数据一起发送,然后将可视数据限制为控制数据(这是可能的,但不要期望它会突然产生新的视频,不会发生)。但是,我必须说,关于它的最酷的事情是您教它的视频不会在播放时出现,而是会显示它的最典型版本,这是它的理解形式,并且实际上使它真正凉。因此,这有点像您从中实现的梦想。

如果您将HTM与文字配合使用,

  1. 它存储字母,
  2. 然后产生音节
  3. 然后将这些音节带走,并从中产生共同性,
  4. 然后它从普通音节中形成单词,
  5. 然后就用这些词来确定它们的共同点,
  6. 那么它可能会形成更大的词,
  7. 然后形成单词组
  8. 然后形成句子组

因此,每次上升一个级别,它都会“忘记”一点点,只是为了使各个小组更加牢固地团结在一起。这些根深蒂固的组的播放与播放的唱片有些不同。而且很多人还没有看到这种回放。

我想知道它是否完全带有自己的句子。

它使句子的增长变慢了一点,变得更好了。这比不遗忘任何事情并简单地对唱片进行简单回放要困难得多。我想说的是,句子的增长越慢,您做的越好,因此,如果有更多找到典型性的方法,则应该这样做。


2
这将如何回答“对HTM性能有何批评?”
Evil
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.