MCMC是否没有内存?


18

我试图从法语维基百科页面了解什么是马尔可夫链蒙特卡洛(MCMC)。他们说:“马尔可夫链蒙特卡罗方法包括仅从向量数据x i - 1生成向量xi,因此这是一个“没有内存”的过程”xi1

莱斯méthodes蒙特卡洛帕CHAINES德马尔可夫一致的générer未vecteur xi uniquementàpartir德拉donnée杜vecteur xi1 ; c'est donc un processus«sansmémoire»,

我不明白为什么他们说MCMC是“没有内存的”,只要我们使用向量数据xi1来生成xi


3
因为除了链的最后一个状态外,您不必“记住”过程的任何内容。我想您仍然需要一些内存,但这只是一条信息。
user2974951

不被“记住”;这是明确的输入。xi1
chepner

Answers:


28

马尔可夫链的定义特征是,以过去值为条件的当前值的条件分布取决于先前值。因此,每个马尔可夫链都是“无记忆的”,以致只有先前的值会影响当前的条件概率,并且所有先前的状态都被“遗忘”。(您是对的,并非完全没有内存-毕竟,当前值的条件分布取决于先前的值。)对于MCMC和任何其他马尔可夫链都是如此。


9
如果您向前迈出了一步,您可以说,以未来和当前价值为条件的未来价值的条件分布仅取决于当前价值,从这个意义上讲,只要知道当前位置,就不需要过去的记忆
亨利

除非您始终可以调整状态空间以存储有关过去的任何有限量的信息。例如,取决于您的最后十个州仍然是马尔可夫式的,因为您可以扩展状态空间以将该信息包括在“先前的状态”中。
David Richerby

15

尽管我们有正确的答案,但我想在语句的直观语义上稍作扩展。想象一下,我们重新定义了索引,以便您从向量x i生成向量xi+1。现在,那一刻被比喻看作是“本”,和所有的载体来了“早于” X 是不相关的,计算的未来下一个。xiixi

通过这种简单的重新编号,从直观的意义上来说,它变成了“完全没有记忆”-也就是说,马尔可夫系统如何处于当前状态根本不重要。当前状态仅确定未来状态,而不使用过去xin)状态的任何信息。

xixin


5

你醒了 您不知道如何到达自己所在的位置。您环顾周围的环境,并仅根据当时的可用信息来决定下一步的操作。这基本上与MCMC中发生的情况相同。

它使用当前可以查看的当前信息来决定下一步的操作。而不是将其视为从x找出xixi1xi1xi+1xi


2
我们称其为Hangover方法
IggyPass

@ThePassenger随心所欲地调用它。请通过阿司匹林。
戴森
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.