基于熵的沙里兹时间悖论贝叶斯后向箭头反驳?


31

本文中,才华横溢的研究人员Cosma Shalizi认为,要完全接受一种主观的贝叶斯观点,还必须接受一种非物质的结果,即时间的箭头(由熵流给出)实际上应该向后退。这主要是为了反对ET Jaynes提出和推广的最大熵/完全主观贝叶斯观点。

随着在LessWrong,很多参与方都非常有兴趣在贝叶斯概率理论,并在主观贝叶斯方法作为正式决定理论的基础和垫脚石走向强大的AI 埃利泽·尤多科斯基是一种常见的贡献者那里,我最近在读这篇文章时,我碰到了此评论(在原始帖子的页面上不久之后,还有其他几条很好的评论)。

谁能评论尤德科夫斯基反驳沙里兹的有效性。简而言之,尤德科夫斯基的论点是,推理者更新其信念的物理机制需要工作,因此具有热力学成本,沙利兹正在地毯下扫荡。Yudkowsky在另一条评论中对此辩护说:

“如果您从系统外部看一个逻辑上无所不知的完美观察者的观点,那么“熵”的概念就几乎没有意义,“概率”也是如此-您不必使用统计热力学来建模任何东西,您只需使用确定性精确波动方程。”

任何概率论者或统计学家都可以对此发表评论吗?我不太在乎权威人士关于沙利兹或尤德科夫斯基地位的争论,但我真的很想看到尤德科夫斯基的三点观点对沙利兹的文章提出批评的方式的总结。

为了符合FAQ准则并使之成为一个具体可回答的问题,请注意,我要提出一个具体的,逐项的答复,该答复应采用Yudkowsky的三步法论证,并指出在Shalizi文章中这三步法反驳了假设和/或推导,或者,另一方面,指出了在沙利兹的论文中论及尤德科夫斯基论点的地方。

我经常听到吹捧Shalizi的文章是铁定论据,证明无法捍卫成熟的主观贝叶斯主义...但是在阅读了Shalizi文章几次之后,对我来说这似乎是一个玩具论证,永远无法适用观察者与所观察的事物(即所有实际物理学)进行交互。但是Shalizi是一位出色的研究人员,因此我欢迎第二意见,因为我很可能不理解这场辩论的重要内容。


10
沙利兹喜欢挑衅……在我看来,他的论点与创造论点基本相同,即进化论违反了热力学第二定律,这是因为“较晚的”有机体在组织上比“较早的”有机体更为复杂,但是第二定律说熵是不减的 但是,1)第二定律中没有什么能阻止熵的局部减小,2)该论点暗示着任何人都无法学到任何东西(为什么通过贝叶斯更新进行学习与任何其他学习过程都应该有所不同?)
jbowman

4
Shalizi和Yudkowsky之间的辩论不会让我烦恼;两者都不是权威。(尽管沙利兹写得很好。)无论如何,您是否认为Phys.se是解决此问题的更好场所?
Emre'5

1
您是否阅读过Yudkowsky的许多顺序文章?我认为他的写作也很好。这两个人物都有争议的立场,但沙利兹似乎确实是出于主观贝叶斯主义的。我在这里问的原因是,它与Shalizi与Andrew Gelman撰写的更为纯粹的理论统计论文紧密地联系在一起,而该论文也充斥着哲学问题(尽管Gelman在实践中是一个全面的专家)。(链接
2012年

1
我一直试图将其归结为方程式,但我似乎还没有做到。我认为Shazili的最大问题是他对第1节的第二个假设,即您可以使用贝叶斯规则来更新(随机)相位点作为Yudkowsky指出,这忽略了,当你再次测量和更新您的初次分配,你有你的贡献加起来系统的事实...X
内斯托尔·

...而且这有很多形式:尝试控制您的系统(每次都是唯一的,这使问题可能基本上是随机的,在这种情况下,熵的概念将毫无意义...也许我们应该谈论熵率?)。我一直试图说服自己,可以将此贡献建模为相点矢量的线性变换:这将说明Shazili使用的不等式是无效的,因为所产生的熵将有一个额外的项(线性变换行列式的对数)。X
内斯托尔·

Answers:


16

简而言之:Yudkowsky 1:0。

Cosma Shalizi考虑了经过一些测量的概率分布。他会相应地更新概率(在此情况下,如果是贝叶斯推断或其他任何东西就不重要了)。

毫不奇怪,概率分布的熵降低了。

但是,他得出了一个错误的结论,认为它暗示了时间的箭头:

这些假设使时间箭头反向,即它们使熵不增加。

正如评论中指出的那样,对热力学重要的是封闭系统的熵。也就是说,根据热力学第二定律,密闭系统的熵不能减小。它没有提到子系统(或开放系统)的熵。否则您将无法使用冰箱。

一旦我们测量了某物(即交互和收集信息),它就不再是一个封闭的系统。我们要么不能使用第二定律,要么-我们需要考虑一个由被测系统和观察者(即我们自己)组成的封闭系统。

特别是,当我们测量粒子的确切状态时(在我们不知道其分布之前),实际上我们降低了其熵。但是,要存储信息,我们需要将熵至少增加相同的数量(通常会有巨大的开销)。

因此,Eliezer Yudkowsky提出了一个很好的观点:

1)测量使用工作(或至少擦除以准备下一次测量使用工作)。

实际上,关于工作的评论在这里并不是最重要的。尽管热力学是关于将熵与能量相关(或交易),但是您可以绕开(即,我们不需要诉诸于Landauer原理Shalizi对此持怀疑态度)。要收集一些新信息,您需要删除以前的信息。

为了与经典力学(以及量子力学)保持一致,您不能使任何函数都映射为全零(没有副作用)。您可以创建一个将内存映射为全零的函数,但同时将信息转储到某处,从而有效地增加了环境的熵。

(以上内容源自哈密顿动力学-即在经典情况下保持相空间,在量子情况下保持演化的统一性。)

PS:今天的窍门-“减少熵”:

  • 翻转无偏硬币,但不要看结果(H=1个 位)。
  • 张开你的眼睛。现在您知道了它的状态,所以它的熵是H=0 位。

1
tl; dr版本是否正确:“ Shalizi的论文只是对Maxwell恶魔的专门重述”?
Artem Kaznatcheev'5

@ArtemKaznatcheev基本上是。但是封闭式系统相对于开放式系统更具品味。但是对于那些不喜欢阅读的人,第一行是;)。
Piotr Migdal

我喜欢这个答案,但是我很难与另一个线程的讨论保持一致。查看此链接,找到用户“实用主义者”启动的话题/答案。如果您添加一个或两个针对该论点的段落(或解释为什么该论点有效/与上面的回答不同意),我将很乐意接受。
2012年

@EMS好,“您能发表评论吗?” 不是最适合SE的(通常,有很多参数)。此外,实际上我证明了对沙利兹论文的批评是正确的。包括对文件的评论的评论也要求太多。您能否更具体一点,即指出确切的分数?但是:“当我们进行统计力学时,我们通常对系统和观察者的熵不感兴趣” -错(开放系统与封闭系统),“系统演化不会是单一的” -正确,但即使是传统上,您也无法降低总熵。
Piotr Migdal

@EMS擦除原理比统计更深入。机甲。-正如我说的那样,如果不能满足要求,则会同时驳斥量子力学和经典力学。再说一遍:您不能将封闭系统的规则应用于开放系统-因此,实用主义者的大多数论点要么都不科学(即不信不信),要么不理会物理学。
Piotr Migdal

4

Shalizi的缺陷非常基本,它源自假设I,即时间演化是可逆的(可逆的)。

个性状态的时间演化是可逆的。除非系统处于平衡状态,否则肯定会在ALL OF PHASE SPACE上分布的时间演化是不可逆的。本文处理的是整个相空间分布的时间演化,而不是单个状态的时间演化,因此可逆性的假设完全是不自然的。在平衡情况下,结果是微不足道的。

时间之箭来自这个事实,实际上,分布的时间演化是不可逆的(梯度下降和气体扩散的原因)。众所周知,不可逆性是由“冲突术语”产生的

如果考虑到这一点,他的论点就会分崩离析。到目前为止,信息熵=热力学熵。:D


1
因为从根本上说QM是确定性的 -Schrodinger方程精确地描述了系统随时间的变化而没有不确定性-而且它是线性的,所以似乎各个状态的可逆性将立即暗示着可逆性。这种状态的任何分布。因此,我想看到您对断言的数学辩解,因为它可以更清楚地显示您现在仅隐含地假设动力学方程式的内容。
ub

对于平衡分布,事情微不足道,时间演化是可逆的。对于相空间量不是恒定的耗散系统,初始分布的许多状态可能映射到最终分布的单个状态,反之亦然(不再可逆)。这在例如理想气体的自由膨胀的情况下是清楚的。每个单个粒子的运动显然是可逆的,但膨胀本身不是,因为它涉及相空间体积的变化。气体永远不会“膨胀”。如果您仍然不满意,我可以为您计算一些数学。
伊桑(Ethan)

由于您指责Shalizi对此有误,因此提供某种客观的数学支持将是一个好主意。但是请注意不要偏离本网站的重点,该网站的重点是分析数据,而不是物理!不过,自由膨胀的例子对我而言似乎并不具有决定性,因为在一个(假设地)紧凑的宇宙中似乎没有这样的东西:气体膨胀其他地方。
ub

有时候我忘记了我正在使用哪个stackexchange。也许我会从那开始。但是对于气体,熵的变化为TdS = dU + pdV,但dU为零,因为我们是绝热的,所以dS = pdV / T。根据理想气体定律dS = nRdV / V,因此从v1到v2会使熵改变ln(v2 / v1)。基本上所有自发的宏观过程(即可再现的)都是不可逆的。但是,也许从基本原理中获取这些并不是一件容易的事(玻尔兹曼在上面花了毕生的精力)
Ethan

3

链接的文件明确假定

演化算子T是可逆的。

但是,如果您以常规方式使用QM,则此假设不成立。假设您有一个状态X1,它可以等概率地演化为X2或X3。您会说状态X1演变为加权集[1/2 X2 + 1/2 X3]。Shalizi证明此集合没有X1拥有更多的熵。

但是,作为观察者或该系统的一部分,我们只能查看X2或X3之一。选择我们要看的那两个分支中的哪一个,会增加一点新的熵,并且这种选择是不可逆的。这就是熵随时间增加的原因。沙里兹所做的是使用所有熵都起源于量子分支的数学,然后忘记发生量子分支。


2
该论文(作为第二定律)涉及封闭系统。量子力学在封闭系统上是完全可逆的(即所有运算符都是一元的)。量子力学中唯一不可逆的操作是测量。如果您测量一个封闭的系统,那么从热力学角度来看,它不再是封闭的。如果您的观察者在系统内部,并且测量一个子系统,那么观察者+子系统会一起演化,因此操作是可逆的(此技巧被非正式地称为“更大的希尔伯特空间教会”)。因此,您对“ QM”的说法是错误的。
Artem Kaznatcheev'5

1
This is only if you believe the Copenhagen interpretation though (or others that separate 'measurement' from the unitary processes). Many Worlds holds that measurement is just the usual unitary laws and hence is perfectly reversible; it's just an artifact of the universe's initial state that it's probabilistically unlikely to see its reversal (I may not be explaining it very well, I'm not a physicist). At any rate, I'm not convinced that this answer should be downvoted due to this criticism.
ely

1
@EMS It doesn't matter what interpretation you use, QM of a closed system is reversible. But in the bigger context of the original question, the details of the answerer being wrong about QM is irrelevant: Shalizi already addresses this point in section II.A in a more general sense; even a correct form of this answer does not go beyond the shortcoming Shalizi himself points out.
Artem Kaznatcheev

1
As mentioned in another thread discussing this, this answer appears to just be the flipside of the other answer given: if you insist on the closed system requirement, then you must find your source of entropy (i.e. Shalizi's "closed system" has to include the person with the bit of entropy for 'happening to proceed down one (unknown) branch of the two branches'. That is, it seems like this answer is also saying that Shalizi's paper is just a restatement of Maxwell's Demon. Again, I may be misunderstanding it due to lack of formal physics training.
ely
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.