停止问题和热力学熵之间有联系吗?


31

艾伦·图灵(Alan Turing)提出了一种用于计算机(图灵机,TM)的模型,该模型可以进行计算(数字,函数等),并证明了Halting定理

TM是机器(或引擎)的抽象概念。停止定理是不可能的结果。卡诺发动机(CE)是热机的抽象概念,卡诺证明了卡诺定理,这是与热力学熵有关的另一种不可能的结果。

假设TM在物理上是可以实现的(至少与CE一样多,或者可能不是?),是否存在TM或CE的映射或表示或“同构”,可以统一这些结果,并且还可以与熵联系起来?

当然,在算法信息论(例如Chaitin,Kolmogorov等)和熵(在这种情况下)方面,有TM和Halting定理的表述。这个问题要求一个更物理的熵概念(如果在潜在答案的过程中出现了算法熵,那很好,但是这并不是问题的确切含义)。

人们还可以检查Phys.se中的另一个问题,该问题将量子不确定性与热力学第二定律联系起来。另请参阅:代数表征,熵算法表征,熵的各种公式之间回顾和联系


1
在某种意义上,所描述的概念是完全相反的。关于熵上升的理论动力学规律排除了永动机。非停止机器是永动机
vzn 2014年

是的,我看到了,将永续条件重塑为永久移动(第二类)吗?这完全符合问题的实质,但这就是永续定理所说的吗?它说我们不知道它是否由于“循环性”而停止,很好
Nikos M.

是否建议在CS.se中添加“热力学”和/或“热力学计算”作为新标签?我不确定我是否可以自己(可能)做到这一点,但请听取其他意见
Nikos M.

Answers:


11

我根本不是这方面的专家,但是我相信您会对可逆计算感兴趣。这尤其涉及对物理上可逆的过程与逻辑上可逆的过程之间的关系的研究。我认为可以说这个领域的“创始人”是Ralph Landauer和Charles H Bennett(我认为,这两个都是IBM研究机构)。

它触及了量子计算和量子信息论,但还研究了诸如“在时间,空间和能量方面计算的局限性是什么?”之类的问题。众所周知(如果我没有记错的话),可以通过花费任意长时间来使执行可逆计算所需的能量任意减小。即,可以使执行可逆计算所需的能量×时间(= action)恒定。这是不是为不可逆计算的情况。×

许多在这一领域学习的人也在从事量子计算和数字物理学(宇宙是一个巨大的量子细胞自动机的想法)。研究人员想到的是Ed FredkinTommaso ToffoliNorm Margolus

这些问题绝对是计算机科学的主题。不仅对于理论(包括凉爽的数学以及凉爽的物理学),而且对于想要了解计算极限的工程师。存储一点信息需要最小的体积或能量吗?执行可逆计算所需的动作可能是常数,但是该常数是什么有限制吗?对于工程师来说,这些都是必不可少的知识,他们试图超越可能的极限。


是的,这与计算的热力学有关(Bennett,Landauer等人),但有关停止定理和/或TM和CE之间的映射(有疑问)有更多疑问,但很好的答案
Nikos M.

1
啊,你是对的。我正在拒绝我的答案。您的问题下的评论说这是题外话,使我看到红色,而我主要是对此做出回应。在回答您的真实问题时:请查看“教堂图灵论题”。假设您相信数学并且可以对自然界中的任何事物建模,那么“停顿问题”就是一个物理不可能定理。
漫游逻辑》

我认为也许确实有必要提出物理计算是有效计算的Church-Turing论点,也请看一下这篇论文
Nikos M.

5

除了我刚刚在Wikipedia中阅读的内容外,我不熟悉卡诺定理,但是即使是从粗略的介绍中,证明的结构也有联系,这对您来说可能很有趣,因为这是一种证明技术适用于许多领域。

它们都是矛盾的证明,其中证明给定类中的任何事物都不具有某些属性,您假设某个实例实际上确实具有该属性,然后证明存在矛盾。

停止问题很有趣,因为矛盾是由与特定实例有关的自交互产生的(该机器是可以确定任意机器是否将因给定输入而停止的机器M)。特别是,您构造了一个包含M作为组件的新计算机,然后将新计算机馈送到M。

可以对卡诺定理有更多了解的人可以对此进行详细说明(我没有资格这样做),但似乎矛盾之处在于,如果您拥有一个具有该属性的实例,则可以构建的热机类型。

因此,这两种情况都涉及以下内容的构造:

  • 假设某些X具有属性P。
    • 从X建立相关的Y。
    • X和Y之间的关系是矛盾的。
  • 因此,没有X具有属性P。

但是,在停顿定理案例中的矛盾确实是纯粹的逻辑矛盾,并且在任何经典逻辑的情况下都是矛盾的,但确实存在差异。据我所知,卡诺定理仅与热力学第二定律矛盾。从逻辑角度看,这是一个公理,因此,如果您采用了另一种公理化方法,其中热力学第二定律不成立,那么卡诺定理就不会成为定理,因为矛盾不会存在。(在没有第二定律的情况下,热力学的形式化将是导致几何体走向非欧几里德几何的问题。)


本文提供了您提到的imo方向。我认为非常相关的是参数的圆度(或对角线化)。存在将不可逆的逻辑变换与不可逆的热力学过程联系起来的研究方向(例如,Landauers原理及其反对意见)。有人反对第二法的某些陈述,但可以找到仍然适用的表述(例如,普里戈金的著作)
Nikos M.

有关如何建立这种联系的信息,另请参见对先前答案的评论(仅出于合理性考虑)
Nikos M. 2014年

关于第二定律的其他公式(甚至更通用的方法和针对非平衡过程的公式),您可以检查Caratheodory关于相空间和几何的陈述,Prigogin关于非平衡系统的工作以及Hatzopoulos-Gyftopoulos-Beretta公式(以及与量子力学)
Nikos M.

从某种意义上说,熵的方面如此之多,就像哥德尔定理的多个方面一样(例如在图灵的停顿定理,塔斯基的不可限定性定理罗瑟定理柴廷的不完备性定理中),甚至有一个范畴论证的“一般性” Goedel定理”涵盖了以前的所有基于固定点的定理
Nikos M.

即使停止问题和热力学熵之间的联系以if和当2md法则成立then ...的形式实现,它仍然是一个很好的问题(与第二法则可能像欧几里得几何上的平行度的第5个假设)
Nikos M.

4

IANAPhysicist,但没有任何联系。图灵机是纯数学的对象,停止问题的不确定性与任何事物的物理实现无关。


第二定律不可能结果与(数学)逻辑问题和循环性有很多共通之处,也许两者之间存在联系?
Nikos M.

1
您必须提供更多细节:正如我所说,我不是物理学家。但是我看不到物理定律如何对独立于物理现实而存在的结构产生任何影响。
David Richerby 2014年

您在这里有一个要点,我可以给出许多认识论上的理由来说明这是非常合理的(例如,我们的数学确实取决于我们生活的世界,爱因斯坦),但是如果我有一个正确的答案,我想进一步说明一下。可能会发表论文:)
Nikos M.

2
@vzn我们将“时间”一词用于表示机器已执行的步骤数,并使用“空格”来表示已使用的磁带单元数,但选择这些词是为了吸引我们作为肉体的直觉。但是,“时间”只是一系列配置的索引,而空间只是一系列符号的索引。例如,考虑一个图灵机,其头部刚好向右旋转。它使用了无限的“时间”和无限的“空间”,但您可以在有限的实时和真实空间中
找到答案

2
当然可以,但是我们认为图灵机是有趣的物体这一事实可能与物理学有关。
吉尔斯(Gilles)'所以

1

这个多样化的,多主题的问题没有简单/容易的答案,并且涉及TCS研究的活跃领域。然而,多年来一直令我感兴趣的是一个关于物理与TCS之间联系的罕见问题。有几个不同的方向。基本的回答是它是一个“开放性问题”,但是有一些积极的/现代的研究涉及此问题并暗示了联系。

  • 高级物理学中存在一些令人惊讶/深不可测的问题。例如来自动力系统。然而,还没有看到它本身与熵有关,而是熵与所有物理系统有关(例如,在化学理论中可以看到这一点),因此至少必须存在间接联系。

  • 确实在CS中出现,但更多地以信息论和编码论的形式出现。编码理论的诞生涉及香农对与通信代码相关的熵的定义/分析。试试这个很棒的在线参考文献《熵与信息论》,作者:格雷

  • 熵有时也与PRNG中随机性的测量有关。在Razborov / Rudich 着名的“自然证明”论文中,复杂度分类分离(例如P =?NP)与PRNG有联系。有关于这个主题的持续研究。

  • 您提到了热力学及其与TCS的联系。在物理学上,自旋玻璃的磁化与在SAT过渡点研究的NP完全问题之间有着深远的联系。那里(再次)物理系统具有一个与之相关的熵,但它可能是在物理环境中而不是在TCS环境中进行了研究。



另请参见 stackoverflow的CS defn
vzn

能够“开箱即用”地思考(至少有时是)很有趣,您是否研究了Bennet在计算热力学方面的工作?问题背后的动机是表明停止定理是否可以看作是热力学的结果(至少在某些情况下具有适当的模型或表示)。我认为这可以以任何一种方式解决都非常有趣
Nikos M.

也许您已经看过这些论文,philsci-archive.pitt.edu / 313

计算机科学中使用的大多数“熵”概念要么与香农的信息论有关,要么与Kolmogorov / Chaitin / Solomonov算法信息论有关,这已经在问题中提到,并且非常重要。我知道的热力学熵的唯一联系(可能与inf。熵有关)是计算的热力学。这个问题与计算的热力学有关,但从另一个角度来说是
NikosM。

1

有一个简单的思想问题,有时被用作非常规计算范例的简介:

您有两个灯泡及其各自的通断开关。有人一个接一个地打开和关闭两个灯。您如何确定哪个首先关闭,最后一个关闭?确定您需要打开灯的最少次数才能确定此问题。

大多数计算机科学家通常试图找到一些基于布尔逻辑的解决方案。答案是(至少其中一个):通过触摸灯泡,看看哪个更热。

基于热的范式存在于计算机科学中:模拟退火是一种已知算法(D波量子计算机是该算法的量子对应物)。

现在与停止问题有关系吗?

Chaitin和Calude通过欧米茄数字概念在停止问题上的经典著作可以与停止问题的概率表述联系起来。这是我能想到的关于该问题的最新论文,并且与熵(热力学)没有明确的关系。现在,如果信息熵(在Shannon的意义上)对您有利,则Omega数以Shannon界的意义以最简洁的方式编码Halting问题。

简而言之,Ω数是随机程序停止的概率。知道该常数将允许枚举所有有效的数学语句(真相,公理等),并且是无争议的。Calude通过使用与随机程序的长度成反比的度量并使用无前缀编码来更改均匀概率度量,并使用无前缀编码来计算Omega的版本。


很好的答案是,与灯泡热量有关的部分被多次用作信息熵和热力学熵之间的联系(这与杰恩斯的主观不确定性观点相反)。我自己的思路是将推理基于两个结构的圆度,并通过(一个“聪明的”)级联与另一个创建(至少以一种方式)相互牵连
Nikos M.

对电池(而不是灯泡)使用类似的推理来确定哪些电池已放电...
Nikos M. 2014年

0

是的!奇怪的是我已经想到了这一点。

第一步

麦克斯韦恶魔建模为计算机程序。然后,在打开供选择的门之前恶魔如何知道粒子的速度和位置?

假设恶魔无法测量粒子撞击门的速度,为什么呢?因为那会改变粒子的速度,所以恶魔必须打开粒子之前先弄清楚,不看也不测量。公平地说,我们将让恶魔提前知道游戏规则,即为恶魔提供运动定律,粒子相互作用和初始条件,以及足够的物理/动力学模型。

第二步

现在,还可以使用计算机程序对粒子气体进行建模,该程序正在为每个粒子运行赋予恶魔的相同代码,因此,气体是根据其初始条件计算结果的,恶魔直到停止之前才知道该结果。 ):即“具有正确速度的粒子在门上”,我们向系统询问的是/否问题是“具有正确位置和足够速度的粒子?”,如果是,则可以打开门并且快速粒子可以进入房间的高温侧并设置新的初始条件(这些连续的问题会得到答案吗?或者将永远持续下去?)

有时会出现没有足够的速度穿过边界的粒子的情况,因此,有时会在几乎任何给定的阈值下,代码都将永远运行(不停止)。

恶魔想知道由气体计算出的结果,但从某种意义上讲,该结果可能包含在粒子定律的源代码以及初始条件之内。当然,我们需要运行该程序才能知道它。如果Demon运行相同的程序以等待正确的输出速度,则该程序可能会暂停或永久运行(但我们还认为demon的运算能力不会比gas高,因此它无法决定准时开门)。

守护程序可以通过查看源代码和输入来查看程序的输出(或者是否会停止),而无需运行它,但这就像试图解决停止问题一样,为什么呢?因为Demon不知道将遵循什么法律和初始条件,所以Demon应该准备解决任何法律和初始条件集,而且我们知道一般来说这是不可能的,如果可能,它将需要一个oracle。足以建立一个恶魔,从一无所有产生能量。(即使知道法律和初始条件,这两件事已经足够难以理解了)

这个有思想的实验可以联系通过计算机减少熵的方式,如何在某种程度上以“停顿问题 ”为,以此作为通常可以预期结果的问题。

(有时所有限制似乎都是相同的限制。)

有关粒子定律的更多信息

粒子定律不是该思想实验的主要问题,这些定律可以是量子定律或经典定律,但我们必须考虑到定律和初始条件的复杂性这一事实,粒子排列的复杂性不受限制,并且可以增加了很多复杂性(在初始条件的极端示例中,您甚至可以根据内部源代码插入一台计算机来发射粒子并将该代码提供给守护程序)。


1
我不了解与暂停问题的联系。首先,您似乎已经重新定义了机器停机的含义。其次,您似乎只有一个程序(气体粒子模拟器)。完全有可能证明一个固定的程序停止或不停止,而不会违反一般停止问题的不确定性。
David Richerby 2014年

关于停止,它没有重新定义停止,在这里,程序停止与往常一样是当程序结束计算并获得输出时,因此这里的输出定义为具有正确速度的粒子撞击门的确切时刻,您可以建造一扇检测它的门,这样它将在程序停止时进行标记(然后程序从这些初始条件再次运行以获取其他输出)。守护程序想知道何时停止,但即使停止也无法知道。
Hernan_eche 2014年

1
图灵机无法决定图灵机的停止问题。似乎您已将停止问题重新定义为“这些气体分子中的一个是否进行过X吗?”,这与“从此输入启动时该图灵机是否停止了吗?”是完全不同的问题。图灵机停机问题的不可判定的图灵的证据只字未提图灵机是否能够计算一些气体分子是否能做到十
大卫Richerby

David的评论是正确的,因为它与停顿问题没有直接关系。但是,这是遵循该问题
实质

1
@Gilles,感谢您指出,我同意,如果需要的话,将创建一个聊天室。我希望保留这些评论,因为它们既与问题相关,也与具体答案相关(不断演变)
Nikos M.

-1

确实,这是一个非常令人着迷的问题,我们将看到您的想法是正确的

首先让我们看一下热力学第二原理的含义。

熵函数用于热力学第二定律。它源于卡诺定理,该定理指出,蒸汽机中发生的过程的效率要低或最好等于相应的“可逆”机(顺便说一句,在150年的热力学中,这是一个不稳定的概念)。卡诺本人并没有创造熵函数,但是他们和克劳修斯一起说的是:

由于没有永动机,因此我们可以建立一个称为熵的函数S,该函数将宏观热力学度量约束为一个方程,即 S(V,T,P等)= 0

注意,该方程只不过是热力学度量空间中的超表面方程。

进入Carathéodory。

卡拉索多里(Carathéodory)是一位德国数学家,他像所有数学家一样,都想从卡诺(Carnot)和克劳修斯(Clausius)的推理中提取一些公理,这将使他能够阐明第二定律的真正含义。坦率地说,他想纯化热力学以确切地知道什么是熵。

在列出了一定数量的公理之后,他设法制定了HIS第二定律,该定律说(或多或少):

有一些绝热过程。或更平淡地讲,如果您想返回,有时仅靠工作是不够的。您需要一点热量。

现在看来与克劳修斯的公式非常不同!但实际上并非如此。Carathéodory所做的只是改变单词的顺序,有点像数学家使用Euclide的5th公理玩了2000年,并为该公理产生了许多不同的措词。而且,如果您退后一步,您对Carathéodory关于第二定律的陈述也不会感到惊讶。实际上,Carathéodory导致了完全相同的熵函数和超曲面方程 S(V,T,P等)= 0

认真思考卡诺定理。作为数学家,您不应对卡诺承认永存机器不存在的方式感到满意。实际上,作为数学家,您宁愿看到以下内容:

有一个熵函数S,它约束宏观尺度IF,并且只有在没有永动机的情况下才约束。

现在,您有了一个定理。它说什么呢?只要没有孤立的机械系统产生无限量的能量,从而可能导致您进入所需的任何状态,那么您就会发现熵函数。一个分离的机械系统是一种绝热过程。因此,Carathéodory的表述是:绝热系统无法将您引向任何地方。有时您会需要一些热量。

因此,我们不仅确定Carathéodory的正确性,而且他的提法非常简单。

现在,您如何看待第二条律法laCarathéodory与停止问题类似?

退回Carathéodory的声明。它的全部含义是,一旦您拥有一个不再与之混合的孤立的机械系统,就无法达到您想要的任何状态。

这听起来不像停顿问题吗?即,一旦您写完了理论的所有公理并提出了所有可能的过渡,将存在您无法解决的问题。有时,您将需要添加更多公理。

实际上,如果您想更深入地对Carathéodory的公式进行编码,这将产生与绝热过程(而不是图灵机)的停顿问题相同的代码,并声明而不是问题。

你怎么看?

注意:我几乎完全编辑了答案,因此下面的注释将与现在包含的内容不一致。


1
“大米指出,没有图灵机可以无限期地产生非平凡的财产。” 我认识的那不是赖斯的意思。你什么意思?
David Richerby,2016年

1
您“无限产生非平凡的财产”是什么意思?
大卫·里希比

有点扭曲。赖斯说,无法证明TM实现了给定的功能。现在,如果TM A无限期产生非平凡的属性(N-TP),则意味着它为ANY条目产生N-TP。在实践中怎么可能这样呢?好吧,要实现这一点的唯一方法似乎是考虑一个未定义的条目e,并表明其A(e)具有N-TP。反过来,这意味着我们将设法证明该机器生产了N-TP。我们知道这是不可能的。因此,实际上我假设它等同于说“ A无限产生N-TP”和“我可以显示A产生N-TP”
Jerome

“无限产生非平凡的属性”意味着您可以向TM抛出无限数量的不同条目。而所有输出将具有NT-P
Jerome,

1
好。我认为,如果仅使用标准术语,而不是将“无限产生非平凡的属性”发明为“能够处理无限数量的输入”,您的答案将会更加清晰。这也将有助于解释您的“真正”图灵机的哪些方面无法处理无限数量的输入。例如,磁带是有限的吗?
David Richerby '16
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.