图灵说“机器不会引起意外”是由于谬论引起的？

我遇到过下面的语句由阿兰·图灵M. 这里：

“我认为，机器不能引起意外的观点是由于哲学家和数学家特别容易受到谬论的影响。这是基于这样的假设，即一旦将事实呈现给人们，该事实的所有后果就会浮现。在许多情况下，这是一个非常有用的假设，但很容易忘记它是错误的。”

我不是英语母语人士。谁能用简单的英语解释它？

数学家和哲学家经常认为机器（在这里，他可能表示“计算机”）不会令我们感到惊讶。这是因为他们假设一旦我们了解了某个事实，便会立即理解该事实的所有后果。这通常是一个有用的假设，但很容易忘记它是错误的。

他说具有简单，有限描述的系统（例如图灵机）可能表现出非常复杂的行为，这使某些人感到惊讶。我们可以很容易地理解图灵机的概念，但随后我们意识到它们具有复杂的后果，例如无法确定停机问题等。这里的技术术语是“知识不是通过演绎而封闭的”。也就是说，我们可以知道一些事实 ，但不知道 ，即使暗示 。$A$$B$$A$$B$

不过，老实说，我不确定图灵的论点是否很好。在图灵之后将近70年的时间里写书也许对我有好处，我的理解是，典型的数学家比图灵时代对数学逻辑的了解要多得多。但是在我看来，数学家大多对具有复杂行为的简单系统的想法非常熟悉。例如，每个数学家都知道group的定义，该group仅由四个简单的公理组成。但是，无论现在还是那时，没有人会想到：“啊哈。我知道这四个公理，因此我知道关于群体的所有事实。” 同样，Peano的公理对自然数给出了简短的描述，但是没有人读过它们，认为“对，我现在知道关于自然数的所有定理。让我们

只是一个例子-给定国际象棋规则，任何人都应该立即想出下棋的最佳策略。

当然，这是行不通的。甚至人与人之间也不平等，由于计算机具有更好的根据事实得出结论的能力，因此计算机的性能可能优于我们。

这是念头出现，这是从相对简单的规则的相互作用时，复杂的行为结果。该链接指出，自然界中有许多示例。昆虫群落，鸟群，鱼群，当然还有意识。在一群鸟或鱼群中，群中的每个人只是根据周围的其他人来做出决策，但是当您将一群人按照这些规则放在一起时，您会发现比起其他人，他们的行为更加协调您会期望没有更高级别的计划。如果您继续在YouTube上观看机器人群的演示，您会看到它们都避免相互碰撞，并协同工作。令人惊讶的是，这不需要通过一台中央计算机协调每个机器人的行为来完成，而是可以使用群体机器人来完成，在该机器人中，像昆虫，鸟类或鱼类一样，每个机器人都在做出局部决策，从而导致紧急协调。

康威（Conway）的“生活游戏”（Life of Game）是另一个有趣的新兴行为的证明。游戏规则非常简单，但可以带来非常有趣的结果

一个反对计算机获得人类智能的能力的诱人论点是，由于计算机只能精确地完成其编程要执行的工作，因此它们只能展现出我们进行编程的智慧。如果这是真的，那么我们也不会期望神经元的相对简单的行为会引起人类的智慧。但是据我们所知，情况确实如此，意识是神经加工的一种新兴特性。我敢肯定，图灵一定会喜欢看今天使用人工神经网络实现的可能性

人们可能会认为，如果我编写了一个程序，并且我完全理解了算法，并且没有错误，那么我应该知道该程序的输出是什么，并且应该不会令我感到惊讶。

图灵说（我同意），事实并非如此：输出可能令人惊讶。解决旅行商问题的方法可能令人惊讶。构建完整加法器的最佳方法可能令人惊讶。象棋中最好的举动可能令人惊讶。