停止问题对人工智能有什么限制（如果有的话）？

鉴于证明停机问题的图灵机，可我们推断强大的人工智能的能力限制？

停止问题是否暗示对人类认知有任何限制？

是的，绝对可以-人们可以看一些代码，不确定是否会在有限的时间内停止运行。（当然，有些代码可以让人们看到并肯定地说“是”或“否”，但是我们所谈论的实际上是很难分析的代码。）

停顿的问题意味着存在某些计算机无法执行的代码分析类型，因为这在数学上是不可能的。但是可能性的范围仍然足够大，可以使用强大的人工智能（就可以充分理解自身以提高自身水平的代码而言）。

暂停问题是称为不确定性（Undecidability）的一般现象的一个示例，该现象表明图灵机在有限时间内无法解决任何问题。让我们考虑一个普遍的结论，那就是图灵机是否满足一些非平凡的特性P，即莱斯定理，尚不确定。

首先请注意，仅当图灵机输入任意长的输入时，才会出现暂停问题。如果输入是有界的，则可以枚举所有可能的情况，并且问题不再无法确定。计算它可能仍然效率不高，但是随后我们转向复杂性理论，这应该是一个单独的问题。

赖斯定理意味着，一个智力（人）无法确定另一个智力（例如AGI）是否具有某种属性，例如友好。这并不意味着我们不能设计一个友好的AGI，而是意味着我们不能检查任意一个AGI是否友好。因此，尽管我们可以创建一个保证友好的AI，但我们还需要确保IT不能创建另一个不友好的AI。