哪种模拟环境足够复杂以开发通用AI?


11

想象一下,尝试创建一个模拟虚拟环境,该环境足够复杂,无法创建“通用AI”(我定义为自觉AI),但又要尽可能简单。这个最小的环境会是什么样?

即,仅仅是象棋游戏的环境就太简单了。国际象棋程序不能是通用AI。

具有多个代理下棋并相互传达结果的环境。这会构成一般的AI吗?(如果您可以说一整天都在思考国际象棋的国际象棋大师具有“通用AI”?在他思考国际象棋的时候,他和国际象棋计算机有什么不同吗?)。

像3D SIM卡一样的世界呢?这似乎太复杂了。毕竟,为什么普通的AI在2D世界中不存在。

一个简单的环境但又不是太简单以至于AI可以具有自我意识的例子将是什么?


我已经修改了答案,以更全面地解决您提出的问题范围。
周公爵

猜想否定性问题是否会造就AI,除非最终上帝在没有环境或类似的后续创造者的情况下存在。
鲍勃

“自觉AI”比“一般AI”更具描述性。“自我意识”是什么意思?
扣篮'18

Answers:


5

我认为这是我在该论坛上看到的与AGI相关的最佳问题之一。

我将跳过关于“什么是AGI”,“模拟游戏”等所有主题。……这些主题已经讨论了数十年,而在我看来,如今这些主题已经死胡同了。

因此,我只能以我的亲身经历来回答:

这是计算的基本定理,可以将有限大小空间中的任意数量的维(包括时间维)缩减为一维。

但是,在实际示例中,一维表示变得难以分析和可视化。使用图是更实际的工作,可以将其视为一维和二维之间的中间层。图形可以表示所有必要的事实和关系。

例如,如果我们尝试开发一种能够在数学领域工作的AGI,则任何表达式(我们用有理,下标,积分等形式表示为人类的2D表示形式)都可以表示为1D(表示形式) (使用程序源代码编写)),但必须对此1D进行解析才能得出可以分析或执行的图形。因此,在表达式解析后得到的图是最实际的表示。

再举一个例子,如果我们想要一个穿越3D世界的代理,那么这个世界可以看作是一个空的空间,其中的物体具有某些属性。再次,在场景分析和对象识别的初始阶段(相当于前面示例中的解析器)之后,我们得到了一张图。

因此,要真正在AGI领域工作,我建议跳过场景分析,对象识别,语音识别(Narrow AI)的问题,并直接在代表性图表上工作。


1
您谈论图有趣。因为我的直觉告诉我,导航图节点的某种实体可能足够复杂。但是我担心,随着有限事物的不断发展,有限图形将变得非常有限。但是从另一种角度来看,当您考虑它时,我们自己的生活相当有限:吃饭;工作;睡觉;重复。但是,如果实体必须与其他实体竞争(或合作),则它们可能会相互猜测,从而可能会发生更复杂的行为。
zooby

3

我认为最重要的是,它必须以某种方式模拟时间。想想自我意识的聊天机器人。然后,要“自我意识”,环境可以是随时间推移而馈入的数据,可以区分为“自我”和“其他”。我想我的意思是“自我”是它直接影响的部分,“其他”是间接或根本没有影响的部分。除此之外,它可能可以存在于非常抽象的环境中。时间之所以如此重要,是因为没有它,认知算法只是在解决数学问题。


1
在计算机理论中,时间减少为事件序列。因此,随时间变化的一维事件(即字符串)可以看作是二维事件(字符串数组)或一维序列(字符串序列)。
pasaba por aqui

1
我不同意这样的观念,即现实世界中的时间(或可以说是足够有趣的人造时间)可以被适当地视为“只是另一个维度”。一个人至少需要一个时间维度来支持熵或变化的任何表示。而且我想说,动力系统的任何适当表示都需要对时间维度与位置进行适当区分。甚至您的代表性建议也将序列的顺序放在一个特殊的位置。
42

1
@ 42-碰巧的是,在我努力使用集合论将Sudoku和Latin Squares的拓扑结构正式定义为概率矩阵函数时,我碰到了墙,直到开始研究哈密顿量演化并意识到t(时间,或者,正交数组在新的游戏理论概念中的“转折”是缺少的元素!
周公爵

现在考虑广义相对论中的动力系统。也许您需要一个“重力”指标来计算局部价值潜力?某些配置会成为“黑洞”吗?
42

2

通用AI绝对可以存在于2D世界中,只是在这种情况下,通用AI(此处定义为“解决一系列问题的一致性”)仍然与人工通用智能(定义为“一种可以执行人类可以执行的任何智力任务。”

即使在那儿,AGI的定义也是模糊的,因为“哪个人?” (人类情报是一个频谱,其中个人在不同的情况下拥有不同程度的问题解决能力。)


人工意识:不幸的是,自我意识 / 意识是一个严重的形而上学的问题,与解决问题的能力(智能)不同。

您肯定想看一眼“ 中国房间 ”并进行反驳。


大概值得一看全息原理:“物理学中将空间视为n-1维全息图的概念”。当然,模型和游戏可以通过这种方式构建。

另一个值得探讨的地方是无限康威的《生命游戏》中超智能的出现。(简而言之,我的理解是,一旦研究人员弄清楚了如何在细胞自动机内生成任意数量的数字,那么在足够大的游戏板上,至少从理论上讲,出现情感的可能性就足够了。)


2

在到目前为止的答案中,来自@DukeZhou的答案最具挑衅性。例如,对中国房间批评的提法提出了塞尔的论点,即某种形式的故意性可能需要在人工环境中得到支持。这可能意味着需要一种价值体系或痛苦愉悦的体系,即可以“体验”或积极寻求良好后果而避免不良后果的事物。或可能需要认识到个体灭绝的某些可能性(死亡或终止)。“自我死亡”可能性可能需要具有较高的负值。这可能意味着人造世界应该包括“其他思想”或其他主体,新兴的或正在学习的智能主体可以观察(在某种意义上)并“反思”,即像自己一样认识智力。在这种意义上,笛卡尔的三段论“我认为是我”变成了:我(或者更确切地说,我是AI)看到了其他人在思考的证据,而“天哪,我也可以”。这些“其他”可以是其他学习系统(AGI),也可以是与人工环境介导的人类离散输入的某种接触。维基百科关于“反向图灵测试”的讨论

提及维度应引起对AI外部世界“物理”的表示深度的讨论。对时间和空间的某种表示似乎是必要的,即,对于实现目标的进度的某种维度子结构。积木世界是一个早期的玩具问题,其解决方案在上世纪60年代和70年代引起了人们的乐观,并取得了长足的进步。我不知道在那个时代的SHRDLU程序中要花多少力气来编写程序(在程序的脚趾上没有任何障碍),但是AI的所有有趣的科幻小说表示都对“物理”不利后果有一定的认识在现实世界”。

编辑:我将在这种环境中添加对“具有特征的实体”的需求,该需求可以被“感知”(被与AGI交互的任何“其他”)作为归纳,识别工作的数据输入,以及关于关系的推断。这为共享的“经验”奠定了基础。


欢迎使用AI,感谢您的贡献!(“ ego-death”链接已损坏,但是我不确定您是否打算链接到问题或特定答案,因此请延迟进行修正以待澄清。)好的链接,顺便说一句!我可以问一下,您的绰号是否是对“一个人必须走多少路?”这一问题的建议答案的提法。:)
周公克

并不是的。在互联网上,没有人知道您是否是普通的AI。
42

2

尽管@pasaba por aqui是一个很好的答案,但我同意@zooby的观点,图可能过于简单。如果人类处于各种选择被淹死的环境中,或者采取了5000条无关的步骤来建造船,那么我们将永远不会横渡大海。我认为,任何图形,如果是手工设计的,都不够复杂,无法将其称为通用AI。世界将需要足够的中间状态,以至于不再最好用图形来描述,而至少需要一个多维空间。

我认为您必须考虑两点。什么是“简单”,什么时候您将其识别为“通用AI”。我不认为自我意识的AI令人满意,因为我们无法衡量所谓的意识。我们只能看到其状态及其与环境的相互作用。

对于1.,我想我们生活的世界实际上很简单。有4种自然力,一些守恒定律和一堆粒子类型可以解释大多数情况。只是这些粒子很多,这导致了一个相当复杂的世界。当然,模拟起来很昂贵,但是我们可以采取一些捷径。200年前的人们并不需要所有的量子力学来解释世界。如果我们用元素周期表中的原子代替质子,中子和强力,我们基本上会没事的。问题是我们用100个特定实例替换了另外3条通用法律。为了使模拟环境足够复杂,我认为这一趋势必须成立。

这使我得出2。我认为,只有当表达通用AI的代理能够以一种使我们感到困惑的方式有意识地与环境互动,同时又明显受益于它(并非偶然)时,我们才会真正满意。现在这可能很困难或需要很长时间,所以一个更宽松的条件是构建我们期望它构建的工具,从而显示出对自己环境的精通。例如,在10万到90万年前的某个地方发现了船只的证据,这与人类早期发育的时间范围大致相同。。但是,尽管我们认为自己是聪明的,但我不确定我们是否会考虑让造船公司具有一般智慧,因为这似乎是一个相当简单的发明。但是我认为,经过一些这样的发明,我们会感到满意。

因此,我认为我们需要一个类似于Sim的世界,这实际上比游戏要复杂得多。拥有1000多种商品类型,每个商品的许多实例以及足够的自由度可以与所有商品进行交互。我还认为我们需要一些看起来熟悉的东西来承认任何代理人都是聪明的。因此,一个3D,复杂,类似于Minecraft的世界将是最简单的世界,在该世界中我们将认识到通用情报的出现。


0

“人工通用情报”不同于在环境中进行智能操作的代理。因为根据文献,这样的代理被称为“窄AI”。AGI系统就是环境。这意味着,最新的Micromouse挑战是AGI系统,其目的是开发Narrow AI系统。

开发AGI等同于开展机器人竞赛。它在规则书中形式化,可作为学习,编程软件和讨论结果的环境。在任何情况下,AGI系统都是一项社会竞赛,这意味着它吸引团队参加比赛。AGI并没有回答如何实现智能,而是一种衡量智能的测试。所谓的人脑,认知体系结构和一般问题解决者并不是作为一种狭acting的AI来智能地行动,而是作为一种针对智能机器的图灵测试而开发的。

如果另一个计算机程序是智能的,我们如何用一个计算机程序进行测量?一种可能是人体模拟理论。这意味着,我们正在测试计算机程序是否表现得像人一样,并且图灵测试有义务测试短期记忆,长期记忆和学习新事物的能力。以最简单的形式,图灵测试可以用必须由人填写的简单形式完成,但是也可以将人带出循环并使用计算机来测试另一台计算机的智能。这就是开发SOAR,OpenCog和AIXI的目的。


建立这个答案和原始问题之间的关系是困难的。
pasaba por aqui
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.