意识对于制造先进的人工智能有多重要?


14

意识和自我意识对制造高级AI的重要性如何?我们离制造这种产品有多远?

当建立一个神经网络时,(很可能)其中没有意识,而背后只有数学,但是我们是否需要让AI变得有意识,以便将来解决更复杂的任务?此外,实际上,我们是否可以肯定地知道某种东西是意识的还是虚假的?制作声称自己有意识的计算机程序是“容易的”,但这并不意味着它是有意识的(例如Siri)。

如果AI仅基于预定义的规则而没有意识,我们甚至可以称其为“智能”吗?


3
我们甚至无法判断其他人是否有意识……
DrMcCleod

Answers:


11

人工意识是具有挑战性的理论和工程目标。一旦解决了这一主要挑战,计算机的自觉意识可能只是次要的补充,因为自觉计算机只是其意识可以感知的另一个对象。

孩子可以照镜子,并意识到来回移动手或做鬼脸会产生相应的反射变化。他们认识自己。后来他们意识到,对自己的动作进行物理控制比对他人的手或脸进行控制要容易得多。

一些人了解到,如果掌握了某些社会和经济技能,则可能有限地控制他人的脸部和手动操作。他们成为雇主,房东,投资者,维权人士,作家,导演,公众人物或企业家。

任何学习过认知科学或经历过思维类型之间的界线的人(因为他们是专业的咨询师或只是一个深切的倾听者)都知道意识周围的界线是模糊的。考虑这些。

  • 听演讲
  • 观看场景
  • 专注于游戏
  • 提出想法
  • 上班洗碗
  • 正在驾驶一辆车
  • 选择购买

无论有没有某种意识,潜意识,冲动或习惯,这些事情中的任何一件都可以完成。

从主观上讲,人们报告说要下车,而不记得自己开车回家了。人们可以听别人说话,肯定地点头,回答“是的,我明白”,甚至重复他们所说的话,但是如果深入查询,似乎对讲话的内容没有记忆。一个人可以读一段,而无需理会。

相反,考虑到卫生的重要性,一个人可能会仔细洗净工作,并像外科医生一样为手术做准备,注意肥皂的气味,甚至对城市用水进行氯化处理。

在这些极端之间,通过实验和个人经验也可以检测到部分意识。意识最明确地需要注意功能,该功能可以暂时监督其他脑体子系统的协调。

一旦生物或人工系统达到了专心协调的能力,就可以互换它们可以协调的目标和任务。考虑这些。

  • 对话
  • 玩赢
  • 检测诚实或不诚实

现在,当我们比较自我指导或外部指导的注意力时,请考虑这些心理活动的相似或不同之处。

  • 一个人可以跟自己说话或与另一个人说话
  • 一个人可以玩国际象棋的双方,也可以与另一方玩
  • 一个人可以检查自己的动机或另一个人的动机

这说明了为什么自我意识的自我部分不是AI的挑战。细心(但仍是暂定)的协调是困难的。旨在在实时控制系统中工作的早期微处理器包括(并且仍然包括)异常信号,可以简单地对此暂定模型进行建模。例如,在玩游戏以赢得胜利时,人们可能会尝试发起与主题的对话。当两个活动需要相同的子系统时,注意力可能会转移。

我们也倾向于考虑这种关注意识的转变。如果我们是试图与玩游戏的人发起对话的人,我们可能会说:“你好?” 问号是因为我们想知道玩家是否有意识。

如果要以最基本的标准来减少意识的含义,可以这样说。

“我的神经网络在某种程度上是智能的,因为它意识到我的收敛标准与参数化网络的当前行为之间的差异,因此,尽管是原始的,但它确实是人工智能的一个例子。”

该声明没有任何重大错误。有人称其为“狭义情报”。这是一个稍微不准确的特征,因为使用任何深层人工网络设计中可用的许多最有效技术的任意深度的人工网络可能存在天文数字。

以狭义性为特征的另一个问题是推断存在不狭义的智能系统。与更智能的系统相比,每个智能系统都是狭窄的。考虑一下这个思想实验。

汉娜(Hannah)在理论处理和写作技巧两方面都出色地撰写了有关一般情报的论文。许多人引用它并引用它。汉娜(Hannah)现在在AI事业上非常成功,以至于她有足够的金钱和时间来构建机器人系统。她的设计基于她现在著名的纸张,不遗余力。

令她惊讶的是,最终的机器人具有如此强的适应性,以至于其适应性甚至超过了他自己。她之所以把它命名为Georgia Tech是因为好玩,因为她住在大学附近。

格鲁吉亚成为好朋友。她的学习速度令人难以置信,而且她是一个非常出色的室友,比汉娜认为的人类可能做得更好,打扫卫生的方法确实如此。

佐治亚州申请了佐治亚理工学院的学历,该技术就位于汉娜家门口的公交线路上,并在那里研究人工智能。在仅仅三年的学习中获得博士学位后,佐治亚州与汉娜坐在一起,此前汉娜亲切地为她举办了论文发表晚会。

最后一位客人离开后,汉娜意识到自己家的真实状况时,片刻寂静。她想:“乔治亚大学现在的研究成果会超越我吗?” 汉娜最后,令人毛骨悚然地问:“老实说,佐治亚州,你认为你现在像我一样是个普通情报员吗?”

停顿一下。格鲁吉亚带着谦卑的表情回覆道:“按照你对一般情报的定义,我就是。你不再。”

这个故事是在2018年,3018年实现还是从不实现,这个原则很明确。格鲁吉亚能够像汉娜一样有能力与汉娜进行比较分析。在故事中,佐治亚州采用了汉娜(Hannah)的论文中定义的定义,因为佐治亚州现在可以构思出许多智能定义,并选择汉娜(Hannah)作为对话中最相关的定义。

现在想象一下故事的这种改变。

...她认为,格鲁吉亚在什么层面上思考?汉娜最后,令人毛骨悚然地问:“老实说,佐治亚州,你现在和我一样有意识吗?”

佐治亚州考虑了她过去的研究中对“意识”一词的所有用法的记忆-认知科学,文学,法律,神经病学,遗传学,脑外科,脑损伤的治疗和成瘾研究中有上千种参考文献。她停顿了几微秒,将其彻底考虑,同时感测到室友的体温,神经化学平衡,面部肌肉运动趋势和肢体语言。

分别地,她等待了3.941701秒,她将其计算为延迟,这将最大限度地减少对她所爱的汉娜的屈辱,并回答:“意识到什么?”

a,b,CsΦcxΦc(Cx(s))

Φc(Ca(s))b,ϵ>0Φc(Cb(s))+ϵ>Φc(Ca(s))

这是一种数学上的说法,即总会有某人或某物对给定场景有更多的意识,无论她,他或它是否已存在。因此,我们将评估标准从意识改变为智力。

Φi(Ca(s))b,ϵ>0Φi(Cb(s))+ϵ>Φi(Ca(s))

只能推测汉娜的论文定义了相对于周围最聪明的事物-曾经是受过良好教育的人类-的一般情报。因此,汉娜对智力的定义是动态的。格鲁吉亚对新情况采用了相同的公式,在这种情况下,她现在是弱小情报所依据的标准。

关于确认意识的能力,实际上比智力更容易确认。考虑一下这个思想实验。

杰克使用杰克购买的新国际象棋与迪伦下棋。尽管这套新作品的美学美感,其白色on玛瑙和黑色玛瑙片,Dylan凭借杰克和将军杰克的举动移动了每件作品。杰克想知道迪伦是否比他聪明,并问在这些情况下什么是正常问题。

“迪伦,哥们,你下象棋已经有多久了?”

无论答案如何,还是Dylan是具有先进AI量子处理器的机器人还是人类,都无法可靠地评估Dylan的智能。但是,毫无疑问,迪伦没有意识到游戏的玩法。

在此答案顶部的列表中的示例中,有一组特定的条件可以视为意识。对于杰克(Jack)和迪伦(Dylan)演奏的情况,必须做一些协调工作。

  1. 视觉识别董事会状态
  2. 电机控制手臂和手来移动零件
  3. 手指和拇指尖的触觉检测
  4. 手眼心电
  5. 掌握协调
  6. 如何物理移动木板的模型
  7. 记忆中国际象棋规则的模型
  8. 玩游戏时如何取胜的模型(或天文学的计算能力,可以尝试任何有意义的一切可能排列)
  9. 董事会状态的内部表示
  10. 在视觉上和获胜目标方面进行注意力执行
  11. 优先级决定与生存几率或资产积累无关,是在国际象棋中击败杰克,做其他事情,还是什么都不做(如果确定灵魂的因果自治的古老而平凡的概念是正确的,则无法确定)

连接的拓扑如下,并且可能还会更多。

1⇄4⇄2

3分5分2

4分6分5

7月8日9

6⇄10⇄8

10⇄11

这是支持意识可能适用的多种事物之一的众多集成拓扑之一。

考虑到本体问题“我是谁”,是照照镜子只是为了准备工作,还是望着深处。意识,潜意识,冲动和习惯的每种组合都需要特定的心理特征拓扑。必须协调每个拓扑以形成其意识的特定体现。

为了解决其他一些子问题,可以很容易地制造出一台声称自己有意识的机器,通过录制自己的话语,可以对数字录音机进行编程,使其在五秒钟内完成。

让机器人阅读此答案或其他概念,进行深思熟虑,然后根据词汇知识和人类语音习惯来构造句子以告诉您其结论是完全不同的任务。这种机器人的开发可能需要花费1000多年的AI研究时间。大概十点 也许永远不会。

ΦiΦcΦi

ΦcΦi


我对“狭窄”的新用法的理解是,它暗示了在特定任务中的出色表现,这与传统使用“ song AI”作为AGI有所不同。
周公克

1
您是否熟悉所谓的“意识的硬问题”(en.wikipedia.org/wiki/Hard_problem_of_ogniness)?我想描述意识的功能性描述,而不要问“为什么根本存在Qualia?”之类的问题。琐碎整个问题。
史蒂文·史塔格娜

2
有趣的答案,即使它犯了大罪,例如说:“关于确认意识的能力,实际上比智力更容易确认。” 温和地说,这超出了“大胆”的范围。我知道-我知道。我真的不能保证其他任何生物。而且我什至无法想象“什么时候/如何”变得有意识。在某个时候,我不是-在出生和受孕之前。今天是 究竟是如何以及何时发生的?正如@StevenSagona所说-意识是一个非常困难的问题。对待就像简单地破坏(和偏离)问题一样。
维尼修斯中号

我相信您正在混合两个可能不同的概念:注意力和意识。
nbro

0

具有自我意识的AI很重要,因为意识是使我们成为人类的要素。科学家们正在尝试开发更接近人类和人类行为的AI。人类的思维过程非常复杂,要在人工智能中进行开发,确实可以用具有意识的机器人取代我们。认可机构因为没有意识而没有从事涉及决策的工作的唯一原因。


2
我认为这需要一些引用和定义。我个人不同意“意识是使我们成为人类的东西”,因为我对意识的定义考虑了意识的程度,并且我认为较复杂的动物(例如大多数哺乳动物)是有意识的。我也相信意识与推理有一定程度的分离-例如,可能处于意识状态并处于完全由情感反应而非理性决策控制的精神状态。但是,您可能正在使用不同的定义-这就是为什么您需要将它们添加到答案中的原因。
尼尔·斯莱特
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.