人工智能可以学会受苦吗?


9

我首先想到的一个问题是“人工智能会受苦吗?”。痛苦对人类很重要。想象一下您正在损坏脚跟。没有痛苦,您将继续伤害它。对于AI同样如此。但是后来我告诉自己:“请稍等。它已经存在。出现的错误和警告 ”。可以说,它具有与苦难相似的目的。但是,我感到有些失踪。我们感到痛苦。错误和错误仅仅是数据。假设机器人可以使用机器学习和基因编程进行进化。

人工智能可以学会受苦吗?而不仅仅是知道它仅仅是信息。


看一下非常相关的问题:人工智能会受苦吗?能在AI感到情绪?
nbro

Answers:


8

就进化博弈论和遗传算法而言,在一个很高的层次上,人工智能绝对有可能发展出一种与痛苦相似的状态,尽管正如您指出的那样,人工智能将涉及计算机所关心的状况。(例如,它可能会产生一种类似于算法意义上的“非最优”的“屈服”的感觉,或者对等式的“沮丧”加起来,或者对尚未实现的目标“感到不满”。)

可以肯定的是,在商场上被小孩折磨的机器人是“痛苦的”,因为孩子们阻碍了机器人功能的发挥,但机器人没有意识,遭受痛苦可能需要意识。但是,即使没有意识,这个非常简单的机器人也可以学习新的行为,从而减轻或避免因无法执行其功能而引起的“痛苦”。

您绝对希望在哲学的背景下研究苦难的概念,Epicurus将是一个非常有用的起点。

Epicurus在算法意义上是直接相关的,因为他使用的术语“ ataraxia ”表示平静,并且源于动词“ tarasso ”,意为煽动或打扰。

失语症可以在数学上表示为平衡。Tarasso可以在数学上表示为不平衡。

这与博弈论直接相关,因为不平衡可以说是游戏的主要要求,而与AI则可以说博弈论是所有AI的根本。

人们还以“免于恐惧”的意义来理解“自闭症”,从时间上讲,恐惧是不确定性的函数,因为它在预测意义上与未来相关,涉及当前状况与可能的,较不理想的未来状况。

因此,恐惧是一种痛苦,它根植于计算上的棘手性,即使“计算机”是人的大脑也是如此。

诸如德cri克利特(Democritus)之类的早期哲学家特别有用,因为他们正在探索关键的基本概念,其中许多现在可以用现代数学来表达。

智慧:在定义“好”和“坏”之前,您不会遭受痛苦,这是一种二元关系,其中两个术语都没有相反的含义。(在数学上,它可以以最简单的形式表示为有限的一维图。)这种理解是很古老的。


值得注意的是,早期哲学家的持续价值在一定程度上是智慧的一个因素,而不是知识量的依赖,这是苏格拉底在证明智慧可能就像知道您不了解某物一样简单的观点中所证明的。

古老的先贤们没有受益于强大的测量工具,先进的数学方法或科学方法,但它们非常聪明,更重要的是明智的。


2
我从没想过找到更深刻的答案。谢谢
bmwalide

其他形式的机器痛苦可能类似于:硬件过热时的“不适”;容量,处理能力,数据不足的“饥饿”;“窒息”意味着缺乏计算所需的电能,动能或化学能。
周公然

@DukeZhou Remeber,系统会跟踪正在进行的评论,答案等,以便完全记住您在此问题上发表的评论AI会感到情绪激动吗?这是你的评论;“尽管哲学家会思考,但目前尚无科学家能回答这个问题。就我的钱而言,除了作者在其他领域具有先见​​之明之外,作者对这个主题是否值得冥想?高度关注人类状况和生命的本质”
quintumnia

@quintumnia感谢您的周到评论。我怀疑我实际上没有在一般的“情感”(与这个特定的“痛苦”相比较)线程上发布答案,因为它得到了广泛的回答。在这个答案中对“ 电羊”有更多的阐述。
周公克
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.