难道只有超级智能才会出现技术上的奇异之处吗?


10

在《人工智能:现代方法》(第3版)的第26章中,教科书讨论了“技术奇点”。它引用了IJ Good,他在1965年写道:

让一个超智能的机器定义为可以远远超过任何人的所有智力活动的机器。由于机器的设计是这些智力活动之一,因此,超智能机器可以设计出更好的机器。毫无疑问,这将发生“智能爆炸”,而人类的智慧将被远远抛在后面。因此,第一台超智能机器是人类有史以来需要做出的最后一项发明,前提是该机器要服从足以告诉我们如何对其进行控制。

稍后在教科书中,您会遇到以下问题:

26.7-IJ Good声称,智能是最重要的品质,建造超智能机器将改变一切。一头有意识的猎豹反驳说:“实际上速度更重要;如果我们能制造超快的机器,那将会改变一切”,一头有感情的大象声称“你们都错了;我们需要的是超坚固的机器。”您如何看待这些争论?

教科书问题似乎是对IJ Good的隐含论点。善良可能将智力视为有价值的,仅仅因为人的力量在于所谓的“智力”这一特质。但是其他特质可能会被同等地重视(速度或力量),有知觉的人可能会疯狂猜测它们的首选特质是由某种机器“最大化”的。

这使我想知道,如果我们建造的机器不是最大化智能,而是最大化其他一些特征(一台不断提高其强度的机器,或者一台不断提高其速度的机器),是否会出现奇异现象。这些类型的机器可能具有变革性-超快机器可能会由于“强力”而迅速解决问题,而超强机器可将其原始动力用于各种物理任务。也许一台ultra-X机器无法构建另一台ultra-X机器(因为IJ Good将机器的设计视为一项智力活动),但是不断自我完善的机器仍会远远落后于其创造者,并迫使其创造者成为依赖它。

技术独特性是否仅限于超智能?还是技术奇异性是由不是“强AI”但仍是“超”优化器的机器引起的?

Answers:


4

如果您拥有一个超强的实体,但无法研究新材料,那将对速度或力量没有帮助,这将很快受到限制,对于速度也是如此,基本上,您需要他们领域以外的一些东西来改进它们,失控的改进是不可能的。

虽然,我们已经拥有超强,超快的机器,例如汽车,卡车,液压机,工业外骨骼等。但是,即使我们可以通过使用旧机器来制造更好的机器,我们仍然需要研究一些东西。那是旧的无法改善的。

我们需要一个奇异性的领域是对其进行改进使得更容易进一步改进。我不知道哪个领域不涉及情报。如果有一个,那可能有非智能驱动的奇点。


0

“蒙特卡洛”似乎是目前算法创造力最好的方法。(即机器随机选择并查看它们是否会产生有用的结果。)

显然,由于理解而形成的创造性联系要优于随机的联系,但如果机器足够快,则应该能够通过纯粹的“蛮力”取胜。

即,在人类指导之前,进化并不是基于智能。*而是进化是基于有益或有害的随机突变。


*需要说明的是,人类创造算法和改变基因(无论是在实验室中还是通过畜牧业和园艺业)可以说是构成了一种新的进化形式,实际上植根于人类的智力和欲望。


-1

这可能不是您想要的,但从技术上讲,是的。虽然不是为了速度和力量。但是您可以随机猜测新的数学/物理/化学解决方案,以提高随机猜测的效率(基本上是任何可以让机器更快地计算并可能模拟这些发现的结果的东西),从而在技术上实现了与奇点相似的功能实际上(或只是在人的层面上)拥有任何情报,因为您可以蛮力全部。

这样有效吗?不,甚至几乎不可能实现。它行得通吗?从技术上讲,是的。

这将是一种奇异,因为它不断地自我完善,但并不需要提高自身的智慧。

当然,一些发现可能使变得更聪明,但让我们假设它没有将这些发现应用于自身。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.