在《人工智能:现代方法》(第3版)的第26章中,教科书讨论了“技术奇点”。它引用了IJ Good,他在1965年写道:
让一个超智能的机器定义为可以远远超过任何人的所有智力活动的机器。由于机器的设计是这些智力活动之一,因此,超智能机器可以设计出更好的机器。毫无疑问,这将发生“智能爆炸”,而人类的智慧将被远远抛在后面。因此,第一台超智能机器是人类有史以来需要做出的最后一项发明,前提是该机器要服从足以告诉我们如何对其进行控制。
稍后在教科书中,您会遇到以下问题:
26.7-IJ Good声称,智能是最重要的品质,建造超智能机器将改变一切。一头有意识的猎豹反驳说:“实际上速度更重要;如果我们能制造超快的机器,那将会改变一切”,一头有感情的大象声称“你们都错了;我们需要的是超坚固的机器。”您如何看待这些争论?
教科书问题似乎是对IJ Good的隐含论点。善良可能将智力视为有价值的,仅仅因为人的力量在于所谓的“智力”这一特质。但是其他特质可能会被同等地重视(速度或力量),有知觉的人可能会疯狂猜测它们的首选特质是由某种机器“最大化”的。
这使我想知道,如果我们建造的机器不是最大化智能,而是最大化其他一些特征(一台不断提高其强度的机器,或者一台不断提高其速度的机器),是否会出现奇异现象。这些类型的机器可能具有变革性-超快机器可能会由于“强力”而迅速解决问题,而超强机器可将其原始动力用于各种物理任务。也许一台ultra-X机器无法构建另一台ultra-X机器(因为IJ Good将机器的设计视为一项智力活动),但是不断自我完善的机器仍会远远落后于其创造者,并迫使其创造者成为依赖它。
技术独特性是否仅限于超智能?还是技术奇异性是由不是“强AI”但仍是“超”优化器的机器引起的?