Questions tagged «superintelligence»

我听说过技术奇点的想法，它是什么，它与人工智能有什么关系？这是人工智能机器已发展到可以自行生长和学习的点的理论观点，超越了人类可以做的事情，并且其增长开始了？我们如何知道何时到达这一点？

32 philosophy  definitions  agi  superintelligence  singularity 

我读了Judea Pearl的《为什么书》，其中提到深度学习只是一种荣耀的曲线拟合技术，将无法产生类似于人的智力。 在他的书中有这张图说明了认知能力的三个层次： 想法是，当前的深度学习技术所产生的“智能”仅处于关联级别。因此，AI距离问“如何使Y发生”（干预）和“如果我采取不同的行为怎么办，X还会发生吗？”之类的问题相去甚远。（反事实），曲线拟合技术极不可能使我们更接近更高的认知能力。 我发现他的论点在直觉上具有说服力，但我找不到任何可以支持或怀疑该论点的物理或数学定律。 那么，是否有任何科学/物理/化学/生物/数学论证阻止深度学习产生强大的AI（类人智力）？

12 deep-learning  strong-ai  math  theory  superintelligence 

奇异性一词通常在主流媒体中用于描述有远见的技术。它是由雷·库兹韦尔（Ray Kurzweil）在热门书籍《奇点即将到来：人类超越生物学》（2005）中引入的。 在他的书中，库兹韦尔展望了人类的潜在未来，其中包括纳米技术，计算机，基因改造和人工智能。他认为摩尔定律将使计算机呈指数级增长，从而产生超级智能。 是技术奇点的东西，是由AI开发商重视或者是这种理论只是一种流行的炒作负荷？

10 philosophy  theory  superintelligence  singularity  mythology-of-ai 

在《人工智能：现代方法》（第3版）的第26章中，教科书讨论了“技术奇点”。它引用了IJ Good，他在1965年写道： 让一个超智能的机器定义为可以远远超过任何人的所有智力活动的机器。由于机器的设计是这些智力活动之一，因此，超智能机器可以设计出更好的机器。毫无疑问，这将发生“智能爆炸”，而人类的智慧将被远远抛在后面。因此，第一台超智能机器是人类有史以来需要做出的最后一项发明，前提是该机器要服从足以告诉我们如何对其进行控制。 稍后在教科书中，您会遇到以下问题： 26.7-IJ Good声称，智能是最重要的品质，建造超智能机器将改变一切。一头有意识的猎豹反驳说：“实际上速度更重要；如果我们能制造超快的机器，那将会改变一切”，一头有感情的大象声称“你们都错了；我们需要的是超坚固的机器。”您如何看待这些争论？ 教科书问题似乎是对IJ Good的隐含论点。善良可能将智力视为有价值的，仅仅因为人的力量在于所谓的“智力”这一特质。但是其他特质可能会被同等地重视（速度或力量），有知觉的人可能会疯狂猜测它们的首选特质是由某种机器“最大化”的。 这使我想知道，如果我们建造的机器不是最大化智能，而是最大化其他一些特征（一台不断提高其强度的机器，或者一台不断提高其速度的机器），是否会出现奇异现象。这些类型的机器可能具有变革性-超快机器可能会由于“强力”而迅速解决问题，而超强机器可将其原始动力用于各种物理任务。也许一台ultra-X机器无法构建另一台ultra-X机器（因为IJ Good将机器的设计视为一项智力活动），但是不断自我完善的机器仍会远远落后于其创造者，并迫使其创造者成为依赖它。 技术独特性是否仅限于超智能？还是技术奇异性是由不是“强AI”但仍是“超”优化器的机器引起的？

10 philosophy  definitions  singularity  superintelligence