使AI代理具有自我编程能力的必要组件是什么?


9

通常认为AI代理具有“传感器”,“存储器”,“机器学习处理器”和“反应”组件。但是,具有这些功能的计算机不一定会成为自编程AI代理。除了上面提到的部分之外,要使机器成为自编程AI代理,是否还需要其他要素或细节?

例如,2011年发表的一篇论文宣称,解决智能化最大化的优化问题是自编程过程的必备功能,如下所述:

据说一个系统在学习有关其“认知基础结构”某些要素的知识时会执行自编程实例,其中后者被定义为系统的“智能关键”特征的模糊集合。从解决多特征系统智能最大化的优化问题的角度考虑,将系统特征的智能重要性定义为它的“特征质量”。

但是,这种“智能优化”的描述是模糊的。谁能为自编程代理的必要组件提供清晰的定义或更好的摘要?

这个问题来自2014年封闭测试版,询问者的UID为23。


3
这几乎是关于自我优化的最后一句话:arxiv.org/abs/cs/0309048
NietzscheanAI

感谢您恢复丢失的beta中丢失的内容和良好的内容。:-)
peterh-恢复莫妮卡

Answers:


5

在最高层次上,它所需要的只是已经讨论过的各种系统都包含了代码对象。如果它可以从支持它们的格式化文本对象中解释其源代码/模型体系结构,可以通过拥有有用的ML模型来“理解”它们,并通过其反应来更改代码,那么它就可以进行自我编程。

也就是说,递归提高智能的背后的基本循环很简单。它进行自我检查,编写一个新版本,然后该新版本进行自我检查并编写一个新版本,依此类推。

困难部分来自较低层次。我们不需要发明像“传感器”这样的新概念,我们需要做的是构建非常非常复杂的传感器,这些传感器等于足以理解代码以检测和编写改进的任务。


2
虽然下意识的计算机科学反应报表有关理解他们自己的代码系统往往是举停机问题,事实证明,AI方法并有什么可说的关于:cs.stackexchange.com/questions/62393/ …
NietzscheanAI 2016年

3
没错,暂停问题是完全理解所有可能代码的一门定理,但并不能阻止您对实际遇到的大多数代码有很好的了解。
马修·格雷夫斯

实际上,停止问题仅真正适用于“车床”,它们是真正不存在的纯数学构造(例如,它们需要无限的磁带来存储无限的内存),并且可以运行无限长的时间。现实世界中的计算机内存有限。有一些方法可以编写可以经过正式验证的软件(Idris,Coq)。使用依赖类型。限制数组的大小(即<数量或内存)。不允许程序以可能违反正式证明的方式在内存中进行自我修改。没有无限循环。没有字节循环/被零除。等等...
David C. Bishop
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.