测试数值优化方法:Rosenbrock与实际测试函数


15

对于无导数优化器,似乎有两种主要的测试函数:

是否可以将10d Rosenbrock与任何实际的10d问题进行比较?
一个人可以用多种方式进行比较:描述局部极小值的结构,
或者在Rosenbrock上和一些实际问题上运行优化器ABC;
但是这两者似乎都很困难。

(也许理论家和实验者只是两种截然不同的文化,所以我要求一种嵌合体吗?)

也可以看看:


(在2014年9月增补):
BOBYQA PRAXIS SBPLX从:小区下面从10个随机起始点比较在图8d 14个测试功能3种DFO算法NLOpt
14 N维测试功能,Python的下gist.github 从这个Matlab的由A. 每个函数的边界框中的Hedar × 10个均匀随机的起点。×
×

例如,在Ackley上,第一行显示SBPLX最好,PRAXIS糟糕;在Schwefel上,右下方的面板显示SBPLX在第5个随机起点上找到了最小值。

总体而言,BOBYQA在1,PRAXIS,5和SBPLX(〜具有重新启动功能的Nelder-Mead)上最好,在13个测试功能中有7个,并且Powersum值得一提。YMMV!约翰逊特别指出:“我建议您在全局优化中不要使用函数值(ftol)或参数公差(xtol)。”

结论:不要把所有的钱都花在一匹马或一项测试功能上。

在此处输入图片说明

Answers:


13

Rosenbrock之类的简单函数可用于调试和预测试新编写的算法:它们的实现和执行速度很快,而不能很好地解决标准问题的方法不太可能在现实生活中很好地工作。

有关昂贵功能的无导数方法的最新详尽比较,请参见无导数优化:算法回顾和软件实现比较。LM Rios,NV Sahinidis-doi 10.1007 / s10898-012-9951-y全球优化杂志,2012年。(另请参见随附的网页:http ://archimedes.cheme.cmu.edu/?q=dfocomp )


Neumaier教授,您能否指出一些实际的问题和证据,因为“无法很好地解决标准问题的方法不可能很好地解决现实生活中的问题”?我意识到这并不容易。(我会对您对Hooker的评论感兴趣。)此外,从您的链接中快速浏览c模型显示princetonlibgloballib需要AMPL,并且source_convexmodels * .c都缺少“;”。在fscanf()之后–琐碎但
denis 2012年

@Denis:诸如Rosenbrock之类的问题源于自动化优化的早期,人们在简单的代表性示例中隔离了典型的困难,这些示例可以在没有实际问题的数值复杂性的情况下进行研究。因此,它们不是真正的人为的,而是真正困难的简化模型。例如,罗森布鲁克(Rosenbrock)说明了强非线性和轻度疾病的综合作用。
阿诺德·纽迈耶

AMPL网站ampl.com为AMPL 提供了免费的学生版。
阿诺德·诺伊迈耶

7

诸如Rosenbrock函数之类的合成测试用例的优点是可以与现有文献进行比较,并且在社区中有一种感觉,即良好的方法在此类测试用例上的表现如何。如果每个人都使用自己的测试用例,则很难达成共识,哪些方法有效,哪些无效。


1

(我希望我不反对继续讨论的结尾。我是这里的新手,所以请让我知道我是否违反了!)

进化算法的测试功能现在比2年前或3年前要复杂得多,正如在(最近)2015年进化计算大会等会议的竞赛中使用的套件所看到的那样。看到:

http://www.cec2015.org/

这些测试套件现在包括在变量之间具有若干非线性交互作用的函数。变量的数量可以多达1000个,我想在不久的将来可能会增加。

另一个最近的创新是“黑匣子优化竞赛”。请参阅:http//bbcomp.ini.rub.de/

算法可以查询点x的值f(x),但不能获得梯度信息,特别是不能对目标函数的解析形式进行任何假设。

从某种意义上讲,这可能更接近于您所说的“实际问题”,但在有组织的客观环境中。


1)“不反对”:相反,欢迎您的良好联系!2)那里有什么好地块吗?方法和问题都是不完整的,所以任何人找到自己的问题变得越来越困难。特别是,您知道时间序列预测的方法吗?
denis 2015年

可以在以下位置查看CEC 2015动态多目标优化竞赛的目标函数:sites.google.com/site/cec2015dmoocomp/competition-process/… 对于其他竞赛,请访问cec2015.org并单击竞赛,然后单击在公认的比赛中。每个人都有其自己的功能。其中一些纸上有漂亮的图(对于2D情况)。GECCO会议竞赛可在以下网站找到:sigevo.org/gecco-2015/competitions.html#bbc 结果将于7月15日之后公布。–
Lysistrata

0

您可以两全其美。NIST 对于最小化器有一系列问题,例如适合该10度政策,具有预期的结果和不确定性。当然,要证明这些值是实际的最佳解决方案,否则要证明其他局部最小值的存在和性质比在受控数学表达式上更为困难。


好吧,NIST问题很小(2 3 1 1 11 7 6 6 6 6 6个参数)。有没有测试集,都是“真实” 可重复的,“真正”的任何一个角落?cf. 基于仿真的优化问题
denis,2014年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.