最大化未知噪声功能

10

我感兴趣的最大化函数，其中。 $f(\mathbf \theta)$ $\theta \in \mathbb R^p$

问题是我不知道函数或其派生类的解析形式。我能做的唯一的事情是评价功能的逐点，通过在插入值，并获得噪声估计在这一点上。如果我愿意，我可以减少这些估计的可变性，但是我必须支付增加的计算成本。 $\theta_*$ $\hat{f}(\theta_*)$

到目前为止，这是我尝试过的：

具有有限差异的随机最陡下降：它可以工作，但需要大量的调整（例如，增益序列，比例因子），并且通常非常不稳定。
模拟退火：它可以工作并且可靠，但是需要大量功能评估，因此我发现它相当慢。

因此，我想就在这种情况下可以使用的替代优化方法提出建议/想法。我将问题尽可能地笼统，以鼓励来自与我不同的研究领域的建议。我必须补充一点，我对一种可以使我估计收敛时的黑森州的方法非常感兴趣。这是因为我可以用它来估计参数的不确定性。否则，我将不得不在最大值附近使用有限的差异来获得估计值。 $\theta$

optimization monte-carlo simulation

— 胡古尔塔
source

如果您不能说出与函数输出相关的噪声更具体的信息，那么我不确定比模拟退火更复杂的方法（您甚至必须在某种程度上进行调整）是否会有所帮助。

— 阿隆·艾玛迪亚

θ

$\theta$

\hat{f} (θ_{*}) \sim N (f (θ_{*}), σ)

$\hat{f}(\theta_*) \sim N(f(\theta_*),\sigma)$

看起来我被

— Neumaier

在这里，物理学家使用CMA-ES进行光学相位整形（通过脉冲整形器优化激光脉冲的相位），这非常嘈杂。

— tillsten 2012年

7

我们的Matlab软件包SnobFit正是为此目的而创建的。无需假设噪声的分布。此外，函数值可以通过文本文件提供，因此您可以将其应用于在能够写入文本文件的任何系统中实现的函数。参见
http://www.mat.univie.ac.at/~neum/software/snobfit/

SnobFit是为不存在要优化功能的应用而开发的，功能值（制造质量的度量）是通过专门的昂贵设备创建样品产品并手动测量而获得的，从而获得约50个功能每天的评估。

— 阿诺德·纽迈耶
source

非常感谢您的回答。我已经开始阅读您有关SnobFit软件包的文章，我发现它真的很有趣。另外，在阅读您的文章介绍时，我意识到我正在处理的问题（在统计环境中）在工业数学中非常常见。我完全不了解其中的大量文献。实际上，我正在研究的方法有点类似于Powell（2002）的二次逼近。

— Jugurtha 2012年

snobfit在128自由度下是否运作良好？只是知道值得为我的情况进行尝试。

— tillsten 2012年

@tillsten：除非您可以花费大量的函数值，否则任何嘈杂问题的方法都无法在128自由度下很好地工作。不过，您可以尝试使用我们的VXQR1，它不是针对嘈杂的问题，但有时可以很好地处理嘈杂的问题。

— 阿诺德·纽迈耶

Snobfit的限制约为20个变量。如果您有更多选择，则需要按常识选择20个变量的组，依次对它们进行部分优化。或者，您可以同时滑动一些变量，以减小尺寸。

— 阿诺德·纽迈耶

7

您可以尝试几种贝叶斯优化技术。最简单的是基于高斯过程：

哈罗德·J·库什纳。一种在存在噪声的情况下定位任意多峰曲线最大值的新方法。《基础工程学报》，1964年3月，第86：97-106页。
J.莫克斯贝叶斯方法进行全局优化。1982年《控制与信息科学》讲义，第38期：473-481。
Niranjan Srinivas，Andreas Krause，Sham Kakade和Matthias Seeger。强盗环境中的高斯过程优化：不后悔和实验设计。在过程中。国际机器学习会议（ICML），2010年。
Andreas Krause，Ajit Singh和Carlos Guestrin。高斯过程中接近最佳的传感器放置：理论，高效算法和经验研究。J.马赫学习。Res。，9：235-284，2008年6月。

它们的作用是通过形成迄今可观察的函数的后验函数，并提出下一步建议，以快速了解函数并找到全局最大值（请参阅我的博客文章）。

另一个优点是，您可以在最大值处估计Hessian。但是，您需要指定噪声模型。

— 记忆
source

4

James Spall的SPSA算法（如果我没记错的话，是“随机扰动模拟退火”的缩写）正是针对此类问题而设计的。他有几篇论文将其用于解决您所描述的问题。

— 沃尔夫冈·邦格斯
source

我已经尝试过基于最陡下降和拉夫森·牛顿的随机版本的Spall方法。我尝试了模拟退火，但没有Spall建议的版本，我应该尝试一下。我对模拟退火并不是很热心，因为我无法在收敛时估算出黑森州（例如，使用随机拉夫森·牛顿，我可以“免费”获得近似于黑森州的近似值）。

— Jugurtha 2012年