了解Wolfe条件以进行不精确的线搜索

根据Nocedal＆Wright的《数值优化》一书（2006），对于下降方向，沃尔夫不精确的线搜索条件是， $p$

足以减少：曲率条件：对于 $f(x+\alpha p)\le f(x)+c_1\alpha_k\nabla f(x)^T p$
$\nabla f(x+\alpha p)^Tp\ge c_2 \nabla f(x)^T p$
$0<c_1<c_2<1$

我可以看到如何充分下降条件规定，在新的点的函数值必须切下的。但是我不确定曲率条件在几何上告诉我什么。另外，为什么必须施加的关系？从几何学上讲，这是做什么的？ $x+\alpha p$ $x$ $c_1<c_2$

optimization

— 保罗
source

$\nabla f(x)\cdot p < 0$ $p$ $p$ $\nabla f=0$ $x+\alpha p$ $p$ $\nabla f(x+\alpha p) \cdot p$ 仍然与x一样负。相反，我们想停在梯度不那么负甚至什至正的地方。

| \nabla f (x + α p) \cdot p | \leq c_{2} | \nabla f (x) \cdot p |

$|\nabla f(x+\alpha p) \cdot p| \le c_2 |\nabla f(x) \cdot p|$

$c_1<c_2$

— 沃尔夫冈·邦格斯
source

f

$f$

c_{2} < c_{1}

$c_2<c_1$

c_{2} < c_{1}

$c_2<c_1$

f (x)

$f(x)$