एक Inexact लाइन खोज के लिए वुल्फ शर्तों को समझना

नोकेडल एंड राइट की बुक न्यूमेरिकल ऑप्टिमाइज़ेशन (2006) के अनुसार, एक अनिर्दिष्ट रेखा खोज के लिए वोल्फ की स्थितियां, एक मूल दिशा , $p$

पर्याप्त मात्रा में कमी: वक्रता शर्त: के लिए $f(x+\alpha p)\le f(x)+c_1\alpha_k\nabla f(x)^T p$
$\nabla f(x+\alpha p)^Tp\ge c_2 \nabla f(x)^T p$
$0<c_1<c_2<1$

मैं देख सकते हैं कि पर्याप्त कमी हालत कहा गया है कि नए बिंदु पर समारोह मूल्य पर स्पर्श से कम होनी चाहिए । लेकिन मुझे यकीन नहीं है कि वक्रता की स्थिति मुझे ज्यामितीय रूप से बता रही है। इसके अलावा, संबंध क्यों लगाया जाना चाहिए? यह क्या पूरा करता है, ज्यामितीय रूप से? $x+\alpha p$ $x$ $c_1<c_2$

optimization

— पॉल
स्रोत

वक्रता हालत अनिवार्य रूप से यह कहते हैं: हम जानते हैं कि $\nabla f(x)\cdot p < 0$ $p$ $p$ $\nabla f=0$ $x+\alpha p$ $p$ $\nabla f(x+\alpha p) \cdot p$ अभी भी उतना ही नकारात्मक है जितना कि यह x पर है। इसके बजाय, हम एक ऐसी जगह पर रुकना चाहते हैं, जहां ग्रेडिएंट कम नकारात्मक या सकारात्मक हो।

| \nabla f (x + α p) \cdot p | \leq c_{2} | \nabla f (x) \cdot p |

$|\nabla f(x+\alpha p) \cdot p| \le c_2 |\nabla f(x) \cdot p|$

$c_1<c_2$

— वोल्फगैंग बंगर्थ
स्रोत

f

$f$

c_{2} < c_{1}

$c_2<c_1$

नहीं, दूसरे तरीके से। यदि आप चुनते हैं

c_{2} < c_{1}

$c_2<c_1$

f (x)

$f(x)$