एलपी द्वैत के लिए एक सहज / अनौपचारिक प्रमाण?

एलपी द्वैत के बारे में 'प्वाइंट होम' मारने के लिए एक अच्छा अनौपचारिक / सहज प्रमाण क्या होगा? यह दिखाने के लिए कितना अच्छा है कि न्यूनतम उद्देश्य फ़ंक्शन वास्तव में बाध्य को समझने के सहज तरीके से न्यूनतम है?

जिस तरह से मुझे सिखाया गया था कि द्वंद्व केवल एक समझ के कारण होता है जो मुझे यकीन है कि बहुत से लोगों द्वारा साझा किया जाता है जिन्हें मैं जानता हूं: प्रत्येक संगत न्यूनतम समस्या के लिए एक समतुल्य अधिकतम समस्या है जो असमानता की बाधाओं को दूर करके प्राप्त की जा सकती है। अवधि। द्वैत का यह "निष्कर्ष" वह है जो छड़ी करने लगता है लेकिन "ऐसा क्यों है" (यानी कैसे / क्यों इष्टतम समाधान पर एक बाध्य है)।

क्या असमानताओं के साथ खेलने का एक तरीका सिर्फ इष्टतम पर निचली / ऊपरी सीमा को दिखाना है जो प्रमाण के लिए प्रेरणा हो सकती है?

मैं च्वाटल की पुस्तक के साथ-साथ कुछ अन्य लोगों के माध्यम से गया हूं, लेकिन कुछ भी नहीं मिला जो एलपी के लिए पूर्ण नोक द्वारा समझा जा सकता है। मुझे जो निकटतम मिला वह एल्गोरिदम पर वज़ीरानी की पुस्तक से था, जहां वह 'कुछ जादुई संख्याओं के साथ असमानताओं को गुणा करने वाली बात करता है जो बाध्य दिखाती है' - मुझे यकीन नहीं है कि मनमाने ढंग से एलपी के लिए प्रभाव को कैसे पुन: पेश किया जाए।

linear-programming primal-dual

— पीएचडी
स्रोत

में इस math.SE जवाब और क्यों - - मैं कहाँ से आता है दोहरी की चरण-दर-चरण उदाहरण के माध्यम से जाने के लिए एक समस्या यह है कि अलग अलग संभावनाएं है कि एक एल.पी. के साथ पैदा कर सकते का सबसे है के लिए। शायद वह मदद कर सकता है?

— माइक स्पाइवे

सुनिश्चित नहीं हैं कि आपको क्यों लगता है कि वज़ीरानी का तर्क एक सामान्य एलपी के लिए काम नहीं करता है। व्यक्तिगत रूप से, मुझे वह स्पष्टीकरण सबसे अच्छा लगता है।

— सुरेश वेंकट

क्या आप कमजोर द्वैत या मजबूत द्वंद्व के बारे में पूछ रहे हैं?

— त्सुयोशी इतो

आप (2d में, कहकर) ज्यामितीय अंतर्ज्ञान प्राप्त कर सकते हैं कि बाधाओं का एक रैखिक संयोजन लेने का क्या मतलब है। उदाहरण के लिए, समतल और को समतल में खींचें । इन बाधाओं के रैखिक संयोजन आपको किसी भी लिए । इसे देखने के लिए इसे बाहर निकालें। आम तौर पर, बाधाओं का रैखिक संयोजन आपको पॉलीहेड्रा के आधे स्थान का समर्थन करता है। अब पूछें, ऐसा क्यों है कि इन समर्थन वाले आधे स्थानों में से एक हमेशा पर्याप्त है, खुद से, लागत पर एक सीमा देने के लिए? यदि आप इसे देखते हैं, तो यह मजबूत द्वंद्व है।

x \leq 1

$x \le 1$

y \leq 1

$y \le 1$

a x + b y \leq a + b

$ax + by \le a + b$

a, b \geq 0

$a,b \ge 0$

— नील जवान

@ मायिकसेवी - काश आपकी टिप्पणी का जवाब होता :)

— PhD

जवाबों:

ओपी की इच्छा के अनुसार, यहां गणित है। उत्तर दें मैं अपनी टिप्पणी में ऊपर लिंक करता हूं।

हो सकता है कि यह एक उदाहरण समस्या पर दोहरी कहाँ से आता है के माध्यम से बात करने के लिए सार्थक है। इसमें थोड़ी देर लगेगी, लेकिन उम्मीद है कि जब हम काम करेंगे, तब तक यह रहस्यमय नहीं होगा।

मान लें कि निम्नानुसार एक मौलिक समस्या है।

P r i m a l = {\begin{matrix} max 5 x_{1} - 6 x_{2} \\ s . t . 2 x_{1} - x_{2} = 1 \\ x_{1} + 3 x_{2} \leq 9 \\ x_{1} \geq 0 \end{matrix}}

$Primal =\begin{Bmatrix} \max \ \ \ \ 5x_1 - 6x_2 \\ \ \ \ s.t. \ \ \ \ 2x_1 -x_2 = 1\\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ x_1 +3x_2 \leq9\\ \ \ \ \ x_1 \geq 0\\ \end{Bmatrix}$

अब, मान लें कि हम प्राण की इष्टतम कीमत पर एक ऊपरी बाध्यता खोजने के लिए एक तरह से प्राण की बाधाओं का उपयोग करना चाहते हैं। यदि हम पहले बाधा को , तो दूसरी बाधा को हैं, और उन्हें एक साथ जोड़ते हैं, तो हमें बाएं हाथ की तरफ और और दाहिने हाथ की ओर। चूँकि पहला अवरोध एक समानता है और दूसरा एक असमानता है, यह का अर्थ है। लेकिन बाद से , यह भी सच है कि , और इसलिए इसलिए, एक उच्च-सीमा है, जो कि प्राचल समस्या के इष्टतम मूल्य पर है।

9

$9$

1

$1$

9 (2 x_{1} - x_{2}) + 1 (x_{1} + 3 x_{2})

$9(2x_1 - x_2) + 1(x_1 +3 x_2)$

9 (1) + 1 (9)

$9(1) + 1(9)$

19 {एक्स}_{1} - 6 {एक्स}_{2} \leq 18।

$19x_1 - 6x_2 \leq 18.$

x_{1} \geq 0

$x_1 \geq 0$

5 x_{1} \leq 19 x_{1}

$5x_1 \leq 19x_1$

5 {एक्स}_{1} - 6 {एक्स}_{2} \leq 19 {एक्स}_{1} - 6 {एक्स}_{2} \leq 18।

$5x_1 - 6x_2 \leq 19x_1 - 6x_2 \leq 18.$

18

$18$

निश्चित रूप से हम इससे बेहतर कर सकते हैं, हालांकि। केवल और को गुणक के रूप में अनुमान लगाने के बजाय , आइए हम उन्हें चर बनाते हैं। इस प्रकार हम को बल देने के लिए गुणक और तलाश कर रहे हैं $9$ $1$ $y_1$ $y_2$

5 {एक्स}_{1} - 6 {एक्स}_{2} \leq y_{1} (2 {एक्स}_{1} - {एक्स}_{2}) + y_{2} ({एक्स}_{1} + 3 {एक्स}_{2}) \leq y_{1} (1) + y_{2} (9) ।

$5x_1 - 6x_2 \leq y_1(2x_1-x_2) + y_2(x_1 + 3x_2) \leq y_1(1) + y_2(9).$

अब, असमानता की इस जोड़ी को धारण करने के लिए, और बारे में क्या सच है ? आइए एक बार में दो असमानताओं को लें। $y_1$ $y_2$

पहली असमानता : $5x_1 - 6x_2 \leq y_1(2x_1-x_2) + y_2(x_1 + 3x_2)$

हमें और चर के गुणांक को अलग से ट्रैक करना होगा । सबसे पहले, हमें दाईं ओर के कुल गुणांक की आवश्यकता है जो कम से कम । ठीक करना बहुत अच्छा होगा, लेकिन बाद से , से बड़ा कुछ भी लिए असमानता को संतुष्ट करेगा । गणितीय रूप से, इसका मतलब है कि हमें । $x_1$ $x_2$ $x_1$ $5$ $5$ $x_1 \geq 0$ $5$ $x_1$ $2y_1 + y_2 \geq 5$

दूसरी ओर, वेरिएबल के लिए असमानता सुनिश्चित करने के लिए हमें दाएँ हाथ की ओर कुल गुणांक की आवश्यकता है । चूंकि सकारात्मक हो सकता है, इसलिए हम से कम नहीं जा सकते हैं , और चूंकि नकारात्मक हो सकता है, इसलिए हम से अधिक नहीं जा सकते हैं (जैसा कि लिए ऋणात्मक मान असमानता की दिशा को फ्लिप करेगा)। तो चर के लिए काम करने वाली पहली असमानता के लिए , हमारे पास । $x_2$ $x_2$ $-6$ $x_2$ $-6$ $x_2$ $-6$ $x_2$ $x_2$ $-y_1 + 3y_2 = -6$

दूसरी असमानता :

y_{1} (2 x_{1} - x_{2}) + y_{2} (x_{1} + 3 x_{2}) \leq y_{1} (1) + y_{2} (9)

$y_1(2x_1-x_2) + y_2(x_1 + 3x_2) \leq y_1(1) + y_2(9)$

यहां हमें और चर को अलग-अलग ट्रैक करना । चर पहले बाधा है, जो एक समानता बाधा है से आते हैं। इससे कोई फर्क नहीं पड़ता कि सकारात्मक या नकारात्मक है, समानता की बाधा अभी भी रखती है। इस प्रकार हस्ताक्षर में अप्रतिबंधित है। हालांकि, चर दूसरे बाधा से आता है, जो बाधा से कम-या-बराबर है। अगर हम दूसरी बाधा को एक ऋणात्मक संख्या से गुणा करें, जो इसकी दिशा को फ्लिप करेगी और इसे अधिक से अधिक-या-बराबर बाधा में बदल देगी। अपने उद्देश्य को ऊपरी उद्देश्य के साथ बनाए रखने के लिए, हम ऐसा होने नहीं दे सकते। तो $y_1$ $y_2$ $y_1$ $y_1$ $y_1$ $y_2$ $y_2$ परिवर्तनशील नकारात्मक नहीं हो सकता। इस प्रकार हमारे पास होना चाहिए । $y_2 \geq 0$

अंत में, हम दूसरी असमानता के दाहिने हाथ को जितना संभव हो उतना छोटा बनाना चाहते हैं, क्योंकि हम मौलिक उद्देश्य पर सबसे ऊपरी ऊपरी बाउंड संभव चाहते हैं। इसलिए हम को कम करना चाहते हैं । $y_1 + 9y_2$

इन सभी प्रतिबंधों को और एक साथ रखने से हमें पता चलता है कि इष्टतम विमल उद्देश्य पर सर्वोत्तम ऊपरी-सीमा खोजने के लिए की बाधा का उपयोग करने की समस्या निम्न रैखिक कार्यक्रम को हल करती है: $y_1$ $y_2$

\begin{aligned} छोटा करना y_{1} + 9 y_{2} \\ का विषय है 2 y_{1} + y_{2} & \geq 5 \\ - y_{1} + 3 y_{2} & = - 6 \\ y_{2} & \geq 0। \end{aligned}

$\begin{align*} \text{Minimize }\:\:\:\:\: y_1 + 9y_2& \\ \text{subject to }\:\:\:\:\: 2y_1 + y_2& \geq 5 \\ -y_1 + 3y_2& = -6\\ y_2 & \geq 0. \end{align*}$

और वह द्वैत है।

यह शायद इस तर्क के निहितार्थ को संक्षेप में बताने के लायक है, क्योंकि यह सभी संभव रूपों के लिए आवश्यक है। निम्नलिखित तालिका पी से ली गई है। हिलेरी और लिबरमैन द्वारा 8 वीं संस्करण के संचालन अनुसंधान के लिए परिचय का 214 । वे इसे एसओबी विधि के रूप में संदर्भित करते हैं, जहां एसओबी संवेदनशील, विषम या विचित्र के लिए खड़ा है, इस बात पर निर्भर करता है कि किसी व्यक्ति को एक अधिकतमकरण या न्यूनतमकरण समस्या में उस विशेष बाधा या चर प्रतिबंध की संभावना कितनी होगी।

             Primal Problem                           Dual Problem
             (or Dual Problem)                        (or Primal Problem)

             Maximization                             Minimization

Sensible     <= constraint            paired with     nonnegative variable
Odd          =  constraint            paired with     unconstrained variable
Bizarre      >= constraint            paired with     nonpositive variable

Sensible     nonnegative variable     paired with     >= constraint
Odd          unconstrained variable   paired with     = constraint
Bizarre      nonpositive variable     paired with     <= constraint

— माइक स्पाइवे
स्रोत

माइक के उत्तर और वज़ीरानी की टिप्पणी पर विस्तार से, आप मूल समस्या के समाधान के लिए एक इष्टतमता प्रमाण के सामान्य रूप पर विचार करके दोहरी प्राप्त करते हैं। मान लीजिए कि आपके पास कुछ रैखिक असमानताओं को देखते हुए एक अधिकतम समस्या है, और सामान्यता की हानि के बिना, मान लीजिए कि आप चर को अधिकतम करने की कोशिश कर रहे हैं । ऐसे समाधान को देखते हुए जिसमें , हम कैसे जानते हैं कि यह इष्टतम है? एक तरीका यह है कि रैखिक असमानताओं के रैखिक संयोजनों को ले कर पर एक बाध्यता प्राप्त करने का प्रयास किया जाए । कुछ रैखिक संयोजन आपको प्रपत्र की सीमा देते हैं , और आप सबसे अच्छा (न्यूनतम) संभव प्राप्त करने का प्रयास कर रहे हैं। कमजोर द्वंद्व बताता है कि $x$ $x = B$ $x$ $x \leq C$ $C$ $B \leq \min C$ , जो परिभाषा से स्पष्ट है। मजबूत द्वंद्व बताता है कि जब परिमित होता है, तब । इसका मतलब यह है कि यदि अधिकतम तो एक "कारण" है कि आप से आगे नहीं निकल सकते हैं , जो कि इष्टतमता के प्रमाण के रूप में दोगुना है। $B$ $B = \min C$ $B$ $B$

यह दृष्टिकोण कभी-कभी मददगार होता है। चलो एक सेट समारोह हो ( एक सेट ले जाता है और एक वास्तविक संख्या आउटपुट), और दो सेट हो। मान लीजिए कि आप फ़ंक्शन (यह वास्तविक जीवन का उदाहरण है) के बारे में असमानताओं के एक समूह से एक असमानता प्राप्त करने का प्रयास कर रहे हैं । आप एक रैखिक कार्यक्रम लिखते हैं जिसमें का मान चर है, एक बाधा है, और उद्देश्य को कम करना है । इस कार्यक्रम का समाधान (मान लें सर्वोत्तम संभव है), और दोहरे का समाधान आपको एक प्रमाण देता है $f$ $f$ $S,O$ $f(S) \geq (1-1/e) f(O)$ $f$ $f$ $f(O) = 1$ $f(S)$ $\min f(S) = 1-1/e$ $1-1/e$ $f(S) \geq 1-1/e$ ।

यह प्रश्न इस सवाल को खोलता है कि वास्तव में मजबूत द्वंद्व क्यों है। रेखीय प्रोग्रामिंग के लिए इस तथ्य के दो प्रमाण हैं, एक में सिंपलेक्स एल्गोरिथ्म शामिल है, दूसरा फ़ार्कस का लेम्मा। फ़र्कास का लेम्मा शायद स्थिति को समझने का "सही" तरीका है, जो कुछ सहज ज्ञान युक्त ज्यामितीय तथ्य के लिए सब कुछ कम करता है। हालाँकि, मैं यह स्वीकार करता हूं कि यह अंतर्ज्ञान मेरे सिर पर जाता है।

अधिक सामान्य स्थितियों में (मान लें कि अर्धविक्षिप्त प्रोग्रामिंग), आपको मजबूत द्वंद्व के लिए दोहरी और स्थितियां प्राप्त करने के लिए अधिक सामान्य करुश-कुह्न-टकर स्थितियों (लैगरेंज मल्टीप्लायरों का एक रूप) का उपयोग करने की आवश्यकता है। यह गैर-रैखिक या उत्तल अनुकूलन पर ग्रंथों में व्यवहार किया जाता है।

— युवल फिल्मस
स्रोत