यहाँ अनुकूलन से एक साफ है: गुणक की वैकल्पिक दिशा विधि (ADMM) एल्गोरिथ्म।
दो चरों के एक अनछुए और उत्तल उद्देश्य फ़ंक्शन को देखते हुए (चर स्वयं वैक्टर हो सकते हैं) और दो चर युग्मन करने वाला एक रैखिक अवरोध:
minf1(x1)+f2(x2)
s.t.A1x1+A2x2=b
इस अनुकूलन समस्या के लिए संवर्धित लैग्रेंजियन फ़ंक्शन तब
Lρ(x1,x2,λ)=f1(x1)+f2(x2)+λT(A1x1+A2x2−b)+ρ2||A1x1+A2x2−b||22
ए डी एम एम एल्गोरिथ्म मोटे तौर पर कम करके इस अनुकूलन समस्या के लिए संवर्धित लाग्रंगियन समारोह पर एक "गॉस-साइडेल" बंटवारे प्रदर्शन से काम करता है के संबंध में पहले (जबकि रहने तय), तो कम करके के संबंध में (जबकि स्थिर रहते), तो अद्यतन करने से । यह सिलसिला तब तक चलता है जब तक एक रुकने की कसौटी पर खरा नहीं उतरता।Lρ(x1,x2,λ)x1x2,λLρ(x1,x2,λ)x2x1,λλ
(नोट: कुछ शोधकर्ता जैसे कि एक्स्टेंस्ट, समीप संचालकों के पक्ष में गॉस-सिडेल विभाजन दृश्य को त्यागते हैं, उदाहरण के लिए http://rutcor.rutgers.edu/pub/rrr/reports2012/32_2012.pdf देखें )
उत्तल समस्याओं के लिए, यह एल्गोरिथ्म परिवर्तनीय साबित हुआ है - चर के दो सेटों के लिए। यह तीन चरों के लिए नहीं है। उदाहरण के लिए, अनुकूलन समस्या
minf1(x1)+f2(x2)+f3(x3)
s.t.A1x1+A2x2+A3x3=b
यहां तक कि अगर सभी उत्तल हैं, तो एडीएमएम जैसा दृष्टिकोण (प्रत्येक चर संबंध में संवर्धित लैग्रेंज को कम से कम करना , फिर दोहरे चर अपडेट करना ) अभिसरण करने की गारंटी नहीं है, जैसा कि इस पेपर में दिखाया गया था।fxiλ
https://web.stanford.edu/~yyye/ADMM-final.pdf