चौकोर बहुपद के योग का व्यवस्थित अध्ययन चुकता

Question

मुझे आश्चर्य हो रहा है कि अगर द्विघात रूपों के समान चौकोर रूपों के योगों का व्यवस्थित अध्ययन मौजूद है, जो कि व्यावहारिक रूप से आइजनवेल्यू अपघटन (जिसमें भारी व्यावहारिक प्रभाव है) में परिलक्षित होता है। उदाहरण के युगल प्रश्न के महत्व से संबंधित।

1. प्रधान घटक विश्लेषण (पीसीए) । अंकों का एक सेट दिया$x_i \in \mathbb{R^n}, i=1..k$ कुल्हाड़ियों का सेट खोजें $u_1$, ... $u_m$मैट्रिक्स के रूप में लिखा है $U \in \mathbb{R^n x R^m}$, और अनुमान $\xi_1$,, ... $\xi_k, \xi_{\circ} \in \mathbb{R^m}$ यह अस्पष्टीकृत विचरण को कम करता है, अर्थात निम्न चतुर्थांश अनुकूलन समस्या का समाधान करता है

   $\mathop{argmin} \limits_{u_1,.., u_n,\ \xi_1, .., \xi_k} \sum \limits_{i} \left( U^T \xi_i - x_i \right)^2$

   समरूपता के जादू से यह विलक्षण मूल्य अपघटन द्वारा समाधान है

2. सामान्यीकृत पीसीए । पीसीए के रूप में भी, लेकिन अब एक सटीक मैट्रिक्स है$A_i \in \mathbb{R^n x R^n}$ प्रत्येक अवलोकन योग्य है $x_i$। समस्या और जटिल हो जाती है

   $\mathop{argmin} \limits_{u_1,.., u_n,\ \xi_1, .., \xi_k} \sum \limits_{i} \left( A_i U^T \xi_i - x_i \right)^2$

   (जब सब $A_i$ पहचान मैट्रिक्स हैं यह समस्या पीसीए के बराबर है, जब $A_i = A_j, \forall i,j$, और विकर्ण यह पीसीए भारित है)। यह समस्या बहु-निश्चित प्रोग्रामिंग (SDP) के माध्यम से बहुपदीय समय में भी हल की जा सकती है - चूंकि समाधान में वर्गों के योगों का रूप है, NZ Shor (1987) द्वारा यह उत्तल समस्या है, और Parillo थीसिस (2000) एक व्यावहारिक देता है एसडीपी के माध्यम से गणना करने का तरीका$\square$

एसडीपी दृष्टिकोण में चतुर्थक बहुपद के वर्ग के रूप में चतुर्थक बहुपद लिखा जाता है। इसलिए, यह जानना महत्वपूर्ण है कि किस तरह के चतुर्थक बहुपद को द्विघात रूपों के योग के रूप में लिखा जा सकता है (सादृश्य से द्विअर्थी कार्य के लिए उन्हें द्विआयामी रूप कहा जा सकता है)। अधिकांश साहित्य, मैं उस बिंदु पर रुक गया हूं जहां वे पाते हैं कि न्यूनतम बहुपद$p= \sum_k^n (x_k^2-1) + (a^T x)^2, a \in \mathbb{Z^n}$ एन्कोडिंग विभाजन की समस्या है, और कोई तर्क नहीं है कि क्यों $p$ उस से परे द्विघात बहुपद के वर्गों के योग के रूप में प्रतिनिधित्व नहीं किया जा सकता है।

मैं सोच रहा हूँ कि अगर किसी ने बहुपदों के व्यवस्थित अध्ययन को द्विघात बहुपद के वर्गों के योग द्वारा दर्शाया हो।

Answer 1

मेरी जानकारी के अनुसार, ऐसा कोई अध्ययन नहीं है; इसके अलावा, सम-वर्ग (एसओएस) समस्याओं की प्रौद्योगिकी में कुछ अनौपचारिक प्रगति के बिना, वर्तमान में यह स्पष्ट नहीं है कि इस तरह के एक अध्ययन का तत्काल लाभ क्या होगा। (मैं एसओएस कनेक्शन पर ध्यान केंद्रित करूंगा, क्योंकि जहां तक ​​मुझे पता है, इन सामान्य चतुर्थांश समस्याओं को हल करने का सबसे अच्छा तरीका है।) इस कथन को एक सकारात्मक प्रकाश में लिया जाना चाहिए: मेरा मानना ​​है कि अनुसंधान की बहुत गहराई है ये समस्याएं। मैं अपने दावे को कुछ तरीकों से प्रमाणित करूंगा, उम्मीद है कि लोगों को उपयोगी तरीके मिलेंगे।

सबसे पहले, जिस प्रकार की आप चर्चा करते हैं, उसकी सबसे बुनियादी समस्याओं के लिए, एसवीडी कनेक्शन एसओएस ब्लैक बॉक्स की तुलना में बहुत बेहतर सॉल्वर देता है; विशेष रूप से, बाद वाला SDP के साथ निर्माण करता है$\binom{n+2}{2}$ शर्तें, कहां $n$स्रोत अनुकूलन समस्या में चर की कुल संख्या है (उदाहरण के लिए, सभी अज्ञात मैट्रिसेस में तत्वों की कुल संख्या, जहां मुझे ये नंबर मिले हैं, पाब्लो पैरिलो के 2006 पाठ्यक्रम से 10 व्याख्यान देखें: http://ocw.mit। edu / पाठ्यक्रम / इलेक्ट्रिकल-इंजीनियरिंग-और-कंप्यूटर-विज्ञान / 6-972-बीजीय-तकनीक-और-अर्ध-अनिश्चितता-अनुकूलन-वसंत-2006 / व्याख्यान-नोट्स / व्याख्यान_10 . pdf )। यह एक एसडीपी है जिसे आप कभी भी हल नहीं करना चाहेंगे (चल रहा समय निर्भर करता है$n$ जैसा $n^{6}$ आंतरिक बिंदु सॉल्वर का उपयोग करना?), विशेषकर जब SVD सॉल्वर की हास्यास्पद गति के साथ तुलना की जाती है (सुसंगत संकेतन का उपयोग करके, SVD कुछ इस तरह होगा $\mathcal O(n^{1.5})$; आप कॉलम, पंक्तियों, और लक्ष्य रैंक की संख्या को ट्रैक करके मेरी गणनाओं को डी-फ्यूज कर सकते हैं, लेकिन यह एक आपदा है, चाहे आप मेरी लापरवाही को कैसे सुधारें)। इस नस के साथ, यदि आपने एसओएस समस्याओं को हल करने के लिए एक विशेष एल्गोरिथ्म डिज़ाइन किया है जहां किसी भी बहुपद के भीतर अधिकतम डिग्री दो है: यह आश्चर्यजनक होगा, और फिर जिस तरह का सर्वेक्षण आप चाहते हैं, उसका बहुत मूल्य होगा।

दूसरे, चूंकि इन समस्याओं का मूल सूत्रीकरण खिड़की से बाहर है, इसलिए यदि कोई व्यक्ति इन समस्याओं के कुछ प्रकारों को अच्छी तरह से एसओएस सॉल्वर द्वारा नियंत्रित करता है, तो आश्चर्य हो सकता है। एक महत्वपूर्ण उदाहरण के रूप में, NMF (नॉन-नेगेटिव मैट्रिक्स फैक्टराइजेशन) समस्या पर विचार करें, जहाँ आप जिस मैट्रिक्स को अनजान कर रहे हैं, वह (आपके उपरोक्त फॉर्मूलेशन में) अब गैर-नकारात्मक प्रविष्टियाँ होनी चाहिए। दुर्भाग्य से, यदि आप इन समस्याओं को हल करने के लिए उपयोग किए जाने वाले मानक एसडीपी लेते हैं (उदाहरण के लिए ऊपर से पाब्लो पैरिलो के नोट देखें), तो उन बाधाओं को पेश करने का कोई तरीका नहीं है। (और परिणामस्वरूप समस्याओं के कुछ योगों में एनपी-हार्ड हैं, अब आप एक सन्निकटन योजना का निर्माण करेंगे; यानी, यह बुरा हो सकता है।) इसके अलावा, हाल ही में काम हुआ है जिसने इस समस्या के बहुपदीय संरचना का शोषण किया है ताकि कुछ के लिए सॉल्वर का निर्माण किया जा सके। गारंटी: देखते हैंhttp://arxiv.org/abs/1111.0952 अरोरा, जीई, कन्नन, और मोइत्रा द्वारा। वे कुछ एल्गोरिदम का निर्माण करते हैं, हालांकि जब वे एक "सटीक" एनएमएफ समस्या को हल करते हैं (जहां एक सटीक कारक होता है, अर्थात, एक उद्देश्य मान 0 दे रहा है), वे एक एसओएस सॉल्वर का उपयोग नहीं करते हैं: वे "अर्ध" की एक सॉल्वर जाँच व्यवहार्यता का उपयोग करते हैं -एल्जेब्रिक सेट्स ", एक बहुत अधिक कठिन अनुकूलन समस्या जो एनएमएफएफ के प्रकार की बाधाओं की अनुमति देती है, लेकिन अब घातीय चलने वाले समय के साथ।

वैसे भी, संक्षेप में और कुछ और परिप्रेक्ष्य देने के लिए; चूँकि SOS आपके द्वारा बोली जाने वाली चतुर्थांश समस्याओं के लिए एकमात्र सॉल्वर है (इसलिए, मुझे नहीं लगता कि कोई विशिष्ट सॉल्वेंट सॉल्वर है), मैंने चर्चा की है कि इन सॉल्वरों के पास लोगों के बारे में किस प्रकार की चतुर्थक समस्याओं के लिए बेहतर विकल्प हैं। यहां एसओएस टूल का प्रभावी ढंग से उपयोग करने के लिए, आपको या तो चौकड़ी के मामले के लिए कुछ अद्भुत सॉल्वर का निर्माण करना होगा (अधिकतम 2 में डिग्री के आंतरिक बहुपद), या आपको इन समस्याओं में बाधाओं को जोड़ने के लिए कोई रास्ता निकालना होगा। अन्यथा, एसओएस समस्याओं का कनेक्शन, जबकि आकर्षक, आपको बहुत कुछ नहीं देता है।

आप यह भी उल्लेख करते हैं कि आप आश्चर्यचकित हैं कि जो साहित्य आपको मिला है वह इस संबंध को नहीं बनाता है। मुझे लगता है कि यह व्यावहारिक एसओएस सॉल्वरों के नएपन के कारण है (भले ही एसओएस समस्याओं पर अमूर्त विचार बहुत पीछे चला जाता है), और जो मैंने ऊपर कहा था। वास्तव में, जब मैंने पहली बार एसओएस सॉल्वर्स को पाया था, तो यह पेरिलो के नोट्स और पेपर के माध्यम से था, और मैंने इसी तरह से सोचा, "वह पीसीए-टाइप की समस्याओं के बारे में बात क्यों नहीं कर रहा है"? फिर मैंने उपरोक्त तथ्यों की जाँच की और बहुत कुछ कहा। मुझे लगता है कि यह भी एक बुरा संकेत है जो कि परिलो ने खुद नहीं कहा है, जहाँ तक मैं बता सकता हूँ / स्किम, इन समस्याओं की चर्चा उनके संदर्भ में आपके संदर्भ के बाहर की थी (इस बीच, उनके पास विभिन्न एक्सटेंशन पर पेपर हैं, और मेरा बहुत सम्मान है इन क्षेत्रों में उनके काम के लिए: उन्होंने कई बार इन विशिष्ट quartic समस्याओं के बारे में सोचा होगा।http://arxiv.org/abs/1111.1498 )।