तिरछे प्रमुख मैट्रिसेस पर पुनरावृति विधियों का सुरक्षित अनुप्रयोग

Question

मान लीजिए निम्न लीनियर प्रणाली दी गई है

$$Lx=c,\tag1$$ कहाँ पे $L$ भारित लाप्लासियन को सकारात्मक माना जाता है $semi-$एक आयामी अशक्त अंतरिक्ष के साथ निश्चित है $1_n=(1,\dots,1)\in\mathbb{R}^n$, और का अनुवाद विचरण $x\in\mathbb{R}^{n}$, अर्थात, $x+a1_n$ फ़ंक्शन मान नहीं बदलता (जिसका व्युत्पन्न है $(1)$)। की केवल सकारात्मक प्रविष्टियाँ$L$ इसके विकर्ण पर हैं, जो नकारात्मक ऑफ-विकर्ण प्रविष्टियों के पूर्ण मूल्यों का एक योग है।

मैं अपने क्षेत्र में एक अत्यधिक उद्धृत शैक्षणिक कार्य में पाया गया, हालांकि $L$ है $not~strictly$ तिरछे प्रमुख, विधर्मी स्नातक, गॉस-सेडल, जैकोबी जैसी विधियां अभी भी हल करने के लिए सुरक्षित नहीं हो सकती हैं $(1)$। औचित्य यह है कि, अनुवाद अदर्शन के कारण, एक बिंदु को ठीक करने के लिए सुरक्षित है (उदाहरण के लिए पहली पंक्ति और स्तंभ को हटा दें।$L$ और से पहली प्रविष्टि $c$ ), इस प्रकार परिवर्तित करना $L$ को $strictly$तिरछे प्रमुख मैट्रिक्स। वैसे भी, मूल प्रणाली का पूर्ण रूप में हल किया जाता है$(1)$, साथ में $L\in\mathbb{R}^{n\times n}$।

क्या यह धारणा सही है, और, यदि हां, तो वैकल्पिक औचित्य क्या हैं? मैं यह समझने की कोशिश कर रहा हूं कि कैसे तरीकों का अभिसरण अभी भी पकड़ में है।

यदि जैकोबी विधि के साथ अभिसरण हो $(1)$, वर्णक्रमीय त्रिज्या के बारे में एक राज्य क्या कर सकता है $\rho$ पुनरावृति मैट्रिक्स का $D^{-1}(D-L)$, कहाँ पे $D$ की प्रविष्टियों के साथ विकर्ण मैट्रिक्स है $L$इसके विकर्ण पर? है$\rho(D^{-1}(D-L)\leq1$, इस प्रकार से सामान्य अभिसरण गारंटी से अलग है $\rho(D^{-1}(D-L))<1$? मैं यह पूछ रहा हूं कि लैपेलियन मैट्रिक्स के आइगेनवेल्यूज के बाद से$D^{-1}L$विकर्ण पर लोगों के साथ सीमा में होना चाहिए$[0, 2]$।

मूल काम से:

......................................

प्रत्येक पुनरावृत्ति पर, हम निम्नलिखित रैखिक उत्पादों को हल करके एक नया लेआउट (x (t +1), y (t + 1)) की गणना करते हैं:

$$L · x(t + 1) = L(x(t),y(t)) · x(t) \\ L · y(t + 1) = L(x(t),y(t)) · y(t) \tag 8$$ सामान्यता के नुकसान के बिना हम सेंसर में से एक के स्थान को ठीक कर सकते हैं (स्थानीय तनाव की स्वतंत्रता की अनुवाद की डिग्री का उपयोग करते हुए) और एक कड़ाई से तिरछे प्रमुख मैट्रिक्स को प्राप्त कर सकते हैं। इसलिए, हम समाधान के लिए सुरक्षित रूप से जैकोबी पुनरावृत्ति का उपयोग कर सकते हैं (8)

.......................................

उपरोक्त में, "पुनरावृत्ति" की धारणा अंतर्निहित न्यूनतमकरण प्रक्रिया से संबंधित है, और जैकोबी पुनरावृत्ति के साथ भ्रमित नहीं होना है। तो, सिस्टम को जैकोबी (पुनरावृत्त रूप से) द्वारा हल किया जाता है, और फिर समाधान को (8) के दाईं ओर खरीदा जाता है, लेकिन अब अंतर्निहित न्यूनतमकरण के एक और पुनरावृत्ति के लिए। मुझे उम्मीद है कि इससे मामला स्पष्ट होगा।

ध्यान दें कि मैंने पाया कि कौन से पुनरावृत्त लीनियर सॉल्वर सकारात्मक अर्धवृत्त मैट्रिक्स के लिए अभिसरण करते हैं? , लेकिन मैं एक अधिक विस्तृत जवाब की तलाश में हूं।

Comments

क्या आप अत्यधिक उद्धृत कार्य के लिए लिंक या प्रशस्ति पत्र पोस्ट कर सकते हैं?

— ज्योफ ऑक्सबेरी

इसे इससे पुनर्प्राप्त किया जा सकता है: citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.164.1421 चूंकि आपको पूरे काम को पढ़ने की उम्मीद नहीं है, इसलिए p.7 (नीचे) पर एक नज़र डालें। मुझे लगता है कि पुनरावृत्त solvers की पसंद उचित है, लेकिन मुझे लगता है कि एक बेहतर (या, कम से कम, अलग) तर्क की आवश्यकता है।

— usero

मुझे आश्चर्य है कि क्या ये लोग एक ही समुदाय से हैं, जो कॉम्बिनेटरियल प्रीकॉन्डिशनर्स हैं।

— शुहलो

Answer 1

जैकोबी पुनरावृत्ति अभिसरण साबित हो सकती है।

पहली चीज जो आपको सुनिश्चित करनी चाहिए वह है $c^T \mathbf{1}_n = 0$, जो समाधान के अस्तित्व के लिए शर्त है (मुझे लगता है $L=L^T$, अन्यथा आपको आवश्यकता है $c\in (\mathrm{Ker} L^T)^\perp$) क्योंकि आपने कहा $V_0:=\mathrm{Ker} L = \mathrm{span}\{\mathbf{1}_n\}$। हम उस अधिवेशन का उपयोग करेंगे$V_0$स्तंभों के साथ मैट्रिक्स भी है, जो इसके आधार का अलौकिक आधार है। आपके मामले में,$V_0:=\mathbf{1}_n/\sqrt{n}$।

फिर, मूल प्रणाली पर जैकोबी पुनरावृत्ति की त्रुटियों के लिए, आपके पास है

$$e_1 = (I-D^{-1}L)e_0 = (I-D^{-1}L) (P e_0 + V_0a)=(I-D^{-1}L) P e_0 + V_0a,$$ कहाँ पे $P:=I-V_0V_0'$ पर ऑर्थोगोनल प्रक्षेपण है $V_1:=V_0^\perp$। उपरोक्त पुनरावृत्ति से, हम जानते हैं कि $$P e_1 = P (I-D^{-1}L) P e_0,$$
जिससे हमारे पास पुनरावृति मैट्रिक्स है $S$ में $V_1$, $$S: = P (I-D^{-1}L) P.$$ नहीं कि $S$ निम्नलिखित मैट्रिक्स के साथ एक ही स्पेक्ट्रा (शून्य को छोड़कर) है $$\tilde{S}:= (I-D^{-1}L) P P=(I-D^{-1}L) P=(I-D^{-1}L)(I-V_0V_0')\\ =I-D^{-1}L-V_0V_0'.$$ हम का त्रिज्या चाहते हैं $S$ अभिसरण सिद्ध करने के लिए एक से कम।

निम्नलिखित उद्धरण पुराना है और केवल संदर्भ के लिए रखा गया है। नए प्रमाण के लिए देखें।

आपके मामले में, $V_0V_0'=\frac{1}{n}\mathbf{1}_{n\times n}.$ और आप इसे सत्यापित कर सकते हैं $D^{-1}L+V_0V_0'$ इस धारणा का उपयोग करके सख्ती से विकर्ण-प्रधान है कि प्रविष्टियों का उपयोग $L$विकर्ण पर सकारात्मक हैं और अन्यथा नकारात्मक हैं। के स्वदेशी दिखाने के लिए $D^{-1}L+V_0V_0'$ वास्तविक हैं, हम ध्यान दें कि मैट्रिक्स आंतरिक उत्पाद के तहत स्व-सहायक है $<x,y>:=y^TDx.$

अगर $V_0$आपके विशिष्ट रूप में नहीं है, मुझे अभिसरण प्रश्न का उत्तर नहीं मिला है। क्या कोई इसे स्पष्ट कर सकता है?

ध्यान दें कि $V_0$ eigenvalue के अनुरूप ईजन-वेक्टर है $1$ का $I-D^{-1}L$। अवलोकन के आधार पर, हम जीओ डिंग और ऐ-हुई झोउ द्वारा कुछ अनुप्रयोगों के साथ रैंक-एक अपडेट किए गए मैट्रिसेस के आइजेनवेल्यूज से प्रमेय 2.1 कहते हैं ।

प्रमेय 2.1 चलो$u$ तथा $v$ दो हो $n$-डिमेटिक कॉलम वैक्टर जैसे कि $u$ का एक आइजनवेक्टर है $A$ eigenvalue के साथ जुड़ा हुआ है $\lambda_1$। फिर, के eigenvalues$A+uv^T$ कर रहे हैं $\{\lambda_1+u^Tv,\lambda_2,\ldots,\lambda_n\}$ बीजगणितीय बहुलता की गिनती।

तब, हम जानते हैं कि का स्पेक्ट्रा $\tilde{S}$ के समान है $I-D^{-1}L$ सिवाय इसके कि आइजनवेल्यू $1$ द्वारा बाद में स्थानांतरित कर दिया गया है $-1$पूर्व में प्रतिध्वनि शून्य में। जबसे$\rho(I-D^{-1}L)\subset (-1,1]$, हमारे पास है $\rho(\tilde{S})\subset (-1,1)$।

Comments

जवाब के लिए धन्यवाद। कुछ ऐसा ही मैंने माना है: अर्थात्, भारित लाप्लासियन के रूप में संरचित के साथ$D^{-1}L$ ऊपर, यह दिखाया जा सकता है कि इसके स्वदेशी भीतर हैं $[0, 2)$, इसलिए भीतर वर्णक्रमीय त्रिज्या के साथ $(0, 2)$ (एक स्वदेशी से अधिक है $0$, और कम से कम एक है $0$)। इसलिए, पुनरावृत्ति मैट्रिक्स का वर्णक्रमीय त्रिज्या$I-D^{-1}L$ तब कम है $1$, इसलिए अभिसरण जैकोबी के साथ। शायद वर्णक्रमीय त्रिज्या पर उपरोक्त धारणा$I-D^{-1}L$ (छोड़कर $0$) सुरक्षित नहीं है?

— यूजरो

मुझे लगता है के स्पेक्ट्रा $D^{-1}L$ में होना चाहिए $[0,2]$, वह बंद है $2$। मुझे नहीं पता कि आप कैसे प्राप्त कर सकते हैं$2$बाहर रखा गया। मेरे दृष्टिकोण से, (गेर्शगोरिन सर्कल प्रमेय) [ en.wikipedia.org/wiki/Gershgorin_circle_theorem] केवल अनुमान दे सकते हैं$2$। यदि यह मामला है, के वर्णक्रमीय त्रिज्या का अनुमान है$I-D^{-1}L$ है $\leq 1$ की कर्नेल में वैक्टर के साथ समानता के साथ $L$। मुझे लगता है कि आप जो अभिसरण चाहते हैं, वह ऑर्थोगोनल पूरक अंतरिक्ष में है$V_1$जैसा कि ऊपर 'उत्तर' में दिया गया है।

— हुई झांग

आप Lemma 1.7 (v) की math.ucsd.edu/~fan/research/cb/ch1.pdf मैट्रिक्स पर एक नज़र डाल सकते हैं $D^{−1}L$ एक पूर्ण ग्राफ़ पर भारित लैपेलियन के रूप में माना जा सकता है, इसलिए इसे बाहर रखा गया है $2$। मुझे लगता है कि यह अभिसरण प्रमाण के लिए पर्याप्त तर्क है? ........... क्या आपके दृष्टिकोण को केंद्रीकरण से परे पुनरावृत्तियों के अन्य पूर्व / पोस्ट-प्रोसेसिंग की आवश्यकता है$c$। मैं पूछ रहा हूं क्योंकि आपने परिचय दिया$V_0$ और के स्पेक्ट्रा के बारे में $I-D^{-1}L-V_0V_0'$: दिया कि वर्णक्रमीय त्रिज्या ($sr$) का $I-D^{-1}L$ है $(0, 1]$, का संस्करण $-\frac{1}{n}$उपज होगी $sr<1$। क्या यह एक अच्छा तर्क नहीं है?

— usero

नमस्ते, एक अच्छी किताब की ओर इशारा करने के लिए धन्यवाद। लेकिन मैंने पाया कि मैं एक त्वरित रूप नहीं ले सकता। आपके अंतिम तर्क के बारे में, यह ऊपर दिए गए "उत्तर" के समान है। बस सावधान रहें, आप नहीं जोड़ रहे हैं$\frac{1}{n}$ परंतु $\frac{1}{n}\mathbf{1}_{n\times n}$, तो यह करने के लिए एक सरल इसके अतिरिक्त नहीं है $sr$ का $I-D^{-1}L$। आम तौर पर,$sr$दो मैट्रिसेस का योग सरल योग नहीं है$sr$अलग-अलग मेट्रिसेस का।

— हुई झांग

अच्छा है कि आपने बताया। क्या आपके दृष्टिकोण को केंद्र से परे पुनरावृत्तियों के अन्य पूर्व / बाद के प्रसंस्करण की आवश्यकता है। मैं पूछ रहा हूं क्योंकि आपने परिचय दिया$V_0$, और मुझे लगा कि आप अशक्त अंतरिक्ष को प्रक्षेपित करने की बात कर रहे हैं। यदि हां, तो क्या अभिसरण के लिए नल-स्थान को वास्तव में आवश्यक है?

— usero

Answer 2

क्रायलोव तरीके स्पष्ट रूप से उस स्थान की गतिशीलता का उपयोग नहीं करते हैं जिसमें वे पुनरावृत्त होते हैं, इसलिए आप उन्हें एकवचन सिस्टम पर तब तक चला सकते हैं जब तक आप पुनरावृत्तियों को गैर-शून्य उप-क्षेत्र में रखते हैं। यह सामान्य रूप से प्रत्येक पुनरावृत्ति पर रिक्त स्थान को प्रोजेक्ट करके किया जाता है। दो चीजें हैं जो गलत हो सकती हैं, पहली दूसरी की तुलना में बहुत अधिक सामान्य है।

1. एकल ऑपरेटर के लिए लागू होने पर पूर्ववर्ती अस्थिर होता है। प्रत्यक्ष सॉल्वर और अधूरे फैक्टराइजेशन में यह संपत्ति हो सकती है। एक व्यावहारिक बात के रूप में, हम सिर्फ अलग-अलग प्रीकॉन्डिशनर्स चुनते हैं, लेकिन सिंगुलर सिस्टम के लिए प्रीकॉन्डिशनर्स डिजाइन करने के लिए अधिक राजसी तरीके हैं, जैसे जांग (2010) ।
2. कुछ पुनरावृत्तियों में, $x$ गैर-शून्य उप-क्षेत्र में है, लेकिन $A x$पूरी तरह से अशक्त अंतरिक्ष में रहता है। यह केवल nonsymmetric matrices के साथ ही संभव है। इस परिदृश्य में अनमॉडिफाइड जीएमआरईएस टूट जाता है, लेकिन ब्रेकडाउन फ्री वेरिएंट के लिए रीचेल और ये (2005) देखें ।

PETSc का उपयोग करके एकवचन प्रणाली को हल करने के लिए, देखें KSPSetNullSpace()। अधिकांश विधियाँ और पूर्ववर्ती एकवचन प्रणाली को हल कर सकती हैं। व्यवहार में, न्यूमैन सीमा स्थितियों के साथ पीडीई के लिए छोटी अशक्त जगह लगभग कभी भी समस्या नहीं होती है जब तक आप नल अंतरिक्ष के क्रायलोव सॉल्वर को सूचित करते हैं और एक उचित पूर्व-चयनकर्ता चुनते हैं।

टिप्पणियों से, ऐसा लगता है कि आप विशेष रूप से जैकोबी में रुचि रखते हैं। (क्यों? जैकोबी एक बहुउद्देशीय चिकनी के रूप में उपयोगी है, लेकिन सॉल्वर के रूप में उपयोग करने के लिए बहुत बेहतर तरीके हैं।) जोबी ने प्रस्तुत किया।$A x = b$ जब वेक्टर वेक्टर नहीं होता है $b$ के रिक्त स्थान में एक घटक है $A$हालाँकि, समाधान ऑर्थोगोनल के भाग को रिक्त स्थान में परिवर्तित करता है, इसलिए यदि आप प्रत्येक रिक्त स्थान से रिक्त स्थान को प्रोजेक्ट करते हैं, तो यह परिवर्तित हो जाता है। वैकल्पिक रूप से, यदि आप एक सुसंगत चुनते हैं$b$ और प्रारंभिक अनुमान, iterates (सटीक अंकगणित में) शून्य स्थान पर घटकों को जमा नहीं करते हैं।

Comments

आप आधार का एक ऑर्थोगोनल परिवर्तन कर सकते हैं ताकि विकर्ण पर एक शून्य हो (किसी भी ऑर्थोगोनल मैट्रिक्स को ढूंढें) $Q$जिसमें पहला कॉलम स्थिर वेक्टर है)। इस परिवर्तन के तहत$A_1 = Q^T A Q$, साँचा $A_1$अभी भी सममित सकारात्मक अर्ध-निश्चित है, लेकिन पहली विकर्ण प्रविष्टि 0 है इसलिए जैकोबी का प्रत्यक्ष आवेदन विफल हो जाएगा। जबसे$A_1$सघन है, आप ऐसा व्यवहार में नहीं करेंगे, लेकिन यह दर्शाता है कि आधार मायने रखता है। अगर$Z$ अशक्त अंतरिक्ष के लिए एक orthogonal आधार है, अनुमानित GMRES बस हल कर रहा है $(I-Z)P^{-1} A x = (I-Z)P^{-1} b$।

— जेड ब्राउन

हम्म, ऐसा लगता है कि मैंने एक टिप्पणी का जवाब दिया था जिसे हटा दिया गया था। यदि यह उपयोगी है तो मैं यहाँ टिप्पणी छोड़ दूँगा।

— जेड ब्राउन

जवाब के लिए धन्यवाद, यह बहुत उच्च स्तर पर है तो मुझे उम्मीद थी। इसलिए, मुझे कुछ दिशानिर्देशों की आवश्यकता होगी: 1) प्रत्येक पुनरावृत्ति पर अशक्त स्थान को कैसे बाहर निकालना है? 2) मेरी समझ में, आपने कहा है कि सिस्टम में जैकोबी एप्लिकेशन जैसा कि मुख्य रूप से कहा गया है कि वह सटीक समाधान में परिवर्तित नहीं हो सकता है (यानी iterands को बेहतर समाधान अनुमान नहीं मिल रहा है)। इसलिए अलग-अलग पूर्व-चयनकर्ताओं को चुनने का सुझाव दिया गया है? यदि हां, तो क्या यह व्यवहार के साथ व्यवहारिक रूप से एक गतिशील जाँच है$diag(A)$, और यदि समस्या होती है (रैखिक प्रणाली के उपरोक्त मामले के साथ) तो बदल जाए?

— usero

मेरे 1) ऊपर से के रूप में माना जाना चाहिए: प्रणाली मुख्य रूप से तैनात साथ जैकोबी यात्रा को देखते हुए, यह जरूरत nullspace बाहर परियोजना के लिए, और, यदि हां, तो कैसे भी इसे अद्यतन भीतर शामिल कर सकता है$X_{k+1}=D^{-1}(b-(A-D)X_k)$? पुनरावृति पुनरावृति$X_{k+1}$, और के लिए postprocessed संस्करण पर विचार कर रहा है $X_{k}$?

— यूजरो

उचित आधार पर, जैकोबी को स्थिर होना चाहिए। यह विकर्ण पर 1 का भी उपयोग कर सकता है यदि विकर्ण मैट्रिक्स तत्व 0 है, तो प्रक्षेपण अभी भी रिक्त स्थान को हटा देता है। क्या आप CG या GMRES जैसी क्रायलोव विधि का उपयोग करने की योजना बना रहे हैं? यदि नहीं, तो क्यों नहीं? यदि आप हैं, तो आपको बस रिक्त स्थान के लिए एक ऑर्थोगोनल आधार की आवश्यकता है। आपके पास केवल अशक्त स्थान में निरंतर मोड है, इसलिए अशक्त अंतरिक्ष में एक ऑर्थोगोनल प्रोजेक्टर है$N=ZZ^T$ कहाँ पे $Z$कॉलम वेक्टर है। ऑर्थोगोनल प्रोजेक्टर जो रिक्त स्थान को हटाता है, इस प्रकार है$I-N$। (मेरी पहली टिप्पणी में एक गलती थी, यदि$Z$ आधार है, $N=I-ZZ^T$प्रोजेक्टर है।)

— जेड ब्राउन