सहसंबंध मैट्रिक्स को सकारात्मक अर्ध-निश्चित होने की आवश्यकता क्यों है और सकारात्मक अर्ध-निश्चित होने का क्या मतलब है या नहीं है?

मैं सहसंबंध या सहसंयोजक मैट्रिक्स के सकारात्मक अर्ध-निश्चित संपत्ति के अर्थ पर शोध कर रहा हूं।

मैं किसी भी जानकारी के लिए देख रहा हूँ

सकारात्मक अर्ध-परिभाषा की परिभाषा;
इसके महत्वपूर्ण गुण, व्यावहारिक निहितार्थ;
नकारात्मक निर्धारक होने का परिणाम, बहुभिन्नरूपी विश्लेषण या सिमुलेशन परिणाम आदि पर प्रभाव।

क्या आप यह समझना चाहते हैं कि अर्ध-निश्चितता क्या है , या क्या आप जानना चाहते हैं कि सहसंबंध की परिपक्वता अर्द्ध-निश्चित क्यों होनी चाहिए, या क्या आप जानना चाहते हैं कि इस संपत्ति के क्या महत्वपूर्ण परिणाम निहित हैं?

— whuber

यदि सहसंबंध परिपक्वता जहां अर्ध-सकारात्मक निश्चित नहीं है, तो आप ऐसे संस्करण प्राप्त कर सकते हैं जो नकारात्मक थे।

मैंने आपके प्रश्न को थोड़ा संपादित किया, कृपया इसकी जाँच करें। इसके अलावा, कृपया ध्यान दें कि एक समान संख्या में ऋणात्मक ईजेन्यूएल के साथ एक मैट्रिक्स अभी भी सकारात्मक निर्धारक होगा।

— ttnphns

एक सहसंयोजक मैट्रिक्स हमेशा सहसंबंध मैट्रिक्स के बराबर नहीं होता है! सहसंयोजन मैट्रिक्स नहीं होने पर कोवरियन सामान्यीकृत चर मानते हैं।

— मनोज कुमार

संबंधित प्रश्न: क्या प्रत्येक सहसंयोजक मैट्रिक्स सकारात्मक निश्चित है? कोवरियस मैट्रिस के व्यापक मामले पर विचार करता है, जिनमें से सहसंबंध मैट्रीस एक विशेष मामला है; भी हर सहसंबंध मैट्रिक्स सकारात्मक अर्द्ध निश्चित है? और हर सहसंबंध मैट्रिक्स सकारात्मक निश्चित है?

— सिल्वरफिश नोव

जवाबों:

एक भारित योग की विचरण यादृच्छिक चर के गैर नकारात्मक वास्तविक संख्या के सभी विकल्पों के लिए होना चाहिए । चूँकि विचरण को हमारे पास यह है कि सहसंयोजक मैट्रिक्स सकारात्मक अर्धवृत्ताकार होना चाहिए (जिसे कभी-कभी nonnegative निश्चित कहा जाता है)। याद रखें कि एक मैट्रिक्स को सकारात्मक अर्धचालक कहा जाता है यदि और केवल अगर $\sum_i a_i X_i$ $a_i$

var (\sum_{i} a_{i} X_{i}) = \sum_{i} \sum_{j} a_{i} a_{j} cov (X_{i}, X_{j}) = \sum_{i} \sum_{j} a_{i} a_{j} Σ_{i, j},

$\operatorname{var}\left(\sum_i a_i X_i\right) = \sum_i \sum_j a_ia_j \operatorname{cov}(X_i,X_j) = \sum_i \sum_j a_ia_j \Sigma_{i,j},$

Σ = [Σ_{i, j}]

$\Sigma = [\Sigma_{i,j}]$

C

$C$

\sum_{i} \sum_{j} a_{i} a_{j} C_{i, j} \geq 0 \forall a_{i}, a_{j} \in R .

$\sum_i \sum_j a_ia_j C_{i,j} \geq 0 \;\; \forall a_i, a_j \in \mathbb R.$

— दिलीप सरवटे
स्रोत

धन्यवाद, मैंने अपना डाउनवोट हटा दिया लेकिन मैंने अपवोट नहीं किया क्योंकि यह व्यावहारिक प्रभाव के बारे में जवाब नहीं देता है। कहें कि मेरे पास एक मैट्रिक्स है जो सकारात्मक निश्चित नहीं है ('विशेषज्ञ' द्वारा संशोधन के लिए छूट के कारण)। यदि मैं डेटा का अंशांकन और / या अनुकरण करने के लिए इसका उपयोग करता हूं तो क्या होगा? विशेष रूप से, क्या यह एक बड़ी राशि का अध्ययन करने की कोशिश करते समय एक वास्तविक समस्या है और केवल कुछ नकारात्मक ईजीन मूल्यों है? एक गैर-सकारात्मक अर्ध-निश्चित सहसंबंध मैट्रिक्स को सकारात्मक अर्ध-निश्चित एक में बदलने के लिए एक कुशल एल्गोरिदम क्या होगा? इस एल्गोरिदम का क्या प्रभाव होगा?

— lcrmorin

@Ere_cat डाउनवोट के उत्क्रमण के लिए धन्यवाद।

— दिलीप सरवटे

क्या आप पहले समीकरण में पहली समानता की व्याख्या कर सकते हैं?

— विवेक सुब्रमण्यन

@VivekSubramanian Variance एक विशेष मामला है सहसंयोजक कार्य: और सहसंयोजक फ़ंक्शन बिलिनियर है (जिसका अर्थ है प्रत्येक तर्क के संबंध में एक रेखीय कार्य है:

var (X) = cov (X, X)

$\operatorname{var}(X)=\operatorname{cov}(X,X)$

\begin{aligned} cov (\sum_{i} a_{i} X_{i}, Y) & = \sum_{i} a_{i} cov (X_{i}, Y) \\ cov (X, \sum_{i} b_{j} Y_{j},) & = \sum_{j} b_{j} cov (X, Y_{j}) \end{aligned}

$\begin{align}\operatorname{cov}\left(\sum_i a_iX_i,Y\right)&=\sum_i a_i\operatorname{cov}(X_i,Y)\\ \operatorname{cov}\left(X, \sum_i b_jY_j,\right) &=\sum_j b_j \operatorname{cov}(X,Y_j)\end{align}$

— Dilip Sarwate

जवाब बहुत सरल है।

सहसंबंध मैट्रिक्स इस प्रकार परिभाषित किया गया है:

चलो होना डेटा मैट्रिक्स: टिप्पणियों, चर। $X = [x_1, x_2, ..., x_n]$ $m\times n$ $m$ $n$

परिभाषित करें सामान्यीकृत डेटा की मैट्रिक्स, साथ के रूप में चर 1 के लिए किया जा रहा है मतलब, चर 2, आदि के लिए इसका मतलब है, और चर 1, आदि के मानक विचलन, और सब का एक वेक्टर है 1s। $X_b= [\frac{(x_1-\mu_1 e)}{s_1}, \frac{(x_2-\mu_2 e)}{s_2}, \frac{(x_3-\mu_3 e)}{s_3}, ...]$ $\mu_1$ $\mu_2$ $s_1$ $e$

सहसंबंध मैट्रिक्स तो है

C = X_{b}^{'} X_{b}

$C=X_b' X_b$

एक मैट्रिक्स सकारात्मक अर्ध-निश्चित है यदि कोई वेक्टर ऐसा नहीं है जो । $A$ $z$ $z' A z <0$

मान लीजिए कि सकारात्मक निश्चित नहीं है। फिर एक सदिश w मौजूद होता है जैसे कि । $C$ $w' C w<0$

हालाँकि , जहाँ , और इस प्रकार वर्गों का योग है और इसलिए यह शून्य से कम नहीं हो सकता। $(w' C w)=(w' X_b' X_b w)=(X_b w)'(X_b w) = {z_1^2+z_2^2...}$ $z=X_b w$ $w' C w$

इसलिए केवल सहसंबंध मैट्रिक्स नहीं है, लेकिन कोई भी मैट्रिक्स जिसे के रूप में लिखा जा सकता है , सकारात्मक अर्ध-निश्चित है। $U$ $V' V$

— ग्रेगर
स्रोत

यह अब तक का सबसे स्पष्ट और उपयोगी जवाब है। धन्यवाद !

— योहन ओबदिया

(तर्क में संभावित ढीलापन मेरा होगा। मैं गणितज्ञ नहीं हूं: यह एक चित्रण है, प्रमाण नहीं है और मेरे संख्यात्मक प्रयोग से है, किताबों से नहीं।)

एक सकारात्मक semidefinite (PSD) मैट्रिक्स, यह भी Gramian मैट्रिक्स कहा जाता है, कोई नकारात्मक eigenvalues के साथ एक मैट्रिक्स है। नकारात्मक स्वदेशी के साथ मैट्रिक्स सकारात्मक अर्धचालक या गैर-ग्रामियन नहीं है। ये दोनों निश्चित (कोई शून्य eigenvalues) या एकवचन (कम से कम एक शून्य eigenvalue के साथ) हो सकते हैं। [शब्द "ग्रामियन" का उपयोग गणित में कई अलग-अलग अर्थों में किया जाता है, इसलिए शायद इससे बचा जाना चाहिए।]
आंकड़ों में, हम आमतौर पर इन शर्तों को एक SSCP- प्रकार मैट्रिक्स पर लागू करते हैं, जिसे स्केलर उत्पाद मैट्रिक्स भी कहा जाता है। सहसंबंध या सहसंयोजक मैट्रिक्स ऐसे मैट्रिक्स के विशेष मामले हैं ।
कोई भी स्केलर उत्पाद मैट्रिक्स कुछ बहुभिन्नरूपी डेटा (एक क्लाउड) का सारांश विशेषता है। उदाहरण के लिए, दिए गए मामलों में एक्स चर डेटा, हम चर या एक्स बीच एक्स सहसंयोजक मैट्रिक्स की गणना कर सकते हैं $n$ $p$ $p$ $p$ $n$ $n$ मामलों के बीच सहसंयोजक मैट्रिक्स। जब आप इसे वास्तविक डेटा से गणना करते हैं, तो मैट्रिक्स हमेशा ग्रामियन होगा। आप गैर-ग्रामियन (गैर-psd) मैट्रिक्स प्राप्त कर सकते हैं अगर (1) यह समानता मैट्रिक्स है जिसे सीधे मापा जाता है (यानी डेटा से गणना नहीं की जाती है) या समानता माप एसएससीपी-प्रकार नहीं है; (2) मैट्रिक्स मान गलत तरीके से दर्ज किया गया था; (3) मैट्रिक्स वास्तव में ग्रामियन है, लेकिन (या इतना करीब है) एकवचन है कि कभी-कभी कंप्यूटिंग जीनजनल्स की वर्णक्रमीय विधि सही शून्य या छोटे सकारात्मक लोगों के स्थान पर छोटे नकारात्मक पैदा करती है।
क्लाउड के लिए एक वैकल्पिक और समकक्ष सारांश यूक्लिडियन दूरी का मैट्रिक्स है। एक स्केलर उत्पाद (जैसे कोवरियन) वस्तुओं की एक जोड़ी के बीच और उनके बीच संबंधित स्क्वेरेड यूक्लिडियन कोसाइन के नियम ( कोसाइन प्रमेय , वहां की तस्वीर को देखें) से : , जहां अदिश उत्पाद है और 's मूल से दो वस्तुओं की दूरियां हैं। चर और बीच सहसंयोजक मैट्रिक्स के मामले में यह सूत्र । $d_{12}^2 = h_1^2+h_2^2-2s_{12}$ $s$ $h$ $X$ $Y$ $d_{xy}^2 = \sigma_x^2+\sigma_y^2-2cov_{xy}$
अंतरिम निष्कर्ष के रूप में: कुछ वस्तुओं के बीच एक सहसंयोजक (या सहसंबंध या अन्य स्केलर उत्पाद) मैट्रिक्स यूक्लिडियन अंतरिक्ष में एम्बेडेड बिंदुओं का एक विन्यास है, इसलिए इन सभी बिंदुओं के बीच यूक्लिडियन दूरी को परिभाषित किया जाता है। $m$ $m$
अब, अगर [बिंदु 5] सही रूप से धारण करता है, तो अंकों का विन्यास वास्तव में यूक्लिडियन विन्यास है, जो यह दर्शाता है कि स्केलर उत्पाद मैट्रिक्स हाथ में है (उदाहरण के लिए सहसंयोजक) ग्रामियन है। अन्यथा यह गैर-ग्रामियन है। इस प्रकार, कहने के लिए " एक्स सहसंयोजक मैट्रिक्स सकारात्मक रूप से अर्ध-निश्चित है" कहने के लिए " अंक प्लस मूल पूरी तरह से यूक्लिडियन अंतरिक्ष में फिट है"। $m$ $m$ $m$
गैर-ग्रामियन (गैर-यूक्लिडियन) कॉन्फ़िगरेशन के संभावित कारण या संस्करण क्या हैं? जवाब [बिंदु 4] पर विचार करने के बाद।
- कारण 1. ईविल खुद अंकों में से है: एक्स डिस्टेंस मैट्रिक्स पूरी तरह से यूक्लिडियन नहीं है। कुछ जोड़ीदार दूरी ऐसी हैं कि वे यूक्लिडियन स्थान के बाकी बिंदुओं से सहमत नहीं हो सकते हैं। चित्र 1 देखें । $m$ $m$ $d$
- कारण 2. (s) और 's के बीच सामान्य (मैट्रिक्स-स्तर) बेमेल है । उदाहरण के लिए, फिक्स्ड के और कुछ के दिए जाने के साथ, अन्य के केवल यूक्लिडियन स्पेस के साथ सहमति में रहने के लिए कुछ सीमा के भीतर भिन्न होना चाहिए। चित्र 2 देखें । $h$ $d$ $d$ $h$ $h$
- कारण 3. वहाँ (स्थानीय स्तर) एक बीच बेमेल है और संबंधित की जोड़ी उन दो बिंदुओं से जुड़ी है। अर्थात्, त्रिकोणीय असमानता के नियम का उल्लंघन किया जाता है; वह नियम। चित्र 3 देखें । $d$ $h$ $h_1+h_2 \ge d_{12} \ge |h_1-h_2|$
कारण का निदान करने के लिए, गैर-ग्रामियन सहसंयोजक मैट्रिक्स को कोसाइन के उपरोक्त कानून का उपयोग करके दूरी मैट्रिक्स में परिवर्तित करें। क्या डबल-केंद्रित उस पर। यदि परिणामी मैट्रिक्स में ऋणात्मक स्वदेशी गुण हैं, तो कारण 1 मौजूद है। और यदि कोई हो , कारण 3 मौजूद है। कारण 2 मौजूद है। कभी-कभी एक मैट्रिक्स में एक से अधिक कारण मिलते हैं। $|cov_{ij}| \gt \sigma_i \sigma_j$

चित्र एक।

चित्र एक

रेखा चित्र नम्बर 2।

रेखा चित्र नम्बर 2

Fig3।

fig3

— ttnphns
स्रोत

बिंदु 6 को प्रदर्शन की आवश्यकता है: आपने दिखाया है कि एक वर्ग का यूक्लिडियन दूरी का एक मैट्रिक्स pd है, लेकिन आप इस प्रमाण के बिना दावा करते हैं कि प्रत्येक pd मैट्रिक्स अंकों के यूक्लिडियन विन्यास से मेल खाती है। इसके अलावा, आपने अपने किसी भी बाद के वर्णनों में pd की अपनी परिभाषा ("नो निगेटिव आइजनवेल्यूज") को कनेक्ट नहीं किया है। प्रमुख विचार अंत में आता है (बिंदु 8): दूरी को परिभाषित करने के लिए एक pd मैट्रिक्स का उपयोग किया जा सकता है। तार्किक रूप से, यह वह जगह है जहां आपको विश्लेषण शुरू करना चाहिए ।

— whuber

@whuber: महत्वपूर्ण मूल्यांकन के लिए धन्यवाद। मुझे डर है, जब यह गणितीय रूप से कुछ साबित करने की बात आती है, तो मैं डूब जाता हूं। मैंने अपने व्यावहारिक अनुभव का हिस्सा बताया है (मैंने कहा कि); जवाब वास्तव में एक विश्लेषणात्मक अनुक्रम नहीं था। क्या आप अपने खुद के उत्तर को जोड़ना नहीं चाहेंगे जो मेरा सुधार / सुधार कर सके? यह एक बहुमूल्य सहायता हो सकती है। या, आप इसे सुधारने के लिए मेरे पाठ पर काम करने के लिए स्वतंत्र हैं यदि आपको यह सही नहीं लगता है।

— 20

PS मेरा बिंदु 8 से तात्पर्य यह है कि चूंकि डबल सेंट्रिंग एंकर इसके सेंट्रोइड के लिए अंकों का विन्यास करता है, इसलिए यह ऑपरेशन स्वयं नॉन-यूक्लिडिटी का परिचय नहीं देता है (यह केवल विलक्षणता का परिचय देता है क्योंकि नया बिंदु, केंद्र, एक ही स्थान से संबंधित है)। यदि हम देख सकते हैं कि प्रारंभिक विन्यास यूक्लिडियन था या नहीं। क्या यह सही नहीं है?

— ttnphns 21