सबसे अधिक

Question

जैसा कि इस प्रश्न में कहा गया है , कोविरेंस मैट्रिक्स की अधिकतम रैंक $n-1$ जहां $n$ नमूना आकार है और इसलिए यदि covariance मैट्रिक्स का आयाम नमूना आकार के बराबर है, तो यह विलक्षण होगा। मुझे समझ नहीं आ रहा है कि हम कोविरेन्स मैट्रिक्स की अधिकतम रैंक n से $1$ को क्यों घटाएं ।$n$

Comments

अंतर्ज्ञान प्राप्त करने के लिए, 3 डी में $n=2$ अंक के बारे में सोचें । इन बिंदुओं में निहित उप-वर्ग की आयामीता क्या है? क्या आप उन्हें एक पंक्ति (1D सबस्पेस) पर फिट कर सकते हैं? या क्या आपको एक विमान (2 डी सबस्पेस) की आवश्यकता है?

— अमीबा का कहना है कि मोनिका

तो आप समझते हैं कि $n=2$ रैंक 1 कोवरियन मैट्रिक्स है? ठीक है, चलो $n=3$ अंक लेते हैं । क्या आप देख सकते हैं कि आप हमेशा उन्हें 2 डी प्लेन में फिट कर सकते हैं?

— अमीबा का कहना है कि मोनिका

@amoeba आपका उदाहरण स्पष्ट था लेकिन मैं यह नहीं समझ सकता कि आपके उदाहरण और सहसंयोजक मैट्रिक्स में हाइपर-प्लेन के बीच संबंध क्या है?

— user3070752

देरी के लिए क्षमा करें;)

— user3070752

Answer 1

नमूना सहसंयोजक मैट्रिक्स के निष्पक्ष अनुमानक ने $n$ अंक दिए गए डेटा is जहां सभी बिंदुओं पर औसत है। हमें \ newcommand {\ z} {\ mathbf z} \ z_i के रूप में करें । \ Frac {1} {n-1} कारक रैंक परिवर्तन नहीं होता है, और राशि में प्रत्येक शब्द (परिभाषा के द्वारा) रैंक है 1 इसलिए प्रश्न के मूल के रूप में इस प्रकार है:C =$\newcommand{\x}{\mathbf x}\x_i \in \mathbb R^d$ ˉ एक्स =Σxमैं/n(एक्समैं- ˉ एक्स )zमैं

$$\mathbf C = \frac{1}{n-1}\sum_{i=1}^n (\x_i - \bar \x)(\x_i - \bar \x)^\top,$$ $\bar \x = \sum \x_i /n$$(\x_i-\bar \x)$$\newcommand{\z}{\mathbf z}\z_i$$\frac{1}{n-1}$$1$

क्यों में रैंक और रैंक नहीं है , क्योंकि ऐसा लगता है क्योंकि हम रैंक- मैट्रिसेस को समेट रहे हैं ? n - 1 एन एन $\sum \z_i\z_i^\top$$n-1$$n$$n$$1$

इसका उत्तर यह है कि ऐसा इसलिए होता है क्योंकि स्वतंत्र नहीं हैं। निर्माण करके, । इसलिए यदि आप का जानते हैं , तो अंतिम शेष पूरी तरह से निर्धारित है; हम इंडिपेंडेंट रैंक- मैट्रिसेस नहीं हैं, हम केवल इंडिपेंडेंट रैंक- मैट्रिस हैं और फिर एक और रैंक- मैट्रिक्स को जोड़ते हैं जो बाकी के द्वारा पूरी तरह से रैखिक रूप से निर्धारित होती है। यह अंतिम जोड़ समग्र रैंक को नहीं बदलता है। ∑ z i =$\z_i$$\sum\z_i = 0$z i z n n 1 n - 1 1 $n-1$$\z_i$$\z_n$$n$$1$$n-1$$1$$1$

हम इसे सीधे देख सकते हैं यदि हम को और अब इसे उपरोक्त अभिव्यक्ति में प्लग करें:अब योग में केवल शब्द बचा है और यह स्पष्ट हो जाता है कि पूरी राशि अधिकांश ।जेड एन = - n - 1 Σ मैं = 1 जेड मैं , एन Σ मैं = 1 जेड मैं जेड ⊤ मैं = n - 1 Σ मैं = 1 जेड मैं जेड ⊤ मैं + ( - n - 1 Σ मैं = 1 z मैं ) z ⊤ n = n $\sum\z_i = 0$

$$\z_n = -\sum_{i=1}^{n-1}\z_i,$$ $$\sum_{i=1}^n \z_i\z_i^\top = \sum_{i=1}^{n-1} \z_i\z_i^\top + \Big(-\sum_{i=1}^{n-1}\z_i\Big)\z_n^\top=\sum_{i=1}^{n-1} \z_i(\z_i-\z_n)^\top.$$ $n-1$$n-1$

यह परिणाम, वैसे, संकेत देता है कि सहसंयोजक के निष्पक्ष अनुमानक में कारक न कि ।$\frac{1}{n-1}$$\frac{1}{n}$

ज्यामितीय अंतर्ज्ञान जो मैंने ऊपर टिप्पणियों में दिए थे, यह है कि एक 2 डी में हमेशा 1 डी लाइन को किसी भी दो बिंदुओं पर फिट किया जा सकता है और एक 3 डी में किसी भी 3 डी पॉइंट को हमेशा 3 डी में फिट किया जा सकता है, यानी उप-अंतरिक्ष की गतिशीलता हमेशा ; यह केवल इसलिए काम करता है क्योंकि हम मानते हैं कि यह रेखा (और विमान) हमारे बिंदुओं को फिट करने के लिए "चारों ओर" ले जाया जा सकता है। "पोजिशनिंग" यह लाइन (या प्लेन) ऐसी है कि यह से होकर गुजरती है जो कि बीजीय तर्क में ऊपर केंद्रित होने के बराबर है।$n-1$$\bar \x$

Answer 2

थोड़ा छोटा, मुझे विश्वास है, स्पष्टीकरण इस प्रकार है:

हमें मैट्रिक्स को परिभाषित करते हैं एक्स मैट्रिक्स नमूना डेटा अंक जहां की चर का एक संख्या है और हर चर के लिए नमूनों की एक संख्या है। आइए हम मान लें कि कोई भी चर रैखिक रूप से निर्भर नहीं हैं।$n$$m$$x$$n$$m$

के पद है ।$x$$min(n,m)$

आइए हम मैट्रिक्स एक्स मैट्रिक्स को परिभाषित करते हैं, जो कि रोवरेज केंद्रित चर हैं:$n$$m$$z$

$z = x - E[x]$ ।

केंद्रित डेटा की रैंक , क्योंकि प्रत्येक डेटा पंक्ति अब बाधा के अधीन है:$min(n,m-1)$

$\sum_{i=1}^{m}z_{*i} =0$ ।

इसका मूल रूप से मतलब है कि हम पूरे मैट्रिक्स को फिर से बना सकते हैं, भले ही एक कॉलम हटा दिया जाए।$z$

नमूने सहसंयोजक के लिए समीकरण बन जाता है:$x$

$cov(x,x) = \frac{1}{m-1}zz^T$

स्पष्ट रूप से, सहसंयोजक मैट्रिक्स की ।$rank(zz^T)$

द्वारा रैंक तुच्छता प्रमेय : ।$rank(zz^T) = rank(z) = min(n,m-1)$