सबसे अधिक

जैसा कि इस प्रश्न में कहा गया है , कोविरेंस मैट्रिक्स की अधिकतम रैंक $n-1$ जहां $n$ नमूना आकार है और इसलिए यदि covariance मैट्रिक्स का आयाम नमूना आकार के बराबर है, तो यह विलक्षण होगा। मुझे समझ नहीं आ रहा है कि हम कोविरेन्स मैट्रिक्स की अधिकतम रैंक n से $1$ को क्यों घटाएं ।$n$

नमूना सहसंयोजक मैट्रिक्स के निष्पक्ष अनुमानक ने $n$ अंक दिए गए डेटा is जहां सभी बिंदुओं पर औसत है। हमें \ newcommand {\ z} {\ mathbf z} \ z_i के रूप में करें । \ Frac {1} {n-1} कारक रैंक परिवर्तन नहीं होता है, और राशि में प्रत्येक शब्द (परिभाषा के द्वारा) रैंक है 1 इसलिए प्रश्न के मूल के रूप में इस प्रकार है:C =$\newcommand{\x}{\mathbf x}\x_i \in \mathbb R^d$ ˉ एक्स =Σxमैं/n(एक्समैं- ˉ एक्स )zमैं

$$\mathbf C = \frac{1}{n-1}\sum_{i=1}^n (\x_i - \bar \x)(\x_i - \bar \x)^\top,$$ $\bar \x = \sum \x_i /n$$(\x_i-\bar \x)$$\newcommand{\z}{\mathbf z}\z_i$$\frac{1}{n-1}$$1$

क्यों में रैंक और रैंक नहीं है , क्योंकि ऐसा लगता है क्योंकि हम रैंक- मैट्रिसेस को समेट रहे हैं ? n - 1 एन एन $\sum \z_i\z_i^\top$$n-1$$n$$n$$1$

इसका उत्तर यह है कि ऐसा इसलिए होता है क्योंकि स्वतंत्र नहीं हैं। निर्माण करके, । इसलिए यदि आप का जानते हैं , तो अंतिम शेष पूरी तरह से निर्धारित है; हम इंडिपेंडेंट रैंक- मैट्रिसेस नहीं हैं, हम केवल इंडिपेंडेंट रैंक- मैट्रिस हैं और फिर एक और रैंक- मैट्रिक्स को जोड़ते हैं जो बाकी के द्वारा पूरी तरह से रैखिक रूप से निर्धारित होती है। यह अंतिम जोड़ समग्र रैंक को नहीं बदलता है। ∑ z i =$\z_i$$\sum\z_i = 0$z i z n n 1 n - 1 1 $n-1$$\z_i$$\z_n$$n$$1$$n-1$$1$$1$

हम इसे सीधे देख सकते हैं यदि हम को और अब इसे उपरोक्त अभिव्यक्ति में प्लग करें:अब योग में केवल शब्द बचा है और यह स्पष्ट हो जाता है कि पूरी राशि अधिकांश ।जेड एन = - n - 1 Σ मैं = 1 जेड मैं , एन Σ मैं = 1 जेड मैं जेड ⊤ मैं = n - 1 Σ मैं = 1 जेड मैं जेड ⊤ मैं + ( - n - 1 Σ मैं = 1 z मैं ) z ⊤ n = n $\sum\z_i = 0$

$$\z_n = -\sum_{i=1}^{n-1}\z_i,$$ $$\sum_{i=1}^n \z_i\z_i^\top = \sum_{i=1}^{n-1} \z_i\z_i^\top + \Big(-\sum_{i=1}^{n-1}\z_i\Big)\z_n^\top=\sum_{i=1}^{n-1} \z_i(\z_i-\z_n)^\top.$$ $n-1$$n-1$

यह परिणाम, वैसे, संकेत देता है कि सहसंयोजक के निष्पक्ष अनुमानक में कारक न कि ।$\frac{1}{n-1}$$\frac{1}{n}$

ज्यामितीय अंतर्ज्ञान जो मैंने ऊपर टिप्पणियों में दिए थे, यह है कि एक 2 डी में हमेशा 1 डी लाइन को किसी भी दो बिंदुओं पर फिट किया जा सकता है और एक 3 डी में किसी भी 3 डी पॉइंट को हमेशा 3 डी में फिट किया जा सकता है, यानी उप-अंतरिक्ष की गतिशीलता हमेशा ; यह केवल इसलिए काम करता है क्योंकि हम मानते हैं कि यह रेखा (और विमान) हमारे बिंदुओं को फिट करने के लिए "चारों ओर" ले जाया जा सकता है। "पोजिशनिंग" यह लाइन (या प्लेन) ऐसी है कि यह से होकर गुजरती है जो कि बीजीय तर्क में ऊपर केंद्रित होने के बराबर है।$n-1$$\bar \x$

थोड़ा छोटा, मुझे विश्वास है, स्पष्टीकरण इस प्रकार है:

हमें मैट्रिक्स को परिभाषित करते हैं एक्स मैट्रिक्स नमूना डेटा अंक जहां की चर का एक संख्या है और हर चर के लिए नमूनों की एक संख्या है। आइए हम मान लें कि कोई भी चर रैखिक रूप से निर्भर नहीं हैं।$n$$m$$x$$n$$m$

के पद है ।$x$$min(n,m)$

आइए हम मैट्रिक्स एक्स मैट्रिक्स को परिभाषित करते हैं, जो कि रोवरेज केंद्रित चर हैं:$n$$m$$z$

$z = x - E[x]$ ।

केंद्रित डेटा की रैंक , क्योंकि प्रत्येक डेटा पंक्ति अब बाधा के अधीन है:$min(n,m-1)$

$\sum_{i=1}^{m}z_{*i} =0$ ।

इसका मूल रूप से मतलब है कि हम पूरे मैट्रिक्स को फिर से बना सकते हैं, भले ही एक कॉलम हटा दिया जाए।$z$

नमूने सहसंयोजक के लिए समीकरण बन जाता है:$x$

$cov(x,x) = \frac{1}{m-1}zz^T$

स्पष्ट रूप से, सहसंयोजक मैट्रिक्स की ।$rank(zz^T)$

द्वारा रैंक तुच्छता प्रमेय : ।$rank(zz^T) = rank(z) = min(n,m-1)$