प्रमुख घटक स्कोर असंबंधित क्यों हैं?

Supose मीन-केंद्रित डेटा का एक मैट्रिक्स है। मैट्रिक्स है , है , अलग अभिलक्षणिक मान तथा अभिलक्षणिक सदिश $\mathbf A$ $\mathbf S=\text{cov}(\mathbf A)$ $m\times m$ $m$ $\mathbf s_1$ , $\mathbf s_2$ ... $\mathbf s_m$ , जो ऑर्थोगोनल हैं।

$i$ -तथा प्रमुख घटक (कुछ लोग उन्हें "स्कोर" कहते हैं) वेक्टर है $\mathbf z_i = \mathbf A\mathbf s_i$ । दूसरे शब्दों में, यह स्तंभों का एक रैखिक संयोजन है $\mathbf A$ , जहां गुणांक के घटक हैं $i$ -इस eigenvector के $\mathbf S$ ।

मुझे समझ नहीं आता क्यों $\mathbf z_i$ तथा $\mathbf z_j$ सभी के लिए असंबद्ध होना $i\neq j$ । क्या यह इस तथ्य से अनुसरण करता है कि $\mathbf s_i$ तथा $\mathbf s_j$ ऑर्थोगोनल हैं? निश्चित रूप से नहीं, क्योंकि मैं आसानी से एक मैट्रिक्स पा सकता हूं $\mathbf B$ और ऑर्थोगोनल वैक्टर की एक जोड़ी $\mathbf x, \mathbf y$ ऐसा है कि $\mathbf B\mathbf x$ तथा $\mathbf B\mathbf y$ सहसंबद्ध हैं।

correlation pca linear-algebra

— अर्नेस्ट ए
स्रोत

एक संबंधित उत्तर आँकड़े .stackexchange.com/a/110546/3277 ।

— ttnphns

z_{i}^{⊤} z_{j} = (A s_{i})^{⊤} (A s_{j}) = s_{i}^{⊤} A^{⊤} A s_{j} = (n - 1) s_{i}^{⊤} S s_{j} = (n - 1) s_{i} λ_{j} s_{j} = (n - 1) λ_{j} s_{i} s_{j} = 0.

$\mathbf z_i^\top \mathbf z_j = (\mathbf A\mathbf s_i)^\top (\mathbf A\mathbf s_j) = \mathbf s_i^\top \mathbf A^\top \mathbf A \mathbf s_j = (n-1) \mathbf s_i^\top \mathbf S \mathbf s_j = (n-1) \mathbf s_i \lambda_j \mathbf s_j = (n-1) \lambda_j \mathbf s_i \mathbf s_j = 0.$

— एक सलि का जन्तु
स्रोत

गणित: कितनी सुंदर भाषा है।

— Néstor

इसका मतलब है की

z_{i}

$\mathbf z_i$ तथा

z_{j}

$\mathbf z_j$ ऑर्थोगोनल हैं। असंबद्ध का अर्थ है कि यह सच होना चाहिए:

(z_{i} - {\bar{z}}_{i})^{⊤} (z_{j} - {\bar{z}}_{j}) = 0

$(\mathbf z_i-\bar z_i)^\top(\mathbf z_j-\bar z_j)=0$ । मुझे लगता है किसी तरह

{\bar{z}}_{i} = {\bar{z}}_{j} = 0

$\bar z_i=\bar z_j=0$ , और फिर

z_{i}^{⊤} z_{j} = 0

$\mathbf z_i^\top \mathbf z_j=0$ इसका मतलब यह भी है कि वे असंबद्ध हैं।

— अर्नेस्ट ए

अच्छी बात है, @ सबसे पहले। साधन वास्तव में शून्य हैं, क्योंकि डेटा माध्य केंद्रित किया गया है (आपकी धारणा के अनुसार)। तब सभी अनुमानों का मतलब शून्य होना चाहिए।

— अमीबा

@ बुलबुले

S = cov (A) = \frac{1}{n - 1} A^{⊤} A

$S = \text{cov}(\mathbf A) = \frac{1}{n-1}\mathbf A^\top \mathbf A$ , इसलिए

A^{⊤} A = (n - 1) S

$\mathbf A^\top \mathbf A = (n-1) \mathbf S$ ।

— अर्नेस्ट ए

@ सबसे बड़ी बात, मैं बिना किसी पाठ के उत्तर देने से रोक नहीं सकता था, लेकिन शायद मुझे यह जोड़ना चाहिए कि पीसी के असंबद्ध होने का अंतर्निहित कारण यह है कि उनका सहसंयोजक मैट्रिक्स किसके द्वारा दिया जाता है

S

$S$ eigenvectors के आधार पर, और इस आधार में

S

$S$ विकर्ण हो जाता है - यही ईगेंडेकोम्पोजिशन का पूरा बिंदु है।

— अमीबा