रैखिक प्रतिगमन मॉडल से वेरिएंस कोवरियनस मैट्रिक्स की गणना करने के लिए एकवचन मूल्य अपघटन का उपयोग करना

Question

मेरे पास पी रजिस्ट्रार, एन टिप्पणियों का एक डिज़ाइन मैट्रिक्स है, और मैं मापदंडों के नमूना विचरण-सहसंयोजक मैट्रिक्स की गणना करने की कोशिश कर रहा हूं। मैं इसे सीधे svd का उपयोग करके गणना करने का प्रयास कर रहा हूं।

मैं R का उपयोग कर रहा हूं, जब मैं डिज़ाइन मैट्रिक्स का svd लेता हूं, तो मुझे तीन घटक मिलते हैं: एक मैट्रिक्स जो , एक मैट्रिक्स जो (संभवतः eigenvalues), और एक मैट्रिक्स जो । मैंने विकर्ण किया , इसे ऑफ-विकर्ण में 0 के साथ मैट्रिक्स बना दिया ।$U$$n \times p$$D$$1\times 3$$V$$3\times 3$$D$$3\times 3$

माना जाता है, सहप्रसरण के लिए सूत्र है: , हालांकि, मैट्रिक्स से मेल नहीं खाता, न ही यह भी अनुसंधान के समारोह में बनाया के करीब है, । किसी को भी किसी भी सलाह / संदर्भ है? मैं मानता हूं कि मैं इस क्षेत्र में थोड़ा अकुशल हूं।$V D^2 V'$vcov

Answer 1

सबसे पहले, याद रखें कि रैखिक-प्रतिगमन मॉडल की बहुभिन्नरूपी सामान्यता की मान्यताओं के तहत, हमारे पास वह

$$\hat{\beta} \sim \mathcal{N}( \beta, \sigma^2 (X^T X)^{-1} ) .$$

अब, यदि जहां राइट-हैंड साइड X का SVD है, तो हमें वह । इसलिए, $X = U D V^T$$X^T X = V D U^T U D V = V D^2 V^T$

$$(X^T X)^{-1} = V D^{-2} V^T .$$

हम अभी भी विचरण के अनुमान को याद कर रहे हैं, जो कि

$$\hat{\sigma}^2 = \frac{1}{n - p} (y^T y - \hat{\beta}^T X^T y) .$$

हालांकि मैं जाँच नहीं की है, उम्मीद है कि vcov रिटर्न ।$\hat{\sigma}^2 V D^{-2} V^T$

नोट: आपने लिखा है , जो , लेकिन हमें विचरण-सहसंयोजक मैट्रिक्स के लिए व्युत्क्रम की आवश्यकता है। यह भी ध्यान दें कि , इस गणना को करने के लिए आपको करना होगा$V D^2 V^T$$X^T X$$R$

vcov.matrix <- var.est * (v %*% d^(-2) %*% t(v))

यह देखते हुए कि मैट्रिक्स गुणन के लिए हम %*%केवल के बजाय उपयोग करते हैं *। var.estऊपर शोर के विचरण का अनुमान है।

(इसके अलावा, मैंने यह धारणा बना ली है कि पूर्ण-रैंक और भर है। यदि ऐसा नहीं है, तो आपको ऊपर दिए गए छोटे संशोधन करने होंगे।)$X$$n \geq p$

Comments

@Will, अच्छा। खुशी है कि यह काम किया। आप इस जवाब को स्वीकार करने पर विचार कर सकते हैं। सादर।

— कार्डिनल

मैं समीकरण की कोशिश की, लेकिन यह काफी काम नहीं करता है। आंकड़े.stackexchange.com/questions/195379/…

— HelloWorld