उलटा गणना के बिना रैखिक प्रतिगमन समस्याओं के लिए मानक त्रुटियों की गणना

Question

वहाँ एक त्वरित तरीका inverting द्वारा की तुलना में, रेखीय प्रतीपगमन समस्याओं के लिए मानक त्रुटियों की गणना करने के है ? यहाँ मुझे लगता है कि हम प्रतिगमन है:$X'X$

$$y=X\beta+\varepsilon,$$

जहां है n × कश्मीर मैट्रिक्स और y है n × 1 वेक्टर।$X$$n\times k$$y$$n\times 1$

कम से कम वर्गों की खोज समस्या समाधान के लिए इसके साथ कुछ भी करने को अव्यावहारिक है , आप मैट्रिक्स पर QR या SVD decompositions उपयोग कर सकते हैं एक्स सीधे। या वैकल्पिक रूप से आप ढाल विधियों का उपयोग कर सकते हैं। लेकिन मानक त्रुटियों के बारे में क्या? हम वास्तव में केवल के विकर्ण की जरूरत है ( एक्स ' एक्स ) - 1 (की मानक त्रुटि का आकलन करने में और स्वाभाविक रूप से लोकसभा समाधान ε )। क्या मानक त्रुटि गणना के लिए कोई विशिष्ट तरीके हैं?$X'X$$X$$(X'X)^{-1}$$\varepsilon$

Answer 1

मान लीजिए कि आपने के विलक्षण मूल्य अपघटन (एसवीडी) का उपयोग करके अपनी कम से कम वर्गों की समस्या को हल किया है$X$

$$X = U\Sigma V',$$

जहां और वी एकात्मक हैं, और Σ विकर्ण है।$U$$V$$\Sigma$

फिर

$$X'X = V \Sigma^2 V'.$$

$(X'X)^{-1}$$X$

$$(X'X)^{-1} = V \Sigma^{-2} V'.$$

(एक जवाब देखें मैंने Math.SE पर संबंधित प्रश्न का उत्तर दिया है ।)

$\Sigma$$V$$(X'X)^{-1}$$n$$n \times n$$n^2$$\mathcal{O}(n^{3})$

$X'X$$X$

Comments

+1, मैं उस अच्छी SVD संपत्ति के बारे में भूल गया। यदि कोई अन्य उत्तर नहीं आएगा, तो मैं इस उत्तर को स्वीकार करूँगा, क्योंकि यह उस

— चीज़ के

$(X'X)^{-1}$$\mathcal{O}(n^2)$$X$

$(X'X)^{-1}$

$\Sigma$

पिछली टिप्पणी पर ध्यान न दें, वहां एक त्रुटि है। मुझे हालांकि सही फॉर्मूला मिला है।

— mpiktas