सामान्यता के परीक्षण के दौरान अवशिष्टों का सहसंबंध क्यों नहीं होता है?

Question

कब $Y = AX + \varepsilon$(यानी, रेखीय प्रतीपगमन मॉडल से आता है), और उस स्थिति में अवशिष्ट सहसंबद्ध हैं और नहीं स्वतंत्र। लेकिन जब हम प्रतिगमन निदान करते हैं और धारणा का परीक्षण करना चाहते हैं , तो प्रत्येक पाठ्यपुस्तक अवशिष्ट Q-Q भूखंडों और सांख्यिकीय परीक्षणों का उपयोग करने का सुझाव देती है। यह जांचने के लिए डिज़ाइन किया गया था कि कुछ ।$Y$

$$\varepsilon \sim \mathcal{N}(0, \sigma^2 I) \hspace{1em} \Rightarrow \hspace{1em} \hat{e} = (I - H) Y \sim \mathcal{N}(0, (I - H) \sigma^2_{})$$ $\hat{e}_1, \ldots, \hat{e}_n$$\varepsilon \sim \mathcal{N}(0, \sigma^2 I)$$\hat{e}$$\hat{e} \sim \mathcal{N}(0, \sigma^2 I)$$\sigma^2 \in \mathbb{R}$

यह कैसे आता है कि इन परीक्षणों के लिए कोई फर्क नहीं पड़ता है कि अवशिष्ट परस्पर संबंधित हैं, और स्वतंत्र नहीं हैं? यह अक्सर मानकीकृत अवशिष्टों का उपयोग करने का सुझाव दिया जाता है: लेकिन वह केवल उन्हें बनाता है, स्वतंत्र नहीं।

$$\hat{e}_i' = \frac{\hat{e}_i}{\sqrt{1 - h_{ii}}},$$

प्रश्न को फिर से समझने के लिए: ओएलएस प्रतिगमन से अवशेषों को सहसंबद्ध किया जाता है। मैं समझता हूं कि व्यवहार में, ये सहसंबंध इतने छोटे होते हैं (अधिकांश समय? हमेशा?), परीक्षण करते समय उन्हें अनदेखा किया जा सकता है कि क्या अवशिष्ट सामान्य वितरण से आए थे। मेरा सवाल है, क्यों?

Comments

उन्हें सजातीय बनाता है।

— Scortchi - को पुनः स्थापित मोनिका

क्या आप इन परीक्षणों की प्रयोज्यता के बारे में पूछ रहे हैं जब अवशिष्टों के मजबूत सहसंबंध हैं या क्या आप कम से कम वर्गों के अनुमान प्रक्रिया से उत्पन्न होने वाले (बहुत मामूली और असंगत) नकारात्मक सहसंबंध के बारे में चिंतित हैं?

— whuber

@ जब भी मैं कम से कम वर्गों के आकलन की प्रक्रिया से उत्पन्न सहसंबंध के बारे में पूछ रहा हूं। यदि वे मामूली और असंगत हैं, तो मैं जानना चाहूंगा कि क्यों।

— ज़ोरान लोकेनर्जिक

Answer 1

आपके अंकन में, $H$ का प्रक्षेपण स्तंभ स्तंभ स्थान है $X$, यानी सब रजिस्टरों के उप-भाग का आकार। इसलिये$M:=I_{n}-H$ सब रजिस्ट्रारों द्वारा फैलाए गए उप-वर्ग के लिए सब कुछ ओर्थोगोनल पर प्रक्षेपण है।

अगर $X\in\mathbb{R}^{n\times k}$, फिर $\hat{e}\in\mathbb{R}^{n}$ जैसा कि आप कहते हैं, एकवचन सामान्य वितरित है और तत्व सहसंबद्ध हैं।

त्रुटियों $\varepsilon$ अप्राप्य हैं और सामान्य रूप से इसके द्वारा प्रतिपादित उप-स्थान पर रूढ़िवादी नहीं हैं $X$। तर्क के लिए, मान लें कि त्रुटि है$\varepsilon\perp\operatorname{span}\left(X\right)$। अगर यह सच होता, तो हमारे पास होता$y=X\beta+\varepsilon=\tilde{y}+\varepsilon$ साथ में $\tilde{y}\perp\varepsilon$। जबसे$\tilde{y}=X\beta\in\operatorname{span}\left(X\right)$, हम विघटित हो सकते हैं $y$ और सच हो $\varepsilon$।

मान लें कि हमारे पास एक आधार है $b_{1},\ldots,b_{n}$ का $\mathbb{R}^{n}$, जहां पहले $b_{1},\ldots,b_{k}$ आधार वेक्टर उप-स्थान पर होता है $\operatorname{span}\left(X\right)$ और शेष $b_{k+1},\ldots,b_{n}$ अवधि $\operatorname{span}\left(X\right)^{\perp}$। सामान्य तौर पर, त्रुटि$\varepsilon=\alpha_{1}b_{1}+\ldots+\alpha_{n}b_{n}$ गैर-शून्य घटक होंगे $\alpha_{i}$ के लिये $i\in\left\{1,\ldots,k\right\}$। यह गैर-शून्य घटकों के साथ मिश्रित हो जाएगा$X\beta$ और इसलिए प्रक्षेपण पर पुनर्प्राप्त नहीं किया जा सकता है $\operatorname{span}\left(X\right)$।

चूंकि हम सच्ची त्रुटियों को ठीक करने की आशा नहीं कर सकते $\varepsilon$ तथा $\hat{e}$ सहसंबद्ध विलक्षण हैं $n$आयामी सामान्य, हम बदल सकता है $\hat{e}\in\mathbb{R}^{n}\mapsto e^{*}\in\mathbb{R}^{n-k}$। वहां हम ऐसा कर सकते हैं

$$\begin{equation} e^{*}\sim\mathcal{N}_{n-k}\left(0,\sigma^{2}I_{n-k}\right) \textrm{,} \end{equation}$$ अर्थात $e^{*}$गैर-विलक्षण असंबंधित और समरूपतावादी सामान्य वितरित है। अवशिष्ट$e^{*}$कहा जाता है Theil के BLUS बच ।

सामान्यता के लिए प्रतिगमन गड़बड़ी के परीक्षण पर लघु पेपर में आपको ओएलएस और बीएलयूएस अवशिष्ट की तुलना मिलती है। परीक्षण किए गए मोंटे कार्लो में ओएलएस अवशिष्ट की स्थापना BLUS अवशिष्ट से बेहतर है। लेकिन यह आपको कुछ शुरुआती बिंदु देना चाहिए।