एक लीनियर रिग्रेशन गुणांक की परिकल्पना के परीक्षण के लिए एक टी वितरण का उपयोग क्यों किया जाता है?

Question

व्यवहार में, एक रेखीय प्रतिगमन गुणांक के महत्व की जांच करने के लिए एक मानक टी-परीक्षण का उपयोग करना आम बात है। गणना के यांत्रिकी मुझे समझ में आते हैं।

ऐसा क्यों है कि टी-वितरण का उपयोग रैखिक प्रतिगमन परिकल्पना परीक्षण में उपयोग किए जाने वाले मानक परीक्षण सांख्यिकीय को मॉडल करने के लिए किया जा सकता है? मानक परीक्षण आँकड़ा मैं यहां बता रहा हूँ:

$$T_{0} = \frac{\widehat{\beta} - \beta_{0}}{SE(\widehat{\beta})}$$

Comments

इस प्रश्न का एक पूर्ण और पूर्ण उत्तर काफी लंबा होगा, मुझे यकीन है। इसलिए जब आप किसी से निपटने के लिए प्रतीक्षा करते हैं, तो आप एक अच्छा विचार प्राप्त कर सकते हैं कि ऐसा क्यों है जो मुझे यहां ऑनलाइन मिले कुछ नोटों को देखकर है: onlinecourses.science.psu.edu/stat501/node/297 । ध्यान दें कि । $t^2_{(n−p)}=F_{(1,n−p)}$

— स्टेट्सटूडेंट

मुझे विश्वास नहीं हो रहा है कि यह एक डुप्लिकेट नहीं है, और फिर भी सभी उत्थान (सवाल और जवाब दोनों पर) ... इस बारे में क्या ? या शायद यह कोई डुप्लिकेट नहीं है, जिसका अर्थ है कि (या आज तक था) सुपर-बेसिक विषय अभी भी हैं जो क्रॉस वैलिडेट के अस्तित्व के लगभग सात वर्षों में कवर नहीं किए गए हैं ... वाह ...

— रिचर्ड हार्डी

@ रिचर्डहार्डी हम्म, जो एक डुप्लिकेट की तरह लगता है। हालांकि यह अधिक वर्बोज़ है, सवाल विशेष रूप से है: "मैं कैसे के लिए है कि साबित कर सकते हैं β मैं , β मैं - β मैं$\hat\beta_i$"$\frac{\hat{\beta}_i - \beta_i} {s_{\hat{\beta}_i}} \sim t_{n-k}$

— Firebug

Answer 1

यह समझने के लिए कारण है कि हम टी वितरण का उपयोग करें, आप को पता है की अंतर्निहित वितरण है क्या जरूरत है β और वर्गों की बची हुई राशि (के आर एस एस ) इन दो डाल एक साथ आप t- बंटन दे देंगे के रूप में।$\widehat{\beta}$$RSS$

आसान हिस्सा का वितरण है β जो एक सामान्य वितरण है - इस नोट को देखने के लिए कि β = ( एक्स टी एक्स ) - 1 एक्स टी वाई तो यह रैखिक कार्य है Y जहां Y ~ एन ( एक्स β , σ 2 मैं एन ) । नतीजतन यह भी सामान्य रूप से वितरित किया जाता है, β ~ एन ( β , σ 2 ( एक्स टी एक्स ) -$\widehat{\beta}$$\widehat{\beta}$$(X^{T}X)^{-1}X^{T}Y$$Y$$Y\sim N(X\beta, \sigma^{2}I_{n})$- आप का वितरण पाने मदद की जरूरत है मुझे पता है β ।$\widehat{\beta} \sim N(\beta, \sigma^{2}(X^{T}X)^{-1})$$\widehat{\beta}$

साथ ही, , जहां n टिप्पणियों और की संख्या है पी अपने प्रतिगमन में इस्तेमाल किया मानकों की संख्या है। इसका प्रमाण थोड़ा और अधिक शामिल है, लेकिन यह भी स्पष्ट रूप से प्राप्त करने के लिए सरल है (यहाँ प्रमाण देखें कि RSS को chi टाइम्स np क्यों वितरित किया गया है? )।$RSS \sim \sigma^{2}\chi^{2}_{n-p}$$n$$p$

इस क्षण तक मैं मैट्रिक्स / वेक्टर संकेतन में सब कुछ पर विचार किया है, लेकिन सादगी उपयोग के लिए की जाने β मैं और उसके सामान्य वितरण का उपयोग करें जो हमें दे देंगे: β मैं - β मैं$\widehat{\beta}_{i}$

$$\begin{equation} \frac{\widehat{\beta}_{i}-\beta_{i}}{\sigma\sqrt{(X^{T}X)^{-1}_{ii}}} \sim N(0,1) \end{equation}$$

इसके अतिरिक्त, के ची-चुकता वितरण से हमारे पास वह है: ( एन - पी ) एस $RSS$

$$\begin{equation} \frac{(n-p)s^{2}}{\sigma^{2}} \sim \chi^{2}_{n-p} \end{equation}$$

यह पहली ची-स्क्वेर्ड अभिव्यक्ति का एक पुनर्व्यवस्था था और से स्वतंत्र है । इसके अतिरिक्त, हम s 2 = R S S को परिभाषित करते हैं$N(0,1)$ , जिसके लिए एक निष्पक्ष आकलनकर्ता हैσ2। की परिभाषा के अनुसारटीएन-पीपरिभाषा यह है कि द्वारा एक स्वतंत्र ची-वर्ग (स्वतंत्रता की अपनी डिग्री से अधिक) आप एक टी वितरण (प्रमाण देख के लिए देता है एक सामान्य वितरण विभाजित:एक सामान्य से विभाजित√$s^{2}=\frac{RSS}{n-p}$$\sigma^{2}$$t_{n-p}$ आपको एक टी-वितरण - प्रमाण देता है जो$\sqrt{\chi^2(s)/s}$आपको मिलता है:

$$\begin{equation} \frac{\widehat{\beta}_{i}-\beta_{i}}{s\sqrt{(X^{T}X)^{-1}_{ii}}} \sim t_{n-p} \end{equation}$$

कहाँ ।$s\sqrt{(X^{T}X)^{-1}_{ii}}=SE(\widehat{\beta}_{i})$

मुझे पता है अगर यह समझ में आता है।

Comments

$$\begin{equation} \frac{\widehat{\beta}_{i}-\beta_{i}}{\sigma\sqrt{(X^{T}X)^{-1}_{ii}}} \sim N(0,1) \end{equation}$$

Answer 2

उत्तर वास्तव में बहुत सरल है: आप टी-वितरण का उपयोग करते हैं क्योंकि यह विशेष रूप से इस उद्देश्य के लिए डिज़ाइन किया गया था।

ठीक है, यहाँ बारीकियों यह है कि यह विशेष रूप से रैखिक प्रतिगमन के लिए डिज़ाइन नहीं किया गया था। गॉसेट नमूना के वितरण के साथ आया था जो आबादी से खींचा गया था। उदाहरण के लिए, आप एक नमूना खींचते हैं$x_1,x_2,\dots,x_n$, और इसके माध्य की गणना करें $\bar x=\sum_{i=1}^n x_i/n$। नमूना माध्य का वितरण क्या है$\bar x$?

यदि आप सही (जनसंख्या) मानक विचलन जानते थे $\sigma$, तो आप कहेंगे कि चर $\xi=(\bar x-\mu)\sqrt n/\sigma$ मानक सामान्य वितरण से है $\mathcal N(0,1)$। मुसीबत जो आप आमतौर पर नहीं जानते हैं$\sigma$, और केवल इसका अनुमान लगा सकते हैं $\hat\sigma$। इसलिए, गोस्सेट ने वितरण का अनुमान लगाया जब आपने विकल्प दिया$\sigma$ साथ में $\hat\sigma$ हर में, और वितरण को अब उनके स्तोत्र "स्टूडेंट टी" के बाद कहा जाता है।

रैखिक प्रतिगमन की तकनीकीता एक ऐसी स्थिति की ओर ले जाती है जहां हम मानक त्रुटि का अनुमान लगा सकते हैं $\hat\sigma_\beta$ गुणांक का अनुमान है $\hat\beta$, but we do not know the true $\sigma$, therefore Student t distribution is applied here too.