सरल रेखीय प्रतिगमन में प्रतिगमन गुणांक के व्युत्पन्न भिन्न

सरल रैखिक प्रतिगमन में, हमारे पास , जहां । मैंने अनुमानक प्राप्त किया: जहां और और का नमूना साधन हैं । $y = \beta_0 + \beta_1 x + u$ $u \sim iid\;\mathcal N(0,\sigma^2)$

\hat{β_{1}} = \frac{\sum_{i} (x_{i} - \bar{x}) (y_{i} - \bar{y})}{\sum_{i} (x_{i} - \bar{x})^{2}},

$\hat{\beta_1} = \frac{\sum_i (x_i - \bar{x})(y_i - \bar{y})}{\sum_i (x_i - \bar{x})^2}\ ,$

\bar{x}

$\bar{x}$

\bar{y}

$\bar{y}$

x

$x$

y

$y$

अब मैं का प्रसरण ढूंढना चाहता । मैंने कुछ इस तरह से व्युत्पन्न किया है: $\hat\beta_1$

Var (\hat{β_{1}}) = \frac{σ^{2} (1 - \frac{1}{n})}{\sum_{i} (x_{i} - \bar{x})^{2}} .

$\text{Var}(\hat{\beta_1}) = \frac{\sigma^2(1 - \frac{1}{n})}{\sum_i (x_i - \bar{x})^2}\ .$

व्युत्पत्ति इस प्रकार है:

\begin{aligned} Var (\hat{β_{1}}) \\ = Var (\frac{\sum_{i} (x_{i} - \bar{x}) (y_{i} - \bar{y})}{\sum_{i} (x_{i} - \bar{x})^{2}}) \\ = \frac{1}{(\sum_{i} (x_{i} - \bar{x})^{2})^{2}} Var (\sum_{i} (x_{i} - \bar{x}) (β_{0} + β_{1} x_{i} + u_{i} - \frac{1}{n} \sum_{j} (β_{0} + β_{1} x_{j} + u_{j}))) \\ = \frac{1}{(\sum_{i} (x_{i} - \bar{x})^{2})^{2}} Var (β_{1} \sum_{i} (x_{i} - \bar{x})^{2} + \sum_{i} (x_{i} - \bar{x}) (u_{i} - \sum_{j} \frac{u_{j}}{n})) \\ = \frac{1}{(\sum_{i} (x_{i} - \bar{x})^{2})^{2}} Var (\sum_{i} (x_{i} - \bar{x}) (u_{i} - \sum_{j} \frac{u_{j}}{n})) \\ = \frac{1}{(\sum_{i} (x_{i} - \bar{x})^{2})^{2}} \times \\ E [{(\sum_{i} (x_{i} - \bar{x}) (u_{i} - \sum_{j} \frac{u_{j}}{n}) - \underset{= 0}{\underset{⏟}{E [\sum_{i} (x_{i} - \bar{x}) (u_{i} - \sum_{j} \frac{u_{j}}{n})]}})}^{2}] \\ = \frac{1}{(\sum_{i} (x_{i} - \bar{x})^{2})^{2}} E [{(\sum_{i} (x_{i} - \bar{x}) (u_{i} - \sum_{j} \frac{u_{j}}{n}))}^{2}] \\ = \frac{1}{(\sum_{i} (x_{i} - \bar{x})^{2})^{2}} E [\sum_{i} (x_{i} - \bar{x})^{2} (u_{i} - \sum_{j} \frac{u_{j}}{n})^{2}], since u_{i}'s are iid \\ = \frac{1}{(\sum_{i} (x_{i} - \bar{x})^{2})^{2}} \sum_{i} (x_{i} - \bar{x})^{2} E {(u_{i} - \sum_{j} \frac{u_{j}}{n})}^{2} \\ = \frac{1}{(\sum_{i} (x_{i} - \bar{x})^{2})^{2}} \sum_{i} (x_{i} - \bar{x})^{2} (E (u_{i}^{2}) - 2 \times E (u_{i} \times (\sum_{j} \frac{u_{j}}{n})) + E {(\sum_{j} \frac{u_{j}}{n})}^{2}) \\ = \frac{1}{(\sum_{i} (x_{i} - \bar{x})^{2})^{2}} \sum_{i} (x_{i} - \bar{x})^{2} (σ^{2} - \frac{2}{n} σ^{2} + \frac{σ^{2}}{n}) \\ = \frac{σ^{2}}{\sum_{i} (x_{i} - \bar{x})^{2}} (1 - \frac{1}{n}) \end{aligned}

$\begin{align} &\text{Var}(\hat{\beta_1})\\ & = \text{Var} \left(\frac{\sum_i (x_i - \bar{x})(y_i - \bar{y})}{\sum_i (x_i - \bar{x})^2} \right) \\ & = \frac{1}{(\sum_i (x_i - \bar{x})^2)^2} \text{Var}\left( \sum_i (x_i - \bar{x})\left(\beta_0 + \beta_1x_i + u_i - \frac{1}{n}\sum_j(\beta_0 + \beta_1x_j + u_j) \right)\right)\\ & = \frac{1}{(\sum_i (x_i - \bar{x})^2)^2} \text{Var}\left( \beta_1 \sum_i (x_i - \bar{x})^2 + \sum_i(x_i - \bar{x}) \left(u_i - \sum_j \frac{u_j}{n}\right) \right)\\ & = \frac{1}{(\sum_i (x_i - \bar{x})^2)^2}\text{Var}\left( \sum_i(x_i - \bar{x})\left(u_i - \sum_j \frac{u_j}{n}\right)\right)\\ & = \frac{1}{(\sum_i (x_i - \bar{x})^2)^2}\;\times \\ &\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;E\left[\left( \sum_i(x_i - \bar{x})(u_i - \sum_j \frac{u_j}{n}) - \underbrace{E\left[\sum_i(x_i - \bar{x})(u_i - \sum_j \frac{u_j}{n})\right] }_{=0}\right)^2\right]\\ & = \frac{1}{(\sum_i (x_i - \bar{x})^2)^2} E\left[\left( \sum_i(x_i - \bar{x})(u_i - \sum_j \frac{u_j}{n})\right)^2 \right] \\ & = \frac{1}{(\sum_i (x_i - \bar{x})^2)^2} E\left[\sum_i(x_i - \bar{x})^2(u_i - \sum_j \frac{u_j}{n})^2 \right]\;\;\;\;\text{ , since } u_i \text{ 's are iid} \\ & = \frac{1}{(\sum_i (x_i - \bar{x})^2)^2}\sum_i(x_i - \bar{x})^2E\left(u_i - \sum_j \frac{u_j}{n}\right)^2\\ & = \frac{1}{(\sum_i (x_i - \bar{x})^2)^2}\sum_i(x_i - \bar{x})^2 \left(E(u_i^2) - 2 \times E \left(u_i \times (\sum_j \frac{u_j}{n})\right) + E\left(\sum_j \frac{u_j}{n}\right)^2\right)\\ & = \frac{1}{(\sum_i (x_i - \bar{x})^2)^2}\sum_i(x_i - \bar{x})^2 \left(\sigma^2 - \frac{2}{n}\sigma^2 + \frac{\sigma^2}{n}\right)\\ & = \frac{\sigma^2}{\sum_i (x_i - \bar{x})^2}\left(1 - \frac{1}{n}\right) \end{align}$

क्या मैंने यहां कुछ गलत किया?

मुझे पता है कि अगर मैं मैट्रिक्स नोटेशन में सब कुछ करता हूं, तो मुझे ${\rm Var}(\hat{\beta_1}) = \frac{\sigma^2}{\sum_i (x_i - \bar{x})^2}$ । लेकिन मैं मैट्रिक्स अंकन का उपयोग किए बिना उत्तर प्राप्त करने की कोशिश कर रहा हूं ताकि यह सुनिश्चित हो सके कि मैं अवधारणाओं को समझता हूं।

— मेरा नाम जेफ़ है
स्रोत

हां, मैट्रिक्स नोटेशन से आपका फॉर्मूला सही है। प्रश्न में सूत्र को देखते हुए, इसलिए ऐसा लगता है जैसे कि आप जनसंख्या मानक विचलन के बजाय कहीं नमूना मानक विचलन का उपयोग कर सकते हैं? व्युत्पत्ति देखे बिना किसी भी अधिक कहना मुश्किल है।

1 - \frac{1}{n} = \frac{n - 1}{n}

$1-\frac1{n}\,=\,\frac{n-1}{n}$

— टीओटी मार्क

सामान्य उत्तर भी डुप्लिकेट थ्रेड में आँकड़े.स्टैकएक्सचेंज . com / questions / 91750 पर पोस्ट किए गए हैं ।

— whuber

जवाबों:

अपनी व्युत्पत्ति की शुरुआत में आप कोष्ठक को गुणा करते हैं , इस प्रक्रिया में और दोनों का विस्तार करते हैं । पूर्व का योग चर पर निर्भर करता है , जबकि बाद वाला नहीं है। यदि आप छोड़ते हैं , तो व्युत्पत्ति बहुत आसान है, क्योंकि $\sum_i (x_i - \bar{x})(y_i - \bar{y})$ $y_i$ $\bar{y}$ $i$ $\bar{y}$

\begin{aligned} \sum_{i} (x_{i} - \bar{x}) \bar{y} & = \bar{y} \sum_{i} (x_{i} - \bar{x}) \\ = \bar{y} ((\sum_{i} x_{i}) - n \bar{x}) \\ = \bar{y} (n \bar{x} - n \bar{x}) \\ = 0 \end{aligned}

$\begin{align} \sum_i (x_i - \bar{x})\bar{y} &= \bar{y}\sum_i (x_i - \bar{x})\\ &= \bar{y}\left(\left(\sum_i x_i\right) - n\bar{x}\right)\\ &= \bar{y}\left(n\bar{x} - n\bar{x}\right)\\ &= 0 \end{align}$

इसलिये

\begin{aligned} \sum_{i} (x_{i} - \bar{x}) (y_{i} - \bar{y}) & = \sum_{i} (x_{i} - \bar{x}) y_{i} - \sum_{i} (x_{i} - \bar{x}) \bar{y} \\ = \sum_{i} (x_{i} - \bar{x}) y_{i} \\ = \sum_{i} (x_{i} - \bar{x}) (β_{0} + β_{1} x_{i} + u_{i}) \end{aligned}

$\begin{align} \sum_i (x_i - \bar{x})(y_i - \bar{y}) &= \sum_i (x_i - \bar{x})y_i - \sum_i (x_i - \bar{x})\bar{y}\\ &= \sum_i (x_i - \bar{x})y_i\\ &= \sum_i (x_i - \bar{x})(\beta_0 + \beta_1x_i + u_i )\\ \end{align}$

तथा

\begin{aligned} Var (\hat{β_{1}}) & = Var (\frac{\sum_{i} (x_{i} - \bar{x}) (y_{i} - \bar{y})}{\sum_{i} (x_{i} - \bar{x})^{2}}) \\ = Var (\frac{\sum_{i} (x_{i} - \bar{x}) (β_{0} + β_{1} x_{i} + u_{i})}{\sum_{i} (x_{i} - \bar{x})^{2}}), substituting in the above \\ = Var (\frac{\sum_{i} (x_{i} - \bar{x}) u_{i}}{\sum_{i} (x_{i} - \bar{x})^{2}}), noting only u_{i} is a random variable \\ = \frac{\sum_{i} (x_{i} - \bar{x})^{2} Var (u_{i})}{{(\sum_{i} (x_{i} - \bar{x})^{2})}^{2}}, independence of u_{i} and, Var (k X) = k^{2} Var (X) \\ = \frac{σ^{2}}{\sum_{i} (x_{i} - \bar{x})^{2}} \end{aligned}

$\begin{align} \text{Var}(\hat{\beta_1}) & = \text{Var} \left(\frac{\sum_i (x_i - \bar{x})(y_i - \bar{y})}{\sum_i (x_i - \bar{x})^2} \right) \\ &= \text{Var} \left(\frac{\sum_i (x_i - \bar{x})(\beta_0 + \beta_1x_i + u_i )}{\sum_i (x_i - \bar{x})^2} \right), \;\;\;\text{substituting in the above} \\ &= \text{Var} \left(\frac{\sum_i (x_i - \bar{x})u_i}{\sum_i (x_i - \bar{x})^2} \right), \;\;\;\text{noting only $u_i$ is a random variable} \\ &= \frac{\sum_i (x_i - \bar{x})^2\text{Var}(u_i)}{\left(\sum_i (x_i - \bar{x})^2\right)^2} , \;\;\;\text{independence of } u_i \text{ and, Var}(kX)=k^2\text{Var}(X) \\ &= \frac{\sigma^2}{\sum_i (x_i - \bar{x})^2} \\ \end{align}$

जो आप चाहते हैं परिणाम है।

एक साइड नोट के रूप में, मैंने लंबे समय तक आपकी व्युत्पत्ति में त्रुटि खोजने की कोशिश की। अंत में मैंने फैसला किया कि विवेक वीरता का बेहतर हिस्सा था और सरल दृष्टिकोण की कोशिश करना सबसे अच्छा था। हालाँकि रिकॉर्ड के लिए मुझे यकीन नहीं था कि यह कदम उचित था क्योंकि यह कारण क्रॉस शब्दों को याद करता है ।

\begin{aligned} = . \frac{1}{(\sum_{i} (x_{i} - \bar{x})^{2})^{2}} E [{(\sum_{i} (x_{i} - \bar{x}) (u_{i} - \sum_{j} \frac{u_{j}}{n}))}^{2}] \\ = \frac{1}{(\sum_{i} (x_{i} - \bar{x})^{2})^{2}} E [\sum_{i} (x_{i} - \bar{x})^{2} (u_{i} - \sum_{j} \frac{u_{j}}{n})^{2}], since u_{i}'s are iid \end{aligned}

$\begin{align} & =. \frac{1}{(\sum_i (x_i - \bar{x})^2)^2} E\left[\left( \sum_i(x_i - \bar{x})(u_i - \sum_j \frac{u_j}{n})\right)^2 \right] \\ & = \frac{1}{(\sum_i (x_i - \bar{x})^2)^2} E\left[\sum_i(x_i - \bar{x})^2(u_i - \sum_j \frac{u_j}{n})^2 \right]\;\;\;\;\text{ , since } u_i \text{ 's are iid} \\ \end{align}$

\sum_{j} \frac{u_{j}}{n}

$\sum_j \frac{u_j}{n}$

— TooTone
स्रोत

मैंने देखा कि मैं बहुत पहले सरल दृष्टिकोण का उपयोग कर सकता था, लेकिन मैं गहरी खुदाई करने और विभिन्न दृष्टिकोणों का उपयोग करके एक ही उत्तर के साथ आने के लिए दृढ़ था, ताकि यह सुनिश्चित हो सके कि मैं अवधारणाओं को समझता हूं। मुझे एहसास है कि पहले सामान्य समीकरणों से (FOC कम से कम वर्ग विधि से), इसलिए , plus , so । इसलिए प्रथम स्थान में शब्द होगा।

\sum_{j} \hat{u_{j}} = 0

$\sum_j \hat{u_j} = 0$

\bar{\hat{u}} = \frac{\sum_{i} u_{i}}{n} = 0

$\bar{\hat{u}} = \frac{\sum_i u_i}{n}=0$

\bar{\hat{u}} = \bar{y} - \bar{\hat{y}} = 0

$\bar{\hat{u}} = \bar{y} - \bar{\hat{y}} = 0$

\bar{y} = \bar{\hat{y}}

$\bar{y} = \bar{\hat{y}}$

\sum_{j} \frac{u_{j}}{n}

$\sum_j \frac{u_j}{n}$

— mynameisJEFF

ठीक है, आपके प्रश्न में मैट्रिक्स नोटेशन से बचने पर जोर दिया गया था।

— टीओटी

हां, क्योंकि मैं मैट्रिक्स नोटेशन का उपयोग करके इसे हल करने में सक्षम था। और मेरी पिछली टिप्पणी से ध्यान दें, मैंने किसी रैखिक बीजगणित का उपयोग नहीं किया। वैसे भी आपके महान उत्तर के लिए धन्यवाद ^। ^

— mynameisJEFF

क्षमा करें क्या हम यहाँ क्रॉस-उद्देश्यों पर बात कर रहे हैं? मैंने अपने उत्तर में किसी भी मैट्रिक्स नोटेशन का उपयोग नहीं किया, और मैंने सोचा कि आप अपने प्रश्न में क्या पूछ रहे थे।

— टीओटी

गलतफहमी के लिए खेद है ...

— mynameisJEFF

मेरा मानना है कि आपके प्रमाण में समस्या वह चरण है जहां आप । के वर्ग का अपेक्षित मान लेते हैं । यह फॉर्म , जहाँ । तो, पर, हम । अब, स्पष्ट संगणना से, , इसलिए as $\sum_i (x_i - \bar{x} )\left( u_i -\sum_j \frac{u_j}{n} \right)$ $E \left[\left(\sum_i a_i b_i \right)^2 \right]$ $a_i = x_i -\bar{x}; b_i = u_i -\sum_j \frac{u_j}{n}$ $E \left[ \sum_{i,j} a_i a_j b_i b_j \right] = \sum_{i,j} a_i a_j E\left[b_i b_j \right]$ $E\left[b_i b_j \right] = \sigma^2 \left( \delta_{ij} -\frac{1}{n} \right)$ $E \left[ \sum_{i,j} a_i a_j b_i b_j \right] = \sum_{i,j} a_i a_j \sigma^2 \left( \delta_{ij} -\frac{1}{n} \right) = \sum_i a_i^2 \sigma^2$ $\sum_i a_i = 0$ ।

— Stefano
स्रोत

"व्युत्पत्ति इस प्रकार है:" 7 वें "=" से शुरू गलत है।

इसलिये

$\sum_i (x_i - \bar{x})(u_i - \bar{u})$

$= \sum_i (x_i - \bar{x})u_i - \sum_i (x_i - \bar{x}) \bar{u}$

$= \sum_i (x_i - \bar{x})u_i - \bar{u} \sum_i (x_i - \bar{x})$

$= \sum_i (x_i - \bar{x})u_i - \bar{u} (\sum_i{x_i} -n \bar{x})$

$= \sum_i (x_i - \bar{x})u_i - \bar{u} (\sum_i{x_i} -\sum_i{x_i})$

$= \sum_i (x_i - \bar{x})u_i - \bar{u} 0$

$= \sum_i (x_i - \bar{x})u_i$

तो 7 वीं के बाद "=" यह होना चाहिए:

$\frac {1} {(\sum_i(x_i-\bar{x})^2)^2}E\left[\left(\sum_i(x_i-\bar{x})u_i\right)^2\right]$

$=\frac {1} {(\sum_i(x_i-\bar{x})^2)^2}E\left(\sum_i(x_i-\bar{x})^2u_i^2 + 2\sum_{i\ne j}(x_i-\bar{x})(x_j-\bar{x})u_iu_j\right)$

= $\frac {1} {(\sum_i(x_i-\bar{x})^2)^2}E\left(\sum_i(x_i-\bar{x})^2u_i^2\right) + 2E\left(\sum_{i\ne j}(x_i-\bar{x})(x_j-\bar{x})u_iu_j\right)$

= , क्योंकि और स्वतंत्र और माध्य 0 हैं, इसलिए $\frac {1} {(\sum_i(x_i-\bar{x})^2)^2}E\left(\sum_i(x_i-\bar{x})^2u_i^2\right)$ $u_i$ $u_j$ $E(u_iu_j) =0$

= $\frac {1} {(\sum_i(x_i-\bar{x})^2)^2}\left(\sum_i(x_i-\bar{x})^2E(u_i^2)\right)$

$\frac {\sigma^2} {(\sum_i(x_i-\bar{x})^2)^2}$

— user158565
स्रोत

यदि आपने सही उत्तर को शामिल करने के लिए अपना उत्तर संपादित किया तो यह मददगार हो सकता है।

— mdewey

आपका उत्तर स्वचालित रूप से निम्न गुणवत्ता के रूप में चिह्नित किया जा रहा है क्योंकि यह बहुत छोटा है। कृपया अपने उत्तर पर विस्तार करने पर विचार करें

— Glen_b