एक सुसंगत और पक्षपाती अनुमानक का एक उदाहरण?

13

वास्तव में इस पर स्टम्प्ड। मैं वास्तव में एक उदाहरण या स्थिति पसंद करूंगा जहां एक अनुमानक बी संगत और पक्षपाती दोनों होगा।

mathematical-statistics estimation econometrics

— जिमी विगल्स
स्रोत

3

यह एक वर्ग के लिए है?

— Glen_b -Reinstate Monica

5

मुझे लगता है कि आप जिस समय श्रृंखला के उदाहरण की तलाश कर रहे हैं वह देर से विनिर्देशन इसे एक अलग प्रश्न में बदल देता है, क्योंकि यह पहले से उपलब्ध कराए गए उत्कृष्ट उत्तरों को अमान्य कर देगा। लेकिन यह ठीक है - आप एक नया सवाल पूछ सकते हैं।

— साइकोरैक्स का कहना है कि मोनिका

6

मैं देख रहा हूं कि आपने अपना प्रश्न बदल दिया है। यह देखते हुए कि कई उत्तर पहले ही आपके पिछले प्रश्न से निपट चुके हैं, मैं आपको इसे वापस बदलने और विशेष रूप से समय श्रृंखला मॉडल के लिए एक नया प्रश्न पोस्ट करने की सलाह देता हूं।

— जॉन सिप

3

यह आश्चर्य की बात है कि भले ही आप समय श्रृंखला से संबंधित आकलनकर्ता के लिए पूछें, किसी ने भी एआर (1) के लिए ओएलएस का उल्लेख नहीं किया है। अनुमानक पक्षपाती है, लेकिन सुसंगत है, और यह दिखाने के लिए काफी आसान है (और गुग्लिंग आपको इस पर बहुत सारी सामग्री देगा)। संपादित करें: ऐसा प्रतीत होता है कि समय श्रृंखला अनुरोध एक देर से जोड़ था, जो इस तरह के उत्तरों की कमी की व्याख्या करेगा ...

— hejseb

2

यहाँ एक सुंदर तुच्छ उदाहरण है: , ।

{\bar{X}}_{n} + ϵ / n

$\bar{X}_n + \epsilon / n$

ϵ \neq 0

$\epsilon \neq 0$

— dsaxton

24

सबसे आसान उदाहरण मैं सोच सकता हूं कि नमूना विचरण है जो हम में से अधिकांश के लिए सहज रूप से आता है, अर्थात् बजाय द्वारा विभाजित वर्ग विचलन का योग : $n$ $n-1$

S_{n}^{2} = \frac{1}{n} \sum_{i = 1}^{n} {(X_{i} - \bar{X})}^{2}

$S_n^2 = \frac{1}{n} \sum_{i=1}^n \left(X_i-\bar{X} \right)^2$

यह दिखाना आसान है कि और इसलिए अनुमानक पक्षपाती है। लेकिन यह सोचते हैं परिमित विचरण , देख सकते हैं कि पूर्वाग्रह के रूप में शून्य करने के लिए चला जाता है क्योंकि $E\left(S_n^2 \right)=\frac{n-1}{n} \sigma^2$ $\sigma^2$ $n \to \infty$

E (S_{n}^{2}) - σ^{2} = - \frac{1}{n} σ^{2}

$E\left(S_n^2 \right)-\sigma^2 = -\frac{1}{n}\sigma^2$

यह भी दिखाया जा सकता है कि अनुमानक का विचरण शून्य हो जाता है और इसलिए अनुमानक माध्य-वर्ग में परिवर्तित हो जाता है । इसलिए, यह संभाव्यता में भी अभिसरण है ।

— JohnK
स्रोत

1

यह एक उपयोगी उदाहरण है, हालांकि यह यहां "पक्षपाती" की एक कमजोर व्याख्या लागू कर सकता है (जिसका उपयोग प्रश्न में कुछ अस्पष्ट रूप से किया जाता है)। कोई भी मजबूत के लिए कुछ पूछ सकता है, उदाहरण के लिए, अनुमानक का एक क्रम जो सुसंगत है, लेकिन पूर्वाग्रह के साथ जो विषमता से भी गायब नहीं होता है।

— कार्डिनल

@cardinal पूर्वाग्रह को अनुमानकर्ता के अनुरूप होने के लिए असममित रूप से गायब होना चाहिए, नहीं?

— जॉन सिप

3

नहीं। (अधिक जानकारी के लिए टिप्पणी स्ट्रीम देखें।)

— कार्डिनल

मुझे लगता है कि यह बजाय आपके अनुमानक सहायक बनाने में मददगार होगा , क्योंकि सबसे आम तौर पर निष्पक्ष अनुमानक को संदर्भित करता है, जबकि अक्सर MLE को संदर्भित करता है।

{\hat{σ}}^{2}

$\hat \sigma^2$

S^{2}

$S^2$

S^{2}

$S^2$

{\hat{σ}}^{2}

$\hat \sigma^2$

— एबी एबी

@CliffAB हाँ, यह वही है जो सूचकांक को दर्शाता है, पारंपरिक बजाय वर्ग विचलन का योग से विभाजित है ।

n

$n$

n

$n$

n - 1

$n-1$

— जॉनके

9

एक साधारण उदाहरण का आकलन किया जाएगा पैरामीटर दी आईआईडी टिप्पणियों । $\theta > 0$ $n$ $y_i \sim \text{Uniform}\left[0, \,\theta\right]$

Let । किसी भी परिमित हमारे पास (इसलिए अनुमानक पक्षपाती है), लेकिन सीमा में यह प्रायिकता एक के साथ बराबर होगा (इसलिए यह सुसंगत है)। $\hat{\theta}_n = \max\left\{y_1, \ldots, y_n\right\}$ $n$ $\mathbb{E}\left[\theta_n\right] < \theta$ $\theta$

— एड्रियन
स्रोत

7

किसी भी निष्पक्ष और सुसंगत आकलनकर्ता और एक अनुक्रम को 1 में परिवर्तित करने पर विचार करें ( को यादृच्छिक होने की आवश्यकता नहीं है) और फ़ॉर्म । यह पक्षपाती है, लेकिन तब से लगातार 1 में होता है। $T_n$ $\alpha_n$ $\alpha_n$ $\alpha_nT_n$ $\alpha_n$

विकिपीडिया से:

पूरी तरह से बोलना, एक अनुमानक के पैरामीटर को सुसंगत कहा जाता है, अगर यह पैरामीटर के सही मान को प्रायिकता में परिवर्तित करता है: $T_n$ $\theta$

\underset{n \to \infty}{plim} T_{n} = θ .

$\underset{n\to\infty}{\operatorname{plim}}\;T_n = \theta.$

अब याद रखें कि एक अनुमानक के पूर्वाग्रह को इस प्रकार परिभाषित किया गया है:

{Bias}_{θ} [\hat{θ}] = E_{θ} [\hat{θ}] - θ

$\operatorname{Bias}_\theta[\,\hat\theta\,] = \operatorname{E}_\theta[\,\hat{\theta}\,]-\theta$

पूर्वाग्रह वास्तव में शून्य है, और संभावना में अभिसरण सत्य है।

— RUser4512
स्रोत

मैं प्रतिक्रिया और स्पष्टीकरण की सराहना करता हूं। मुझे अब बेहतर समझ है। धन्यवाद

— जिमी Wiggles

यह जवाब एक नाबालिग को ठीक-अप शुरुआत में स्पष्ट है कि करने की जरूरत नहीं किसी भी निष्पक्ष करेंगे। मूल अनुमानक अनुक्रम ही सुसंगत होना चाहिए।

T_{n}

$T_n$

— कार्डिनल

3

एक रजिस्टर्ड के रूप में शामिल लैग्ड डिपेंडेंट वेरिएबल के साथ टाइम सीरीज़ में, ओएलएस अनुमानक सुसंगत लेकिन पक्षपाती होगा। इसका कारण यह है कि ओएलएस अनुमानक की निष्पक्षता दिखाने के लिए हमें सख्त बहिष्कार की आवश्यकता है, , यानी कि त्रुटि अवधि, , अवधि में सभी समय अवधि में सभी रजिस्टरों के साथ असंबंधित है। हालाँकि, OLS आकलनकर्ता की निरंतरता दिखाने के लिए हमें केवल समकालीन अतिशयोक्ति की जरूरत है, Right , अर्थात वह त्रुटि शब्द, , पीरियड में को रजिस्टरों के साथ असंबद्ध किया जाता है, $E\left[\varepsilon_{t}\left|x_{1},\, x_{2,},\,\ldots,\, x_{T}\right.\right]$ $\varepsilon_{t}$ $t$ $E\left[\varepsilon_{t}\left|x_{t}\right.\right]$ $\varepsilon_{t}$ $t$ $x_{t}$ अवधि । AR (1) मॉडल पर विचार करें: के साथ अब से। $t$ $y_{t}=\rho y_{t-1}+\varepsilon_{t},\;\varepsilon_{t}\sim N\left(0,\:\sigma_{\varepsilon}^{2}\right)$ $x_{t}=y_{t-1}$

पहले मैं दिखाता हूं कि सख्त अतिशयता एक मॉडल में एक प्रतिक्षेपक के रूप में शामिल लैग्ड निर्भर चर के साथ नहीं होती है। आइए हम और $\varepsilon_{t}$ $x_{t+1}=y_{t}$

E [ε_{t} x_{t + 1}] = E [ε_{t} y_{t}] = E [ε_{t} (ρ y_{t - 1} + ε_{t})]

$E\left[\varepsilon_{t}x_{t+1}\right]=E\left[\varepsilon_{t}y_{t}\right]=E\left[\varepsilon_{t}\left(\rho y_{t-1}+\varepsilon_{t}\right)\right]$

= ρ E (ε_{t} y_{t - 1}) + E (ε_{t}^{2})

$=\rho E\left(\varepsilon_{t}y_{t-1}\right)+E\left(\varepsilon_{t}^{2}\right)$

= E (ε_{t}^{2}) = σ_{ε}^{2} > 0 (E q . (1)) .

$=E\left(\varepsilon_{t}^{2}\right)=\sigma_{\varepsilon}^{2}>0 \ (Eq. (1)).$

यदि हम अनुक्रमिक विषमता को मानते हैं, तो , यानी कि त्रुटि अवधि, , अवधि पिछले समय की अवधि में सभी रजिस्टरों के साथ असंबंधित है और वर्तमान में ऊपर पहला शब्द, , गायब हो जाएगा। ऊपर से स्पष्ट है कि जब तक हमारे पास सख्त ईगोनेस की उम्मीद नहीं है, तब तक । हालांकि, यह स्पष्ट होना चाहिए कि समकालीन अतिशयोक्ति, Right , पकड़ है। $E\left[\varepsilon_{t}\mid y_{1},\: y_{2},\:\ldots\ldots,y_{t-1}\right]=0$ $\varepsilon_{t}$ $t$ $\rho E\left(\varepsilon_{t}y_{t-1}\right)$ $E\left[\varepsilon_{t}x_{t+1}\right]=E\left[\varepsilon_{t}y_{t}\right]\neq0$ $E\left[\varepsilon_{t}\left|x_{t}\right.\right]$

अब उपरोक्त निर्दिष्ट एआर (1) मॉडल का आकलन करते समय ओएलएस अनुमानक के पूर्वाग्रह को देखें। OLS का अनुमानक , इस प्रकार दिया गया है: $\rho$ $\hat{\rho}$

\hat{ρ} = \frac{\frac{1}{T} \sum_{t = 1}^{T} y_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = \frac{\frac{1}{T} \sum_{t = 1}^{T} (ρ y_{t - 1} + ε_{t}) y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = ρ + \frac{\frac{1}{T} \sum_{t = 1}^{T} ε_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} (E q . (2))

$\hat{\rho}=\frac{\frac{1}{T}\sum_{t=1}^{T}y_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\frac{\frac{1}{T}\sum_{t=1}^{T}\left(\rho y_{t-1}+\varepsilon_{t}\right)y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}} \ (Eq. (2))$

फिर सभी पिछले, समकालीन और भविष्य के मूल्यों पर सशर्त अपेक्षा लें, , की : $E\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]$ $Eq. (2)$

E [\hat{ρ} | y_{1}, y_{2,}, \dots, y_{T - 1}] = ρ + \frac{\frac{1}{T} \sum_{t = 1}^{T} [ε_{t} | y_{1}, y_{2,}, \dots, y_{T - 1}] y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}}

$E\left[\hat{\rho}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}$

हालाँकि, हम से जानते हैं उस ऐसे अर्थ है कि और इसलिए लेकिन पक्षपाती है: $Eq. (1)$ $E\left[\varepsilon_{t}y_{t}\right]=E\left(\varepsilon_{t}^{2}\right)$ $\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]\neq0$ $\frac{\frac{1}{T}\sum_{t=1}^{T}\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}\neq0$ $E\left[\hat{\rho}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]\neq\rho$ $E\left[\hat{\rho}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\left[\varepsilon_{t}\left|y_{1},\, y_{2,},\,\ldots,\, y_{T-1}\right.\right]y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}E\left(\varepsilon_{t}^{2}\right)y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=$ $\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\sigma_{\varepsilon}^{2}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}$ ।

सभी मैं एआर (1) मॉडल में ओएलएस अनुमानक की निरंतरता दिखाने के लिए मान रहा हूं, यह जो पल की स्थिति की ओर जाता है, with । पहले की तरह, हमारे पास है कि , का OLS आकलनकर्ता के रूप में दिया गया है: $E\left[\varepsilon_{t}\left|x_{t}\right.\right]=E\left[\varepsilon_{t}\left|y_{t-1}\right.\right]=0$ $E\left[\varepsilon_{t}x_{t}\right]=0$ $x_{t}=y_{t-1}$ $\rho$ $\hat{\rho}$

\hat{ρ} = \frac{\frac{1}{T} \sum_{t = 1}^{T} y_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = \frac{\frac{1}{T} \sum_{t = 1}^{T} (ρ y_{t - 1} + ε_{t}) y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = ρ + \frac{\frac{1}{T} \sum_{t = 1}^{T} ε_{t} y_{t - 1}}{\frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}}

$\hat{\rho}=\frac{\frac{1}{T}\sum_{t=1}^{T}y_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\frac{\frac{1}{T}\sum_{t=1}^{T}\left(\rho y_{t-1}+\varepsilon_{t}\right)y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}}{\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}$

अब मान लें कि और सकारात्मक और परिमित है, । $plim\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}=\sigma_{y}^{2}$ $\sigma_{y}^{2}$ $0<\sigma_{y}^{2}<\infty$

फिर, जब तक और जब तक बड़ी संख्या (LLN) का एक कानून लागू नहीं होता है, तब तक हमारे पास उस । इस परिणाम का उपयोग करना हमारे पास है: $T\rightarrow\infty$ $p\lim\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}=E\left[\varepsilon_{t}y_{t-1}\right]=0$

\underset{T \to \infty}{p lim \hat{ρ}} = ρ + \frac{p lim \frac{1}{T} \sum_{t = 1}^{T} ε_{t} y_{t - 1}}{p lim \frac{1}{T} \sum_{t = 1}^{T} y_{t}^{2}} = ρ + \frac{0}{σ_{y}^{2}} = ρ

$\underset{T\rightarrow\infty}{p\lim\hat{\rho}}=\rho+\frac{p\lim\frac{1}{T}\sum_{t=1}^{T}\varepsilon_{t}y_{t-1}}{p\lim\frac{1}{T}\sum_{t=1}^{T}y_{t}^{2}}=\rho+\frac{0}{\sigma_{y}^{2}}=\rho$

जिससे यह पता चला है कि AR (1) मॉडल में , के OLS आकलन पक्षपाती लेकिन सुसंगत हैं। ध्यान दें कि यह परिणाम उन सभी रजिस्टरों के लिए है जहाँ एक रजिस्ट्रार के रूप में लैग्ड डिपेंडेंट वेरिएबल को शामिल किया गया है। $p$ $\hat{\rho}$

— Plissken
स्रोत