UMVUE के अस्तित्व पर और mathta के अनुमान के विकल्प में जनसंख्या

आज्ञा देना जनसंख्या से लिया गया एक यादृच्छिक नमूना है जहाँ । $(X_1,X_2,\cdots,X_n)$ $\mathcal N(\theta,\theta^2)$ $\theta\in\mathbb R$

मैं Theta के UMVUE की तलाश कर रहा हूं । $\theta$

का संयुक्त घनत्व है $(X_1,X_2,\cdots,X_n)$

\begin{aligned} f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \prod_{i = 1}^{n} \frac{1}{θ \sqrt{2 π}} \exp [- \frac{1}{2 θ^{2}} (x_{i} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{n}} \exp [- \frac{1}{2 θ^{2}} \sum_{i = 1}^{n} (x_{i} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{n}} \exp [\frac{1}{θ} \sum_{i = 1}^{n} x_{i} - \frac{1}{2 θ^{2}} \sum_{i = 1}^{n} x_{i}^{2} - \frac{n}{2}] \\ = g (θ, T (x)) h (x) \forall (x_{1}, \dots, x_{n}) \in R^{n}, \forall θ \in R \end{aligned}

$\begin{align} f_{\theta}(x_1,x_2,\cdots,x_n)&=\prod_{i=1}^n\frac{1}{\theta\sqrt{2\pi}}\exp\left[-\frac{1}{2\theta^2}(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[-\frac{1}{2\theta^2}\sum_{i=1}^n(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right] \\&=g(\theta,T(\mathbf x))h(\mathbf x)\qquad\forall\,(x_1,\cdots,x_n)\in\mathbb R^n\,,\forall\,\theta\in\mathbb R \end{align}$

, जहां और । $g(\theta, T(\mathbf x))=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right]$ $h(\mathbf x)=1$

इधर, पर निर्भर करता है और पर के माध्यम से और स्वतंत्र रूप से of । तो फिशर-नेमन फैक्टरिसेशन प्रमेय द्वारा, द्वि-आयामी आँकड़ा लिए पर्याप्त है। । $g$ $\theta$ $x_1,\cdots,x_n$ $T(\mathbf x)=\left(\sum_{i=1}^nx_i,\sum_{i=1}^nx_i^2\right)$ $h$ $\theta$ $T(\mathbf X)=\left(\sum_{i=1}^nX_i,\sum_{i=1}^nX_i^2\right)$ $\theta$

हालाँकि, एक पूर्ण आँकड़ा नहीं है। इसका कारण यह है कि $T$

E_{θ} [2 {(\sum_{i = 1}^{n} X_{i})}^{2} - (n + 1) \sum_{i = 1}^{n} X_{i}^{2}] = 2 n (1 + n) θ^{2} - (n + 1) 2 n θ^{2} = 0 \forall θ

$E_{\theta}\left[2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2\right]=2n(1+n)\theta^2-(n+1)2n\theta^2=0\qquad\forall\,\theta$

और फ़ंक्शन पहचान शून्य नहीं है। $g^*(T(\mathbf X))=2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2$

लेकिन मुझे पता है कि एक न्यूनतम पर्याप्त आंकड़ा है। $T$

मैं निश्चित नहीं हूं लेकिन मुझे लगता है कि इस घुमावदार घातीय परिवार के लिए एक संपूर्ण आंकड़ा मौजूद नहीं हो सकता है। तो फिर मुझे UMVUE कैसे प्राप्त करना चाहिए? यदि एक पूर्ण आँकड़ा मौजूद नहीं है, तो क्या एक निष्पक्ष अनुमानक (जैसे इस मामले में ) जो न्यूनतम पर्याप्त आंकड़ा का एक कार्य है, UMVUE हो सकता है? (संबंधित सूत्र: निष्पक्ष अनुमानकर्ता के लिए UMVUE होने के लिए आवश्यक शर्त क्या है? ) $\bar X$

क्या होगा अगर मैं सबसे अच्छा रैखिक निष्पक्ष अनुमानक (BLUE) of the मानता हूं ? क्या BLUE UMVUE हो सकता है? $\theta$

मान लीजिए कि मैं रैखिक निष्पक्ष अनुमानक of जहां पर और । चूँकि हम जानते हैं कि । मेरा विचार को कम से कम करना है ताकि बीएलयू ऑफ द । क्या तब UMVUE ऑफ द ? $T^*(\mathbf X)=a\bar X+(1-a)cS$ $\theta$ $c(n)=\sqrt{\frac{n-1}{2}}\frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n}{2}\right)}$ $S^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X)^2$ $E_{\theta}(cS)=\theta$ $\text{Var}(T^*)$ $T^*$ $\theta$ $T^*$ $\theta$

मैं के आधार पर एक रेखीय निष्पक्ष आकलनकर्ता ले लिया है और के रूप में भी के लिए पर्याप्त है । $\bar X$ $S$ $(\bar X,S^2)$ $\theta$

संपादित करें:

काम का एक बहुत वास्तव में के आकलन में किया गया है अधिक सामान्य रूप में परिवार जहां जाना जाता है। निम्नलिखित कुछ सबसे प्रासंगिक संदर्भ हैं: $\theta$ $\mathcal N(\theta,a\theta^2)$ $a>0$

ग्लीसर / हीली द्वारा भिन्नता के ज्ञात गुणांक के साथ एक सामान्य वितरण के साधन का अनुमान लगाना।
आरए खान द्वारा भिन्नता के ज्ञात गुणांक के साथ एक सामान्य वितरण के साधन का अनुमान लगाने पर एक नोट ।
आरए खान द्वारा विविधता के ज्ञात गुणांक के साथ एक सामान्य वितरण का अनुमान लगाने पर एक टिप्पणी ।
यह चैप्टर एक्सट्रैक्ट।

मैंने इस अभ्यास में पहली बार केसेला / बर्जर द्वारा सांख्यिकीय इंजेक्शन से इस संदर्भ में पाया :

मेरा प्रश्न हालांकि इस अभ्यास के बारे में नहीं है।

अंतिम नोट (चैप्टर एक्सट्रैक्ट) कहता है कि कम से कम पर्याप्त आँकड़ा पूरा नहीं होने के कारण _ $\theta$ का UMVUE मौजूद नहीं है । मैं यह जानना चाहूंगा कि हमें यह निष्कर्ष निकालने में सक्षम बनाता है कि एक UMVUE केवल इसलिए मौजूद नहीं है क्योंकि एक पूर्ण पर्याप्त आंकड़ा नहीं मिल सकता है? क्या इससे संबंधित कोई परिणाम है? मैं तब भी UMVUE के अस्तित्व को देखता हूँ जब लिंक में पर्याप्त आँकड़े मौजूद नहीं होते हैं।

अब यह मानते हुए कि एक समान रूप से न्यूनतम विचरण करने वाला निष्पक्ष अनुमानक मौजूद नहीं है, 'सर्वश्रेष्ठ' अनुमानक चुनने के लिए हमारे अगले मानदंड क्या होने चाहिए? क्या हम न्यूनतम MSE, न्यूनतम विचरण या MLE की तलाश करते हैं? या मानदंड का चुनाव हमारे अनुमान के उद्देश्य पर निर्भर करेगा?

उदाहरण के लिए, कि मेरे पास एक निष्पक्ष अनुमानक और एक और पक्षपाती अनुमानक of । मान लीजिए की एमएसई (जो अपने विचरण है) की तुलना में अधिक है । चूंकि MSE का न्यूनतमकरण का अर्थ है पूर्वाग्रह के साथ-साथ एक साथ विचरण को कम करना, मुझे लगता है कि तुलना में अनुमानक का 'बेहतर' विकल्प होना चाहिए , हालांकि पूर्व पक्षपाती है। $T_1$ $T_2$ $\theta$ $T_1$ $T_2$ $T_2$ $T_1$

अंतिम नोट के पृष्ठ 4 से के अनुमानकों की संभावित पसंद सूचीबद्ध हैं। $\theta$

निम्नलिखित निष्कर्ष लेहमैन / कैसला द्वारा बिंदु अनुमान के सिद्धांत से है (दूसरा संस्करण, पृष्ठ 87-88):

यह अत्यधिक संभावना है कि मैंने सब कुछ गलत समझा है, लेकिन क्या अंतिम वाक्य यह कहता है कि कुछ शर्तों के तहत, UMVUE के अस्तित्व के लिए पूर्ण सांख्यिकी का अस्तित्व आवश्यक है? यदि हां, तो क्या इसका परिणाम मुझे दिखना चाहिए?

आरआर बहादुर की वजह यही कारण है कि अंतिम परिणाम जो अंत में सही बताया गया है को संदर्भित करता है इस टिप्पणी।

आगे की खोज करने पर, मैंने एक परिणाम पाया है कि यदि न्यूनतम पर्याप्त सांख्यिकीय पूर्ण नहीं है, तो एक पूर्ण सांख्यिकीय मौजूद नहीं है। इसलिए कम से कम मैं बहुत आश्वस्त हूं कि एक संपूर्ण आंकड़ा यहां मौजूद नहीं है।

एक और परिणाम जिस पर मैं विचार करना भूल गया, वह यह है कि मोटे तौर पर कहते हैं कि निष्पक्ष अनुमान लगाने वाले के लिए एक आवश्यक और पर्याप्त शर्त UMVUE है कि यह शून्य के हर निष्पक्ष अनुमानक के साथ असंबद्ध होना चाहिए। मैंने इस प्रमेय का उपयोग करके यह दिखाने की कोशिश की कि एक UMVUE यहां मौजूद नहीं है, और यह भी तथ्य है कि तरह एक निष्पक्ष अनुमानक UMVUE नहीं है। लेकिन यह उतने सरल काम नहीं करता है, उदाहरण के लिए यहाँ , अंतिम दृष्टांत में। $\bar X$

— StubbornAtom
स्रोत

अपडेट करें:

अनुमानक जहां आपकी पोस्ट में दिया गया है। यह का निष्पक्ष अनुमानक है और स्पष्ट रूप से नीचे दिए गए अनुमानक (किसी भी मान के ) के साथ सहसंबद्ध होगा ।

\hat{0} = \bar{X} - c S

$\hat 0 = \bar{X} - cS$

c

$c$

0

$0$

a

$a$

C & B के प्रमेय 6.2.25 से पता चलता है कि Exponential परिवार के लिए इतने लंबे समय तक पूर्ण रूप से पर्याप्त आंकड़े कैसे इसमें एक खुला सेट in । दुर्भाग्य से इस वितरण से और होता है, जो ( से खुला सेट नहीं )। यह इस कारण से है कि सांख्यिकीय लिए पूर्ण नहीं है , और यह उसी कारण से है कि हम का निष्पक्ष अनुमानक बना सकते हैं। के किसी भी निष्पक्ष अनुमानक के साथ सहसंबद्ध किया जाएगा

{(w_{1} (θ), \dots w_{k} (θ)}

$\{(w_1(\theta), \cdots w_k(\theta)\}$

R^{k}

$\mathbb R^k$

w_{1} (θ) = θ^{- 2}

$w_1(\theta) = \theta^{-2}$

w_{2} (θ) = θ^{- 1}

$w_2(\theta) = \theta^{-1}$

R^{2}

$R^2$

w_{1} (θ) = w_{2} (θ)^{2}

$w_1(\theta) = w_2(\theta)^2$

(\bar{X}, S^{2})

$(\bar{X}, S^2)$

θ

$\theta$

0

$0$

θ

$\theta$ जो पर्याप्त आँकड़ों पर आधारित है।

एक और अपडेट:

यहाँ से, तर्क रचनात्मक है। ऐसा होना चाहिए कि वहाँ एक और निष्पक्ष अनुमानक जैसे कि कम से कम एक । $\tilde\theta$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta \in \Theta$

प्रमाण: मान लीजिए कि , और (कुछ मान के लिए of of ) है। एक नए अनुमानक पर विचार करें यह अनुमानक स्पष्ट रूप से भिन्न रूप से भिन्न है Let । $E(\hat\theta) = \theta$ $E(\hat 0) = 0$ $Cov(\hat\theta, \hat 0) < 0$ $\theta$

\tilde{θ} = \hat{θ} + b \hat{0}

$\tilde\theta = \hat\theta + b\hat0$

V a r (\tilde{θ}) = V a r (\hat{θ}) + b^{2} V a r (\hat{0}) + 2 b C o v (\hat{θ}, \hat{0})

$Var(\tilde\theta) = Var(\hat\theta) + b^2Var(\hat0) + 2bCov(\hat\theta,\hat0)$

M (θ) = \frac{- 2 C o v (\hat{θ}, \hat{0})}{V a r (\hat{0})}

$M(\theta) = \frac{-2Cov(\hat\theta, \hat0)}{Var(\hat0)}$

धारणा के अनुसार, एक ऐसा होना चाहिए कि । यदि हम , तो at । इसलिए UMVUE नहीं हो सकता है। $\theta_0$ $M(\theta_0) > 0$ $b \in (0, M(\theta_0))$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta_0$ $\hat\theta$ $\quad \square$

सारांश में: यह तथ्य कि का सहसंबंध साथ है (किसी भी पसंद के ) से तात्पर्य है कि हम एक नए अनुमानक का निर्माण कर सकते हैं जो कम से कम एक बिंदु लिए से बेहतर है , एकरूपता का उल्लंघन करते हुए सबसे अच्छा निष्पक्षता के लिए दावा। $\hat\theta$ $\hat0$ $a$ $\hat\theta$ $\theta_0$ $\hat\theta$

आइए रेखीय संयोजनों के अपने विचार को अधिक बारीकी से देखें।

\hat{θ} = a \bar{X} + (1 - a) c S

$\hat\theta = a \bar X + (1-a)cS$

जैसा कि आप इंगित करते हैं, एक उचित अनुमानक है क्योंकि यह पर्याप्त (यद्यपि पूर्ण नहीं) आंकड़ों पर आधारित है। स्पष्ट रूप से, यह अनुमानक निष्पक्ष है, इसलिए MSE की गणना करने के लिए हमें केवल विचरण की गणना करने की आवश्यकता है। $\hat\theta$

\begin{aligned} M S E (\hat{θ}) & = a^{2} V a r (\bar{X}) + (1 - a)^{2} c^{2} V a r (S) \\ = \frac{a^{2} θ^{2}}{n} + (1 - a)^{2} c^{2} [E (S^{2}) - E (S)^{2}] \\ = \frac{a^{2} θ^{2}}{n} + (1 - a)^{2} c^{2} [θ^{2} - θ^{2} / c^{2}] \\ = θ^{2} [\frac{a^{2}}{n} + (1 - a)^{2} (c^{2} - 1)] \end{aligned}

$\begin{align*} MSE(\hat\theta) &= a^2 Var(\bar{X}) + (1-a)^2 c^2 Var(S) \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[E(S^2) - E(S)^2\right] \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[\theta^2 - \theta^2/c^2\right] \\ &= \theta^2\left[\frac{a^2}{n} + (1-a)^2(c^2 - 1)\right] \end{align*}$

फर्क करके, हम "इष्टतम पा सकते हैं एक दिया नमूना आकार के लिए" । $a$ $n$

a_{o p t} (n) = \frac{c^{2} - 1}{1 / n + c^{2} - 1}

$a_{opt}(n) = \frac{c^2 - 1}{1/n + c^2 - 1}$ जहां

c^{2} = \frac{n - 1}{2} {(\frac{Γ ((n - 1) / 2)}{Γ (n / 2)})}^{2}

$c^2 = \frac{n-1}{2}\left(\frac{\Gamma((n-1)/2)}{\Gamma(n/2)}\right)^2$

इस इष्टतम पसंद का एक भूखंड नीचे दी गई है। $a$

यह ध्यान रखना कुछ दिलचस्प है कि , हमारे पास (वोल्फरामाल्फा के माध्यम से पुष्टि) है। $n\rightarrow \infty$ $a_{opt}\rightarrow \frac{1}{3}$

हालांकि इस बात की कोई गारंटी नहीं है कि यह UMVUE है, यह अनुमानक पर्याप्त आँकड़ों के सभी निष्पक्ष रेखीय संयोजनों का न्यूनतम विचरण अनुमानक है।

— knrumsey
स्रोत

अद्यतन के लिए धन्यवाद। मैंने पाठ्यपुस्तक के रूप में C & B का पालन नहीं किया, केवल अभ्यास पर ध्यान दिया।

— जिद्दी

@StubbornAtom मैंने यह प्रदर्शित करते हुए एक प्रमाण जोड़ा कि क्यों UMVUE नहीं हो सकता (उधार लिया गया C & B पृष्ठ 344 से भारी)। एक नज़र डालें और मुझे बताएं कि क्या यह बिल्कुल मदद करता है।

\hat{θ}

$\hat\theta$

— नाइट