क्या निष्पक्ष अधिकतम संभावना अनुमानक हमेशा सबसे अच्छा निष्पक्ष अनुमानक होता है?

22

मुझे नियमित समस्याओं के लिए पता है, अगर हमारे पास सबसे अच्छा नियमित निष्पक्ष अनुमानक है, तो यह अधिकतम संभावना अनुमानक (एमएलई) होना चाहिए। लेकिन आम तौर पर, अगर हमारे पास एक निष्पक्ष MLE है, तो क्या यह भी सबसे अच्छा निष्पक्ष अनुमानक होगा (या शायद मुझे इसे UMVUE कहना चाहिए, जब तक कि इसका सबसे छोटा संस्करण हो)?

mathematical-statistics maximum-likelihood unbiased-estimator

— गैरी चेंग
स्रोत

3

दिलचस्प सवाल। MLE पर्याप्त आँकड़ा का एक कार्य है, और UMVUE पूर्ण और पर्याप्त आँकड़ों पर कंडीशनिंग द्वारा प्राप्त किया जा सकता है। इसलिए यदि MLE निष्पक्ष है (और पर्याप्त आंकड़े का एक कार्य), तो इसके लिए एकमात्र तरीका न्यूनतम विचरण नहीं करना है यदि पर्याप्त आंकड़े पूर्ण नहीं है। मैंने एक उदाहरण खोजने की कोशिश की, लेकिन असफल रहा।

— ग्रीनपार्क

2

और यहां पर्याप्त और पूर्ण आंकड़ों के बारे में कुछ संक्षिप्त जानकारी है।

— रिचर्ड हार्डी

10

असली मुद्दा यह है कि शायद ही कभी MLE निष्पक्ष है और अधिक है: अगर की निष्पक्ष आकलनकर्ता है और की MLE , की MLE है लेकिन अधिकांश के लिए पक्षपाती है bijective transforms ।

θ

$\theta$

θ

$\theta$

θ

$\theta$

f (\hat{θ})

$f(\hat\theta)$

f (θ)

$f(\theta)$

f

$f$

— शीआन

1

क्या यह प्रासंगिक है? "जनसंख्या के लगभग निष्पक्ष अनुमानक का अर्थ है" व्यास दुबे पं। रविशंकर शुक्ल विश्वविद्यालय, रायपुर, भारत

2

ग्यारहवीं टिप्पणी के लिए +1। सर्वश्रेष्ठ अनुमानक का अर्थ है न्यूनतम विचरण, निष्पक्ष का अर्थ कुछ और है। इसलिए मुझे यकीन नहीं है कि आप यह साबित करने की कोशिश करना शुरू कर सकते हैं, क्योंकि एक का दूसरे के साथ बहुत कम संबंध है। लेकिन इससे पहले कि मैं अपनी खुद की व्युत्पत्ति शुरू करूँ, मैं (a) प्रमाण के कुछ गंभीर प्रयास देखना चाहूँगा। मैं कहूंगा कि पहले बयान का प्रमाण (MLE कुछ मामलों के लिए इष्टतम है) तुच्छ नहीं है।

— करूब

13

मेरी राय में, यह प्रश्न वास्तव में सुसंगत नहीं है कि एक संभावना और निष्पक्षता का अधिकतमकरण साथ नहीं मिलता है, यदि केवल इसलिए कि अधिकतम संभावना अनुमानक समतुल्य हैं , अर्थात अनुमानक का परिवर्तन पैरामीटर के परिवर्तन का अनुमानक है, जबकि निष्पक्षता गैर-रैखिक परिवर्तनों के तहत नहीं खड़ी होती है। इसलिए, अधिकतम संभावना अनुमानक लगभग कभी भी निष्पक्ष नहीं होते हैं, यदि "लगभग" सभी संभावित पैराट्रिसिएशन की सीमा पर माना जाता है।

हालांकि, वहाँ प्रश्न का अधिक प्रत्यक्ष जवाब है: जब सामान्य विचरण के अनुमान को देखते हुए , की UMVUE है $\sigma^2$ $\sigma^2$ जबकि की MLEहै

{\hat{σ}}_{n}^{2} = \frac{1}{n - 1} Σ_{मैं = 1}^{n} {{एक्स}_{मैं} - {\bar{एक्स}}_{n}}^{2}

$\hat{\sigma}^2_n = \frac{1}{n-1} \sum_{i=1}^n \{x_i-\bar{x}_n\}^2$

σ^{2}

$\sigma^2$

Ergo, वे भिन्न होते हैं। इसका अर्थ यह है कि

{\overset{ˇ}{σ}}_{n}^{2} = \frac{1}{n} Σ_{मैं = 1}^{n} {{एक्स}_{मैं} - {\bar{एक्स}}_{n}}^{2}

$\check{\sigma}^2_n = \frac{1}{n} \sum_{i=1}^n \{x_i-\bar{x}_n\}^2$

यदि हमारे पास सबसे अच्छा नियमित निष्पक्ष आकलनकर्ता है, तो यह अधिकतम संभावना अनुमानक (MLE) होना चाहिए।

सामान्य रूप से धारण नहीं करता है।

आगे ध्यान दें कि, जब एक पैरामीटर निष्पक्ष अनुमानक मौजूद होते हैं , तब भी जरूरी नहीं कि एक सर्वोत्तम निष्पक्ष न्यूनतम भिन्नता अनुमानक (UNMVUE) हो। $\theta$

— शीआन
स्रोत

तो क्या हम कह सकते हैं कि एक निष्पक्ष MLE यह एक (U) MVUE है, लेकिन हर (U) MVUE MLE नहीं है?

— सेक्स्टस एम्पिरिकस

2

नहीं, हमारे पास यह मानने का कोई कारण नहीं है कि यह सामान्य रूप से सच है।

— शीआन

13

लेकिन आम तौर पर, अगर हमारे पास निष्पक्ष MLE है, तो क्या यह भी सबसे अच्छा निष्पक्ष अनुमानक होगा?

यदि पूर्ण रूप से पर्याप्त आँकड़े हैं, तो हाँ ।

प्रमाण:

लेहमैन-शेफ़े प्रमेय : कोई भी निष्पक्ष अनुमानक जो पूर्ण पर्याप्त आँकड़ों का एक कार्य है, वह सबसे अच्छा (UMVUE) है।
MLE किसी भी पर्याप्त आँकड़े का एक कार्य है। यहां 4.2.3 देखें ;

इस प्रकार एक निष्पक्ष MLE आवश्यक रूप से सबसे अच्छा है जब तक एक पूर्ण पर्याप्त आँकड़े मौजूद हैं।

लेकिन वास्तव में इस परिणाम में आवेदन का कोई मामला नहीं है क्योंकि एक पूर्ण पर्याप्त आँकड़े लगभग कभी मौजूद नहीं हैं। इसका कारण यह है कि पूर्ण पर्याप्त आँकड़े मौजूद हैं (अनिवार्य रूप से) केवल घातीय परिवारों के लिए जहां MLE सबसे अधिक बार पक्षपाती है (गौसियों के स्थान पैरामीटर को छोड़कर)।

तो असली जवाब वास्तव में नहीं है ।

$p_\theta(x)=p(x-\theta$ $p$ $\forall t\in\mathbb{R} \quad p(-t)=p(t)$ $n$

MLE निष्पक्ष है
यह एक और निष्पक्ष अनुमानक द्वारा वर्चस्व रखता है जिसे पिटमैन के अश्वारोही अनुमानक के रूप में जाना जाता है

$p$

— बेनोइट सांचेज़
स्रोत

यह सबसे अधिक upvotes क्यों नहीं है? मुझे लगा कि यह जवाब जियान की तुलना में बेहतर था।

— लाल फ्लोयड

0

MLE का स्पर्शोन्मुख विचरण UMVUE होता है यानी cramer rao लोअर बाउंड प्राप्त करता है लेकिन परिमित विचरण UMVUE नहीं हो सकता है यह अनुमान लगाने के लिए कि UMVUE पर्याप्त और पूर्ण आँकड़े या उस आँकड़ों का कोई भी कार्य होना चाहिए।

— सेहत सिमसेक
स्रोत

0

संक्षेप में, एक आकलनकर्ता UMVUE है, अगर यह निष्पक्ष है और एक पूर्ण और पर्याप्त सांख्यिकीय का कार्य है। (देखें राव-ब्लैकवेल और शेफ़ी)

— creutzml
स्रोत

इसका मतलब है कि यह घातीय परिवारों तक ही सीमित है।

— शीआन