एक सुसंगत अनुमानक और एक निष्पक्ष अनुमानक के बीच अंतर क्या है?

125

मैं वास्तव में आश्चर्यचकित हूं कि किसी ने भी यह नहीं पूछा है कि पहले से ही ...

जब अनुमानकों की चर्चा करते हैं, तो अक्सर उपयोग किए जाने वाले दो शब्द "सुसंगत" और "निष्पक्ष" होते हैं। मेरा प्रश्न सरल है: क्या अंतर है?

इन शर्तों की सटीक तकनीकी परिभाषाएं काफी जटिल हैं, और उनका जो अर्थ है उसके लिए सहज ज्ञान प्राप्त करना मुश्किल है । मैं एक अच्छे अनुमानक, और एक बुरे अनुमानक की कल्पना कर सकता हूं, लेकिन मुझे यह देखने में परेशानी हो रही है कि कोई भी अनुमानक एक स्थिति को कैसे संतुष्ट कर सकता है और दूसरे को नहीं।

unbiased-estimator estimators consistency

— MathematicalOrchid
स्रोत

क्या आपने विकिपीडिया लेख में सुसंगत आकलनकर्ताओं पर पहले आंकड़े को देखा है , जो विशेष रूप से इस अंतर को बताते हैं?

— whuber

मैंने निरंतरता और पूर्वाग्रह दोनों के लिए लेख पढ़ा है, लेकिन मैं अभी भी वास्तव में अंतर को नहीं समझता हूं। (वह आंकड़ा जिसका आप दावा करते हैं कि अनुमान लगाने वाला सुसंगत है लेकिन पक्षपाती है, लेकिन इसकी व्याख्या क्यों नहीं करता है ।)

— गणितऑर्किड

स्पष्टीकरण के किस भाग के साथ आपको मदद की ज़रूरत है? कैप्शन बताता है कि अनुक्रम में प्रत्येक अनुमानक पक्षपाती है और यह भी बताता है कि अनुक्रम सुसंगत क्यों है। क्या आपको इस स्पष्टीकरण की आवश्यकता है कि इन अनुमानों में पूर्वाग्रह आकृति से कैसे स्पष्ट है?

— whuber

+1 इन उत्तरों में से एक के बाद टिप्पणी धागा बहुत ही रोशन करने वाला है, दोनों के लिए यह विषय के बारे में क्या बताता है और एक दिलचस्प उदाहरण के रूप में कि कैसे एक ऑनलाइन समुदाय गलतफहमी को उजागर करने और सुधारने में काम कर सकता है।

— whuber

संबंधित: सांख्यिकी.स्टैकएक्सचेंज.com

— kjetil b halvorsen

जवाबों:

126

बहुत अधिक तकनीकी भाषा का उपयोग किए बिना दो शब्दों को परिभाषित करने के लिए:

एक अनुमानक संगत है यदि नमूना आकार में वृद्धि होती है, तो अनुमान (अनुमानी द्वारा उत्पादित) पैरामीटर के सही मूल्य का "अभिसरण" किया जाता है। थोड़ा और सटीक होने के लिए - स्थिरता का मतलब है कि, जैसा कि नमूना आकार बढ़ता है, अनुमानक का नमूना वितरण वास्तविक पैरामीटर मान पर तेजी से केंद्रित हो जाता है।
एक अनुमानक निष्पक्ष है, अगर औसतन, यह वास्तविक पैरामीटर मान को हिट करता है। यही है, अनुमानक के नमूना वितरण का मतलब सही पैरामीटर मान के बराबर है।
दो समान नहीं हैं: निष्पक्षता अनुमानकर्ता के नमूना वितरण के अपेक्षित मूल्य के बारे में एक बयान है। निरंतरता "जहां नमूना का आकार बढ़ता है, जहां अनुमानक का नमूना वितरण चल रहा है" के बारे में एक बयान है।

एक स्थिति के लिए निश्चित रूप से संतुष्ट होना संभव है, लेकिन दूसरे के लिए नहीं - मैं दो उदाहरण दूंगा। दोनों उदाहरणों के लिए एक को जनसंख्या से एक नमूना । $X_1, ..., X_n$ $N(\mu, \sigma^2)$

निष्पक्ष लेकिन सुसंगत नहीं: मान लीजिए कि आप अनुमान लगा रहे हैं । तब बाद से का निष्पक्ष आकलनकर्ता है । लेकिन, संगत नहीं है क्योंकि इसका वितरण नमूना आकार में वृद्धि के रूप में आसपास अधिक केंद्रित नहीं होता है - यह हमेशा ! $\mu$ $X_1$ $\mu$ $E(X_1) = \mu$ $X_1$ $\mu$ $N(\mu, \sigma^2)$
संगत लेकिन निष्पक्ष नहीं: मान लीजिए कि आप अनुमान लगा रहे हैं । अधिकतम संभावना अनुमानक जहां नमूना मतलब है। यह एक तथ्य है कि उसके बाद, जो यहां जानकारी का उपयोग करके प्राप्त किया जा सकता है । इसलिए किसी भी परिमित नमूना आकार के लिए पक्षपाती है। हम यह भी आसानी से प्राप्त कर सकते हैं कि इन तथ्यों से हम अनौपचारिक रूप से यह देख सकते हैं कि का वितरण $\sigma^2$
${\hat{σ}}^{2} = \frac{1}{n} \sum_{i = 1}^{n} (X_{i} - \bar{X})^{2}$ $\hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} (X_i - \overline{X})^2$ $\overline{X}$ $E ({\hat{σ}}^{2}) = \frac{n - 1}{n} σ^{2}$ $E(\hat{\sigma}^2) = \frac{n-1}{n} \sigma^2$ $\hat{\sigma}^2$ $\hat{\sigma}^2$ $v a r ({\hat{σ}}^{2}) = \frac{2 σ^{4} (n - 1)}{n^{2}}$ ${\rm var}(\hat{\sigma}^2) = \frac{ 2\sigma^4(n-1)}{n^2}$ $\hat{\sigma}^2$ पर अधिक से अधिक ध्यान केंद्रित किया जा रहा है नमूने का आकार बढ़ जाती है के रूप में के बाद से मतलब करने के लिए converging है और विचरण करने के लिए converging है । ( नोट: यह एक संगति का प्रमाण प्रस्तुत करता है, उसी तर्क का उपयोग करते हुए, जैसा कि यहां उत्तर में उपयोग किया गया है ) $\sigma^2$ $\sigma^2$ $0$

— मैक्रो
स्रोत

(+1) सभी MLE हालांकि संगत नहीं हैं: सामान्य परिणाम यह है कि MLE के अनुक्रम में एक सुसंगत परवर्ती मौजूद है। उचित स्थिरता के लिए कुछ अतिरिक्त आवश्यकताओं, जैसे पहचान, की आवश्यकता होती है। MLE के उदाहरण जो सुसंगत नहीं हैं, वे कुछ त्रुटियों-में-चर मॉडल में पाए जाते हैं (जहां "अधिकतम" एक काठी-बिंदु बन जाता है)।

— मॉन्सट

खैर, मैंने जिस MLE का उल्लेख किया है, वह शायद अच्छे उदाहरण नहीं हैं, क्योंकि संभावना फ़ंक्शन अनबाउंड है और अधिकतम मौजूद नहीं है। वे अच्छे उदाहरण हैं कि कैसे एमएल दृष्टिकोण विफल हो सकता है :) मुझे खेद है कि मैं अभी एक प्रासंगिक लिंक नहीं दे सकता हूं - मैं छुट्टी पर हूं।

— 6

साभार @ MånsT लिंक में आवश्यक शर्तों को उल्लिखित किया गया था लेकिन यह शब्दांकन से स्पष्ट नहीं था।

— मैक्रो

σ^{2}

$\sigma^2$

E ({\hat{σ}}^{2}) \to σ^{2}

$E(\hat{\sigma}^2) \rightarrow \sigma^2$

v a r ({\hat{σ}}^{2}) \to 0

${\rm var}(\hat{\sigma}^2) \rightarrow 0$

{\hat{σ}}^{2}

$\hat{\sigma}^2$

एक अनुमानक की संगति का मतलब है कि जैसे-जैसे नमूना आकार बड़ा होता जाता है, अनुमान पैरामीटर के सही मूल्य के करीब और करीब आता जाता है। निष्पक्षता एक परिमित नमूना गुण है जो नमूना आकार को बढ़ाने से प्रभावित नहीं होता है। एक अनुमान निष्पक्ष है यदि इसका अपेक्षित मूल्य सही पैरामीटर मान के बराबर है। यह सभी नमूना आकारों के लिए सही होगा और सटीक है जबकि स्थिरता स्पर्शोन्मुख है और केवल लगभग बराबर है और सटीक नहीं है।

$n$

@कार्डिनल और @ मैक्रो के साथ टिप्पणियों में चर्चा के बाद अपडेट करें: जैसा कि नीचे वर्णित है, जाहिरा तौर पर पैथोलॉजिकल मामले हैं जहां अनुमान के लिए विचरण करने के लिए 0 पर नहीं जाना पड़ता है दृढ़ता से सुसंगत होने के लिए और पूर्वाग्रह को भी नहीं जाना पड़ता है 0 या तो।

— माइकल चेरिक
स्रोत

0

$0$

(X_{1}, . . ., X_{n})

$(X_1,...,X_n)$

Normal (μ, 1)

$\mbox{Normal}(\mu,1)$

μ \neq 0

$\mu\neq 0$

1 / \bar{X}

$1/{\bar X}$

1 / μ

$1/\mu$

var (1 / \bar{X}) = \infty

$\mbox{var}(1/{\bar X})=\infty$

n

$n$

n

$n$

माइकल, आपके उत्तर का शरीर बहुत अच्छा है; मुझे लगता है कि भ्रम आपकी पहली टिप्पणी से शुरू हुआ था, जो दो बयानों के साथ होता है जो स्पष्ट रूप से गलत हैं और भ्रम के संभावित बिंदु हैं। (वास्तव में, कई छात्र परिचयात्मक स्नातक सांख्यिकी वर्ग से दूर चले जाते हैं, क्योंकि अभिसरण के विभिन्न तरीकों और उनके अर्थ के बीच खराब भ्रम के कारण इन गलत धारणाओं के साथ आपकी गलत टिप्पणी कठोर पक्ष पर थोड़ी हो सकती है।)

— कार्डिनल

दुर्भाग्य से, आपकी पहली टिप्पणी में पहले दो वाक्य और दूसरी पूरी टिप्पणी झूठी है। लेकिन, मुझे डर है कि आपको इन तथ्यों को समझाने की कोशिश करना फलदायी नहीं होगा।

— कार्डिनल

{\hat{θ}}_{n} = {\bar{X}}_{n} + Z_{n}

$\hat\theta_n = \bar X_n + Z_n$

Z_{n}

$Z_n$

{\bar{X}}_{n}

$\bar X_n$

Z_{n} = \pm a n

$Z_n = \pm a n$

1 / n^{2}

$1/n^2$

a > 0

$a > 0$

{\hat{θ}}_{n}

$\hat\theta_n$

a^{2}

$a^2$

{\hat{θ}}_{n} \to μ

$\hat\theta_n \to \mu$

-5

संगति: पहले बहुत अच्छी तरह से समझाया गया [जैसा कि नमूना आकार बढ़ता है, अनुमान (अनुमानकर्ता द्वारा उत्पादित) पैरामीटर के सही मूल्य के लिए "अभिसरण" किया जाता है]

निष्पक्षता: यह 1-5 एमएलआर मान्यताओं को संतुष्ट करता है जिसे गॉस-मार्कोव प्रमेय के रूप में जाना जाता है

रैखिकता,
यादृच्छिक नमूना
शून्य सशर्त माध्य त्रुटि अपेक्षा
कोई पूर्ण संपार्श्विकता नहीं
homoskedasticity

तब अनुमानक को BLUE (सर्वश्रेष्ठ रैखिक निष्पक्ष अनुमानक) कहा जाता है

— निकोलिना लैंगुरा
स्रोत