भारित विचरण में पूर्वाग्रह सुधार

अनवीटेड विचरण में बायस मौजूद है, जब उसी डेटा से माध्य का अनुमान लगाया गया था:

वार (एक्स) : = \frac{1}{n} \underset{मैं}{Σ} ({एक्स}_{मैं} - μ)^{2}

$\text{Var}(X):=\frac{1}{n}\sum_i(x_i - \mu)^2$

Var (X) := \frac{1}{n - 1} \sum_{i} (x_{i} - E [X])^{2}

$\text{Var}(X):=\frac{1}{n-1}\sum_i(x_i - E[X])^2$

मैं भारित माध्य और विचरण में देख रहा हूं, और सोच रहा हूं कि भारित विचरण के लिए उपयुक्त पूर्वाग्रह सुधार क्या है। उपयोग करना:

मतलब (एक्स) : = \frac{1}{\underset{मैं}{Σ} ω_{मैं}} \underset{मैं}{Σ} ω_{मैं} {एक्स}_{मैं}

$\text{mean}(X):=\frac{1}{\sum_i \omega_i}\sum_i \omega_i x_i$

"भोली", गैर-सुधारा हुआ विचरण जो मैं उपयोग कर रहा हूं, वह यह है:

वार (एक्स) : = \frac{1}{\underset{मैं}{Σ} ω_{मैं}} \underset{मैं}{Σ} ω_{मैं} ({एक्स}_{मैं} - मतलब (एक्स))^{2}

$\text{Var}(X):=\frac{1}{\sum_i \omega_i}\sum_i\omega_i(x_i - \text{mean}(X))^2$

इसलिए मैं सोच रहा हूं कि क्या पूर्वाग्रह को सही करने का सही तरीका है

वार (एक्स) : = \frac{1}{\underset{मैं}{Σ} ω_{मैं} - 1} \underset{मैं}{Σ} ω_{मैं} ({एक्स}_{मैं} - मतलब (एक्स))^{2}

$\text{Var}(X):=\frac{1}{\sum_i \omega_i - 1}\sum_i\omega_i(x_i - \text{mean}(X))^2$

या B)

वार (एक्स) : = \frac{n}{n - 1} \frac{1}{\underset{मैं}{Σ} ω_{मैं}} \underset{मैं}{Σ} ω_{मैं} ({एक्स}_{मैं} - मतलब (एक्स))^{2}

$\text{Var}(X):=\frac{n}{n-1}\frac{1}{\sum_i \omega_i}\sum_i\omega_i(x_i - \text{mean}(X))^2$

या C)

वार (एक्स) : = \frac{\underset{मैं}{Σ} ω_{मैं}}{(\underset{मैं}{Σ} ω_{मैं})^{2} - \underset{मैं}{Σ} ω_{मैं}^{2}} \underset{मैं}{Σ} ω_{मैं} ({एक्स}_{मैं} - मतलब (एक्स))^{2}

$\text{Var}(X):=\frac{\sum_i \omega_i}{(\sum_i \omega_i)^2-\sum_i \omega_i^ 2}\sum_i\omega_i(x_i - \text{mean}(X))^2$

क) वजन कम होने पर मुझे इससे कोई मतलब नहीं है। सामान्यीकरण मूल्य 0 या नकारात्मक भी हो सकता है। लेकिन कैसे बी) ( टिप्पणियों की संख्या है) - क्या यह सही दृष्टिकोण है? क्या आपके पास कुछ संदर्भ हैं जो यह दर्शाता है? मैं "अपडेटिंग माध्य और विचरण अनुमान: एक बेहतर तरीका", डीएचडी वेस्ट, 1979 का उपयोग करता हूं। तीसरा, C) इस प्रश्न के उत्तर की मेरी व्याख्या है: /mathpro/22203/unbiased-estimate-of-the-variance-of-an-unnormalised-weighted-mean $n$

सी के लिए) मुझे अभी पता चला है कि भाजक तरह दिखता है । क्या यहां कुछ सामान्य संबंध हैं? मुझे लगता है कि यह पूरी तरह से संरेखित नहीं करता है; और जाहिर है कि कनेक्शन है कि हम विचरण की गणना करने की कोशिश कर रहे हैं ... $\text{Var}(\Omega)$

इन तीनों को सभी को सेट करने की पवित्रता जाँच "जीवित" लगती है । तो मुझे किस परिसर के तहत उपयोग करना चाहिए? '' अपडेट: '' व्हीबर ने सुझाव दिया है कि स्वच्छता जांच को भी और सभी शेष छोटे। ऐसा लगता है कि ए और बी को नियंत्रित करता है। $\omega_i=1$ $\omega_1=\omega_2=.5$ $\omega_i=\epsilon$

— Anony-मूस
स्रोत

जब आप उन मामलों पर विचार करते हैं जहां दो सबसे बड़े वजन बराबर होते हैं और बाकी सभी गायब हो जाते हैं, तो दोनों (ए) और (बी) विवाद से गिर जाते हैं (क्योंकि वे लिए ज्ञात परिणामों से असहमत हैं )। (सी) एक सन्निकटन प्रतीत होता है; मुझे संदेह है कि सही कारक वज़न का अधिक जटिल कार्य है।

n = 2

$n=2$

— whuber

@ नीचे दिए गए सुझाव से पता चलता है कि यह सी है। क्या आपके पास अधिक विस्तृत चिंताएं हैं?

— ऐनी-मूस

समाधान (ए) काम करता है, मैंने इसे अतीत में लागू किया है और अनुभवजन्य परीक्षणों से पुष्टि कर सकता है कि यह सही परिणाम देता है। हालाँकि, आपको वेट के लिए पूर्णांक मान और> 0.

— गैबरस

धन्यवाद! इसने मुझे सही रास्ते पर लाने में बहुत मदद की जब वजन एक घातीय चलती औसत के लिए होता है! यह पता चला है कि विचरण की गणना करने का भोलापन तरीका वास्तव में छोटे (1-1 / n) सुधार के अतिरिक्त 2 के एक स्थिर कारक द्वारा इसे हटा देता है, जो सरल चलती औसत गणना के अनुरूप है। यह एक विशेष रूप से पागल विशेष मामला है!

— साओलोफ

जवाबों:

मैं गणित के माध्यम से चला गया और संस्करण C के साथ समाप्त हुआ:

वी ए आर (एक्स) = \frac{(\underset{मैं}{Σ} ω_{मैं})^{2}}{(\underset{मैं}{Σ} ω_{मैं})^{2} - \underset{मैं}{Σ} ω_{मैं}^{2}} \bar{वी}

$Var(X) = \frac{(\sum_i \omega_i)^2}{(\sum_i \omega_i)^2 - \sum_i \omega_i^2}\overline V$ जहां गैर सही विचरण का अनुमान है। जब सभी समान होते हैं, तो सूत्र मामले से सहमत होता है । मैं नीचे दिए गए प्रमाण को विस्तार से बताता हूं:

\bar{V}

$\overline V$

ω_{i}

$\omega_i$

सेटिंग , हमारे पास है $\lambda_i = \frac{\omega_i}{\sum_i \omega_i}$

\bar{वी} = \underset{मैं}{Σ} λ_{मैं} ({एक्स}_{मैं} - \underset{j}{Σ} λ_{j} {एक्स}_{j})^{2}

$\overline V = \sum_i \lambda_i (x_i - \sum_j \lambda_j x_j)^2$

आंतरिक शब्द का विस्तार देता है:

({एक्स}_{मैं} - \underset{j}{Σ} λ_{j} {एक्स}_{j})^{2} = {एक्स}_{मैं}^{2} + \underset{j, कश्मीर}{Σ} λ_{j} λ_{कश्मीर} {एक्स}_{j} {एक्स}_{कश्मीर} - 2 \underset{j}{Σ} λ_{j} {एक्स}_{मैं} {एक्स}_{j}

$(x_i - \sum_j \lambda_j x_j)^2 = x_i^2 + \sum_{j, k} \lambda_j \lambda_k x_j x_k - 2 \sum_j \lambda_j x_i x_j$

यदि हम अपेक्षा लेते हैं, तो हमारे पास यह है कि , शब्द प्रत्येक शब्द में मौजूद है, यह रद्द कर देता है और हम प्राप्त: $E[x_i x_j] = Var(X)1_{i = j} + E[X]^2$ $E[X]$

ए [\bar{वी}] = वी ए आर (एक्स) \underset{मैं}{Σ} λ_{मैं} (1 + \underset{j}{Σ} λ_{j}^{2} - 2 λ_{मैं})

$E[\overline V] = Var(X) \sum_i \lambda_i (1 + \sum_j \lambda_j^2- 2 \lambda_i )$ जो कि यह वेरिएंट C पाने के लिए संबंध में की अभिव्यक्ति में प्लग करने के लिए रहता है ।

ए [\bar{वी}] = वी ए आर (एक्स) (1 - \underset{j}{Σ} λ_{j}^{2})

$E[\overline V] = Var(X) (1 - \sum_j \lambda_j^2)$

λ_{i}

$\lambda_i$

ω_{i}

$\omega_i$

— ThePawn
स्रोत

यह ऊपर वैरिएंट C है, है ना?

— ऐनी-मूस

Oups, हाँ, यह वेरिएंट C. है

— ThePawn

मैंने इस समाधान को आनुभविक रूप से जाँच लिया है और यह काम नहीं करता है ... केवल एक ही ऐसा समाधान है (A) जिसे मैंने पूर्व में भी अपने द्वारा कार्यान्वित किया है, लेकिन यह केवल पूर्णांक संख्याओं और> = 0

— विस्तृत

यह समीकरण विकिपीडिया, मतलाब, आर, और अन्य जो इस समीकरण को लागू कर रहे हैं, के अनुसार गलत है। यहाँ अंश को चुकता किया गया है, लेकिन यह ऐसा नहीं होना चाहिए, यह ओपी द्वारा प्रस्तावित (सी) जैसा होना चाहिए। देखें en.wikipedia.org/wiki/...

— gaborous

@rajatkhanduja मैं प्रमाण के बारे में बात नहीं कर रहा था लेकिन अंतिम व्युत्पन्न समीकरण (इस उत्तर में शीर्ष एक)। लेकिन वास्तव में यह सही है, अंश अभी चुकता है क्योंकि हम V से गुणा करते हैं, इस प्रकार अंश समाप्त हो जाता है। वैसे भी, यह अनुमानक पक्षपाती है क्योंकि मैं नीचे अपने उत्तर में समझाता हूं क्योंकि यह "विश्वसनीयता" -टाइट वेट पर निर्भर करता है।

— जाबोर

A और C दोनों सही हैं, लेकिन जो आप उपयोग करेंगे वह इस बात पर निर्भर करता है कि आप किस तरह के वज़न का उपयोग करते हैं:

"रिपीट" -टाइप वेट (प्रत्येक अवलोकन के लिए आवृत्तियों की संख्या की गणना करते हुए) का उपयोग करने के लिए आपको एक की आवश्यकता होती है, और यह निष्पक्ष नहीं होता है ।
C को आपको "विश्वसनीयता" -टाइप वेट (या तो सामान्य वज़न या फिर प्रत्येक अवलोकन के लिए संस्करण) का उपयोग करने की आवश्यकता है , और पक्षपाती है । यह निष्पक्ष नहीं हो सकता।

C का आवश्यक रूप से पक्षपाती होने का कारण यह है क्योंकि यदि आप "रिपीट" -टाइप वेट का उपयोग नहीं करते हैं, तो आप टिप्पणियों (नमूना आकार) की कुल संख्या की गणना करने की क्षमता खो देते हैं, और इस प्रकार आप एक सुधार कारक का उपयोग नहीं कर सकते।

अधिक जानकारी के लिए, हाल ही में अपडेट किए गए विकिपीडिया लेख की जाँच करें: http://en.wikipedia.org/wiki/Weighted_arithmetic_mean#Weighted_sample_variance

— gaborous
स्रोत