बैसेशियन बूटस्ट्रैपिंग बूटस्ट्रैपिंग वैचारिक रूप से?

मुझे यह समझने में परेशानी हो रही है कि बायेसियन बूटस्ट्रैपिंग प्रक्रिया क्या है, और यह आपके सामान्य बूटस्ट्रैपिंग से कैसे भिन्न होगा। और अगर कोई सहज / वैचारिक समीक्षा और दोनों की तुलना कर सकता है, तो यह बहुत अच्छा होगा।

एक उदाहरण लेते हैं।

मान लें कि हमारे पास एक डेटासेट X है जो [1,2,5,7,3] है।

यदि हम X के आकार के बराबर नमूना आकार बनाने के लिए कई बार प्रतिस्थापन के साथ नमूना करते हैं (तो, [7,7,2,5,7], [3,5,2,2,7], आदि), और फिर हम प्रत्येक के साधनों की गणना करें, क्या नमूना के बूटस्ट्रैप वितरण का मतलब है?

उस का बाइसियन बूटस्ट्रैप वितरण क्या होगा?

और एक ही तरीके से अन्य मापदंडों (विचरण, आदि) के बायेसियन बूटस्ट्रैप वितरण कैसे किया जाता है?

bayesian sampling bootstrap

— SpicyClubSauce
स्रोत

देखें sumsar.net/blog/2015/04/... और projecteuclid.org/euclid.aos/1176345338 );, शायद @ Rasmus-बाथ आप जवाब कर सकते हैं

— टिम

(अक्सर) बूटस्ट्रैप डेटा को अज्ञात जनसंख्या वितरण के लिए एक उचित सन्निकटन के रूप में लेता है। इसलिए, सांख्यिकी के वितरण (डेटा का एक फंक्शन) को बार-बार बदलने और प्रत्येक नमूने के लिए स्टेटिस्टिक की गणना करने के साथ टिप्पणियों को फिर से नमूना करके अनुमानित किया जा सकता है।

चलो मूल डेटा को निरूपित करते हैं। (दिए गए उदाहरण में, ) एक बूटस्ट्रैप नमूने को दर्शाते हैं। इस तरह के नमूने की संभावना है कि एक या अधिक बार दोहराए गए कुछ अवलोकन होंगे और अन्य अवलोकन अनुपस्थित होंगे। बूटस्ट्रैप नमूने का अर्थ द्वारा दिया गया है $y = (y_1,\ldots,y_n)$ $n=5$ $y^b = (y_1^b, \ldots, y_n^b)$

m_{b} = \frac{1}{n} \sum_{i = 1}^{n} y_{i}^{b} .

$m_b = \frac{1}{n} \sum_{i=1}^n y_i^b.$ यह का वितरण है

बूटस्ट्रैप अनुकरण कि अज्ञात आबादी से नमूना वितरण अनुमान लगाने के लिए प्रयोग किया जाता है की एक संख्या से अधिक।

m_{b}

$m_b$

बार-बार बूटस्ट्रैप और बेयसियन बूटस्ट्रैप के बीच संबंध को समझने के लिए, यह देखने के लिए शिक्षाप्रद है कि एक अलग दृष्टिकोण से गणना कैसे करें । $m_b$

प्रत्येक बूटस्ट्रैप नमूना , प्रत्येक अवलोकन 0 से समय तक कहीं भी होता है । चलो समय की संख्या को निरूपित में होता है , और । इस प्रकार $y^b$ $y_i$ $n$ $h_i^b$ $y_i$ $y^b$ $h^b = (h_1^b, \ldots, h_n^b)$ $h_i^b \in \{0, 1, \ldots, n-1,n\}$ और । को देखते हुए , हम nonnegative वेट के एक संग्रह का निर्माण कर सकते हैं जो एक राशि: , जहाँ । इस अंकन के साथ हम के रूप में बूटस्ट्रैप नमूना की औसत reexpress कर सकते हैं $\sum_{i=1}^n h_i^b = n$ $h^b$ $w^b = h^b/n$ $w_i^b = h_i^b/n$

m_{b} = \sum_{i = 1}^{n} w_{i}^{b} y_{i} .

$m_b = \sum_{i=1}^n w_i^b\, y_i.$

जिस तरह से बूटस्ट्रैप नमूने के लिए टिप्पणियों को चुना जाता है, वह लिए संयुक्त वितरण को निर्धारित करता है । विशेष रूप से, में एक बहुराष्ट्रीय वितरण है और इस प्रकार $w^b$ $h^b$ इसलिए, हमइसके वितरण से ड्राइंग करकेऔर साथ डॉट उत्पाद कीगणनाकरके गणना कर सकते हैं। इस नए दृष्टिकोण से, ऐसा प्रतीत होता है कि अवलोकननिश्चित हैंजबकि भार भिन्न हो रहे हैं।

(n w^{b}) \sim Multinomial (n, (1 / n)_{i = 1}^{n}) .

$(n\,w^b) \sim \textsf{Multinomial}(n,(1/n)_{i=1}^n).$

m_{b}

$m_b$

w^{b}

$w^b$

y

$y$

बायेसियन निष्कर्ष में, अवलोकन वास्तव में तय किए गए हैं, इसलिए यह नया दृष्टिकोण बायेसियन दृष्टिकोण के लिए जन्मजात लगता है। वास्तव में, बायेसियन बूटस्ट्रैप के अनुसार माध्य की गणना केवल भार के वितरण में भिन्न होती है। (फिर भी, एक वैचारिक दृष्टिकोण से बायेसियन बूटस्ट्रैप लगातार संस्करण से काफी अलग है।) डेटा तय हो गया है और वजन अज्ञात पैरामीटर हैं। हम कुछ में रुचि हो सकती कार्यात्मक : डेटा है कि अज्ञात मापदंडों पर निर्भर करता है की $y$ $w$

μ = \sum_{i = 1}^{n} w_{i} y_{i} .

$\mu = \sum_{i=1}^n w_i\, y_i.$

यहाँ बायेसियन बूटस्ट्रैप के पीछे मॉडल का एक थंबनेल स्केच है: अवलोकनों के लिए नमूना वितरण बहुपद है और वज़न के लिए पूर्व एक सीमित Dirichlet वितरण है जो अपने सभी वजन को सिम्प्लेक्स के कोने पर रखता है। (कुछ लेखक इस मॉडल को बहुराष्ट्रीय संभावना मॉडल के रूप में संदर्भित करते हैं ।)

: इस मॉडल वजन के लिए निम्नलिखित पिछला वितरण का उत्पादन (यह वितरण सिंप्लेक्स के ऊपर सपाट है।) वज़न (लगातार और बायेसियन) के लिए दो वितरण काफी समान हैं: उनके पास समान साधन और समान सहसंयोजक हैं। ड्यूरिलेट वितरण बहुराष्ट्रीय वितरण की तुलना में 'चिकना' है, इसलिए बेयसियन बूटस्ट्रैप को स्मूद बूटस्ट्रैप कहा जा सकता है। हम लगातार बूटस्ट्रैप की व्याख्या बायेसियन बूटस्ट्रैप के एक अनुमान के रूप में कर सकते हैं।

w \sim Dirichlet (1, \dots, 1) .

$w \sim \textsf{Dirichlet}(1,\ldots,1).$

वजन के लिए पिछला वितरण देखते हुए, हम कार्यात्मक का पिछला वितरण का अनुमान लगा सकता दोहराया नमूना द्वारा अपने Dirichlet वितरण से और साथ डॉट उत्पाद कंप्यूटिंग । $\mu$ $w$ $y$

हम के ढांचे के गोद ले सकते हैं का आकलन समीकरणों

\sum_{i = 1}^{n} w_{i} g (y_{i}, θ) = \underline{0},

$\sum_{i=1}^n w_i\, g(y_i,\theta) = \underline 0,$

g (y_{i}, θ)

$g(y_i,\theta)$

θ

$\theta$

\underline{0}

$\underline 0$

θ

$\theta$

y

$y$

w

$w$

w

$w$ अनुभवजन्य संभावना और क्षणों (जीएमएम) की सामान्यीकृत विधि के साथ।

\sum_{i = 1}^{n} w_{i} (y_{i} - μ) = 0.

$\sum_{i=1}^n w_i\,(y_i - \mu) = 0.$

θ = (μ, v)

$\theta = (\mu,v)$

g (y_{i}, θ) = (\begin{matrix} y_{i} - μ \\ (y_{i} - μ)^{2} - v \end{matrix}) .

$g(y_i,\theta) = \begin{pmatrix} y_i - \mu \\ (y_i - \mu)^2 - v \end{pmatrix}.$

— MEF
स्रोत

बहुत विस्तृत वर्णन के लिए धन्यवाद। व्यक्तिगत रूप से मैं हर एक को चुनने के लिए एक संक्षिप्त बयान की सराहना करता हूं।

— एरिखबस्चुलज़