क्यों निरर्थक का मतलब है कि मानकीकरण गिब्स एमसीएमसी को गति देता है?

जेलमैन एंड हिल (2007) की किताब (डेटा एनालिसिस यूजिंग रिग्रेशन एंड मल्टीलेवल / हायरार्चिकल मॉडल्स) में, लेखकों का दावा है कि निरर्थक माध्य मापदंडों सहित MCMC को गति देने में मदद कर सकता है।

दिया गया उदाहरण "उड़ान सिम्युलेटर" (Eq 13.9) का गैर-नेस्टेड मॉडल है:

\begin{aligned} y_{i} & \sim N (μ + γ_{j [i]} + δ_{k [i]}, σ_{y}^{2}) \\ γ_{j} & \sim N (0, σ_{γ}^{2}) \\ δ_{k} & \sim N (0, σ_{δ}^{2}) \end{aligned}

$\begin{align} y_i &\sim N(\mu + \gamma_{j[i]} + \delta_{k[i]}, \sigma^2_y) \\ \gamma_j &\sim N(0, \sigma^2_\gamma) \\ \delta_k &\sim N(0, \sigma^2_\delta) \end{align}$

वे एक पुनर्मूल्यांकन की सलाह देते हैं, जो निम्न पैरामीटर और को हैं: $\mu_\gamma$ $\mu_\delta$

\begin{aligned} γ_{j} \sim N (μ_{γ}, σ_{γ}^{2}) \\ δ_{k} \sim N (μ_{δ}, σ_{δ}^{2}) \end{aligned}

$\begin{align} \gamma_j \sim N(\mu_\gamma, \sigma^2_\gamma) \\ \delta_k \sim N(\mu_\delta, \sigma^2_\delta) \end{align}$

एकमात्र औचित्य यह है कि (पी। 420):

सिमुलेशन के लिए एक कॉन्फ़िगरेशन में अटक जाना संभव है जहां संपूर्ण वेक्टर (या ) शून्य से बहुत दूर है (भले ही उन्हें मीन 0 के साथ एक वितरण सौंपा गया हो)। अंततः, सिमुलेशन सही वितरण में परिवर्तित हो जाएगा, लेकिन हम इंतजार नहीं करना चाहते हैं। $\gamma$ $\delta$

इस समस्या से कैसे बेमानी मतलब पैरामीटर मदद करते हैं?

यह मुझे लगता है कि गैर-नेस्टेड मॉडल मुख्य रूप से धीमा है क्योंकि और नकारात्मक रूप से सहसंबद्ध हैं। (वास्तव में, अगर एक ऊपर जाता है, तो दूसरे को नीचे जाना पड़ता है, यह देखते हुए कि उनकी राशि डेटा द्वारा "निश्चित" है)। क्या निरर्थक माध्य पैरामीटर और , या पूरी तरह से कुछ और के बीच संबंध को कम करने में मदद करते हैं ? $\gamma$ $\delta$ $\gamma$ $\delta$

mcmc hierarchical-bayesian gibbs

— हाइजेनबर्ग
स्रोत

क्या आप इस विशेष समस्या पर सहज अंतर्दृष्टि की तलाश कर रहे हैं (जैसे कि यह सहसंबंध - या सहसंबंध - और - ), या आप सामान्य समस्या पर सहज ज्ञान युक्त अंतर्दृष्टि की तलाश कर रहे हैं ( यानी? पदानुक्रमित केंद्र की अवधारणा)? बाद के मामले में, क्या आप अंतर्ज्ञान की इच्छा करेंगे जो एक सबूत या अंतर्ज्ञान के करीब है जो बहुत अधिक ढीला है और कम या ज्यादा दिखाता है कि यह कैसे काम करता है?

γ

$\gamma$

δ

$\delta$

γ

$\gamma$

μ

$\mu$

δ

$\delta$

μ

$\mu$

— सेक्सटस एम्पिरिकस

मैं सामान्य रूप से पदानुक्रमित केंद्र की अवधारणा पर सहज ज्ञान युक्त अंतर्दृष्टि चाहता हूं (चूंकि प्रश्न में विशेष मामला सीधे पदानुक्रमित केंद्र के एक आवेदन है)। मुख्य बिंदु जो मैं चाहता हूं कि इस पर जानकारी दी जाए: यदि समूह स्तर पर विचरण कुल विचलन का एक महत्वपूर्ण हिस्सा है तो पदानुक्रमित केंद्र क्यों काम करता है ? Gelfand एट अल द्वारा कागज। यह गणितीय रूप से सिद्ध होता है (अर्थात सहसंबंध को प्राप्त करें और इसके सीमित व्यवहार को ढूंढें), लेकिन बिना किसी सहज व्याख्या के।

— हेइसेनबर्ग

बचने के लिए सहसंबंध और the और बीच एक है । $\mu$ $\gamma_j$ $\delta_k$

बदलकर और में कम्प्यूटेशनल वैकल्पिक पैरामीटर के आसपास केंद्र के साथ मॉडल सहसंबंध कम है। $\gamma_j$ $\delta_k$ $\mu$

बहुत स्पष्ट वर्णन के लिए देखें खंड 25.1 'श्रेणीबद्ध केंद्र क्या है?' में (स्वतंत्र रूप से उपलब्ध) पुस्तक 'एमसीएमसी का अनुमान MLwiN में विलियम जे। ब्राउन और अन्य द्वारा। http://www.bristol.ac.uk/cmm/software/mlwin/download/manuals.html

— सेक्सटस एम्पिरिकस
स्रोत

'MCMC आकलन MlwiN' की धारा 25.1 इस "पदानुक्रमित केंद्र" तकनीक का वर्णन करती है, लेकिन यह दावा करने से आगे किसी भी विवरण में नहीं जाती है कि यह काम करता है। अपने संदर्भों के माध्यम से खुदाई करते हुए, मैंने पाया कि इस तकनीक का वास्तविक प्रमाण लेख में प्रस्तुत किया गया है , सामान्य रेखीय मिश्रित मॉडल के लिए कुशल पैराड्राइज़ेशन , गेलफेंड एट अल, बायोमेट्रिका वॉल्यूम 82 अंक 3.

— हेइज़ेनबर्ग

बदले में ऊपर का लेख बिना विवरण के सामान्य वितरण के गुणों का उपयोग करता है। मुझे केविन मर्फी द्वारा गाऊसी वितरण के संयुग्म बायेसियन विश्लेषण में उन गुणों के प्रमाण मिले ।

— हेइज़ेनबर्ग

दुर्भाग्य से, मैंने अभी भी एक सहज व्याख्या नहीं देखी है कि यह तकनीक क्यों काम करती है।

— हाइजेनबर्ग

यह देर हो चुकी है लेकिन मुझे लगता है कि यह पेपर वही हो सकता है जो आप देख रहे हैं

— बरुम