सीमांत समानता का अनुमानक MCMC का अनुमान?

Question

मैं मोंटे कार्लो विधियों द्वारा एक सांख्यिकीय मॉडल के लिए सीमांत संभावना की गणना करने की कोशिश कर रहा हूं:

$$f(x) = \int f(x\mid\theta) \pi(\theta)\, d\theta$$

संभावना अच्छी तरह से व्यवहार किया है - चिकनी, लॉग-अवतल - लेकिन उच्च आयामी। मैंने महत्त्वपूर्ण नमूने लेने की कोशिश की है, लेकिन परिणाम विस्की हैं और मेरे द्वारा उपयोग किए जा रहे प्रस्ताव पर अत्यधिक निर्भर हैं। मैंने संक्षेप में माना है कि हेमिल्टनियन मोंटे कार्लो ने पीछे के से पहले एक समान और हार्मोनिक माध्य लेने तक पीछे के नमूनों की गणना करने के लिए , जब तक मैंने यह नहीं देखा । सबक सीखा, हार्मोनिक का मतलब अनंत विचरण हो सकता है। क्या कोई वैकल्पिक एमसीएमसी अनुमानक है जो लगभग सरल है, लेकिन एक अच्छी तरह से व्यवहार किया गया विचरण है?$\theta$

Comments

आप पहले से बुनियादी मोंटे कार्लो के नमूने पर भी विचार कर सकते हैं। $f(x)=E_{\pi(\theta)}(f(x|\theta))$

— संभाव्यता

यह एक संभव उपाय है। इस मामले में, याद रखें कि अनुचित पुजारियों को अब अनुमति नहीं है, और बहुत अधिक समर्थन वाले पुजारी संभवतः मोंटे कार्लो को अनुमानित रूप से कठिन बना देंगे।

— जेन

इस मुद्दे पर एक पूरी किताब चेन, शाओ और इब्राहिम (2001) है । आप नेस्टेड सैंपलिंग, ब्रिज सैंपलिंग, डिफेंसिव सैंपलिंग, पार्टिकल फिल्टर, सैवेज-डिकी जैसे कीवर्ड भी खोज सकते हैं।

— शीआन

Answer 1

कैसे annealed महत्व के नमूने के बारे में ? यह नियमित महत्व के नमूने की तुलना में बहुत कम विचरण करता है। मैंने इसे "गोल्ड स्टैंडर्ड" कहा है, और "सामान्य" महत्व के नमूने की तुलना में इसे लागू करना ज्यादा कठिन नहीं है। यह इस अर्थ में धीमा है कि आपको प्रत्येक नमूने के लिए MCMC चाल का एक गुच्छा बनाना होगा, लेकिन प्रत्येक नमूना बहुत उच्च गुणवत्ता वाला होता है, इसलिए आपको अपने अनुमानों के निपटान से पहले उनमें से कई की आवश्यकता नहीं है।

अन्य प्रमुख विकल्प अनुक्रमिक महत्व का नमूना है। मेरी समझ में यह लागू करने के लिए काफी सरल है, लेकिन इसके लिए अनुक्रमिक मोंटे कार्लो (एकेए कण फ़िल्टरिंग) के साथ कुछ परिचितता की आवश्यकता है, जिसकी मुझे कमी है।

सौभाग्य!

जोड़ने के लिए संपादित : यह रैडफ़ोर्ड नील ब्लॉग पोस्ट की तरह दिखता है, जिसे आप अनलिड इम्पोर्टेंस सैंपलिंग के लिए भी जोड़ते हैं । हमें बताएं कि क्या यह आपके लिए अच्छा है।

Answer 2

यह सीमांत वितरण गणना पर कुछ प्रकाश डालने में मदद कर सकता है। इसके अलावा, मैं फ्रेल और पेटिट द्वारा पेश किए गए बिजली पोस्टरी के माध्यम से एक विधि का उपयोग करने की सिफारिश करूंगा । यह दृष्टिकोण काफी आशाजनक लगता है, हालांकि इसकी कुछ सीमाएँ हैं। या आप सामान्य वितरण द्वारा पीछे के वितरण के लाप्लास सन्निकटन कर सकते हैं: यदि एमसीएमसी से हिस्टोग्राम सममित और सामान्य-जैसा दिखता है, तो इससे काफी अच्छा सन्निकटन हो सकता है।