(परस्पर क्रिया) मल्टीमॉडल पोस्टीरियर के लिए एमसीएमसी

Question

मैं विशेष रूप से MCMC का उपयोग करते हुए एक दूसरे से कई मोड में होने के बाद नमूना लेने की कोशिश कर रहा हूं। ऐसा प्रतीत होता है कि ज्यादातर मामलों में, इनमें से केवल एक मोड में 95% एचपीडी होता है जिसकी मुझे तलाश है। मैंने टेम्पर्ड सिमुलेशन के आधार पर समाधानों को लागू करने की कोशिश की, लेकिन यह संतोषजनक परिणाम प्रदान नहीं करता है क्योंकि अभ्यास एक "कैप्चर रेंज" से दूसरे में जाना महंगा है।

परिणामस्वरूप, यह मुझे प्रतीत होता है कि एक अधिक कुशल समाधान विभिन्न प्रारंभिक बिंदुओं से कई सरल एमसीएमसी को चलाने के लिए होगा और एमसीएमसी को एक-दूसरे से बातचीत करके प्रमुख समाधान में गोता लगाना होगा। क्या आप जानते हैं कि इस तरह के विचार को लागू करने का कोई उचित तरीका है?

नोट: मैंने पाया कि कागज http://lccc.eecs.berkeley.edu/Papers/dmcmc_short.pdf (मार्कोव श्रृंखला मोंटे कार्लो, लॉरेंस मरे) जो मुझे दिख रहा है, उसके करीब दिखता है, लेकिन मैं वास्तव में डिज़ाइन को नहीं समझता हूं फ़ंक्शन ।$R_i$

[संपादित करें]: उत्तरों की कमी से प्रतीत होता है कि मेरी प्रारंभिक समस्या का कोई स्पष्ट समाधान नहीं है (एक ही लक्ष्य वितरण से कई MCMCs नमूना बनाना जो विभिन्न प्रारंभिक बिंदु से एक दूसरे को परस्पर क्रिया करते हैं)। क्या यह सच है ? यह इतना जटिल क्यों है? धन्यवाद

Comments

जैसा मैंने पहले "जनसंख्या MCMC" के लिए उपयोग किया है, ऐसा लगता है। Calderhead और Girolami द्वारा "थर्मोडायनामिक एकीकरण और जनसंख्या MCMC के माध्यम से बेयर्स कारकों का अनुमान लगाना" देखें। क्षमा करें यदि यह थोड़ा देर से आता है, लेकिन शायद अन्य लोग संदर्भ की सराहना करेंगे!

— सैम मेसन

संभवतः जनसंख्या MCMC अनुक्रमिक मोंटे कार्लो के समान है।

— रॉबर्ट पी। गोल्डमैन

Answer 1

सभी की प्यास मैं एक बेहतर विधि की तलाश करने की सलाह दूंगा, या कम से कम एक विधि जिसमें अधिक गहराई से वर्णन हो, क्योंकि आप जिस पेपर का उल्लेख कर रहे हैं, उससे "मार्कोव चेन मोंटे कार्लो" वितरित किया गया है, यह स्पष्ट रूप से कहा नहीं लगता है। फायदे और नुकसान की अच्छी तरह से पड़ताल नहीं की गई है। एक विधि है, जो कि हाल ही में " वर्महोल हैमिल्टनियन मोंटे कार्लो " नामक अर्क्सिव में दिखाई दी , मैं इसे जांचने की सलाह दूंगा ।

उस कागज पर वापस जाना जिसे आपने संदर्भ दिया था, दूरस्थ प्रस्ताव बहुत अस्पष्ट रूप से है। आवेदन के भाग में इसे "पूर्ववर्ती टी / 2 नमूनों की तुलना में अधिकतम संभावना गॉसियन" के रूप में वर्णित किया गया है। शायद इसका मतलब है कि आप श्रृंखला के अंतिम टी / 2 मूल्यों को औसत करते हैं ? संदर्भ में दिए गए खराब विवरण के साथ अनुमान लगाने में थोड़ा कठिन।$R_{i}(\theta_{i})$$i^{th}$

[अद्यतन:] कई जंजीरों और इस विचार के आवेदन के बीच अंतर से नमूना वितरण के लिए समानांतर MCMC तरीकों में पाया जा सकता है, उदाहरण के लिए यहाँ । हालाँकि, कई जंजीरों को चलाना और उन्हें बातचीत करने के लिए मजबूर करना मल्टीमॉडल पोस्टीरियर के लिए फिट नहीं हो सकता है: उदाहरण के लिए, यदि कोई बहुत स्पष्ट क्षेत्र है, जहाँ अधिकांश पीछे के वितरण को केंद्रित किया गया है, तो जंजीरों की परस्पर क्रिया भी उस विशिष्ट चीज़ से चिपक कर सबसे खराब हो सकती है। क्षेत्र और अन्य की खोज नहीं, कम स्पष्ट, क्षेत्र / मोड। इसलिए, मैं एमसीएमसी के लिए विशेष रूप से मल्टीमॉडल समस्याओं के लिए डिज़ाइन करने के लिए जोरदार सिफारिश करूंगा। और यदि आप एक और / नई विधि बनाना चाहते हैं, तो आपको यह पता होने के बाद कि "बाजार" में क्या उपलब्ध है, आप अधिक कुशल विधि बना सकते हैं।

Comments

आपकी सहायता के लिए धन्यवाद। यह पूरी तरह से नहीं है जो मुझे उम्मीद थी लेकिन शायद मैं अगम्य चीजों की तलाश कर रहा हूं। मैं वर्तमान में जांच कर रहा हूं (मुझे यकीन नहीं है कि एक हैमिल्टनियन एमसीएमसी द्वारा आवश्यक सब कुछ प्राप्त करने में सक्षम हो), तथाकथित डार्टिंग एमसी जो मैंने आपके संदर्भों के माध्यम से पाया। मैं तुम्हें इनाम देता हूं, तुम्हारी सलाह के लिए फिर से देता हूं।

— Pehhp

@peuhp, यह ऊपर उल्लिखित हैमिल्टनियन विधियों से निकटता से संबंधित है, लेकिन इक्वी-एनर्जी सैम्पलर एक MCMC विधि है जिसे विशेष रूप से बहु-मोडल पश्च वितरण के लिए एक विधि के रूप में बिल किया जाता है। मुझे पता है कि यह कई समानांतर जंजीरों को शुरू करने और जंजीरों के बीच कूदने की अनुमति देकर संचालित होता है, लेकिन मुझे उत्तर पोस्ट करने की विधि के साथ / अनुभव का पर्याप्त ज्ञान नहीं है। लिंक पर एक नजर है। आशा है कि ये आपकी मदद करेगा।

— मैक्रो

Answer 2

आपको मल्टीनेस्ट की कोशिश करनी चाहिए: https://arxiv.org/pdf/0809.3437.pdf https://github.com/JohannesBuchner/MultiNest यह एक बायेसियन इंट्रेंस इंजन है जो आपको मल्टीमॉडल वितरण के लिए पैरामीटर सैंपल देगा।

जीथब लिंक में मल्टीनेस्ट सोर्स कोड होता है जिसे आप निर्देशों के अनुसार संकलित और स्थापित करते हैं। यह भी एक अजगर आवरण है कि उपयोग करने के लिए आसान है। उदाहरण कोड में एक पूर्व खंड होता है जो आपके मापदंडों को बाधित करने का कार्य करता है, और एक संभावना अनुभाग जिसमें आपकी संभावना होती है। सेटिंग्स फ़ाइल में फिटिंग के बाद आपकी सभी सेटिंग्स और चेन फोल्डर मल्टीएन्स्ट आउटपुट होते हैं। यह आपको अपने मापदंडों के नमूने देगा

Comments

सीवी में आपका स्वागत है और आपके शानदार जवाब के लिए धन्यवाद। हो सकता है कि आप Githublink को सारांशित करके अपने उत्तर को बेहतर बना सकें।

— फेरि

जीथब लिंक में मल्टीनेस्ट सोर्स कोड होता है जिसे आप निर्देशों के अनुसार संकलित और स्थापित करते हैं। यह भी एक अजगर आवरण है कि उपयोग करने के लिए आसान है। उदाहरण कोड में एक पूर्व खंड होता है जो आपके मापदंडों को बाधित करने का कार्य करता है, और एक संभावना अनुभाग जिसमें आपकी संभावना होती है। सेटिंग्स फ़ाइल में फिटिंग के बाद आपकी सभी सेटिंग्स और चेन फोल्डर मल्टीनेस्ट आउटपुट होते हैं। यह आपको अपने मापदंडों के नमूने देगा।

— एरिक कमाउ

वाह। यह बहुत अच्छा है। मैंने आपके उत्तर को गलत बताया। भविष्य में आप इस तरह के विवरण को शामिल कर सकते हैं, जब आप एक लिंक साझा करते हैं।

— फेरी

Answer 3

यह कम्प्यूटेशनल सांख्यिकी में एक कठिन और चल रही समस्या प्रतीत होती है। हालांकि, कुछ अत्याधुनिक तरीके हैं जो ठीक काम करने चाहिए।

कहते हैं कि आपको पहले से ही पोस्टीरियर के कई अलग-अलग मोड मिल गए हैं और आप खुश हैं कि ये सबसे महत्वपूर्ण मोड हैं, और अगर इन मोड्स के आस-पास का हिस्सा यथोचित सामान्य है। फिर आप इन मोड्स पर हेसियन की गणना कर सकते हैं (कहते हैं, आर इन हेसियन = टी के साथ आशा का उपयोग करके) और आप नॉर्म्स (या टी डिस्ट्रीब्यूशन) के मिश्रण के रूप में पोस्टीरियर को अनुमानित कर सकते हैं। जेलमैन एट अल में p318-319 देखें। (2003) "बायेसियन डेटा विश्लेषण" विवरण के लिए। फिर आप सामान्य / टी-मिश्रण सन्निकटन का उपयोग कर सकते हैं पूर्ण स्वतंत्रता से नमूने प्राप्त करने के लिए एक स्वतंत्रता नमूना में प्रस्ताव वितरण के रूप में।

एक और विचार, जो मैंने कोशिश नहीं की है, वह है अन्नलड इम्पोर्टेंस सैंपलिंग (रेडफोर्ड नील, 1998, लिंक यहाँ )।

Comments

एक और बात, यदि आपके पास पहले से ही जंजीरों का एक सेट है जो प्रत्येक को स्थानीय रूप से "रूपांतरित" करने के लिए दिखाई देता है, तो यह आपके सभी जंजीरों के संयोजन से किसी प्रकार के महत्व-पुनरुत्थान करने के लिए होगा। मैं हालांकि उस बारे में निश्चित नहीं हूं।

— Mat

मंच पर आपका स्वागत है। अपने स्वयं के उत्तर पर टिप्पणी करने के बजाय अपने नए विचारों को जोड़ने के लिए अपने उत्तर को संपादित करने में संकोच न करें। उसके साथ कुछ भी गलत नहीं है :)

— brumar

Answer 4

मल्टीमॉडलिटी, एक प्रतिकारक-आकर्षक मेट्रोपोलिस एल्गोरिथ्म ( http://arxiv.org/abs/1601.05633 ) के लिए एक नई MCMC विधि की कोशिश करने के बारे में क्या ? यह मल्टीमॉडल नमूना एक महानगर एल्गोरिथ्म की तरह एकल ट्यूनिंग पैरामीटर के साथ काम करता है और इसे लागू करने के लिए सरल है।