हैमिल्टनियन मोंटे कार्लो बनाम अनुक्रमिक मोंटे कार्लो

Question

मैं सापेक्ष योग्यता और कमियां, साथ ही इन दो MCMC योजनाओं के विभिन्न अनुप्रयोग डोमेन के लिए एक महसूस करने की कोशिश कर रहा हूं।

• आप कब और किसका उपयोग करेंगे?
• जब कोई विफल हो सकता है लेकिन दूसरा नहीं (जैसे कि एचएमसी कहां लागू है लेकिन एसएमसी नहीं है, और इसके विपरीत)
• एक, बहुत भोलेपन से, एक विधि पर उपयोगिता की माप दूसरे की तुलना में कर सकते हैं (यानी एक है, आम तौर पर, बेहतर )?

मैं वर्तमान में HMC पर बेटनकोर्ट का उत्कृष्ट पेपर पढ़ रहा हूं ।

Comments

SMC एक MCMC तकनीक नहीं है, अर्थात ऐसी कोई भी मार्कोव श्रृंखला नहीं है जिसका निर्माण SMC का उपयोग करते समय किया जाता है।

— जरदनीमी

शायद ही कभी आप smcm के भीतर mcmc का उपयोग करते हैं। और कभी-कभी आप mcmc के भीतर smc का उपयोग करते हैं। मेरे लेखन के समय मुझे ऐसे किसी भी कागजात की जानकारी नहीं है, जो hmc और smc के उपयोग को जोड़ती हो, हालाँकि।

— टेलर

मैं खुद एसएमसी (उर्फ, कण फ़िल्टरिंग) और एचएमसी के बीच बेहतर संबंध को समझना चाहूंगा। सवाल के लिए धन्यवाद! मैं इस पत्र पर ध्यान देता हूं, जो पहली नज़र में दो दृष्टिकोणों के कुछ प्रकार के पिघलने का प्रतिनिधित्व करता है: arxiv.org/pdf/1504.05715v2.pdf

— डेविड सी। नॉरिस

Answer 1

हैमिल्टनियन मोंटे कार्लो "अजीब" आकृतियों के साथ निरंतर लक्ष्य वितरण के साथ अच्छा प्रदर्शन करता है। यह लक्ष्य वितरण को अलग-अलग करने की आवश्यकता है क्योंकि यह मूल रूप से लक्ष्य वितरण के ढलान का उपयोग करता है ताकि यह पता चल सके कि कहां जाना है। सही उदाहरण एक केले के आकार का कार्य है।

यहाँ एक मानक मेट्रोपोलिस हेस्टिंग्स इन ए केला फंक्शन: 66% की स्वीकृति दर और बहुत खराब कवरेज है।

यहाँ एचएमसी के साथ है: अच्छे कवरेज के साथ 99% स्वीकृति।

लक्ष्य वितरण मल्टीमॉडल होने पर एसएमसी (पार्टिकल फिल्टरिंग के पीछे की विधि) लगभग अपराजेय है, खासकर यदि द्रव्यमान के साथ कई अलग-अलग क्षेत्र हैं। एक मार्कोव श्रृंखला के एक मोड में फंसने के बजाय, आपके पास समानांतर में चलने वाली कई मार्कोव श्रृंखलाएं हैं। ध्यान दें कि आप इसका उपयोग वितरण के अनुक्रम का अनुमान लगाने के लिए करते हैं , आमतौर पर बढ़ते हुए तीखेपन का। आप नकली एनालिंग जैसी किसी चीज़ का उपयोग करके बढ़ते हुए तीखेपन को उत्पन्न कर सकते हैं (लक्ष्य पर उत्तरोत्तर बढ़ती हुई घातांक डालें)। या आम तौर पर, एक बायेसियन संदर्भ में, वितरण का अनुक्रम का अनुक्रम है:

$$P(\theta|y_1) \;,\; P(\theta|y_1,y_2)\;,\;... \;,\; P(\theta|y_1,y_2,...,y_N)$$

उदाहरण के लिए, यह क्रम एसएमसी के लिए एक उत्कृष्ट लक्ष्य है:

एसएमसी की समानांतर प्रकृति वितरित / समानांतर कंप्यूटिंग के लिए विशेष रूप से अनुकूल है।

सारांश:

• HMC: लम्बी अजीब लक्ष्य के लिए अच्छा है। गैर निरंतर कार्य के साथ काम नहीं करता है।
• एसएमसी: मल्टीमॉडल और निरंतर नहीं मामलों के लिए अच्छा है। शायद धीमी गति से अभिसरण करें या उच्च आयामी अजीब आकृतियों के लिए अधिक कंप्यूटिंग शक्ति का उपयोग करें।

स्रोत: अधिकांश चित्र एक पेपर से आते हैं जिसे मैंने 2 तरीके (हैमिल्टनियन अनुक्रमिक मोंटे कार्लो) के संयोजन से लिखा था। यह संयोजन बहुत अधिक किसी भी वितरण का अनुकरण कर सकता है जिसे हम बहुत उच्च आयामों पर भी फेंक सकते हैं।

Comments

अच्छा और स्पष्ट; +1। पता नहीं क्यों यह अधिक upvotes नहीं है!

— अर्बोविरल

यहां रुचि रखने वालों के लिए पेपर है: remidaviet.com/files/HSMC-paper.pdf

— stackoverflax