महानगर-हेस्टिंग्स के बजाय गिब्स नमूने का उपयोग कब करेंगे?

Question

MCMC एल्गोरिदम के विभिन्न प्रकार हैं:

• महानगरों-हेस्टिंग्स
• गिब्स
• महत्व / अस्वीकृति नमूनाकरण (संबंधित)।

महानगर-हेस्टिंग्स के बजाय गिब्स नमूने का उपयोग क्यों करेंगे? मुझे संदेह है कि ऐसे मामले हैं जब मेट्रोपोलिस-हेस्टिंग्स की तुलना में गिब्स नमूने के साथ इंजेक्शन अधिक ट्रैक्टेबल है, लेकिन मैं बारीकियों पर स्पष्ट नहीं हूं।

Comments

मेरे सिर के ऊपर (यह कुछ समय रहा है, इसलिए मैं इसे एक उत्तर के रूप में पोस्ट नहीं कर रहा हूं), जब यह काम करता है, तो गिब्स तेज होता है, जबकि मेट्रोपोलिस-हेस्टिंग्स विभिन्न प्रकार के मॉडल के साथ सामना कर सकते हैं, क्योंकि यह सीमित नहीं है पैरामीटर स्पेस में ऑर्थोगोनल स्टेप्स।

— कोडियालॉजिस्ट

आप यह जान सकते हैं या नहीं जानते हैं कि गिब्स को महानगर-हेस्टिंग्स के उदाहरण के रूप में देखा जा सकता है, इसलिए आप स्पष्ट करना चाह सकते हैं कि आपका मतलब "मेट्रोपोलिस-हेस्टिंग्स के साथ स्थानीय संक्रमण वितरण है।"

— डगल

Answer 1

सबसे पहले, मुझे ध्यान दें [कुछ हद तक]

एमसीएमसी एल्गोरिदम के कई अलग-अलग प्रकार हैं: महानगर-हेस्टिंग्स, गिब्स, महत्व / अस्वीकृति नमूनाकरण (संबंधित)।

$f$$\omega$$f$$f$$f$

दूसरी बात, सवाल

मेट्रोपोलिस-हेस्टिंग्स के बजाय गिब्स नमूने के साथ कोई क्यों जाएगा? मुझे संदेह है कि ऐसे मामले हैं जब मेट्रोपोलिस-हेस्टिंग्स की तुलना में गिब्स नमूने के साथ इंजेक्शन अधिक ट्रैक्टेबल है

इसका कोई जवाब नहीं है कि एक महानगर-हेस्टिंग्स नमूना एक गिब्स नमूना सहित लगभग कुछ भी हो सकता है। मैंने पहले और इसी तरह के प्रश्न के बजाय विस्तृत शब्दों में जवाब दिया । लेकिन मुझे कुछ जोड़ दें अगर यहाँ अनावश्यक बिंदु हैं:

गिब्स सैंपलिंग को पेश करने का प्राथमिक कारण था, कम आयाम सिमुलेशन के एक अनुक्रम का निर्माण करके, जो अभी भी सही लक्ष्य में परिवर्तित होता है, आयामीता के अभिशाप (जो अस्वीकृति और महत्व के नमूने दोनों को प्रभावित करता है) को तोड़ना था। भले ही लक्ष्य का आयाम अभिसरण की गति को प्रभावित करता है। मेट्रोपोलिस-हेस्टिंग्स नमूने एक स्वीकृति-अस्वीकृति चरण के माध्यम से गलत घनत्व के लिए सही करके एक प्रस्ताव (जैसे महत्व और अस्वीकृति नमूना) के आधार पर मार्कोव श्रृंखला (जैसे गिब्स नमूना) बनाने के लिए डिज़ाइन किए गए हैं। लेकिन एक महत्वपूर्ण बिंदु यह है कि उनका विरोध नहीं किया जाता है: अर्थात्, गिब्स नमूने को मेट्रोपोलिस-हेस्टिंग्स चरणों की आवश्यकता हो सकती है जब कम आयाम वाले सशर्त लक्ष्यों का सामना करना पड़ता है, जबकि मेट्रोपोलिस-हेस्टिंग्स प्रस्तावों को (गिब्स) पूर्ण सशर्त के सन्निकटन पर बनाया जा सकता है। एक औपचारिक परिभाषा में, गिब्स नमूना मेट्रोपोलिस-हस्टिंग एल्गोरिथम का एक विशेष मामला है जिसमें एक की स्वीकृति की संभावना है। (वैसे, मुझे इसके इस्तेमाल पर आपत्ति हैअनुमान है कि बोली में, के रूप में मैं इसके लिए आरक्षित हैं सांख्यिकीय प्रयोजनों के लिए, जबकि जो samplers हैं संख्यात्मक उपकरणों।)

आमतौर पर, गिब्स नमूनाकरण [कम-आयामी सशर्त सिमुलेशन के अनुक्रम को चलाने के रूप में समझा जाता है] सेटिंग्स में इष्ट है जहां ऐसी स्थिति में अपघटन को लागू करना आसान है और तेजी से चलाने के लिए। ऐसी सेटिंग्स में, जहां इस तरह के डिकम्पोजिशन मल्टीमॉडलिटी को प्रेरित करते हैं और इसलिए मोड्स के बीच ले जाने में कठिनाई होती है (मिक्स मॉडल जैसे अव्यक्त परिवर्तनीय मॉडल दिमाग में आते हैं), मेट्रोपोलिस-हस्टिंग एल्गोरिथ्म में अधिक वैश्विक प्रस्ताव का उपयोग करने से उच्च दक्षता उत्पन्न हो सकती है। लेकिन कमियां मेट्रोपोलिस-हस्टिंग एल्गोरिदम में प्रस्ताव वितरण को चुनने के साथ है।