क्या विस्तृत संतुलन को पूरा करने वाला MCMC एक स्थिर वितरण देता है?

Question

मुझे लगता है मैं विस्तृत संतुलन की स्थिति के समीकरण है, जो कहा गया है कि संक्रमण संभावना के लिए समझ में और स्थिर वितरण π , एक मार्कोव श्रृंखला संतुष्ट विस्तृत संतुलन अगर क्ष ( एक्स | y ) π ( y ) = क्ष ( y | एक्स ) π ( x ) $q$$\pi$

$$q(x|y)\pi(y)=q(y|x)\pi(x),$$

अगर मैं इसे इस प्रकार समझूं तो यह मेरे लिए और अधिक महत्वपूर्ण है:

$$\frac{q(x|y)}{q(y|x)}= \frac{\pi(x)}{\pi(y)}.$$

मूल रूप से, राज्य से राज्य y तक संक्रमण की संभावना उनकी संभाव्यता घनत्व के अनुपात के अनुपात में होनी चाहिए।$x$$y$

Answer 1

यह सच नहीं है कि विस्तृत संतुलन को पूरा करने वाली एमसीएमसी हमेशा स्थिर वितरण का उत्पादन करती है। आपको एर्गोडिक होने के लिए प्रक्रिया की भी आवश्यकता है । आइए देखें क्यों:

पर विचार करें सेट सभी संभावित स्थितियों में से एक राज्य है, और सूचकांक द्वारा यह पहचान मैं । एक मार्कोव प्रक्रिया में, एक वितरण p t ( i ) के अनुसार विकसित होता है$x$$i$$p_t(i)$

$$p_t(i) = \sum_{j} \Omega_{j \rightarrow i} p_{t-1}(j)$$

$\Omega_{j \rightarrow i}$$q(x|y)$

तो, हमारे पास वह है

$$p_t(i) = \sum_{j} (\Omega_{j \rightarrow i})^t p_{0}(j)$$

$\Omega_{j \rightarrow i}$

$p_{0}(j)$

• $\Omega$

$\pi$

• $\pi$

एर्गोडिसिटी का अर्थ है 1., विस्तृत संतुलन का अर्थ है 2., और इसीलिए दोनों ही एसिम्प्टोटिक अभिसरण की एक आवश्यक और पर्याप्त स्थिति बनाते हैं।

विस्तृत शेष का तात्पर्य 2:

से शुरू

$$p(i)\Omega_{ij} = \Omega_{ji} p(j)$$

$j$

$$p(i) = \sum_{j}\Omega_{ji} p(j)$$

$\sum_{j} \Omega_{ij} = 1$

उपरोक्त समीकरण eigenvalue 1 की परिभाषा है, (यह देखना आसान है कि क्या आप इसे वेक्टर रूप में लिखते हैं :)

$$1.v = \Omega\cdot v$$

Comments

ओपी यह नहीं पूछता है कि यह अद्वितीय है या नहीं, वह पूछता है कि विस्तृत संतुलन के साथ एमसीएमसी एक अपरिवर्तनीय संभावना घनत्व देने के लिए पर्याप्त कैसे है।

— गट्टू

इस उत्तर का पहला वाक्य है "यह सच नहीं है कि विस्तृत संतुलन को पूरा करने वाली एमसीएमसी हमेशा स्थिर वितरण प्राप्त करती है।" तो, नहीं, विस्तृत संतुलन उपज और अपरिवर्तनीय घनत्व के लिए पर्याप्त नहीं है ... इस सवाल का जवाब कैसे नहीं देता है?

— जोर्ज लीताओ

Answer 2

मुझे लगता है कि ऐसा होता है, क्योंकि एक अप्रतिबंधित एमसी के लिए यदि विस्तृत संतुलन संतुष्ट है, तो इसका एक अनूठा स्टेशनरी वितरण है, लेकिन इसके लिए प्रारंभिक वितरण से स्वतंत्र होने के लिए इसे एपेरियोडिक भी होना चाहिए।

MCMC के मामले में हम एक डेटा बिंदु से शुरू करते हैं और फिर एक नया बिंदु प्रस्तावित करते हैं। हम प्रस्तावित बिंदु पर जा सकते हैं या नहीं जा सकते हैं अर्थात हमारे पास एक स्वयं का लूप है जो एक इर्रिडिएबल एमसी एपेरियोडिक बनाता है।

डीबी को संतुष्ट करने के आधार पर, इसमें सकारात्मक आवर्तक राज्य भी हैं, अर्थात राज्यों को वापसी का समय सीमित है। इसलिए हम MCMC में जो चेन बनाते हैं, वह इरेड्यूसबल, एप्रोडिक और पॉजिटिव रीक्रिएट है, जिसका मतलब है कि यह एक एर्गोडिक चेन है।

हम जानते हैं कि एक अप्रासंगिक इरोडिक श्रृंखला के लिए एक स्थिर वितरण मौजूद है जो प्रारंभिक वितरण के लिए अद्वितीय और स्वतंत्र है।