गिब्स नमूनाकरण से संबंधित भ्रम

Question

मैं इस लेख के पार आया जहाँ यह कहता है कि गिब्स नमूने में हर नमूने को स्वीकार किया जाता है। मैं थोड़ा असमंजस में हूँ। अगर हर नमूना इसे स्वीकार करता है तो यह कैसे स्थिर वितरण में परिवर्तित होता है।

सामान्य मेट्रोपोलिस एल्गोरिथ्म में हम न्यूनतम (1, p (x *) / p (x)) के रूप में स्वीकार करते हैं जहाँ x * नमूना बिंदु है। मैं मानता हूं कि x * हमें उस स्थिति की ओर इंगित करता है जहां घनत्व अधिक है, इसलिए हम लक्ष्य वितरण के लिए आगे बढ़ रहे हैं। इसलिए मुझे लगता है कि यह पीरियड में जलने के बाद लक्ष्य वितरण में चला जाता है।

हालाँकि, गिब्स के नमूने में हम सब कुछ स्वीकार करते हैं, भले ही यह हमें एक अलग जगह पर ले जाए, हम यह कैसे कह सकते हैं कि यह स्थिर / लक्ष्य वितरण में परिवर्तित होता है

मान लीजिए कि हमारे पास एक वितरण । हम Z की गणना नहीं कर सकते हैं। महानगर एल्गोरिथ्म में हम डिस्ट्रीब्यूशन शब्द का प्रयोग करते हैं ताकि डिस्ट्रीब्यूशन the को शामिल किया जा सके और निरंतर Z कैंसिल को सामान्य किया जा सके। तो ठीक है$p(\theta) = c(\theta)/Z$$c(\theta^{new})/c(\theta^{old})$$c(\theta)$

लेकिन गिब्स के नमूने में हम वितरण का उपयोग कहां कर रहे हैं$c(\theta)$

उदाहरण के लिए कागज में http://books.nips.cc/papers/files/nips25/NIPS2012_0921.pdf दिया गया

इसलिए हमारे पास नमूना लेने के लिए सटीक सशर्त वितरण नहीं है, हमारे पास बस कुछ है जो सीधे सशर्त वितरण के लिए आनुपातिक है

Comments

मेट्रोपोलिस-हेस्टिंग्स में क्या होगा यदि हमेशा 1 था? $p(x*)/p(x)$

— Glen_b -Reinstate मोनिका

Answer 1

जब हम मेट्रोपोलिस-हेस्टिंग्स एल्गोरिथम का उपयोग करते हैं तो हमें एक स्वीकृति अनुपात गणना करनी होगी और यादृच्छिक चर जाने देना चाहिए तब हम रैंडम वैरिएबल को स्वीकार कर लेते हैं यदि ।

$$\alpha=\min(1,\frac{p(x^*)}{p(x)})$$ $U\sim\text{Uniform(0,1)}$$U<\alpha$

हालाँकि, गिब्स सैंपलिंग में हम हमेशा रैंडम वैरिएबल को छोड़कर, क्योंकि हमें एक्सेप्टेंस रेश्यो की गणना नहीं करनी है (वैसे आप वास्तव में करते हैं, लेकिन जब आप चीजों को प्लग करते हैं तो देखते हैं कि सबकुछ रद्द हो जाता है और आपका एक्सेप्टेंस रेशियो हो जाता है) हमेशा से कम है और इस कारण आप हमेशा स्वीकार कर रहे हैं)। हालाँकि, आप इसे सहज रूप से भी सोच सकते हैं कि गिब्स सैंपलिंग में आप पूरी कंडीशन से सैंपलिंग कर रहे हैं जो कि एक क्लोज्ड फॉर्म एक्सप्रेशन है जिसे हम सीधे से सैंपल कर सकते हैं और इसलिए मेट्रोपोलिस-हस्तिन एल्गोरिथम जैसे सैंपल को रिजेक्ट करने की कोई जरूरत नहीं है। पता नहीं कैसे से नमूना (या आमतौर पर) के रूप में पहचान नहीं है । उम्मीद है की वो मदद करदे!$\alpha=1$$U$$\alpha$$p(x)$

Comments

मुझे यह नहीं मिला कि कैसे सबकुछ रद्द हो जाता है। खैर हम कहते हैं कि हमें 3 चर के वितरण से नमूना लेना है । इसलिए जब आप पूर्ण रूप में बंद स्थिति अभिव्यक्ति का मतलब पी (एक्स | एक्स 2, एक्स 3) पी (एक्स 2 | एक्स 1, एक्स 3) और पी (एक्स 3 | एक्स 1, एक्स 2) कहते हैं। मेरा प्रश्न गिब्स नमूनाकरण के मामले में है जो हम वास्तविक वितरण पी से प्राप्त सशर्त वितरण को जानते हैं जिससे हम नमूना लेना चाहते हैं। क्या यही मतलब है तुम्हारा। मेट्रोपोलिस एल्गोरिथ्म के मामले में हम p नहीं जानते हैं लेकिन कुछ ऐसा है जैसे c कि p (x) = c (x) / Z ?? $p(\theta)$

— user34790

मान लीजिए कि हम चर X1, x2 और x3 के लिए यादृच्छिक मूल्यों के साथ शुरू करते हैं, हम कैसे कह सकते हैं कि इसका स्थिर वितरण आवश्यक रूप से परिवर्तित करता है। उसके लिए क्या मापदंड है?

— user34790

मान लीजिए कि मेरे पास वितरण । मुझे Z नहीं पता है। इसलिए मैं गिब्स के नमूने का उपयोग करते हुए से कैसे नमूना $p(\theta) = c(\theta)/Z$$p(\theta)$

— लूंगा

मैंने इसके ऊपर एक प्रमाण जोड़ा कि इसका हमेशा क्यों। गिब्स के नमूने का उपयोग करने के लिए आपको यह जानना होगा कि पूर्ण स्थिति क्या है।

Answer 2

यह प्रमाण कि स्वीकृति दर एक टाइपो के समान 1 है जो मध्य में हर में और तीसरे भाग में क्यू के लिए अभिव्यक्ति z_i अभाज्य होना चाहिए, ताकि अंत में आपको P (z_i Prime | z_i prime) प्राप्त हो।

एलेक्स