क्या कोई मुझे अंग्रेजी में NUTS समझा सकता है?

Question

एल्गोरिथ्म की मेरी समझ निम्नलिखित है:

नो यू-टर्न सैंपलर (NUTS) एक हैमिल्टनियन मोंटे कार्लो मेथड है। इसका मतलब यह है कि यह एक मार्कोव चेन विधि नहीं है और इस प्रकार, यह एल्गोरिथ्म यादृच्छिक चलना भाग से बचा जाता है, जिसे अक्सर अभिसरण के रूप में अक्षम और धीमा माना जाता है।

यादृच्छिक चलने के बजाय, NUTS लंबाई x की छलांग लगाता है। एल्गोरिथ्म के चलते ही प्रत्येक जंप दोगुना हो जाता है। यह तब तक होता है जब तक प्रक्षेपवक्र एक बिंदु तक नहीं पहुंचता है जहां वह प्रारंभिक बिंदु पर लौटना चाहता है।

मेरे सवाल: यू-टर्न में ऐसा क्या खास है? प्रक्षेपवक्र को दोगुना करने से अनुकूलित बिंदु कैसे नहीं छोड़ता है? क्या मेरा उपरोक्त विवरण सही है?

Comments

मुझे यह पोस्ट मिली और सचित्र सिमुलेशन वास्तव में अवधारणाओं की व्याख्या में अंतर करते हैं।

— kael

Answer 1

कोई यू-टर्न बिट नहीं है कि प्रस्ताव कैसे उत्पन्न होते हैं। HMC एक काल्पनिक शारीरिक प्रणाली उत्पन्न करता है: घाटियों और पहाड़ियों के साथ एक परिदृश्य के चारों ओर घूमने वाली एक निश्चित गतिज ऊर्जा के साथ एक गेंद की कल्पना करें (आपस में 2 से अधिक आयामों के साथ सादृश्य टूट जाता है) जिस मुद्रा से आप नमूना लेना चाहते हैं। हर बार जब आप एक नया MCMC नमूना लेना चाहते हैं, तो आप बेतरतीब ढंग से गतिज ऊर्जा को उठाते हैं और जहाँ आप होते हैं वहाँ से बॉल रोलिंग शुरू करते हैं। आप असतत समय चरणों में अनुकरण करते हैं, और यह सुनिश्चित करने के लिए कि आप पैरामीटर स्थान का ठीक से पता लगाते हैं, आप एक दिशा में कदमों का अनुकरण करते हैं और दूसरी दिशा में दो बार कई बार घुमाते हैं, फिर से घुमाते हैं आदि। कुछ बिंदु पर आप इसे और एक अच्छा तरीका रोकना चाहते हैं। ऐसा करने का मतलब यह है कि आपने यू-टर्न लिया है (यानी सभी जगह चले गए हैं)।

इस बिंदु पर आपके मार्कोव चेन का प्रस्तावित अगला चरण आपके द्वारा देखे गए बिंदुओं से उठाया गया है (कुछ सीमाओं के साथ)। यानी कि काल्पनिक शारीरिक प्रणाली का पूरा अनुकरण एक प्रस्ताव पाने के लिए "बस" था जो तब स्वीकार किया जाता है (अगला MCMC नमूना प्रस्तावित बिंदु है) या अस्वीकृत (अगला MCMC नमूना प्रारंभिक बिंदु है)।

इसके बारे में चतुर बात यह है कि प्रस्ताव पीछे के आकार के आधार पर किए जाते हैं और वितरण के दूसरे छोर पर हो सकते हैं। इसके विपरीत मेट्रोपोलिस-हेस्टिंग्स एक (संभवतः तिरछी) गेंद के भीतर प्रस्ताव बनाता है, गिब्स नमूना केवल एक समय में एक (या कम से कम बहुत कम) आयामों के साथ चलता है।

Comments

क्या आप "कृपया सभी जगह चले गए " टिप्पणी पर विस्तार कर सकते हैं कृपया टिप्पणी करें?

— गेब्रियल

कुछ संकेत होने का मतलब है कि यह वितरण को कवर कर चुका है, जिसे NUTS ने जज करने की कोशिश की है कि क्या आप पूरी तरह से बदल चुके हैं। अगर ऐसा है, तो आप उम्मीद करते हैं कि एक एमसीएमसी कदम पीछे के किसी भी हिस्से में जा सकता है। बेशक, यह शर्त सही मायने में गारंटी नहीं देती है कि आपने पूरे उत्तर का पता लगाया है, बल्कि यह संकेत देता है कि आपने इसका "वर्तमान भाग" खोज लिया है (यदि आपके पास कुछ बहुविध वितरण हैं तो आपको सभी भागों में जाने के लिए परेशानी हो सकती है। वितरण का)।

— ब्योर्न

Answer 2

आप गलत हैं कि HMC मार्कोव चैन विधि नहीं है। प्रति विकिपीडिया :

गणित और भौतिकी में, हाइब्रिड मोंटे कार्लो एल्गोरिथ्म, जिसे हैमिल्टन मोंटे कार्लो भी कहा जाता है, एक संभाव्यता वितरण से यादृच्छिक नमूनों का अनुक्रम प्राप्त करने के लिए एक मार्कोव श्रृंखला मोंटे कार्लो विधि है, जिसके लिए प्रत्यक्ष नमूनाकरण मुश्किल है। इस अनुक्रम का उपयोग वितरण को अनुमानित करने के लिए किया जा सकता है (यानी, हिस्टोग्राम उत्पन्न करने के लिए), या एक अभिन्न (जैसे एक अपेक्षित मूल्य) की गणना करने के लिए।

अधिक स्पष्टता के लिए, Betancourt द्वारा arXiv पेपर पढ़ें , जिसमें NUTS को समाप्त करने के मानदंडों का उल्लेख है:

... पहचानें जब एक प्रक्षेपवक्र वर्तमान ऊर्जा स्तर सेट के आसपास पड़ोस की पर्याप्त खोज करने के लिए पर्याप्त है। विशेष रूप से, हम दोनों को बहुत कम एकीकृत करने से बचना चाहते हैं, उस स्थिति में हम हैमिल्टनियन प्रक्षेपवक्रों का पूरा फायदा नहीं उठा पाएंगे, और बहुत लंबे समय तक एकीकृत कर सकते हैं, जिस स्थिति में हम अन्वेषण पर कीमती कम्प्यूटेशनल संसाधनों को बर्बाद करते हैं जो केवल कम रिटर्न देता है।

परिशिष्ट A.3 आपके द्वारा उल्लिखित प्रक्षेप पथ जैसे कुछ के बारे में बात करता है:

हम प्रत्येक पुनरावृत्ति पर प्रक्षेपवक्र की लंबाई को दोगुना करके तेजी से विस्तार कर सकते हैं, एक नमूना प्रक्षेपवक्र t ory T (t | z) = U T2L को इसी नमूना स्थिति z ∼ (T (z z t t) के साथ जोड़ा जा सकता है। इस मामले में, प्रत्येक पुनरावृत्ति पर पुराने और नए प्रक्षेपवक्र दोनों घटक सही, पत्तियों के क्रम में बाइनरी ट्री (चित्र 37) के बराबर हैं। यह हमें नए प्रक्षेपवक्र घटकों का पुनरावर्ती निर्माण करने की अनुमति देता है, पुनरावृत्ति में प्रत्येक चरण पर एक नमूना का प्रचार ...

और A.4 में इस पर विस्तार होता है, जहां यह एक गतिशील कार्यान्वयन (खंड A.3 स्थैतिक कार्यान्वयन के बारे में बात करता है) के बारे में बात करता है:

सौभाग्य से, धारा A.3 में चर्चा की गई कुशल स्थिर योजनाओं को एक गतिशील कार्यान्वयन प्राप्त करने के लिए पुनरावृत्त किया जा सकता है, जब हमने निर्धारित करने के लिए एक मानदंड चुना है जब एक प्रक्षेपवक्र लंबे समय तक संतोषजनक हो जाता है ताकि संबंधित ऊर्जा स्तर सेट का पता लगाया जा सके।

मुझे लगता है कि कुंजी यह है कि यह उस डबल को कूदता नहीं है, यह एक तकनीक का उपयोग करके अपनी अगली छलांग की गणना करता है जो एक मापदंड पूरा होने तक प्रस्तावित कूद की लंबाई को दोगुना करता है। कम से कम यही है कि मैं अब तक पेपर को कैसे समझता हूं।