एमएपी का उपयोग करते हुए एक पैरामीटर का आकलन करते समय एमसीएमसी की आवश्यकता क्यों होती है


11

एक पैरामीटर के एमएपी आकलन के लिए सूत्र को देखते हुए एमएपी पैरामीटर अनुमान एमसीएमसी (या समान) दृष्टिकोण की आवश्यकता क्यों है, क्या मैं सिर्फ व्युत्पन्न नहीं ले सकता, इसे शून्य पर सेट कर सकता हूं और फिर पैरामीटर के लिए हल कर सकता हूं?


बड़ा अच्छा सवाल!

जवाबों:


4

यदि आप जानते हैं कि आपका परिवार किस स्थिति से है और यदि उस वितरण का व्युत्पन्न होना विश्लेषणात्मक रूप से संभव है, तो यह सही है।

हालाँकि, जब आप MCMC का उपयोग करते हैं, तो आप उस प्रकार की स्थिति में होने की संभावना नहीं रखते हैं। MCMC उन स्थितियों के लिए बनाई गई है जिसमें आपके पास कोई स्पष्ट विश्लेषणात्मक धारणा नहीं है कि आपका पश्च कैसा दिखता है।


3
मुझे लगता है कि यह थोड़ा भ्रामक है: एमसीएमसी आमतौर पर एमएपी अनुमानक (एमसीई एल्गोरिथ्म जैसे विशेष मामलों के बाहर) को खोजने के लिए उपयोग नहीं किया जाता है।
क्लिफ एबी

1
मैं सिद्धांत रूप में आपसे असहमत नहीं हूं। लेकिन, MCMC का उपयोग किया जा सकता है और पश्च वितरण को अनुकरण करने के लिए किया जाता है । और एक बार जब आप ऐसा कर लेते हैं, तो आप निश्चित रूप से उस वितरण के मोड का पता लगा सकते हैं, एमएपी उर्फ। जो है, मुझे विश्वास है, ओपी के मन में क्या था, इसलिए मुझे पूरा यकीन नहीं है कि मेरा जवाब भ्रामक क्यों होगा।
क्रिस्टोफ़ हनक

हां, हालांकि, यदि पैरामीटर का अनुकूलन करने के लिए कोई विश्लेषणात्मक तरीका नहीं है, तो MAP के साथ काम करते समय MCMC पसंद का तरीका है?
दुनू

3
मैंने कभी भी वितरण के मोड को खोजने के लिए सरल MCMC का उपयोग करने के बारे में नहीं सुना है (तकनीकी रूप से, यह किया जा सकता है, लेकिन यह बेहद अक्षम है)। चूँकि हम आम तौर पर एक ऐसे कार्य का मूल्यांकन कर सकते हैं जो कि पश्च वितरण के लिए आनुपातिक है, इसे अधिकतम करना पोस्टीरियर वितरण को अधिकतम करने के बराबर होगा। आउट ऑफ द बॉक्स ऑप्टिमाइज़र केवल इस पर और साथ ही किसी भी लगातार संभावना की समस्या पर काम करेंगे (जो कहना है, कभी-कभी आपको उन्हें विशेषज्ञ बनाने की आवश्यकता होगी)।
एबी एबी

@ दीनू आप शायद मैक्सिमा को खोजने के लिए एमसीएमसी (पांडित्यपूर्ण, मार्कोव श्रृंखला) का उपयोग नहीं करना चाहते हैं। एक अनुकूलन एल्गोरिथ्म बेहतर काम करना चाहिए।
jtobin

10

अधिकांश पोस्टऑरेयर्स विश्लेषणात्मक रूप से अनुकूलन करने में मुश्किल साबित होते हैं (अर्थात एक ढाल लेते हुए और इसे शून्य के बराबर सेट करके), और आपको एमएपी करने के लिए कुछ संख्यात्मक अनुकूलन एल्गोरिदम का सहारा लेना होगा।

एक तरफ के रूप में: एमसीएमसी एमएपी से असंबंधित है।

एमएपी - अधिकतम पोस्टीरियर के लिए - एक पोस्टीरियर घनत्व के आनुपातिक कुछ स्थानीय अधिकतम खोजने और अनुमानों के अनुसार संबंधित पैरामीटर मूल्यों का उपयोग करने के लिए संदर्भित करता है। इसे के रूप में परिभाषित किया गया है

θ^MAP=argmaxθp(θ|D)

MCMC आमतौर पर एक संभावना घनत्व के आनुपातिक कुछ पर अपेक्षाओं का उपयोग किया जाता है । बाद के मामले में, कि

θ^MCMC=n1i=1nθi0Θθp(θ|D)dθ

{θi0}i=1nθ^MAPθ^MCMC

क्रूक्स यह है कि एमएपी में अनुकूलन शामिल है , जबकि एमसीएमसी नमूने के आसपास आधारित है ।


आप कहते हैं कि पोस्टएयर विश्लेषणात्मक रूप से अनुकूलन करने में मुश्किल साबित होते हैं, जो कि एमएपी में है। तो क्या एमएपी केवल तभी संभव है जब पीछे वाले को विश्लेषणात्मक रूप से अनुकूलित किया जा सकता है और अगर ऐसा नहीं होता है तो एमसीएमसी दृष्टिकोण का सहारा लेना होगा (उदाहरण के लिए)?
दुनू

2
नहीं, विश्लेषणात्मक समाधान के साथ आने के बजाय, कोई समाधान के साथ आने के लिए एक पुनरावृत्ति एल्गोरिथ्म का उपयोग कर सकता है (यानी यदि लॉग पश्च भाग अवतल है, तो आप उदाहरण के लिए न्यूटन की विधि का उपयोग कर सकते हैं)।
एबी एबी

2
एमएपी पैरामीटर मानों को खोजने के लिए संदर्भित करता है जो (स्थानीय रूप से) एक पोस्टीरियर को अधिकतम करता है। इससे कोई फर्क नहीं पड़ता कि कोई उन पैरामीटर मानों को कैसे प्राप्त करता है: अधिकतम रूप से संख्यात्मक रूप से हल करना, संख्यात्मक दिनचर्या, स्वचालित भेदभाव आदि का उपयोग करना
jtobin
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.