एक समान पूर्व कैसे अधिकतम संभावना और पीछे के मोड से समान अनुमानों को जन्म देता है?

Question

मैं विभिन्न बिंदु अनुमान विधियों का अध्ययन कर रहा हूं और पढ़ता हूं कि जब एमएपी बनाम एमएल अनुमानों का उपयोग करते समय, जब हम "वर्दी पहले" का उपयोग करते हैं, तो अनुमान समान हैं। क्या कोई समझा सकता है कि पूर्व में "वर्दी" क्या है और कुछ (सरल) उदाहरण दें जब एमएपी और एमएल अनुमानक समान होंगे?

Comments

@AndreSilva एमएपी = अधिकतम एक बादरी - पीछे के मोड

— Glen_b -Reinstate Monica

: यहाँ एक नज़र math.stackexchange.com/questions/1327752/...

— Royi

Answer 1

यह एक समान वितरण (या तो निरंतर या असतत) है।

यह सभी देखें

http://en.wikipedia.org/wiki/Point_estimation#Bayesian_point-estimation

तथा

http://en.wikipedia.org/wiki/Maximum_a_posteriori_estimation#Description

यदि आप MLE वाले सेट पर पहले एक समान का उपयोग करते हैं, तो MAP = MLE हमेशा। इसका कारण यह है कि इस पूर्व संरचना के तहत, पश्च वितरण और संभावना आनुपातिक हैं।

Comments

मेरी राय में यह एक अच्छा जवाब है। यह जोड़ने लायक हो सकता है कि इसका कारण यह है कि पश्च वितरण और संभावना समानुपाती है, यह कि पश्च वितरण अपने आप में संभावना और पूर्व के उत्पाद के समानुपाती है। जब पहले समान मूल्य हर जगह समान रूप से लेता है, जैसा कि समान वितरण में है, तो पीछे वितरण केवल संभावना के समानुपाती होता है।

— टीओटी

@TooTone मैं अनुचितता के बारे में एक बिंदु भी जोड़ूंगा।

— स्टीफन लॉरेंट

यूनिफ़ॉर्म को पहले से ही उस उपयोगकर्ता-सेट या हर वर्ग के लिए समान संभावना के रूप में देखा जा सकता है जिसे आप भविष्यवाणी करने की कोशिश कर रहे हैं। उदाहरण के लिए, यदि हमारे पास दो वर्ग की समस्या है और सकारात्मक उदाहरणों के लिए वितरण 10% है (यानी 0.1 की पूर्व संभावना), तो हम सकारात्मक मामलों के लिए वर्दी को सेट कर सकते हैं 0.5 मूल के असंतुलन प्रभाव को दूर करने के लिए वितरण।

— सूफानोम

टिप्पणी पर, MAP से पहले वर्दी के तहत और एमएल केवल तभी टकराता है जब वर्दी पूर्व पैरामीटर के वैध मूल्यों से अधिक हो। अर्थात् यदि पैरामीटर निरंतर है और पूर्व केवल [0, 1] पर समान है, तो यह धारण नहीं करेगा।

— रॉय

@ टिप्पणी: अच्छी टिप्पणी। यह वास्तव में "इससे भी बदतर" है, अर्थात MAP का मूल्य वर्चस्वकारी माप की पसंद पर निर्भर करता है, जैसा कि ड्रिहलेट और मारिन के इस पत्र में बताया गया है ।

— शीआन

Answer 2

MLE किसी दिए गए ईवेंट की घटना का अनुमान एक पैरामीटर दिया गया है, जबकि MAP किसी ईवेंट दिए गए पैरामीटर का अनुमान है। जब हम MAP का अनुमान लगाते हुए आगे बायस प्रमेय का उपयोग करते हैं तो यह the the जाता है जहाँ the MLE के संबंध में एकमात्र अतिरिक्त शब्द है। MAP का माध्य और विचरण अनुमान MLE के माध्य और विचरण अनुमान के समान होगा क्योंकि प्रायर हर बार समान रहता है और बिल्कुल नहीं बदल रहा है। इस प्रकार यह केवल एक स्थिर के रूप में कार्य करता है और इस प्रकार माध्य और विचरण के मूल्य को प्रभावित करने में कोई भूमिका नहीं निभाता है।$P(D|\theta)P(\theta)$$P(\theta)$

Comments

(-1) अधिकतम संभावना अनुमान (एक पैरामीटर का) एक पैरामीटर का एक अनुमान है, न कि 'दी गई घटना की घटना का अनुमान'। उत्तर का शेष कुछ भ्रमित / भ्रमित है, उदाहरण के लिए, यह स्पष्ट नहीं है कि 'माध्य और विचरण' का क्या अर्थ है।

— जुहो कोक्कल

@ टिम, क्या आप एक प्रमाण (या रूपरेखा) प्रदान कर सकते हैं जो दिखाता है The mean and variance estimate of MAP will be same as mean and variance estimate of MLE? धन्यवाद

— curious_dan

@ गंभीर_दान बेस प्रमेय है $p(\theta|X) \propto p(X|\theta) p(\theta)$, अगर $p(\theta) \propto 1$ एक समान है, फिर यह कम हो जाता है $p(\theta|X) \propto p(X|\theta) \times 1$, तो आप केवल संभावना को अधिकतम कर रहे हैं, इसलिए यह MLE के समान है।

— टिम

धन्यवाद, @Tim --- मैं देख सकता हूं कि यह अधिकतम / अपेक्षित मूल्य के लिए सही क्यों है, लेकिन यह मेरे लिए स्पष्ट नहीं है कि विचरण एक ही होगा

— जिज्ञासु_दान

@curious_dan का विचलन क्या है? यह उस पैरामीटर पर लागू होता है जो आप अनुमान लगाते हैं।

— टिम