MLE बनाम कम से कम वर्गों में फिटिंग की संभावना वितरण

Question

कई पेपरों, पुस्तकों और मेरे द्वारा पढ़े गए लेखों के आधार पर मुझे जो धारणा मिली, वह यह है कि डेटा के एक सेट पर प्रायिकता वितरण को फिट करने का अनुशंसित तरीका अधिकतम संभावना अनुमान (MLE) का उपयोग करके है। हालांकि, एक भौतिक विज्ञानी के रूप में, एक अधिक सहज तरीका यह है कि मॉडल के पीडीएफ़ को कम से कम वर्गों का उपयोग करके डेटा के अनुभवजन्य पीडीएफ में फिट किया जाए। फिर MLE फिटिंग की संभावना वितरण में कम से कम वर्गों से बेहतर क्यों है? क्या कोई मुझे इस प्रश्न का उत्तर देने वाले वैज्ञानिक कागज / पुस्तक की ओर संकेत कर सकता है?

मेरा कूबड़ है क्योंकि MLE एक शोर मॉडल नहीं मानता है और अनुभवजन्य पीडीएफ में "शोर" हेटेरोसेडेसिक है और सामान्य नहीं है।

Answer 1

इस बारे में सोचने का एक उपयोगी तरीका यह है कि ऐसे मामले हैं जब कम से कम वर्ग और एमएलई समान होते हैं जैसे कि उन मापदंडों का अनुमान लगाना जहां यादृच्छिक तत्व का सामान्य वितरण होता है। तो वास्तव में, के बजाय (जैसा कि आप अनुमान लगाते हैं) कि MLE एक शोर मॉडल नहीं मानती है, जो चल रहा है वह यह है कि यह मानती है कि यादृच्छिक शोर है, लेकिन इसे ग्रहण करने के बजाय कैसे आकार दिया जाता है, इसका अधिक परिष्कृत दृष्टिकोण लेता है। एक सामान्य वितरण है।

सांख्यिकीय अनुमान पर कोई भी पाठ्य पुस्तक MLE के अच्छे गुणों के साथ दक्षता और स्थिरता (लेकिन जरूरी नहीं कि पूर्वाग्रह के संबंध में) से निपटेगी। MLEs के पास विषम परिस्थितियों में खुद को सामान्य रखने की अच्छी संपत्ति है।

Comments

मेरा मतलब है "एक यादृच्छिक शोर मॉडल नहीं मानता है" यह है कि यह नहीं मानता कि शोर का कुछ निश्चित वितरण है जैसे, सामान्य। क्या आप ऐसी पुस्तक को इंगित कर सकते हैं जो कम से कम वर्गों का उपयोग करके पीडीएफ फिटिंग द्वारा पैरामीटर आकलन पर चर्चा करती है? मुझे जो पुस्तकें मिलीं, उनमें MLE (और कभी-कभी, क्षणों की विधि) पर चर्चा हुई।

— ईसाई एलिस

MLE को फिट करने के लिए आपको अभी भी एक निश्चित वितरण की आवश्यकता है, लेकिन आपके पास सामान्य से अधिक व्यापक विकल्प है। बस पहली पुस्तक को हाथ में लेने के लिए जो दोनों पर चर्चा करता है, मेरे पास गर्थवैइट, जोलिफ और जोन्स स्टैटिस्टिकल इन्वेंशन (एक सुंदर मानक द्वितीय वर्ष की यूनि बुक) है जिसमें कम से कम वर्गों के साथ-साथ न्यूनतम ची वर्ग की विधि और विकल्प के रूप में चर्चा की गई है। MLEs के लिए।

— पीटर एलिस