मुझे कैसे पता चलेगा कि पैरामीटर आकलन की कौन सी विधि का चयन करना है?

Question

वहाँ पैरामीटर अनुमान के लिए काफी कुछ तरीके हैं। MLE, UMVUE, MoM, निर्णय-सिद्धांतवादी, और अन्य सभी को ऐसा लगता है कि उनके पास पैरामीटर अनुमान के लिए उपयोगी होने के कारण काफी तार्किक मामला है। क्या कोई एक विधि दूसरों की तुलना में बेहतर है, या यह सिर्फ एक मामला है कि हम कैसे परिभाषित करते हैं कि "सर्वश्रेष्ठ फिटिंग" अनुमानक क्या है (समानार्थी त्रुटियों को कम करने के समान है जो एक साधारण न्यूनतम वर्गों के दृष्टिकोण से अलग-अलग अनुमानों का उत्पादन करता है)?

Comments

त्वरित स्पष्टीकरण: लंबवत के बजाय ऑर्थोगोनल त्रुटियों को कम करना वास्तव में एक अनुमान रणनीति निर्णय नहीं है, लेकिन मॉडल के बारे में एक निर्णय जो अनुमान लगाने की आवश्यकता है - आमतौर पर एक जो एक के बजाय एक्स में माप त्रुटि के अस्तित्व को मानता है। (और आप इसके मापदंडों का विभिन्न तरीकों से भी अनुमान लगा सकते हैं।)

— कंज्यूगेटेयर

मुझे एक 'सर्वश्रेष्ठ फिटिंग' अनुमान रणनीति का आपका विचार पसंद है, लेकिन क्या सबसे अच्छा फिट किया जा रहा है? आमतौर पर यह मुद्दा शोधकर्ता के विश्वास की स्थिति के बारे में रणनीति के फिट होने के बारे में है जो वह विभिन्न पैरामीट्रिक मान्यताओं के बारे में जानता है जो वह करना चाहते हैं, और चिंता का स्तर उनके बारे में काफी गलत है। अर्थमिति का साहित्य इस बारे में स्पष्ट है कि एक प्रेरणा एमएलएम बनाम जीएमएम बनाम रोबस्ट के रूप में, आदि

— संयुगगतपति

Answer 1

यहां दो चीजों का थोड़ा सा भ्रम है: अनुमान लगाने वालों के लिए तरीके , और मूल्यांकनकर्ताओं के मूल्यांकन के लिए मानदंड । अधिकतम संभावना (एमएल) और विधि के क्षण (एमओएम) अनुमान लगाने के तरीके हैं; समान रूप से न्यूनतम विचरण निष्पक्षता (UMVU) और निर्णय सिद्धांत विभिन्न अनुमानकों के मूल्यांकन के लिए एक मानदंड है जो आपके पास है, लेकिन वे आपको यह नहीं बताएंगे कि उन्हें कैसे प्राप्त किया जाए।

आकलनकर्ताओं को प्राप्त करने के तरीकों में से, एमएल आमतौर पर अनुमान लगाने वालों का उत्पादन करता है जो MoM की तुलना में अधिक कुशल (यानी कम विचरण) हैं यदि आप उस मॉडल को जानते हैं जिसके तहत आपका डेटा व्युत्पन्न हुआ था (शब्दजाल में 'डेटा-जनरेट करने की प्रक्रिया' (DGP))। लेकिन MoM मॉडल के बारे में कम धारणा बनाता है; जैसा कि इसके नाम का तात्पर्य है, यह केवल एक या एक से अधिक क्षणों का उपयोग करता है, आमतौर पर केवल माध्य या केवल माध्य और विचरण, इसलिए यह कभी-कभी अधिक मजबूत होता है यदि आप डीजीपी के बारे में निश्चित नहीं हैं। एक ही समस्या के लिए एक से अधिक MoM अनुमानक हो सकते हैं, जबकि यदि आप DGP को जानते हैं, तो केवल एक ML अनुमानक है।

आकलनकर्ताओं के मूल्यांकन के तरीकों में से, निर्णय-सिद्धांत आपके आकलनकर्ता का न्याय करने के लिए उपयोग करने के लिए एक हानि फ़ंक्शन होने पर निर्भर करता है, हालांकि परिणाम 'उचित' नुकसान कार्यों की एक सीमा तक काफी मजबूत हो सकते हैं। UMVU अनुमानक अक्सर मौजूद नहीं होते हैं; कई मामलों में कोई निष्पक्ष अनुमानक नहीं होता है जिसमें हमेशा न्यूनतम विचरण होता है। और निष्पक्षता की कसौटी भी संदिग्ध उपयोगिता की है, क्योंकि यह रूपांतरों के लिए अपरिवर्तनीय नहीं है। उदाहरण के लिए, क्या आप बाधाओं के अनुपात का एक निष्पक्ष अनुमानक, या लॉग ऑड्स अनुपात पसंद करेंगे? दोनों अलग होंगे।

Comments

Onestop: यह निश्चित रूप से उस प्रश्न की भावना है जिसे मैं लक्ष्य कर रहा था। और मूल्यांकनकर्ताओं के मूल्यांकन के मानदंड और उन्हें प्राप्त करने के तरीकों के बीच स्पष्टीकरण के लिए धन्यवाद!

— क्रिस्टोफर अदन

धन्यवाद। मैं थोड़ा हैरान हूं कि किसी और ने हालांकि इसमें कोई इजाफा नहीं किया है - जो मेरे सिर के ऊपर से बहुत सुंदर लिखा गया था, और मैं निश्चित रूप से अनुमान सिद्धांत का कोई विशेषज्ञ नहीं हूं।

— onestop

Answer 2

मेरा सुझाव है कि अनुमानक का प्रकार कुछ बातों पर निर्भर करता है:

1. अनुमान गलत होने के क्या परिणाम हैं? (जैसे यह बहुत कम बुरा है यदि आपका अनुमानक बहुत अधिक है, बहुत कम होने की तुलना में; या क्या आप त्रुटि की दिशा के बारे में उदासीन हैं? यदि कोई त्रुटि दो बार बड़ी है, तो क्या यह दो बार खराब है? क्या यह प्रतिशत त्रुटि या पूर्ण त्रुटि है? यह महत्वपूर्ण है? क्या अनुमान केवल मध्यवर्ती कदम है जो भविष्यवाणी के लिए आवश्यक है? क्या बड़ा नमूना व्यवहार छोटे या छोटे व्यवहार से अधिक या कम महत्वपूर्ण है?)
2. आपके द्वारा अनुमानित राशि के बारे में आपकी पूर्व जानकारी क्या है? (जैसे कि डेटा आपकी मात्रा से कार्यात्मक रूप से कैसे संबंधित है? क्या आप जानते हैं कि क्या मात्रा सकारात्मक है? असतत? क्या आपके पास यह मात्रा पहले है? आपके पास कितना डेटा है? क्या आपके डेटा में कोई "समूह इंवेरियन" संरचना है?)
3. आपके पास क्या सॉफ्टवेयर है? (उदाहरण के लिए MCMC का कोई अच्छा सुझाव नहीं है यदि आपके पास ऐसा करने के लिए सॉफ़्टवेयर नहीं है, या यदि आप ऐसा करने के लिए नहीं जानते हैं तो GLMM का उपयोग करें।)

पहले दो बिंदु संदर्भ विशिष्ट हैं, और आपके विशिष्ट अनुप्रयोग के बारे में सोचकर , आप आम तौर पर कुछ गुणों को परिभाषित करने में सक्षम होंगे, जो आप अपने अनुमानक के पास चाहते हैं। आप तब अनुमानक का चयन करते हैं जिसे आप वास्तव में गणना कर सकते हैं, जिसमें कई गुण हैं जो आप इसे चाहते हैं।

मुझे लगता है कि एक शिक्षण पाठ्यक्रम के संदर्भ में कमी का अनुमान है, इसका मतलब है कि अक्सर "डिफ़ॉल्ट" मानदंड का उपयोग किया जाता है, इसी तरह पूर्व सूचना के लिए (सबसे स्पष्ट "डिफ़ॉल्ट" होने के नाते कि आप अपने डेटा का नमूना वितरण जानते हैं)। यह कहने के बाद कि, डिफ़ॉल्ट विधियों में से कुछ अच्छे हैं, खासकर यदि आप संदर्भ के बारे में पर्याप्त नहीं जानते हैं। लेकिन आप अगर ऐसा संदर्भ जानते हैं, और आप उपकरण है कि संदर्भ शामिल करने के लिए है, तो आप, के लिए अन्यथा आप जवाबी सहज परिणाम (क्योंकि आप क्या पर ध्यान नहीं दिया की) प्राप्त कर सकते हैं चाहिए।

मैं एक सामान्य नियम के रूप में एमवीयूई का बहुत बड़ा प्रशंसक नहीं हूं, क्योंकि निष्पक्ष-नेस पाने के लिए आपको अक्सर बहुत अधिक विचरण करने की आवश्यकता होती है। उदाहरण के लिए, कल्पना करें कि आप डार्टबोर्ड पर डार्ट्स फेंक रहे हैं, और आप बैलों-आंख को मारना चाहते हैं। यह मानते हुए कि किसी विशेष फेंकने की रणनीति के लिए बैल-आंख से अधिकतम विचलन 6 सेमी है, लेकिन डार्ट बिंदुओं का केंद्र बैलसे के ऊपर 1 सेमी है। यह MVUE नहीं है, क्योंकि केंद्र बुल्सआई पर होना चाहिए। लेकिन मान लीजिए कि वितरण को 1 सेमी नीचे (औसत पर) शिफ्ट करने के लिए, आपको अपने त्रिज्या को कम से कम 10 सेमी तक बढ़ाना होगा (इसलिए अधिकतम त्रुटि अब 10 सेमी है, और 6 सेमी नहीं)। यह एक प्रकार की चीज है जो MVUE के साथ हो सकती है, जब तक कि विचरण पहले से ही छोटा न हो। मान लीजिए कि मैं एक अधिक सटीक थ्रो था, और अपनी त्रुटि को 0.1 सेमी तक सीमित कर सकता था। अब पूर्वाग्रह वास्तव में मायने रखता है, क्योंकि मैं बुल्सआई को कभी नहीं मारूंगा!

संक्षेप में, मेरे लिए, पूर्वाग्रह केवल तभी मायने रखता है जब यह विचरण की तुलना में छोटा हो। और आप आमतौर पर केवल छोटे संस्करण प्राप्त करेंगे जब आपके पास एक बड़ा नमूना होगा।