दो गैर-नेस्टेड मॉडल के एआईसी में अंतर का परीक्षण करना

एआईसी या किसी अन्य सूचना मानदंड का पूरा बिंदु यह है कि कम बेहतर है। इसलिए अगर मेरे दो मॉडल हैं M1: y = a0 + XA + e और M2: y = b0 + ZB + u, और अगर पहले (A1) का AIC दूसरे (A2) से कम है, तो M1 है सूचना सिद्धांत के दृष्टिकोण से एक बेहतर फिट है। लेकिन क्या अंतर A1-A2 के लिए कोई कटऑफ बेंचमार्क है? वास्तव में कितना कम है? दूसरे शब्दों में, क्या केवल नेत्रगोलक के अलावा (A1-A2) के लिए एक परीक्षण है?

संपादित करें: पीटर / पवित्रा ... प्रतिक्रिया के लिए धन्यवाद। वास्तव में, यह एक ऐसा मामला है, जहां मेरी ठोस विशेषज्ञता मेरे सांख्यिकीय विशेषज्ञता के साथ विरोध कर रही है। अनिवार्य रूप से, समस्या दो मॉडलों के बीच चयन नहीं कर रही है, लेकिन यह जांचने के लिए कि क्या दो चर जिन्हें मैं काफी हद तक समान जानकारी के बराबर जानता हूं (वास्तव में, पहले मॉडल में एक चर और दूसरे में एक वेक्टर है। इस मामले के बारे में सोचें। उनमें से एक सूचकांक के खिलाफ चर का एक गुच्छा।)। जैसा कि पैनी ने बताया, सबसे अच्छा दांव कॉक्स टेस्ट लगता है। लेकिन क्या वास्तव में दो मॉडलों की सूचना सामग्री के बीच अंतर का परीक्षण करने का एक तरीका है?

regression aic

— user3671
स्रोत

तुम भी Wagonmakers एट अल की जाँच में रुचि हो सकती है। (2004)। पैरामीट्रिक बूटस्ट्रैप का उपयोग करके मॉडल की नकल का आकलन करना। गणितीय मनोविज्ञान की पत्रिका, 48 , 28-50। ( पीडीऍफ़ )।

— गंग - मोनिका

जवाबों:

क्या जिज्ञासा का प्रश्न है, अर्थात आप यहाँ मेरे उत्तर से संतुष्ट नहीं हैं ? अगर नहीं...

इस मुश्किल सवाल की आगे की जांच से पता चला है कि आमतौर पर इस्तेमाल किया जाने वाला नियम-अंगूठा मौजूद होता है, जिसमें कहा गया है कि अंतर होने पर दो मॉडल मानदंड से अप्रभेद्य हैं । वही जो आप वास्तव में पर विकिपीडिया के लेख में पढ़ेंगे (ध्यान दें कि लिंक क्लिक करने योग्य है!)। सिर्फ उन लोगों के लिए जो लिंक पर क्लिक नहीं करते हैं: $AIC$ $|AIC_1 - AIC_2| < 2$ $AIC$

$AIC$ एक मॉडल के सापेक्ष समर्थन का अनुमान लगाता है। व्यवहार में इसे लागू करने के लिए, हम उम्मीदवार मॉडल के एक सेट के साथ शुरू करते हैं, और फिर मॉडल के संबंधित मूल्यों को हैं। अगला, न्यूनतम मान की पहचान करें । एक मॉडल का चयन तब निम्न प्रकार से किया जा सकता है। $AIC$ $AIC$

अंगूठे के एक मोटे नियम के रूप में, न्यूनतम के के भीतर अपने वाले मॉडल का पर्याप्त समर्थन होता है और इनफेक्शन बनाने पर विचार करना चाहिए। न्यूनतम के लगभग के भीतर अपने वाले मॉडल को काफी कम समर्थन प्राप्त होता है, जबकि ऊपर वाले मॉडल में या तो अनिवार्य रूप से कोई समर्थन नहीं होता है और उन्हें आगे के विचार से छोड़ा जा सकता है या कम से कम कुछ संरचनात्मक परिवर्तनों की व्याख्या करने में विफल रहता है आँकड़े। $AIC$ $1–2$ $AIC$ $4–7$ $AIC > 10$

एक अधिक सामान्य दृष्टिकोण इस प्रकार है ...

, द्वारा उम्मीदवार मॉडल के मूल्यों को । बता दें कि ने उन मूल्यों को न्यूनतम बताया है। तब को रिश्तेदार संभावना के रूप में व्याख्या की जा सकती है कि -th मॉडल न्यूनतम (अनुमानित अनुमानित) जानकारी हानि को कम करता है। $AIC$ $AIC1$ $AIC2, AIC3, \ldots, AICR$ $AICmin$ $e^{(AICmin−AICi)/2}$ $i$

एक उदाहरण के रूप में, मान लें कि उम्मीदवार सेट में तीन मॉडल थे, जिसमें मान , और । फिर दूसरा मॉडल बार संभावित मॉडल के रूप में सूचना के नुकसान को कम करने वाला पहला मॉडल है, और तीसरा मॉडल गुना है जानकारी हानि को कम करने के लिए पहले मॉडल के रूप में संभावित। इस मामले में, हम तीसरे मॉडल को आगे के विचार से अलग कर सकते हैं और पहले दो मॉडलों का भार औसत ले सकते हैं , क्रमशः वजन और । सांख्यिकीय अनुमान तब भारित मल्टीमॉडल पर आधारित होगा। $AIC$ $100$ $102$ $110$ $e^{(100−102)/2} = 0.368$ $e^{(100−110)/2} = 0.007$ $1$ $0.368$

मेरी राय में अच्छी व्याख्या और उपयोगी सुझाव। बस क्लिक करने योग्य है जो पढ़ने से डरो मत!

इसके अलावा , एक बार फिर ध्यान दें, बड़े पैमाने पर डेटा सेट के लिए कम बेहतर है। अलावा आपको मानदंड पूर्वाग्रह- संस्करण को लागू करने के लिए उपयोगी हो सकता है (आप इस कोड का उपयोग कर सकते हैं या सूत्र , जहाँ अनुमानित मापदंडों की संख्या है)। यद्यपि, अंगूठे का नियम समान होगा। $AIC$ $BIC$ $AIC$ $AICc$ R $AICc = AIC + \frac{2p(p+1)}{n-p-1}$ $p$

— तीर्थ सेलोव
स्रोत

हाय पवित्रा ... मुझे पता था कि तुम यह देखोगे। असल में, मूल प्रश्न के लिए आपकी प्रतिक्रिया ने इस ट्रेन को चालू कर दिया। मुझे लगा कि यह एक दिलचस्प सवाल होगा। मैं जिस समस्या से जूझ रहा हूं वह यह है कि सांख्यिकीय परीक्षण (कॉक्स टेस्ट सहित) अक्सर होते हैं और इसलिए आप दो मॉडलों के बीच के अंतर को महत्व के कुछ पूर्वनिर्धारित स्तर पर परख सकते हैं। लेकिन एआईसी / बीआईसी संभावना आधारित हैं, और यह मुझे लगता है कि संख्या को सीधे तुलना में नहीं किया जा सकता है, जैसा कि आप इंगित करते हैं, अंगूठे के नियम से। चूँकि IC उपाय स्केल-डिपेंडेंट हैं, एक निरपेक्ष मान (2) समस्याग्रस्त हो सकता है, नहीं?

— user3671

@user, का पूर्ण मूल्य समस्याग्रस्त नहीं है। आप सापेक्ष संभावना सुझाव के लिए जा सकते हैं, इसलिए आप शायद कुछ अच्छे मूल्य की तुलना में इस पर अधिक आश्वस्त होंगे । द्वारा पैमाने प्रभाव आप जब कसौटी कम छोटे नमूनों में पक्षपाती और बड़े में संगत है मतलब है? इसके बजाय लगातार कोशिश करें और छोटे नमूनों के लिए भी एक अच्छा विकल्प होगा। अंगूठे के नियम अभी भी प्रयोग करने योग्य हैं।

2

$2$

2

$2$

B I C

$BIC$

A I C c

$AICc$

— ६३:३५ पर पापेल सेलोव

@DmitrijCelov (+1 कुछ समय पहले) अच्छा जवाब - पाठ को चिपकाने के लिए धन्यवाद, क्योंकि विकिपीडिया में अब पहले दो पैराग्राफ में अंक नहीं हैं। हटाए गए पैराग्राफ को पी के रूप में उद्धृत किया गया था। 446:

Burnham, K. P., and Anderson, D.R. (2002). Model Selection and Multimodel Inference: A Practical Information-Theoretic Approach, 2nd ed. Springer-Verlag. ISBN 0-387-95364-7.

और पूर्व-संशोधन विकी पृष्ठ यहाँ है

— जेम्स स्टेनली

मुझे ध्यान देना चाहिए कि मैंने बर्नहैम पुस्तक नहीं पढ़ी है, और पुराने विकी संदर्भ ने पाठ का सुझाव दिया था कि यह एक पैराफेरेस था। FYI करें, विकी पेज को 16:52, 15 अप्रैल 2011 को संपादित किया गया।

— जेम्स स्टेनली

क्या आप शायद इस अनुवर्ती प्रश्न की मदद कर सकते हैं? stats.stackexchange.com/questions/349883/...

— Tripartio

मुझे लगता है कि यह एक ऐसा प्रयास हो सकता है जिसे आप वास्तव में नहीं चाहते हैं।

मॉडल चयन विज्ञान नहीं है। दुर्लभ परिस्थितियों को छोड़कर, कोई भी एक आदर्श मॉडल नहीं है, या यहां तक कि एक "सच्चा" मॉडल भी नहीं है; शायद ही कभी एक "सर्वश्रेष्ठ" मॉडल होता है। AIC बनाम AICc बनाम BIC बनाम SBC बनाम की चर्चाएँ जो भी हों, मुझे कुछ हद तक छोड़ देती हैं। मुझे लगता है कि विचार कुछ अच्छे मॉडल पाने के लिए है। आप तब उनके बीच में विशेषज्ञता और सांख्यिकीय विचारों के संयोजन के आधार पर चयन करते हैं। यदि आपके पास कोई ठोस विशेषज्ञता नहीं है (शायद ही कभी, तो शायद ही कभी ज्यादातर लोगों की तुलना में बहुत अधिक हो) तो सबसे कम एआईसी (या एआईसीसी या जो भी हो) चुनें। लेकिन आपके पास आमतौर पर कुछ विशेषज्ञता है - और आप इन विशेष चर की जांच क्यों कर रहे हैं?

— पीटर Flom - को पुनः स्थापित मोनिका
स्रोत

+1 सांख्यिकीय और मूल विशेषज्ञता दोनों की आवश्यकता पर जोर देने के लिए।

— chl