एआईसी में 'मापदंडों की संख्या' का अर्थ

21

जब कंप्यूटिंग एआईसी,

$AIC = 2k - 2 ln L$

k का अर्थ है 'मापदंडों की संख्या'। लेकिन एक पैरामीटर के रूप में क्या मायने रखता है? तो उदाहरण के लिए मॉडल में

$y = ax + b$

क्या ए और बी को हमेशा मापदंडों के रूप में गिना जाता है? क्या होगा यदि मुझे अवरोधन के मूल्य की परवाह नहीं है, तो क्या मैं इसे अनदेखा कर सकता हूं या क्या यह अभी भी गिना जाता है?

क्या हो अगर

$y = a f(c,x) + b$

जहाँ , c और x का एक कार्य है, क्या अब मैं 3 मापदंडों की गणना करता हूँ? $f$

aic

— सिधेशो बॉब
स्रोत

9

: एक सूक्ष्मता है, क्योंकि यह एक अच्छा सवाल है की संख्या है पहचान योग्य मानकों का अनुमान लगाया जा करने के लिए। उदाहरण के लिए, प्रतिगमन मॉडल में हालांकि पांच पैरामीटर लिखे गए हैं, फिर भी । (यह मॉडल जिसमें और , जिन्हें स्पष्ट रूप से केवल चार मापदंडों की आवश्यकता है ।)

k

$k$

Y \sim N (β_{0} + β_{1} X_{1} + β_{2} X_{2} + β_{3} (X_{1} + X_{2}), σ^{2})

$Y\sim\mathcal{N}(\beta_0+\beta_1X_1+\beta_2X_2+\beta_3(X_1+X_2), \sigma^2)$

k = 4

$k=4$

Y \sim N (β_{0} + α_{1} X_{1} + α_{2} X_{2}, σ^{2})

$Y\sim\mathcal{N}(\beta_0+\alpha_1X_1+\alpha_2X_2, \sigma^2)$

α_{1} = β_{1} + β_{3}

$\alpha_1=\beta_1+\beta_3$

α_{2} = β_{2} + β_{3}

$\alpha_2=\beta_2+\beta_3$

— whuber

3

कड़ाई से, आप सभी पहचानने योग्य, मुक्त मापदंडों की गणना करते हैं - मतलब पैरामीटर, आकार और स्केल पैरामीटर, जो कुछ भी (और यह एआईसी लिए मायने रखता है ), लेकिन एआईसी के लिए यह कोई परिणाम नहीं है यदि आप मापदंडों की तुलना मॉडल से आम करते हैं। उदाहरण के लिए, प्रतिगमन में, आपको विचरण पैरामीटर की गणना करनी चाहिए। इसलिए, मेरी गणना से, आपके प्रश्न में आपके सभी पैरामीटर एक ही हैं - लेकिन अगर सभी मॉडलों में वास्तव में एक है, तो एआईसी के लिए इसे गिराने के लिए कोई चोट नहीं है। प्रतिगमन मॉडल में AIC की गणना करते समय स्पष्ट रूप से विचरण पैरामीटर गिना जाता है।

_{C}

$_C$

— Glen_b -Reinstate मोनिका

@whuber यह उत्कृष्ट टिप्पणी एक उत्तर के रूप में क्यों नहीं पोस्ट की गई है? :)

— एलेक्सिस

धन्यवाद, @ एलेक्सिस। मैंने इस विचार को एक टिप्पणी के रूप में पोस्ट किया है क्योंकि यह विचार पी स्नेल के उत्तर में पर्याप्त रूप से कवर किया गया है: मैं केवल इसे थोड़ा और जोर देने की कामना करता हूं।

— whuber

17

जैसा कि उल्लेख किया गया है, अनुमानित मापदंडों की संख्या का प्रतिनिधित्व करता है । दूसरे शब्दों में, यह मॉडल को पूरी तरह से निर्दिष्ट करने के लिए आपके द्वारा आवश्यक अतिरिक्त मात्रा की संख्या है। सरल रैखिक प्रतिगमन मॉडल आप , , या दोनों का अनुमान लगा सकते हैं । आप जो भी मात्रा का अनुमान लगाते हैं वह आपको ठीक करना चाहिए। इस अर्थ में कोई पैरामीटर "अनदेखा" नहीं है कि आप इसे नहीं जानते हैं और इसकी परवाह नहीं करते हैं। सबसे आम मॉडल जो और दोनों का अनुमान नहीं लगाता है, वह कोई अवरोधन मॉडल नहीं है, जहां हम ठीक करते हैं $k$

y = ए एक्स + ख

$y=ax+b$

a

$a$

b

$b$

a

$a$

b

$b$

b = 0

$b=0$ । इसका 1 पैरामीटर होगा। आप आसानी से

या

ठीक कर सकते हैं यदि आपके पास यह मानने का कोई कारण है कि यह वास्तविकता को दर्शाता है। (ललित बिंदु:

भी प्रतिगमन रैखिक एक साधारण में एक पैरामीटर है, लेकिन चूंकि यह हर मॉडल में वहाँ आप AIC की तुलना को प्रभावित किए बिना इसे छोड़ सकते हैं।)

a = 2

$a=2$

b = 1

$b=1$

σ

$\sigma$

यदि आपका मॉडल तो मापदंडों की संख्या इस बात पर निर्भर करती है कि क्या आप इनमें से किसी भी मान को ठीक करते हैं, और के रूप में । उदाहरण के लिए, यदि हम अनुमान करना चाहते हैं और जानते हैं कि है, तो जब हम मॉडल को लिखने हमारे पास के साथ तीन अज्ञात पैरामीटर। यदि, हालांकि,

y = ए च (सी, एक्स) + ख

$y=af(c,x)+b$

f

$f$

a, b, c

$a, b, c$

f (c, x) = x^{c}

$f(c,x)=x^c$

y = ए {एक्स}^{सी} + ख

$y=ax^c+b$

, तो हमारे पास मॉडल

जिसमें वास्तव में केवल दो पैरामीटर हैं:

और

।

f (c, x) = c x

$f(c,x)=cx$

y = ए सी एक्स + ख

$y=acx+b$

a c

$ac$

b

$b$

यह महत्वपूर्ण है कि द्वारा अनुक्रमित कार्यों का एक परिवार है । यदि आप सभी जानते हैं कि निरंतर है और यह और पर निर्भर करता है , तो आप भाग्य से बाहर हैं क्योंकि बेशुमार कई निरंतर कार्य हैं। $f(c,x)$ $c$ $f(c,x)$ $c$ $x$

— पी। श्नेल
स्रोत

2

(+1) शायद ध्यान देने योग्य है कि पूरे "अनुमान" का अर्थ है "अधिकतम संभावना द्वारा अनुमान"।

— Scortchi - को पुनः स्थापित मोनिका

f (c, x)

$f(c,x)$

c

$c$

c

$c$

r^{2}

$r^2$

c

$c$

2

@ सिदशोबोब: हाँ - जब आप दो मॉडलों की तुलना करते हैं तो अधिकतम लॉग की संभावना में अंतर होता है, कुल्बैक-लीब्लर सूचना के नुकसान में अंतर का एक पक्षपाती अनुमानक है और एआईसी में दंड अवधि लगभग सही है।

— Scortchi - को पुनः स्थापित मोनिका

1

@ सिदशोबोब: मुझे उल्लेख करना चाहिए कि सामान्यीकृत समीकरणों और जैसे - के लिए एआईसी के संशोधन हैं - वे अधिकतम क्वैसी-संभावना और अधिक जटिल दंड अवधि का उपयोग करते हैं।

— Scortchi - को पुनः स्थापित मोनिका

4

$\mathit{AIC} = 2k - 2\ln(L)$

( यहां देखें )

$k$

मुझे आपके दूसरे प्रश्न का उत्तर देने के लिए पर्याप्त ज्ञान नहीं है, मैं इसे समुदाय के किसी अन्य सदस्य के लिए छोड़ दूँगा।

— mugen
स्रोत

1

λ

$\lambda$

1

हां बेशक।

— PA6OTA

1

पहला, उन लोगों के लिए जो एआईसी से परिचित नहीं हो सकते हैं: एकैके इंफॉर्मेशन मानदंड (एआईसी) मॉडल की "अच्छाई" की तुलना करने के लिए डिज़ाइन किया गया एक सरल मीट्रिक है।

एआईसी के अनुसार, जब एक ही इनपुट और प्रतिक्रिया चर पर लागू होने वाले दो अलग-अलग मॉडलों को चुनने की कोशिश की जाती है , यानी समान समस्या को हल करने के लिए डिज़ाइन किए गए मॉडल, निम्न एआईसी के साथ मॉडल को "बेहतर" माना जाता है।

$k$

c $f(c, x)$ $k$

— arielf
स्रोत