जब एक विश्लेषणात्मक रूप से पर्याप्त सरल हो सकता है, तो पोस्टीरियर वितरण का पता लगाने के लिए कदम?


12

यह कम्प्यूटेशनल साइंस में भी पूछा गया था ।

मैं 11 डेटा नमूनों के साथ, एक लिए कुछ गुणांक के बायेसियन अनुमान की गणना करने की कोशिश कर रहा हूं: जहां माध्य 0 के साथ गाऊसी है और विचरण वेक्टर पर पूर्व वितरण माध्य साथ गाऊसी है और एक विकर्ण सहसंयोजक मैट्रिक्स विकर्ण प्रविष्टियों के बराबर ।

Yi=μ+αYi1+ϵi
ϵiσe2(μ,α)t(0,0)σp2

ऑटोरेगमेंट फॉर्मूले के आधार पर, इसका मतलब है कि डेटा बिंदुओं का वितरण ( ) माध्य और भिन्नता । इस प्रकार, सभी डेटा बिंदुओं लिए घनत्व संयुक्त रूप से (स्वतंत्रता, जो मैं लिख रहा हूं कार्यक्रम के लिए ठीक है), :Yiμ+αYi1σe2(Y)

p(Y|(μ,α)t)=i=21112πσe2exp(YiμαYi1)22σe2.

बायस प्रमेय द्वारा, हम उपरोक्त घनत्व के उत्पाद को पूर्व घनत्व के साथ ले सकते हैं, और फिर हमें बस सामान्य बनाने की आवश्यकता होगी। मेरे कूबड़ है कि इस काम के लिए एक गाऊसी वितरण होने के लिए चाहिए, ताकि हम बजाय स्पष्ट रूप से अंत में सामान्य निरंतर के बारे में चिंता कर सकते हैं अधिक अभिन्न साथ यह की गणना है और ।μα

यह वह हिस्सा है जिससे मैं परेशान हूं। मैं पूर्व घनत्व के गुणन (जो कि बहुभिन्नरूपी है) की गणना कैसे करता है और यह डेटा घनत्व का एक उत्पाद है? पीछे की ओर विशुद्ध रूप से और का घनत्व होना चाहिए , लेकिन मैं यह नहीं देख सकता कि आप इस तरह के उत्पाद से कैसे निकलेंगे।μα

कोई भी संकेत वास्तव में सहायक होते हैं, भले ही आप मुझे सही दिशा में इंगित करें और फिर मुझे गन्दा बीजगणित (जो मैंने पहले ही कई बार करने का प्रयास किया है) करने की आवश्यकता है।

प्रारंभिक बिंदु के रूप में, यहाँ नियम से अंश का रूप है:

1(2πσe2)52πσp2exp[12σe2i=211(YiμαYi1)2μ22σp2α22σp2].

मुद्दा यह है कि यह कैसे देखना है कि यह गौसियन घनत्व तक कम हो जाता है ।(μ,α)t

जोड़ा गया

अंततः, यह निम्नलिखित सामान्य समस्या को उबालता है। यदि आपको कुछ द्विघात अभिव्यक्ति दी जाती है जैसे कि आप इसे कैसे द्विघात रूप में डालते हैं कुछ 2x2 मैट्रिक्स के लिए ? यह आसान मामलों में काफी सरल है, लेकिन आप औसत अनुमानों को प्राप्त करने के लिए किस प्रक्रिया का उपयोग करते हैं, और ?

Aμ2+Bμα+Cα2+Jμ+Kα+L
(μμ^,αα^)Q(μμ^,αα^)tQμ^α^

ध्यान दें, मैंने मैट्रिक्स फॉर्मूला का विस्तार करने का सीधा विकल्प आजमाया और फिर ऊपर से गुणांक को समान करने की कोशिश की। मेरे मामले में, समस्या यह है कि निरंतर शून्य है, और फिर मैं दो अज्ञात में तीन समीकरण प्राप्त कर रहा हूं, इसलिए यह सिर्फ गुणांक से मेल खाने के लिए कमतर है (भले ही मैं एक सममित द्विघात मैट्रिक्स को मानता हूं)।L


[इस प्रश्न] ( आंकड़े . stackexchange.com/questions/22852/… ) के लिए मेरा उत्तर उपयोगी हो सकता है। ध्यान दें कि आपको अपने पहले अवलोकन के लिए पूर्व की आवश्यकता है - पुनरावृत्तियाँ वहीं रुक जाती हैं।
संभाव्यताविषयक

मैं नहीं देखता कि मुझे इस मामले में इसकी आवश्यकता क्यों है। मैं समय अंतरालों का इलाज करने वाला हूं, जैसे वे सशर्त रूप से स्वतंत्र होते हैं। ध्यान दें कि संयुक्त घनत्व का उत्पाद सिर्फ । मुझे नहीं लगता कि मैं यहाँ क्रमिक रूप से अद्यतन सूत्र प्राप्त करने वाला हूँ, पीछे के लिए एक ही सूत्र । p ( ( μ , α ) ti=2..11p((μ,α)t|Y)
ईली

पूर्व " " में "मल्टीवेरेट" डेटा घनत्व में "यूनीवेरिएट" के साथ विरोधाभास में नहीं है, क्योंकि वे घनत्व हैं । y ip(α,μ)yi
शीआन

जवाबों:


7

पिछले उत्तर के लिए मेरे जवाब में जो सुराग था, वह यह है कि मैंने मापदंडों को कैसे एकीकृत किया, यह देखने के लिए है - क्योंकि आप यहां ठीक उसी तरह का एकीकरण करेंगे। आप प्रश्न जानते हैं कि विचरण मापदंडों को ज्ञात है, इसलिए वे स्थिरांक हैं। आपको केवल अंश पर निर्भरता को देखने की आवश्यकता है । यह देखने के लिए, ध्यान दें कि हम लिख सकते हैं:α,μ

p(μ,α|Y)=p(μ,α)p(Y|μ,α)p(μ,α)p(Y|μ,α)dμdα
=1(2πσe2)52πσp2exp[12σe2i=211(YiμαYi1)2μ22σp2α22σp2]1(2πσe2)52πσp2exp[12σe2i=211(YiμαYi1)2μ22σp2α22σp2]dμdα

ध्यान दें कि हम पहले कारक बाहर हैं हर पर डबल इंटीग्रल, और यह अंश के साथ रद्द करता है। हम वर्गों के योग को भी निकाल सकते हैं और यह भी रद्द हो जाएगा। अब हम जिस अभिन्न अंग के साथ रह गए हैं (चुकता अवधि बढ़ाने के बाद):1(2πσe2)52πσp2exp[12σe2i=211Yi2]

=exp[10μ2+α2i=110Yi22μi=211Yi2αi=211YiYi1+2μαi=110Yi2σe2μ22σp2α22σp2]exp[10μ2+α2i=110Yi22μi=211Yi2αi=211YiYi1+2μαi=110Yi2σe2μ22σp2α22σp2]dμdα

अब हम सामान्य पीडीएफ से सामान्य परिणाम का उपयोग कर सकते हैं।

exp(az2+bzc)dz=πaexp(b24ac)
यह वर्ग को पूरा करने से होता है और ध्यान दें कि पर निर्भर नहीं है । ध्यान दें कि इनर इंटीग्रल ओवर इस फॉर्म का और और । इस इंटीग्रल को करने के बाद, आप पाएंगे कि शेष इंटीग्रल ओवरaz2+bzczμa=102σe2+12σp2b=i=211Yiαi=110Yiσe2c=α2i=110Yi22αi=211YiYi12σe2+α22σp2αइस फॉर्म का भी है, इसलिए आप इस फॉर्मूले को फिर से, अलग-अलग साथ उपयोग कर सकते हैं । तब आप फॉर्म में अपना उत्तर लिखने में सक्षम हों। जहां एक मैट्रिक्स हैa,b,c12π|V|12exp[12(μμ^,αα^)V1(μμ^,αα^)T]V2×2

अगर आपको और सुराग चाहिए तो मुझे बताएं।

अपडेट करें

(ध्यान दें: सही सूत्र, होना चाहिए के बजाय )10μ2μ2

यदि हम अपडेट में आपके द्वारा लिखे गए द्विघात रूप को देखते हैं, तो हम देखते हैं कि गुणांक हैं ( पीछे के लिए अप्रासंगिक है क्योंकि हम हमेशा किसी भी निरंतर को जोड़ सकते हैं जो हर में निरस्त कर देगा)। हमारे पास अज्ञात । इसलिए यह एक "अच्छी तरह से उत्पन्न" समस्या है जब तक समीकरण रैखिक रूप से स्वतंत्र होते हैं। यदि हम द्विघात हमें मिलता है:5L5μ^,α^,Q11,Q12=Q21,Q22(μμ^,αα^)Q(μμ^,αα^)t

Q11(μμ^)2+Q22(αα^)2+2Q12(μμ^)(αα^)
=Q11μ2+2Q21μα+Q22α2(2Q11μ^+2Q12α^)μ(2Q22α^+2Q12μ^)α+
+Q11μ^2+Q22α^2+2Q12μ^α^

दूसरे क्रम के गुणांक की तुलना में हमें जो हमें बताता है कि (उलटा) सहसंयोजक मैट्रिक्स कैसा दिखता है। लिए प्रतिस्थापित करने के बाद भी हमारे पास के लिए दो और अधिक जटिल समीकरण हैं । इन्हें मैट्रिक्स रूप में लिखा जा सकता है:A=Q11,B=2Q12,C=Q22α^,μ^Q

(2ABB2C)(μ^α^)=(JK)

इस प्रकार अनुमान निम्नलिखित हैं:

(μ^α^)=(2ABB2C)1(JK)=14ACB2(BK2JCBJ2KA)

यह कि हमारे पास अद्वितीय अनुमान नहीं हैं जब तक कि । अब हमारे पास: 4ACB2

A=102σe2+12σp2B=i=110Yiσe2C=i=110Yi22σe2+12σp2J=i=211Yiσe2K=i=211YiYi1σe2

ध्यान दें कि अगर हम को लिए परिभाषित हैं और सीमा लेते हैं, तो लिए अनुमान सामान्य रूप से कम से कम वर्गों द्वारा दिए जाते हैं। अनुमान और जहां और । तो पीछे के अनुमान ओएलएस अनुमानों और पूर्व अनुमान बीच एक भारित औसत हैं ।Xi=Yi1i=2,,11σp2μ,αα^=i=211(YiY¯)(XiX¯)i=211(XiX¯)2μ^=Y¯α^X¯Y¯=110i=211YiX¯=110i=211Xi=110i=110Yi(0,0)


यह विशेष रूप से उपयोगी नहीं है क्योंकि मैंने विशेष रूप से उल्लेख किया है कि यह हर उस व्यक्ति के लिए नहीं है जो यहां मायने रखता है। भाजक केवल एक सामान्य स्थिरांक है, जो एक बार गौसियन रूप में अंश को कम करने के बाद स्पष्ट होगा। तो हर में इंटीग्रल के मूल्यांकन के लिए ट्रिक गणितीय रूप से वास्तव में शांत हैं, लेकिन सिर्फ मेरे आवेदन के लिए आवश्यक नहीं हैं। एकमात्र मुद्दा जिसे मुझे संकल्प की आवश्यकता है वह अंश के साथ हेरफेर कर रहा है।
एली

यह उत्तर आपको अंश और भाजक दोनों देता है। अंशांकक उचित द्वितीय डिग्री बहुपद को प्रदर्शित करता है, जो सामान्य चतुर्भुज रूप में होता है, जैसा कि प्रायिकताजोलोगिक द्वारा बल दिया जाता है। (α,μ)
शीआन

@ - सामान्य स्थिरांक की गणना करके आप आवश्यक द्विघात रूप का निर्माण करेंगे। इसमें वर्ग को फिर से परिभाषित करने के लिए आवश्यक शर्तें होंगी
संभाव्यताविषयक

मुझे समझ नहीं आता कि यह आपको द्विघात रूप कैसे देता है। मैंने गौसियन इंटीग्रल आइडेंटिटी जो आपने पोस्ट किया है, का उपयोग कर हर दो इंटीग्रल में काम किया है। अंत में, मुझे सिर्फ एक विशाल, गन्दा स्थिरांक मिलता है। उस स्थिरांक को लेने के लिए कोई स्पष्ट रास्ता नहीं दिखता है और इसे कुछ समय में 1/2 शक्ति आदि के रूप में बदल दिया जाता है। आदि का उल्लेख नहीं है, मैं यह नहीं देखता कि इसमें से कोई कैसे नए की गणना करता है ' मतलब वेक्टर ' .. यही मैं मूल प्रश्न में मदद के लिए पूछ रहा था। (μ^,α^)t
एली

विस्तृत जोड़ के लिए जबरदस्त धन्यवाद। द्विघात रूप का पता लगाने के लिए बीजगणित को करने की कोशिश करते समय मैं कुछ मूर्खतापूर्ण त्रुटियां कर रहा था। OLS अनुमानक के संबंध के बारे में आपकी टिप्पणी अत्यधिक दिलचस्प है और साथ ही सराहना की जाती है। मुझे लगता है कि यह मेरे कोड को गति देगा क्योंकि मैं एक विश्लेषणात्मक रूप से नमूने बना सकता हूं जिसमें अंतर्निहित, अनुकूलित तरीके हैं। मेरी मूल योजना इस से नमूना लेने के लिए मेट्रोपोलिस-हेस्टिंग्स का उपयोग करना था, लेकिन यह बहुत धीमा था। धन्यवाद!
आठ
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.