पदानुक्रमित बायेसियन मॉडल में यादृच्छिक चर की आदान-प्रदान क्यों आवश्यक है?

Question

श्रेणीबद्ध बेयेशियन मॉडलिंग के लिए यादृच्छिक चर की विनिमेयता क्यों आवश्यक है?

Answer 1

विनिमेयता एक पदानुक्रमित मॉडल की आवश्यक विशेषता नहीं है (कम से कम अवलोकन स्तर पर नहीं)। यह मूल रूप से मानक साहित्य से "स्वतंत्र और समान रूप से वितरित" का एक बायेसियन एनालॉग है। यह केवल वर्णन करने का एक तरीका है कि आप हाथ में स्थिति के बारे में क्या जानते हैं। यह है कि "फेरबदल" आपकी समस्या को बदल नहीं है। एक तरीका मुझे यह सोचना पसंद है कि उस मामले पर विचार करें जहां आपको दिया गया था$x_{j}=5$ लेकिन आपको इसका मूल्य नहीं बताया गया था $j$। अगर वह सीख रहा है$x_{j}=5$ आपको विशेष मूल्यों पर संदेह करने के लिए प्रेरित करेगा $j$दूसरों की तुलना में अधिक है, तो अनुक्रम विनिमेय नहीं है। अगर यह आपको कुछ भी नहीं बताता है$j$, तो अनुक्रम विनिमेय है। ध्यान दें कि "वास्तविकता में" के बजाय "जानकारी में" प्रवणता है - यह उस पर निर्भर करता है जो आप जानते हैं।

जबकि अवलोकन किए गए चरों के संदर्भ में विनिमेयता आवश्यक नहीं है, लेकिन विनिमेयता की कुछ धारणा के बिना किसी भी मॉडल को फिट करना काफी मुश्किल होगा, क्योंकि विनिमेयता के बिना आपके पास मूल रूप से पूलिंग टिप्पणियों के लिए कोई औचित्य नहीं है। तो मेरा अनुमान है कि यदि आपके मॉडल में कहीं पर विनिमेयता नहीं है तो आपके इंफ़ेक्शन बहुत कमज़ोर होंगे। उदाहरण के लिए, विचार करें$x_{i}\sim N(\mu_{i},\sigma_{i})$ के लिये $i=1,\dots,N$। अगर$x_{i}$ पूरी तरह से विनिमेय हैं तो इसका मतलब है $\mu_{i}=\mu$ तथा $\sigma_{i}=\sigma$। अगर$x_{i}$ सशर्त रूप से विनिमेय दिए गए हैं $\mu_{i}$ तो इसका मतलब है $\sigma_{i}=\sigma$। अगर$x_{i}$ सशर्त रूप से विनिमेय दिए गए हैं $\sigma_{i}$ तो इसका मतलब है $\mu_{i}=\mu$। लेकिन ध्यान दें कि इन दो "सशर्त रूप से विनिमेय" मामलों में, पहले की तुलना में अनुमान की गुणवत्ता कम हो जाती है, क्योंकि एक अतिरिक्त है$N$पैरामीटर जो समस्या में पेश किए जाते हैं। अगर हमारे पास कोई आदान-प्रदान नहीं है, तो हमारे पास मूल रूप से है$N$ असंबंधित समस्याएं।

मूल रूप से विनिमेयता का मतलब है कि हम अनुमान लगा सकते हैं $x_{i}\to \text{parameters}\to x_{j}$ किसी के लिए $i$ तथा $j$ जो आंशिक रूप से विनिमेय हैं

Answer 2

"आवश्यक" बहुत अस्पष्ट है। लेकिन अगर अनुक्रम, तकनीकीताओं का विश्लेषण$X=\{X_i\}$ विनिमेय है तो $X_i$ सशर्त रूप से स्वतंत्र हैं, जो कुछ अप्रमाणित पैरामीटर दिए गए हैं $\Theta$ संभाव्यता वितरण के साथ $\pi$। अर्थात्,$p(X) = \int p(X_i|\Theta)d\pi(\Theta)$। $\Theta$ आवश्यक नहीं है कि वे अविभाज्य हों या परिमित आयामी हों और आगे मिश्रण के रूप में उनका प्रतिनिधित्व किया जा सकता है।

विनिमेयता इस मायने में आवश्यक है कि ये सशर्त स्वतंत्रता रिश्ते हमें उन मॉडलों को फिट करने की अनुमति देते हैं जिन्हें हम लगभग निश्चित रूप से अन्यथा नहीं कर सकते हैं।

Answer 3

यह नहीं है! मैं यहाँ कोई विशेषज्ञ नहीं हूँ, लेकिन मैं अपने दो सेंट दे दूँगा। सामान्य तौर पर जब आपके पास एक पदानुक्रमित मॉडल होता है, तो कहें

$y|\Theta_{1} \sim \text{N}(X\Theta_{1},\sigma^2)$

$\Theta_{1}|\Theta_{2} \sim\text{N}(W\Theta_{2},\sigma^2)$

हम सशर्त स्वतंत्रता की धारणा बनाते हैं, अर्थात, सशर्त पर $\Theta_{2}$, को $\Theta_{1}$विनिमेय हैं। यदि दूसरा स्तर विनिमेय नहीं है, तो आप अन्य स्तर को बदल सकते हैं जो इसे विनिमेय बनाता है। लेकिन इस मामले में भी कि आप उत्कृष्टता की धारणा नहीं बना सकते हैं, मॉडल अभी भी पहले स्तर पर आपके डेटा के लिए एक अच्छा फिट हो सकता है।

अंतिम, लेकिन कम से कम, विनिमेयता केवल तभी महत्वपूर्ण है जब आप डी फिनेटी के प्रतिनिधित्व प्रमेय के संदर्भ में सोचना चाहते हैं। आप बस सोच सकते हैं कि पुजारी नियमितीकरण उपकरण हैं जो आपको अपने मॉडल को फिट करने में मदद करते हैं। इस मामले में, आदान-प्रदान की धारणा उतनी ही अच्छी है जितना कि यह आपका मॉडल डेटा के अनुकूल है। दूसरे शब्दों में, यदि आप बायेसियन पदानुक्रमित मॉडल को अपने डेटा में फिट करने के तरीके के रूप में सोचते हैं, तो किसी भी मायने में विनिमेयता आवश्यक नहीं है।

Comments

@ मेनेल अपने फॉर्मूले पर ध्यान न दें; अन्यथा, उन्हें शब्दशः ( <pre>...</pre>HTML में) प्रदान किया जाएगा । मार्कडाउन प्रारूपण के बारे में अधिक जानकारी के लिए यहां देखें ।

— CHL