अनुचित पूर्व उचित वितरण को कैसे बढ़ावा दे सकता है?

Question

हम जानते हैं कि उचित पूर्व वितरण के मामले में,

$P(\theta \mid X) = \dfrac{P(X \mid \theta)P(\theta)}{P(X)}$

$\propto P(X \mid \theta)P(\theta)$ ।

इस कदम का सामान्य औचित्य यह है कि , का सीमांत वितरण, the the संबंध में स्थिर है और इस प्रकार बाद के वितरण को प्राप्त करते समय इसे अनदेखा किया जा सकता है।$X$$P(X)$$\theta$

हालांकि, एक अनुचित पूर्व के मामले में, आप कैसे जानते हैं कि पीछे वितरण वास्तव में मौजूद है? ऐसा प्रतीत होता है कि इस परिपत्र में तर्क गायब है। दूसरे शब्दों में, अगर मुझे लगता है कि पश्च भाग मौजूद है, तो मैं यांत्रिकी को समझता हूं कि पश्च को कैसे प्राप्त किया जाए, लेकिन मुझे लगता है कि यह क्यों मौजूद है इसके लिए सैद्धांतिक औचित्य को याद कर रहा है।

पीएस मैं यह भी मानता हूं कि ऐसे मामले हैं जिनमें एक अनुचित पूर्व एक अनुचित पश्च की ओर जाता है।

Answer 1

हम आम तौर पर अनुचित पादरी से डाक स्वीकार करते हैं यदि मौजूद है और एक वैध संभाव्यता वितरण है (यानी यह समर्थन पर ठीक 1 को एकीकृत करता है)। अनिवार्य रूप से यह को परिमित होने तक उबालता है। यदि यह मामला है, तो हम इस मात्रा को और इसे हम चाहते हैं कि पिछले वितरण के रूप में स्वीकार करते हैं। हालांकि, यह ध्यान रखना महत्वपूर्ण है कि यह एक पश्च वितरण नहीं है, न ही यह एक सशर्त संभाव्यता वितरण है (ये दो शब्द यहां संदर्भ में समानार्थी हैं)।$\pi(\theta)$ π(एक्स)=∫π(एक्स|θ)π(θ

$$\frac{\pi(X \mid \theta) \pi(\theta)}{\pi(X)}$$ π ( θ | एक्स $\pi(X) = \int \pi(X \mid \theta) \pi(\theta) \,d\theta$$\pi(\theta \mid X)$

अब, मैंने कहा कि हम ऊपर दिए गए अनुचित पुजारियों से 'पीछे' वितरण स्वीकार करते हैं। वे कारण स्वीकार किए जाते हैं, क्योंकि पूर्व अभी भी हमें पैरामीटर स्थान पर सापेक्ष 'स्कोर' देगा; अर्थात, अनुपात हमारे विश्लेषण के लिए अर्थ लाता है। कुछ मामलों में अनुचित पुजारियों से हमें जो अर्थ मिलता है, वह उचित पुजारियों में उपलब्ध नहीं हो सकता है। यह उनका उपयोग करने के लिए एक संभावित औचित्य है। अनुचित पुजारियों के लिए व्यावहारिक प्रेरणा की अधिक गहन परीक्षा के लिए सर्जियो का जवाब देखें।π ( θ 1$\pi(\theta)$$\frac{\pi(\theta_1)}{\pi(\theta_2)}$

यह ध्यान देने योग्य है कि यह मात्रा वांछनीय सैद्धांतिक गुणों के साथ-साथ डीगरोट और स्कर्विश भी है :$\pi(\theta \mid X)$

अनुचित पादरी सच्चे संभाव्य वितरण नहीं हैं, लेकिन यदि हम दिखावा करते हैं कि वे हैं, तो हम पश्चवर्ती वितरणों की गणना करेंगे, जो कि हम उन अतिसूक्ष्म घटकों के चरम मूल्यों के साथ उचित संयुग्मक पुजारियों का उपयोग करके प्राप्त करेंगे।

Comments

मैं आपके उत्तर में कुछ बातों से भ्रमित हूं। आप कहते हैं कि यदि उपर्युक्त परिमित है तो हम डाकियों को स्वीकार करते हैं। क्या इसका मतलब यह है कि यदि अभिन्न परिमित नहीं है तो पीछे का परिमित परिमित नहीं होगा? इसके अलावा, आपको लगता है कि हम इस मामले में पीछे का उपयोग करते हैं, लेकिन यह वास्तविक वितरण नहीं है- क्या यह सही है? क्या ऐसे मामले नहीं हैं जहां यह वास्तविक वितरण है? इसके अलावा, पुजारियों का इससे क्या अनुपात है? मुझे कनेक्शन दिखाई नहीं दे रहा है।

— बेन एलिजाबेथ वार्ड

@BenElizabethWard तो मौजूद है, तो अभिन्न π ( एक्स ) मौजूद होना चाहिए (और इस प्रकार परिमित हो)। यिद रूप में अच्छी तरह से सच है: अगर π ( एक्स ) मौजूद नहीं है (अनंत है), तो π ( θ | एक्स ) मौजूद नहीं है। जब यह यह मौजूद है और एक वैध संभावना वितरण, है π ( θ | एक्स ) एक प्रायिकता वितरण है। हालांकि, इसके लिए एक पिछला वितरण नहीं है π ( θ ) दिए गए आंकड़ों संभावना के साथ$\pi(\theta \mid X)$$\pi(X)$$\pi(X)$$\pi(\theta \mid X)$$\pi(\theta \mid X)$$\pi(\theta)$ । उस पूर्व के लिए पीछे मौजूद नहीं है। हम स्वीकार करते हैं π ( θ | एक्स ) हमारे विश्लेषण में, क्योंकि यह एक सन्निकटन है। $\pi(X \mid \theta)$$\pi(\theta \mid X)$

@BenElizabethWard अनुपात का उपयोग यह दिखाने के लिए किया गया था कि पूर्व में अभी भी उपयोगी जानकारी है जिसे हम एक उचित पूर्व में लोड करने में सक्षम नहीं हो सकते हैं। इसे शामिल करने के लिए मैं अपने उत्तर को संपादित करूंगा।

@jsk एक प्रायिकता वितरण नहीं है, लेकिन पिछला वितरण की परिभाषा है कि आवश्यकता है π ( θ ) तो यह कॉल करने के लिए धोखा दे रहा है, एक प्रायिकता वितरण हो π ( θ | एक्स ) एक पिछला वितरण जब यह एक प्रायिकता वितरण है। Degroot & Schervish का कहना है कि '.. हम बाद के वितरणों की गणना करेंगे ..' जिसके द्वारा वे मान रहे हैं कि आप इस बात के लिए सहमत हैं कि वे [अनुचित पादरी] [उचित पुजारी] 'हैं जैसा कि पहले उद्धरण में व्यक्त किया गया था। $\pi(\theta)$$\pi(\theta)$$\pi(\theta \mid X)$

अपने उत्तर को पूर्ण और स्व-निहित बनाने के लिए ताकि भविष्य के पाठकों को इस टिप्पणी के माध्यम से पढ़ना न पड़े, क्या आप अपने उत्तर को अपडेट करना चाहते हैं?

— jsk

Answer 2

एक "सैद्धांतिक" उत्तर और एक "व्यावहारिक" एक हैं।

एक चिकित्सीय दृष्टिकोण से, जब कोई पूर्ववर्ती अनुचित होता है तो पीछे मौजूद नहीं होता है (ठीक है, मैथ्यू के एक स्पष्ट कथन के लिए उत्तर देखें), लेकिन एक सीमित रूप से अनुमानित किया जा सकता है।

डेटा पैरामीटर के साथ Bernoulli वितरण से एक सशर्त आईआईडी नमूना शामिल हैं , और θ मानकों के साथ बीटा वितरण है α और β , का पिछला वितरण θ मानकों के साथ बीटा वितरण है α + रों , β + n - रों ( n टिप्पणियों, एस सफलताओं) और उसके मतलब है ( α + रों ) / ( α + β + n $\theta$$\theta$$\alpha$$\beta$$\theta$$\alpha + s, \beta+n-s$$n$$s$$(\alpha+s)/(\alpha+\beta+n)$। हम पहले hypeparameters के साथ पूर्व अनुचित (और असत्य) बीटा वितरण का उपयोग करते हैं , और कहा कि नाटक π ( θ ) अल्फा θ - 1 ( 1 - θ ) - 1 एक उचित पीछे, हम प्राप्त आनुपातिक को θ रों - 1 ( 1 - θ ) n - रों - 1 , यानी साथ मापदंडों बीटा वितरण की पीडीएफ रों और एन - $\alpha=\beta=0$$\pi(\theta)\propto\theta^{-1}(1-\theta)^{-1}$$\theta^{s-1}(1-\theta)^{n-s-1}$$s$$n-s$एक स्थिर कारक को छोड़कर। यह एक बीटा मानकों के साथ पूर्व के लिए पीछे की सीमित रूप है और बीटा → 0 (Degroot और Schervish, उदाहरण 7.3.13)।$\alpha\to 0$$\beta\to 0$

मतलब के साथ एक सामान्य मॉडल में , जाना जाता विचरण σ 2 , और एक एन ( μ 0 , τ 2 0 ) के लिए पूर्व वितरण θ , पूर्व परिशुद्धता, अगर 1 / τ 2 0 ,, डेटा परिशुद्धता के लिए छोटे रिश्तेदार है n / σ 2 , तो पिछला वितरण है, लगभग रूप में अगर τ 2 0 = ∞ : पी ( θ | एक्स ) ≈ एन ( θ | $\theta$$\sigma^2$$\mathcal{N}(\mu_0,\tau^2_0)$$\theta$$1/\tau^2_0$$n/\sigma^2$$\tau^2_0=\infty$ यानी पिछला वितरण लगभग है कि जो यह सोचते हैं से परिणाम होगापी(θ)के लिए एक निरंतर के लिए आनुपातिक हैθ∈(-∞,∞), एक वितरण है कि सख्ती से संभव नहीं है, लेकिन सीमित रूप के रूप में पीछे कीτ 2 0 दृष्टिकोण∞मौजूद है (Gelman एट अल।, पी। 52)।

$$p(\theta\mid x)\approx \mathcal{N}(\theta\mid\bar{x},\sigma^2/n)$$ $p(\theta)$$\theta\in(-\infty,\infty)$$\tau^2_0$$\infty$

देखने के एक "व्यावहारिक" बिंदु से, जब पी ( एक्स | θ ) = 0 जो कुछ पी ( θ ) है, इसलिए यदि पी ( एक्स | θ ) ≠ 0 में ( एक , ख ) , तो ∫ ∞ - ∞ पी ( एक्स | θ ) पी ( $p(x\mid\theta)p(\theta)=0$$p(x\mid\theta)=0$$p(\theta)$$p(x\mid\theta)\ne 0$$(a,b)$ । अनुचित पुजारियों कोउस क्षेत्र में पूर्व वितरणकेस्थानीयव्यवहार काप्रतिनिधित्व करने के लिए नियोजित किया जा सकता हैजहां संभावना सराहनीय है, ( ए , बी ) । एक पर्याप्त सन्निकटन के लिए यह मानकर कि पूर्व एक प्रकार के रूप में f ( x ) = k , x ∈ ( - ∞ , ∞ ) या$\int_{-\infty}^{\infty}p(x\mid\theta)p(\theta)d\theta=\int_a^b p(x\mid\theta)p(\theta)d\theta$$(a,b)$$f(x)=k, x\in(-\infty,\infty)$ केवल अधिक ( एक , ख ) यह है कि यह उपयुक्त रूप से शून्य के बाहर करने के लिए पूंछ कि रेंज, हम महंतों वास्तव में इस्तेमाल किया सुनिश्चित उचित हैं (बॉक्स और Tiao, पी। 21 )। तो अगर की पूर्व वितरण θ है यू ( - ∞ , ∞ ) लेकिन ( एक , ख ) घिरा है, यह के रूप में अगर है θ ~ यू ( एक $f(x)=kx^{-1}, x\in(0,\infty)$$(a,b)$$\theta$$\mathcal{U}(-\infty,\infty)$$(a,b)$ , यानी पी ( एक्स | θ ) पी ( θ ) = पी ( एक्स | θ ) कश्मीर α पी ( एक्स | θ ) । एक ठोस उदाहरण के लिए, यह वही है जोस्टेनमें होता है: यदि कोई पैरामीटर के लिए कोई पूर्व निर्दिष्ट नहीं है, तो इसे इसके समर्थन पर पूर्व में एक समान रूप से दिया जाता है और इसे एक निरंतर द्वारा संभावना के गुणन के रूप में नियंत्रित किया जाता है।$\theta\sim\mathcal{U}(a,b)$$p(x\mid\theta)p(\theta)=p(x\mid\theta)k\propto p(x\mid\theta)$

Comments

क्या आप इस बारे में अधिक कह सकते हैं कि सैद्धांतिक दृष्टिकोण से इसका अस्तित्व क्यों नहीं है?

— जेएसके

मैं उसके जवाब में और उसकी टिप्पणियों में मैथ्यू से बेहतर खुलासा नहीं कर सका।

— सर्जियो

व्यावहारिक अनुभाग में, वाई क्या है? इसके अलावा उस अनुभाग में, में से कुछ चाहिए मामले संभावना हो पी ( एक्स | θ ) ? $p(\theta \mid x)$$p(x\mid \theta)$

— जेएसके

$P(\theta)=kx^{-1}$$x$$P(\theta)=k\theta^{-1}$

$y$$x$$\xi(.)$

Answer 3

हालांकि, एक अनुचित पूर्व के मामले में, आप कैसे जानते हैं कि पीछे वितरण वास्तव में मौजूद है?

पीछे भी उचित नहीं हो सकता है। यदि पूर्व अनुचित है और संभावना समतल है (क्योंकि कोई सार्थक अवलोकन नहीं हैं), तो पीछे वाला पूर्व को बराबर करता है और अनुचित भी है।

आमतौर पर आपके पास कुछ अवलोकन होते हैं, और आमतौर पर संभावना सपाट नहीं होती है, इसलिए पश्चगामी उचित है।