क्या एक उचित पूर्व और प्रतिपादक संभावना एक अनुचित पद को जन्म दे सकती है?

Question

(यह सवाल शीआन की इस टिप्पणी से प्रेरित है ।)

यह सर्वविदित है कि अगर पूर्व वितरण $\pi(\theta)$ उचित और संभावना है $L(\theta | x)$ अच्छी तरह से परिभाषित है, तो पिछला वितरण $\pi(\theta|x)\propto \pi(\theta) L(\theta|x)$ लगभग निश्चित है।

कुछ मामलों में, हम एक टेम्पर्ड या एक्सपेरीनेटेड संभावना की बजाय, एक छद्म पोस्टीरियर के लिए अग्रणी का उपयोग करते हैं

$$\tilde\pi(\theta|x)\propto \pi(\theta) L(\theta|x)^\alpha$$ कुछ के लिए$\alpha>0$(उदाहरण के लिए, इस कम्प्यूटेशनल फायदे हो सकते हैं)।

इस सेटिंग में, क्या एक उचित पूर्व लेकिन एक अनुचित छद्म पोस्टीरियर होना संभव है?

Comments

दरअसल, कुछ ही मिनटों के बाद, मैं इसकी संभावना पर विचार नहीं करूंगा क्योंकि पूर्व एक्स संभावना उत्पाद के विचलन को कम किया जाता है जब पूर्व एक्स संभावना ^ α उत्पाद पर विचार किया जाता है ... अनंत तक जाने वाला कोई भी टर्न अधिक धीरे-धीरे वहाँ जा रहा है! और अधिक धीरे-धीरे शून्य पर जाने वाले शब्दों को उचित पूर्व द्वारा नियंत्रित किया जाता है। मेरी शर्त इस प्रकार है कि यह असंभव है। (चेतावनी: मुझे गलत होने के लिए जाना जाता है!)

— शीआन

$\alpha > 1$एल(x | θ $$\mathbf{E}_{\theta \sim \pi} \left[ L(x| \theta)^\alpha \right] \geqslant t^\alpha \mathbf{P}_{\theta \sim \pi} (L(x| \theta) > t) \\ \implies \mathbf{E}_{\theta \sim \pi} \left[ L(x| \theta)^\alpha \right] \geqslant \sup_{t > 0} t^\alpha \mathbf{P}_{\theta \sim \pi} (L(x| \theta) > t)$$ $L(x| \theta)$

क्या यह तर्क लिए भी काम करेगा ? इसके अलावा, क्या यह साबित करने का कोई तरीका है कि इस तरह से निर्मित संभावना उचित होगी? $\alpha < 1$

— InfProbSciX

दरअसल, , क्योंकि हम जानते हैं कि the थी , RHS पर वर्चस्व हमेशा परिमित रहता है, और अन्य , एक ही कटौती करने के लिए आपके जेन्सेन तर्क का उपयोग करता है। तो उस संबंध में तर्क विफल हो जाता है। एक छोटी टिप्पणी है कि इस तर्क के लिए एक अनपेक्षित संभावना के सफल होने की आवश्यकता है, यानी सभी । ई π [ एल ( x | θ ) ] < ∞ अल्फा < 1 एल पी π ( एल ( x | θ ) > टी ) > 0 $\alpha =1$$\mathbf{E}_{\pi} [L (x | \theta)] < \infty$$\alpha < 1$$L$$\mathbf{P}_\pi (L (x | \theta) > t) > 0$$t$

— .r8

यह सच है, , आप एक, अच्छे बिंदु का निर्माण नहीं कर सकते हैं! मुझे कहना होगा, मैं एक संभावना की एक मिसाल देखने के लिए मोहित हो जाएगा ! शायद एक बीटा के बाद एक असंबद्ध संभावना का एक परिणाम होगा। $\alpha = 1$

— InfProbSciX

Answer 1

के लिए , शायद यह है कि यह इस तरह के एक पीछे के निर्माण के लिए असंभव है को दिखाने के लिए एक तर्क है?$\alpha \leq 1$

हम यह पता लगाना चाहेंगे कि क्या यह संभव है कि ।$\int \tilde \pi(\theta|x)d\theta = \infty$

RHS पर:

$$\int \pi(\theta) L^{\alpha}(\theta|x) d\theta = E_{\theta}(L^{\alpha}(\theta|x))$$

यदि , एक अवतल कार्य है, तो जेन्सेन असमानता द्वारा:$\alpha \leq 1$$x^{\alpha}$

$$E_{\theta}(L^{\alpha}(\theta|x)) \leq E^{\alpha}_{\theta}(L(\theta|x)) = m(x)^\alpha < \infty$$

... जहां जैसा कि शीआन ने बताया, स्थिर (प्रमाण) स्थिर है।$m(x)$

Comments

नीट, धन्यवाद। मुझे यह पसंद है कि आप इस तथ्य का उपयोग कर रहे हैं कि लिए पश्चगामी उचित है। $\alpha=1$

— रॉबिन राइडर

Answer 2

परिणाम को सामान्य साबित करने के लिए @ InfProbSciX के उत्तर में परिणाम का उपयोग करना संभव है। पुनर्लेखन रूप में यदि , तो हमारे पास जेन्सेन की असमानता का मामला ऊपर है, क्योंकि हम जानते हैं कि सामान्य है। इसी तरह, अगर , हम लिख सकते के साथ , फिर से उसी मामले में पड़ रहा है, क्योंकि हम जानते हैं कि the सामान्य है। अब मामले को सामान्य रूप से दिखाने के लिए व्यक्ति (मजबूत) इंडक्शन का उपयोग कर सकता है।$L(\theta\mid x)^\alpha\pi(\theta)$

$$L(\theta\mid x)^{\alpha-1}L(\theta\mid x)\pi(\theta).$$ $1 \leq \alpha \leq 2$$L(x|\theta)\pi(\theta)$$2 \leq \alpha \leq 3$ $$L(x|\theta)^{\alpha-p} L(x|\theta)^p\pi(\theta),$$ $1 \leq p \leq 2$$L(x|\theta)^{p}\pi(\theta)$

पुरानी टिप्पणियाँ

यकीन नहीं है कि यह सुपर उपयोगी है, लेकिन जब से मैं टिप्पणी नहीं कर सकता मैं इसे एक उत्तर में छोड़ दूंगा। @ InfProbSciX की उत्कृष्ट टिप्पणी के अलावा , यदि कोई आगे की धारणा बनाता है कि , तो एक उचित पूर्व लेकिन एक अनुचित छद्म पोस्टीरियर होना असंभव है के लिए । उदाहरण के लिए, यदि हम जानते हैं कि का दूसरा ( -th) क्षण मौजूद है, तो हम जानते हैं कि यह ( ) में है और इसलिए छद्म-पश्चात लिए उचित होगा । इन नोटों में धारा 1$\alpha \leq 1$$L(\theta \mid x) \in L^p$$1 < \alpha \leq p$$p$$L(\theta \mid x)$$L^2$$L^p$$0 \leq \alpha \leq 2$एल 10थोड़ा और विस्तार में जाता है, लेकिन दुर्भाग्य से यह स्पष्ट नहीं है कि , pdfs की कक्षा कितनी व्यापक है। मैं माफी माँगता हूँ अगर मैं यहाँ से बाहर बोल रहा हूँ, मैं वास्तव में एक टिप्पणी के रूप में इसे छोड़ना चाहता था।$L^{10}$

Comments

आप सही हैं, यदि संभावना फ़ंक्शन स्थान - यानी स्थान पूर्व से प्रेरित उपाय को , तो हो लिए पश्चगामी उचित होगा । मैं यहां पूरी तरह से अनुमान लगा रहा हूं, लेकिन मुझे लगता है कि अंतरिक्ष में सबसे अधिक संभावनाएं शामिल होंगी, जिनके बारे में हम सोच सकते हैं - मुझे लगता है कि मैंने एक प्रूफ उम्र पहले पढ़ी होगी जो कहती है कि यदि रीमैन पूर्णांक है, तो इसकी सकारात्मक शक्तियां भी हैं। हालांकि पूर्णांक है। प्रमेय के लिए प्रमेय 1.26एल पी ( π θ$L(\theta|x)$$L^p(\bf {\pi_\theta})$ 1 ≤ अल्फा ≤ पी च च n , n ∈ जेड$L^p$$1 \leq \alpha \leq p$$f$$f^n, n \in \mathbb Z^+$

— इंफ्राक्रोसएक्स

@InfProbSciX, मुझे लगता है कि यहां साये में पूरी तरह से छिपकली हो सकती है। मैं आपके उत्तर से लेता हूं कि नकारात्मक हो सकता है। यदि यह सही है, तो हम यह दिखा सकते हैं कि किसी भी लिए छद्म संभावना पूर्णांक होगी क्योंकि पूर्णांक कार्यों के पारस्परिक पूर्णांक होते हैं। और यदि संभावना पूर्णांक है, तो मैं तर्क देता हूं कि पीछे का भाग पूर्णांक होगा क्योंकि पूर्व में बांधा गया है, और एक पूर्णांक और एक बंधे हुए फ़ंक्शन का उत्पाद पूर्णांक है ( math.stackexchange.com//56008/271610 )। आप क्या सोचते हैं मुझे बताओ। पी > $\alpha$$p > 1$

— लुइज़ मैक्स कार्वाल्हो

मुझे लगता है कि आप उस मामले की अवहेलना कर सकते हैं जहां , जैसा कि प्रश्न स्पष्ट रूप से मानता है। किसी भी सामान्य मामले के लिए की पूर्णता दर्शाई जानी चाहिए। इसके अलावा, मुझे यकीन नहीं है कि अगर पहले से हमेशा बाध्य है, उदाहरण के लिए, एक का घनत्व नहीं होगा। L α B e t a ( 0.5 , 0.5 $\alpha < 0$$L^{\alpha}$$Beta(0.5, 0.5)$

— InfProbSciX

@InfProbSciX, मेरा क्या मतलब था कि यहां तक ​​कि अगर प्रश्न में नहीं है, अगर आपका प्रमाण उस स्थिति के लिए भी है, तो हम इस तथ्य का लाभ उठाते हुए कि लिए पूर्णता दिखा सकते हैं कि यदि पूर्णांक है तो है । जैसा कि आप कहते हैं, यदि पूर्ववर्ती नहीं है तो वह सब शून्य है। हम इसके बजाय संभावना को बाध्य करने का प्रयास कर सकते हैं और मुझे ऐसा लगता है कि MLE में किसी भी संभावना का उपयोग या तो बाध्य या जोरदार अवतल करना होगा ( en.wikipedia.org/wiki/Maximum_likelihood-estimation#Properties ) जिसका उपयोग दोनों किया जा सकता है एक सामान्य प्रमाण बनाएं। कोई विचार? α > 1 f 1 /$\alpha < 0$$\alpha > 1$$f$$1/f$

— लुइज़ मैक्स कार्वाल्हो

क्षमा करें, मुझे याद आया कि, हाँ ऐसा लगता है कि यह एक दिलचस्प प्रयास होगा!

— InfProbSciX