एक पूर्व के लिए उदाहरण, कि जेफ्री के विपरीत, एक पोस्टीरियर की ओर जाता है जो कि अपरिवर्तनीय नहीं है

Question

मैं एक सवाल का "जवाब" दे रहा हूं, जो मैंने कुछ दो हफ्ते पहले यहां दिया था: जेफ्रीज पूर्व उपयोगी क्यों है? यह वास्तव में एक सवाल था (और मुझे उस समय टिप्पणी पोस्ट करने का अधिकार नहीं था, या तो), हालांकि, मुझे आशा है कि ऐसा करना ठीक है:

ऊपर दिए गए लिंक में यह चर्चा की गई है कि जेफ़रीज़ से पहले की दिलचस्प विशेषता यह है कि, मॉडल को पुनर्संरचना करते समय, परिणामस्वरूप पोस्टीरियर वितरण, पिछली संभावनाएं देता है जो परिवर्तन द्वारा लगाए गए प्रतिबंधों का पालन करते हैं। कहो, जैसा कि वहाँ चर्चा की जाती है, जब बीटा-बर्नौली उदाहरण में सफलता संभावना से आगे बढ़ कर , तो ऐसा होना चाहिए कि पीछे की ओर ।$\theta$$\psi=\theta/(1-\theta)$$P(1/3\leq\theta\leq 2/3\mid X=x)=P(1/2\leq\psi\leq 2\mid X=x)$

मैं Jeffreys के व्युत्क्रम का एक संख्यात्मक उदाहरण बनाना चाहता था, जो कि को the परिवर्तित करने से पहले , और, और अधिक दिलचस्प बात यह है कि अन्य पुजारियों की कमी है (जैसे, Haldane, वर्दी, या मनमानी)।$\theta$$\psi$

अब, यदि सफलता की संभावना के लिए पोस्टीरियर बीटा है (किसी भी बीटा से पहले के लिए, केवल जेफ़रीज़ नहीं), तो बाधाओं का पीछे वाला एक ही मापदंडों के साथ दूसरी तरह का बीटा वितरण (विकिपीडिया देखें) का अनुसरण करता है । फिर, जैसा कि नीचे संख्यात्मक उदाहरण में प्रकाश डाला, यह भी (मेरे लिए, कम से कम) निश्चरता है कि वहाँ आश्चर्य की बात नहीं है बीटा के किसी भी चुनाव के लिए पहले (के साथ चारों ओर खेलने alpha0_Uऔर beta0_U), न केवल जेफ्रेय्स, cf. कार्यक्रम का उत्पादन।

library(GB2) 
# has the Beta density of the 2nd kind, the distribution of theta/(1-theta) if theta~Beta(alpha,beta)

theta_1 = 2/3 # a numerical example as in the above post
theta_2 = 1/3

odds_1 = theta_1/(1-theta_1) # the corresponding odds
odds_2 = theta_2/(1-theta_2)

n = 10 # some data
k = 4

alpha0_J = 1/2 # Jeffreys prior for the Beta-Bernoulli case
beta0_J = 1/2
alpha1_J = alpha0_J + k # the corresponding parameters of the posterior
beta1_J = beta0_J + n - k

alpha0_U = 0 # some other prior
beta0_U = 0
alpha1_U = alpha0_U + k # resulting posterior parameters for the other prior
beta1_U = beta0_U + n - k

# posterior probability that theta is between theta_1 and theta_2:
pbeta(theta_1,alpha1_J,beta1_J) - pbeta(theta_2,alpha1_J,beta1_J) 
# the same for the corresponding odds, based on the beta distribution of the second kind
pgb2(odds_1, 1, 1,alpha1_J,beta1_J) - pgb2(odds_2, 1, 1,alpha1_J,beta1_J) 

# same for the other prior and resulting posterior
pbeta(theta_1,alpha1_U,beta1_U) - pbeta(theta_2,alpha1_U,beta1_U)
pgb2(odds_1, 1, 1,alpha1_U,beta1_U) - pgb2(odds_2, 1, 1,alpha1_U,beta1_U)

यह मुझे निम्नलिखित प्रश्नों के लिए लाता है:

1. क्या मैं गलती करता हूँ?
2. यदि नहीं, तो क्या इसका नतीजा यह है कि संयुग्म परिवारों में कोई कमी नहीं है, या ऐसा कुछ है? (त्वरित निरीक्षण मुझे संदेह करने की ओर ले जाता है कि मैं उदाहरण के लिए सामान्य-सामान्य मामले में भी आक्रमण की कमी पैदा नहीं कर सकता।)
3. यदि आप एक (अधिमानतः सरल) उदाहरण है जिसमें हम जानते हैं ऐसा निश्चरता की कमी है?

Comments

आप को इस तरह की संभावना का पता चलने के बाद से चालान को सत्यापित करने के लिए आपको R कोड की आवश्यकता नहीं है (जिसे मैं R संस्करण 3.0.2 के साथ नहीं चला सकता)। पूर्व आक्रमण से क्या तात्पर्य है, पूर्व चयन के लिए एक नियम का निर्माण जो नमूना मॉडल के पैरामीरिसिएशन की पसंद पर निर्भर नहीं करता है।

— शीआन

असुविधा के लिए मुझे खेद है। यह मेरे कंप्यूटर पर R 3.1 के साथ चलता है। यदि मैं अनुवर्ती कार्रवाई कर सकता हूं, तो क्या आपकी टिप्पणी का यह अर्थ है कि मैं ज़ेनरी की टिप्पणी को स्वीकार किए गए उत्तर, आइटम 1 पर गलत समझा हूं, स्टीफन लॉरेंट की जेफरीस पूर्व उपयोगी क्यों है? ?

— क्रिस्टोफ हनक

Answer 1

आपकी गणना इस बात की पुष्टि करती प्रतीत होती है, जब हमारे पास निम्नलिखित दो प्रक्रियाओं के लिए एक विशेष पूर्व वितरण है$p(\theta)$

1. पीछे के भाग की गणना$p_{\theta \mid D}(\theta \mid D)$
2. प्राप्त करने के लिए अन्य पैरामीट्रिज़ेशन में पूर्वोक्त पश्चगामी परिवर्तन करें$p_{\psi \mid D}(\psi \mid D)$

तथा

1. प्राप्त करने के लिए अन्य में पूर्व को ट्रांसफ़ॉर्म करें$p_\theta(\theta)$$p_\psi(\psi)$
2. पूर्व उपयोग करके, पीछे के गणना करें$p_\psi(\psi)$$p_{\psi \mid D}(\psi \mid D)$

लिए एक ही पीछे के लिए नेतृत्व । यह वास्तव में हमेशा हो जाएगा (चेतावनी, जब तक परिवर्तन ऐसी है के रूप में उस पर एक वितरण के ऊपर एक वितरण से निर्धारित होता है )।$\psi$$\psi$$\theta$

हालांकि, यह प्रश्न में अदर्शन की बात नहीं है। इसके बजाय, सवाल यह है कि, जब हमारे पास पहले तय करने के लिए एक विशेष विधि है, तो निम्नलिखित दो प्रक्रियाएं:

1. पहले तय करने के लिए विधि का उपयोग करें तय करने के लिए$p_\theta(\theta)$
2. उस वितरण को में परिवर्तित करें$p_\psi(\psi)$

तथा

1. निर्णय लेने के लिए पहले विधि का उपयोग करें$p_\psi(\psi)$

लिए समान पूर्व वितरण में परिणाम । यदि वे एक ही पूर्व में परिणाम करते हैं, तो वे वास्तव में एक ही बाद में परिणाम देंगे, भी (जैसा कि आपने कुछ मामलों के लिए सत्यापित किया है)।$\psi$

जैसा कि @ NeilG के उत्तर में उल्लेख किया गया है, यदि आपका तरीका पहले तय करने का तरीका 'पैरामीटर के लिए एक समान निर्धारित है', तो आपको प्रायिकता / बाधाओं के मामले में समान नहीं मिलेगा, क्योंकि से अधिक से पहले की वर्दी पर लिए समान नहीं है ।$\theta$$[0,1]$$\psi$$[0,\infty)$

इसके बजाय, यदि आपका तरीका पहले से तय करने के लिए 'जेफरी के पैरामीटर के लिए पूर्व का उपयोग करें' है, तो इससे कोई फर्क नहीं पड़ेगा कि आप इसे लिए उपयोग करते हैं या -parametrization में कनवर्ट करते हैं , या इसका उपयोग सीधे करते हैं। यह दावा किया गया आक्रमण है।$\theta$$\psi$$\psi$

Answer 2

ऐसा लगता है कि आप डेटा द्वारा प्रेरित संभावना को सत्यापित कर रहे हैं डेटा पैराफ्रीज़ेशन से अप्रभावित हैं, जिसका पूर्व से कोई लेना-देना नहीं है।

यदि आपके लिए पुरोहितों को चुनने का तरीका है, उदाहरण के लिए, "वर्दी का चयन करें", तो एक पैरामीरिजेशन के तहत एकसमान क्या है (जैसे बीटा, बीटा (1,1)) एक दूसरे के तहत एक समान नहीं है, कहते हैं, BetaPrime (1,1 ) (जो तिरछा है) - यह BetaPrime (1, -1) एक समान है अगर ऐसा मौजूद है।

पूर्व में जेफरीज़ "पुजारियों को चुनने का एकमात्र तरीका" है जो पुनर्मूल्यांकन के तहत अपरिवर्तनीय है। इसलिए यह पुजारियों को चुनने के किसी अन्य तरीके की तुलना में कम निराशाजनक है।

Comments

मुझे नहीं लगता कि जेफ़रीज़ से पहले केवल एकमात्र अपरिवर्तनीय है। जब वे भिन्न होते हैं, तो बाएं और दाएं Haar उपाय दोनों अपरिवर्तनीय होते हैं।

— शीआन

@ नील जी, मुझे यकीन नहीं है कि मैं आपके तर्क का पालन कर सकता हूं कि मैं केवल संभावना देखता हूं। जब प्लगिंग (जैसे) alpha1_Jमें pbetaऔर pgb2यह पैरामीटर एक पूर्व पैरामीटर ( alpha1_J) और डेटा ( k) दोनों द्वारा निर्धारित किया जाता है , इसी तरह सभी अन्य मापदंडों के लिए।

— क्राइस्टोफ हनक

(+1) आपको उम्मीद है कि व्यक्तिपरक पुरोहितों का चरित्रहनन भी पैराट्रायजेशन-अपरिवर्तनीय होगा।

— Scortchi - को पुनः स्थापित मोनिका

@Zen: हाँ वास्तव में, मैं बहुत जल्दबाजी में था: Haar उपाय एक गलत उदाहरण है। फिर भी, मुझे आश्चर्य है कि क्यों जेफ्रीज़ ' केवल पहले से अपरिवर्तित है ...

— शीआन

@ शीआन: यदि मेरी स्मृति मुझे विफल नहीं करती है, तो सेनकोव पुस्तक ( amazon.com/… ) में एक प्रमेय है , जो कुछ अर्थों में (?) साबित करता है कि जेफ्रीस पूर्व शहर में एकमात्र लड़का है? आवश्यक आक्रमण। उसका प्रमाण मेरे लिए अप्राप्य है। यह श्रेणी थ्योरी, फंक्शनलर्स, मॉर्फिज़्म और सभी की भाषा का उपयोग करता है। en.wikipedia.org/wiki/Category_theory

— Zen