गैर-सूचनात्मक और अनुचित Priors के बीच अंतर

मुझे आश्चर्य है कि इन दो प्रकार के पुजारियों के बीच क्या अंतर है:

गैर-जानकारीपूर्ण
अनुचित

bayesian prior improper-prior

यह उपयोगी हो सकता है यदि आप यहाँ कुछ संदर्भ प्रदान कर सकें। आप पहले से ही इन के बारे में क्या समझते हैं? क्या भ्रम की कोई खास बात है?

— गूँग - मोनिका

प्रासंगिक लिंक आँकड़े .stackexchange.com/questions/175792/… और आँकड़े.stackexchange.com/questions/133707/… और आँकड़े.stackexchange.com/questions/73490-…

— टिम

@ तैमूर धन्यवाद। मैं कमजोर सूचनात्मक के बजाय गैर-सूचनात्मक की तलाश कर रहा था ।

— ब्रम्ह

के संभावित डुप्लिकेट क्या एक "uninformative पहले" क्या है? क्या हम कभी भी सही मायने में कोई जानकारी नहीं रख सकते?

— शीआन

जवाबों:

अनुचित महंतों हैं -finite गैर नकारात्मक उपायों पैरामीटर अंतरिक्ष पर ऐसी है कि जैसे वे सामान्य पूर्व वितरण की धारणा, जो कि पैरामीटर स्पेस पर एक प्रायिकता वितरण है, जैसे कि वे कई मायनों में उपयोगी हैं। $\sigma$ $\text{d}\pi$ $\Theta$

\int_{Θ} घ π (θ) = + \infty

$\int_\Theta \text{d}\pi(\theta) = +\infty$

Θ

$\Theta$

\int_{Θ} घ π (θ) = 1

$\int_\Theta \text{d}\pi(\theta) =1$

उचित बायेसियन प्रक्रियाओं की सीमा का सेट, जो सभी उचित बायेसियन प्रक्रियाएं नहीं हैं;
(कक्षा) के रूप में लगातार इष्टतम प्रक्रियाओं जैसे वाल्ड्स की पूरी कक्षा प्रमेय;
बार-बार सर्वश्रेष्ठ आक्रमणकारी अनुमानक (चूंकि उन्हें इसी अधिकार के तहत बेयर्स अनुमान के रूप में व्यक्त किया जा सकता है, आमतौर पर अनुचित);
गैर-सूचनात्मक पुजारी (जैसे, जेफ्रीज़) जैसे संभावना फ़ंक्शन के आकार से व्युत्पन्न पुजारी।

क्योंकि वे एक परिमित संख्या में एकीकृत नहीं होते हैं, वे एक संभाव्य व्याख्या के लिए अनुमति नहीं देते हैं लेकिन फिर भी सांख्यिकीय अनुमान में उपयोग किया जा सकता है यदि सीमांत संभावना परिमित बाद के वितरण के बाद से तब अच्छी तरह से परिभाषित है। इसका अर्थ यह है कि इसका उपयोग ठीक उसी तरह किया जा सकता है जब एक उचित पूर्व से प्राप्त एक पश्च वितरण का उपयोग किया जाता है, जो पश्चवर्ती साधनों या बाद के विश्वसनीय अंतराल जैसे अनुमान के लिए पीछे की मात्रा को प्राप्त करता है।

\int_{Θ} ℓ (θ | एक्स) घ π (θ) < + \infty

$\int_\Theta \ell(\theta|x)\text{d}\pi(\theta) < +\infty$

\frac{ℓ (θ | एक्स) घ π (θ)}{\int_{Θ} ℓ (θ | एक्स) घ π (θ)}

$\dfrac{\ell(\theta|x)\text{d}\pi(\theta)}{\int_\Theta \ell(\theta|x)\text{d}\pi(\theta)}$

चेतावनी: बेइज़ियन इनविज़न की एक शाखा अनुचित परागकों के साथ बहुत अच्छी तरह से सामना नहीं करती है, अर्थात् जब तेज परिकल्पना का परीक्षण किया जाता है। वास्तव में उन परिकल्पनाओं को दो पूर्व वितरणों के निर्माण की आवश्यकता होती है, एक अशक्त के तहत और एक वैकल्पिक के तहत, जो कि ऑर्थोगोनल हैं। यदि इनमें से एक पुजारी अनुचित है, तो इसे सामान्य नहीं किया जा सकता है और परिणामस्वरूप बेयर्स कारक अनिर्धारित है।

बायेसियन निर्णय सिद्धांत में, हानि फ़ंक्शन the तहत एक इष्टतम निर्णय प्रक्रिया मांग करते समय अनुचित उन मामलों में उपयोगी होती है, जब कम से कम समस्या एक गैर-तुच्छ समाधान के लिए अनुमति देता है (भले ही पीछे वितरण परिभाषित न हो)। इस भेद का कारण यह है कि निर्णय केवल उत्पाद पर निर्भर करता है , जिसका अर्थ है कि यह गुणात्मक शब्दों के द्वारा पूर्व के परिवर्तनों के तहत अपरिवर्तनीय है बशर्ते नुकसान फ़ंक्शन समान गुणात्मक शब्दों से विभाजित हो , $\delta$ $L(d,\theta)$ $\text{d}\pi$

आर्ग \underset{घ}{मिनट} \int_{Θ} एल (घ, θ) ℓ (θ | एक्स) घ π (θ)

$\arg \min_d \int_\Theta L(d,\theta)\ell(\theta|x)\text{d}\pi(\theta)$

L (d, θ) d π (θ)

$L(d,\theta)\text{d}\pi(\theta)$

ϖ (θ)

$\varpi(\theta)$

ϖ (θ)

$\varpi(\theta)$

एल (घ, θ) घ π (θ) = \frac{एल (घ, θ)}{π (θ)} \times π (θ) घ π (θ)

$L(d,\theta)\text{d}\pi(\theta)=\dfrac{L(d,\theta)}{\varpi(\theta)}\times\varpi(\theta)\text{d}\pi(\theta)$

गैर-सूचनात्मक पुजारी (उचित या अनुचित) पूर्व वितरण के वर्ग हैं जो एक निश्चित सूचनात्मक मानदंड के संदर्भ में निर्धारित किए जाते हैं जो कि संभावना फ़ंक्शन से संबंधित होते हैं, जैसे

लैप्लस का अपर्याप्त कारण फ्लैट पूर्व;
जेफ़रीज़ (1939) आक्रमणकारी पुजारी;
अधिकतम एन्ट्रॉपी (या मैक्सएंट) पादरी (जेनेस, 1957);
न्यूनतम विवरण लंबाई के पुजारी (रिसेन, 1987; ग्रुनवल्ड, 2005);
संदर्भ पुजारी (बर्नार्डो, 1979, 1781; बर्जर और बर्नार्डो, 1992; बर्नार्डो और सन, 2012)
प्रायोरिटी मैचिंग पुजर्स (वेल्श एंड पीयर्स, 1963; स्क्रिसकोलो, 1999; दत्ता, 2005)

और आगे की कक्षाएं, जिनमें से कुछ कास और वास्र्मन (1995) में वर्णित हैं। गैर-सूचनात्मक नाम एक मिथ्या नाम है जिसमें कोई भी पूर्व पूरी तरह से गैर-सूचनात्मक नहीं है। इस मंच पर मेरी चर्चा देखें । या लैरी वासरमैन का डायट्रीब । (गैर-सूचनात्मक पुजारी सबसे अधिक बार अनुचित होते हैं।)

— शीआन
स्रोत

एक गैर-सूचनात्मक पूर्व, सख्ती से बोलना, एक पूर्व वितरण नहीं है। यह एक ऐसा फंक्शन है, जिसे यदि हम मानते हैं जैसे कि यह एक वितरण था और बेयस के फॉर्मूले को लागू करता है, तो हमें एक निश्चित पश्च वितरण मिलता है, जिसका उद्देश्य डेटा में निहित जानकारी को यथासंभव सर्वोत्तम रूप से दर्शाना है और केवल डेटा में, या एक अच्छा लगातार मेल खाने वाली संपत्ति प्राप्त करने के लिए (यानी एक -प्रतिष्ठित विश्वसनीय अंतराल लगभग आत्मविश्वास अंतर है)। $95\%$ $95\%$

एक गैर-सूचनात्मक पूर्व अक्सर "अनुचित" होता है। एक वितरण में एक प्रसिद्ध संपत्ति है: इसका अभिन्न एक बराबर है। एक गैर-सूचनात्मक पूर्व को अनुचित कहा जाता है जब इसका अभिन्न अनंत होता है (इसलिए इस तरह के मामले में यह स्पष्ट है कि यह वितरण नहीं है)।

— स्टीफन लॉरेंट
स्रोत

मैं सुपर-प्रतिबंधक होने से पहले "गैर-सूचनात्मक" की इस परिभाषा पर विचार करता हूं!

— शीआन

@ शीआन ओपी की कमी को देखते हुए, मुझे लगता है कि यह संक्षिप्त जवाब उचित है।

— स्टीफन लॉरेंट

@ शीआन यह बर्नार्डो (अधिक या कम) का उद्धरण है। मैं सहमत हूं ^ ^

— स्टीफन लॉरेंट

@ शीआन मैं अभी घर पर नहीं हूँ, लेकिन यहाँ संदर्भ पोस्टएयर को बेयर्स प्रमेय के औपचारिक उपयोग से एक संदर्भ पूर्व समारोह के साथ प्राप्त किया जाता है । बर्नार्डो कहते हैं कि संदर्भ पूर्व कार्य है , वितरण नहीं।

— स्टीफन लॉरेंट

अधिक गंभीरता से @ शीआन, आप इसका मतलब यह है कि यह बर्नार्डियन noninformative पुजारियों के लिए प्रतिबंधक है? यह सही है, और कुछ अन्य शायद। मुझे पता है कि आपको इस विषय में मुझसे अधिक ज्ञान है। लेकिन मैं बर्नार्डो-उन्मुख (और मिलान करने वाले पादरी) हूं।

— स्टीफन लॉरेंट