किसी ने PTLOS व्यायाम 4.1 हल किया है?


19

यह एक सम्भावना थ्योरी: एड्विनि जयन्स द्वारा विज्ञान का तर्क , 2003 में दिया गया हैयहाँ एक आंशिक समाधान है । मैंने एक और सामान्य आंशिक समाधान किया है, और सोच रहा था कि क्या किसी और ने इसे हल किया है। मैं अपना जवाब पोस्ट करने से पहले थोड़ा इंतजार करूंगा, ताकि दूसरों को बता सकूं।

ठीक है, तो लगता है कि हमारे पास n परस्पर अनन्य और व्यापक परिकल्पना, द्वारा सूचित किया जाता Hi(i=1,,n) । इसके अलावा मान लीजिए कि हमारे पासद्वारा चिह्नितडेटा सेट हैं। Ith परिकल्पना के लिए संभावना अनुपात द्वारा दिया गया है:mDj(j=1,,m)

LR(Hi)=P(D1D2,Dm|Hi)P(D1D2,Dm|H¯i)

ध्यान दें कि ये सशर्त संभावनाएं हैं। अब मान लीजिए कि परिकल्पना theHim डेटा सेट, स्वतंत्र हैं, इसलिए हमने:

P(D1D2,Dm|Hi)=j=1mP(Dj|Hi)(i=1,,n)Condition 1

अब यह काफी सुविधाजनक होगा अगर हर भी इस स्थिति में फैक्टर हो, ताकि हमारे पास:

P(D1D2,Dm|H¯i)=j=1mP(Dj|H¯i)(i=1,,n)Condition 2

इस मामले में संभावना अनुपात प्रत्येक डेटा सेट के लिए छोटे कारकों के एक उत्पाद में विभाजित हो जाएगा, ताकि हमारे पास है:

LR(Hi)=j=1mP(Dj|Hi)P(Dj|H¯i)

तो इस मामले में, प्रत्येक डेटा सेट " लिए वोट " या " खिलाफ वोट करेगा।"HiHi " किसी भी अन्य डेटा सेट की स्वतंत्र रूप से।

अभ्यास यह साबित करने के लिए है कि यदि (दो से अधिक परिकल्पना), तो ऐसा कोई गैर-तुच्छ तरीका नहीं है जिसमें यह तथ्य हो सकता है। यही है, यदि आप उस स्थिति 1 और स्थिति 2 को मानते हैं, तो अधिकांश कारकों में से एक: 1 से अलग है, और इस प्रकार केवल 1 डेटा सेट संभावना अनुपात में योगदान देगा।n>2

P(D1|Hi)P(D1|H¯i)P(D2|Hi)P(D2|H¯i)P(Dm|Hi)P(Dm|H¯i)

मैंने व्यक्तिगत रूप से इस परिणाम को काफी आकर्षक पाया, क्योंकि यह मूल रूप से दिखाता है कि कई परिकल्पना परीक्षण बाइनरी परिकल्पना परीक्षणों की एक श्रृंखला के अलावा और कुछ नहीं है।


H¯iH¯i=argmaxhHiP(D1,Dm|h)H¯i=argmaxh{H1,,Hn}P(D1,Dm|h)

@JMS - तार्किक कथन " गलत है" के लिए खड़ा है , या अन्य परिकल्पना में से एक सच है। तो "बूलियन बीजगणित" में हमारे पास (क्योंकि परिकल्पना है) अनन्य और संपूर्ण) कर रहे हैंH¯iHiH¯iH1+H2++Hi1+Hi+1++Hn
probabilityislogic

मुझे लगता है कि सैंडर्स के आंशिक समाधान में दिए गए बीजगणित की तुलना में अधिक सहज समाधान होना चाहिए। यदि डेटा को प्रत्येक परिकल्पना से स्वतंत्र दिया गया है तो यह तब भी जारी रहता है जब परिकल्पना के पुजारी विविध होते हैं। और किसी भी तरह, परिणाम यह है कि एक ही निष्कर्ष के लिए आवेदन करना होगा ...
charles.y.zheng

@ कछुए - मुझे पता है कि तुम कैसा महसूस करते हो। मुझे लगा कि मैं इसे कुछ गुणात्मक असंगति (Reductio ad absurdum) का उपयोग करके प्राप्त कर सकता हूं, लेकिन मैं ऐसा नहीं कर सका। मैं हालांकि सैंडर के गणित का विस्तार कर सकता हूं। और यह शर्त 2 है जो "डोडी वन" है, परिणाम के रूप में इसका मतलब है।
प्रोबैबिलिसोलॉजिक

@probabilityislogic "यह मूल रूप से दिखाता है कि कई परिकल्पना परीक्षण बाइनरी परिकल्पना परीक्षणों की एक श्रृंखला के अलावा और कुछ नहीं है।" कृपया, क्या आप इस वाक्य पर विस्तार कर सकते हैं? Jaynes की पुस्तक के पृष्ठ 98 को पढ़कर, मैं समझता हूं कि आप H1,,Hn का परीक्षण एक दूसरे की परिकल्पना के विरुद्ध का परीक्षण करने के लिए कम कर सकते H1हैं और फिर किसी भी तरह के पीछे आने के लिए सामान्य कर सकते हैं H1, लेकिन मुझे समझ नहीं आता कि क्यों यह Excercise 4.1 के परिणामों का अनुसरण करेगा।
मार्टिन डोज़र्डिक

जवाबों:


7

कारण हमने स्वीकार किया। 4.28 (पुस्तक में, अपनी हालत 1) है कि हम एक निश्चित परिकल्पना दिए गए आंकड़ों की संभावना मान लिया था Ha और पृष्ठभूमि जानकारी X किसी के लिए दूसरे शब्दों में, स्वतंत्र है Di और Dj के साथ ij :

P(Di|DjHaX)=P(Di|HaX)(1)
बाइनरी केस से परे कोई भी इस तरह चर्चा नहीं की जा सकती है: यदि हम eq.1 को सत्य मानते हैं, तो क्या eq.2 भी सत्य है?

P(Di|DjHa¯X)=?P(Di|Ha¯X)(2)
पहले गुणन नियम का उपयोग करते हुए, eq.2 के बाईं ओर देखें:

P(Di|DjHa¯X)=P(DiDjHa¯|X)P(DjHa¯|X)(3)
के बाद सेn परिकल्पना{H1Hn} ग्रहण कर रहे हैं परस्पर अनन्य और व्यापक है, हम लिख सकते हैं:
Ha¯=baHb
तो eq.3 हो जाता है: मामले में हम केवल दो परिकल्पना है कि के लिए, summations निकाल दिए जाते हैं (के बाद से वहाँ केवल एक हीएक), नामजद करने और हर, में समान शर्तोंपी(डीजेएचबी|एक्स), को रद्द और eq.2 सही साबित कर दिया है, क्योंकिएचबी=¯ एच एक । इसलिए समीकरण 4.29 को पुस्तक में समीकरण 4.28 से लिया जा सकता है। लेकिन जब हमारे पास दो से अधिक परिकल्पनाएँ होती हैं, तो ऐसा नहीं होता है, उदाहरण के लिए, यदि हमारे पास तीन परिकल्पनाएँ हैं:
P(Di|DjHa¯X)=baP(Di|DjHbX)P(DjHb|X)baP(DjHb|X)=baP(Di|HbX)P(DjHb|X)baP(DjHb|X)
baP(DjHb|XHb=Ha¯ , उपरोक्त समीकरण हो जाता है: पी ( डी मैं | डी जे ¯ एच 1 एक्स ) = पी ( डी मैं | एच 2 एक्स ) पी ( डी जे एच 2 | एक्स ) + पी ( D i | H 3 X ) P ( D j H 3 |{H1,H2,H3} दूसरे शब्दों में: पी(डीमैं|डीजे ¯ एच 1 एक्स)=पी(डीमैं|एच2एक्स)
P(Di|DjH1¯X)=P(Di|H2X)P(DjH2|X)+P(Di|H3X)P(DjH3|X)P(DjH2|X)+P(DjH3|X)
इस समीकरण का एकमात्र तरीका eq.2 हो सकता है, यह है कि दोनों हर 1 के बराबर हैं, यानी हर में दोनों अंश समान शून्य होने चाहिए। लेकिन यह असंभव है।
P(Di|DjH1¯X)=P(Di|H2X)1+P(DjH3|X)P(DjH2|X)+P(Di|H3X)1+P(DjH2|X)P(DjH3|X)

1
मुझे लगता है कि चौथा समीकरण गलत है। हम होना चाहिए P(DiDjHb|X)=P(DiHB|X)P(Dj|HbX)
probabilityislogic

बहुत-बहुत धन्यवाद प्रोबेबिलिसलॉगिक, मैं समाधान को सही करने में सक्षम था। तुम अब क्या सोचते हो?
astroboy

मुझे यह समझ में नहीं आया कि कैसे जेनेस कहते हैं: "जो लोग तार्किक स्वतंत्रता और कारण स्वतंत्रता के बीच अंतर करने में विफल रहते हैं, उन्हें लगता है कि (4.29) हमेशा मान्य होगा"।
एस्ट्रोबॉय

मुझे लगता है कि मैं अपने पिछले टिप्पणी का जवाब मिला: Jaynes उपर्युक्त वाक्य कहते हैं सही होने के बाद: "प्रदान की केवल यह है कि कोई किसी अन्य पर एक भौतिक प्रभाव डालती डी जे "। तो अनिवार्य रूप से Jaynes कह रहा है कि भले ही उनका शारीरिक प्रभाव न हो, लेकिन एक तार्किक सीमा है जो दो से अधिक परिकल्पनाओं के सामान्यीकरण की अनुमति नहीं देती है। DiDj
एस्ट्रोबॉय

पाठ को फिर से पढ़ने के बाद मुझे लगता है कि मेरी अंतिम टिप्पणी एक अच्छा जवाब नहीं था। जैसा कि मैं अब समझ रहा हूं, जेने कहना चाहता था: "जो लोग तार्किक स्वतंत्रता और कारण स्वतंत्रता के बीच अंतर करने में विफल रहते हैं" वे तर्क देंगे कि और डी जे को कोई भौतिक प्रभाव नहीं माना जाता है। इस प्रकार उनके पास कारणगत स्वतंत्रता है, जो उनके लिए किसी भी परिकल्पना पर तार्किक स्वतंत्रता का अर्थ है। इसलिए वे इस सारी चर्चा को निरर्थक पाते हैं और बस बाइनरी केस को सामान्य करने के लिए आगे बढ़ते हैं। DiDj
Astroboy

1

ठीक है, इसलिए जाने के बजाय और सौंदर के समीकरण (5) को फिर से प्राप्त करें, मैं इसे यहां बताऊंगा। हालत 1 और 2 निम्नलिखित समानता का मतलब है:

जहां jकश्मीर=पी(डीजे|एचके,आई)

j=1m(kihkdjk)=(kihk)m1(kihkj=1mdjk)
djk=P(Dj|Hk,I)hk=P(Hk|I)

Now we can specialise to the case m=2 (two data sets) by taking D1(1)D1 and relabeling D2(1)D2D3Dm. Note that these two data sets still satisfy conditions 1 and 2, so the result above applies to them as well. Now expanding in the case m=2 we get:

(kihkd1k)(lihld2l)=(kihk)(lihld1ld2l)

kilihkhld1kd2l=kilihkhld1ld2l

kilihkhld2l(d1kd1l)=0(i=1,,n)

The term (d1ad1b) occurs twice in the above double summation, once when k=a and l=b, and once again when k=b and l=a. This will occur as long as a,bi. The coefficient of each term is given by d2b and d2a. Now because there are i of these equations, we can actually remove i from these equations. To illustrate, take i=1, now this means we have all conditions except where a=1,b=2 and b=1,a=2. Now take i=3, and we now can have these two conditions (note this assumes at least three hypothesis). So the equation can be re-written as:

l>khkhl(d2ld2k)(d1kd1l)=0

Now each of the hi terms must be greater than zero, for otherwise we are dealing with n1<n hypothesis, and the answer can be reformulated in terms of n1. So these can be removed from the above set of conditions:

l>k(d2ld2k)(d1kd1l)=0

Thus, there are n(n1)2 conditions that must be satisfied, and each conditions implies one of two "sub-conditions": that djk=djl for either j=1 or j=2 (but not necessarily both). Now we have a set of all of the unique pairs (k,l) for djk=djl. If we were to take n1 of these pairs for one of the j, then we would have all the numbers 1,,n in the set, and dj1=dj2==dj,n1=dj,n. This is because the first pair has 2 elements, and each additional pair brings at least one additional element to the set*

But note that because there are n(n1)2 conditions, we must choose at least the smallest integer greater than or equal to 12×n(n1)2=n(n1)4 for one of the j=1 or j=2. If n>4 then the number of terms chosen is greater than n1. If n=4 or n=3 then we must choose exactly n1 terms. This implies that dj1=dj2==dj,n1=dj,n. Only with two hypothesis (n=2) is where this does not occur. But from the last equation in Saunder's article this equality condition implies:

P(Dj|H¯i)=kidjkhkkihk=djikihkkihk=dji=P(Dj|Hi)

Thus, in the likelihood ratio we have:

P(D1(1)|Hi)P(D1(1)|H¯i)=P(D1|Hi)P(D1|H¯i)=1 ORP(D2(1)|Hi)P(D2(1)|H¯i)=P(D2D3,Dm|Hi)P(D2D3,Dm|H¯i)=1

To complete the proof, note that if the second condition holds, the result is already proved, and only one ratio can be different from 1. If the first condition holds, then we can repeat the above analysis by relabeling D1(2)D2 and D2(2)D3,Dm. Then we would have D1,D2 not contributing, or D2 being the only contributor. We would then have a third relabeling when D1D2 not contributing holds, and so on. Thus, only one data set can contribute to the likelihood ratio when condition 1 and condition 2 hold, and there are more than two hypothesis.

*NOTE: An additional pair might bring no new terms, but this would be offset by a pair which brought 2 new terms. e.g. take dj1=dj2 as first[+2], dj1=dj3 [+1] and dj2=dj3 [+0], but next term must have djk=djl for both k,l(1,2,3). This will add two terms [+2]. If n=4 then we don't need to choose any more, but for the "other" j we must choose the 3 pairs which are not (1,2),(2,3),(1,3). These are (1,4),(2,4),(3,4) and thus the equality holds, because all numbers (1,2,3,4) are in the set.


I am beginning to doubt the accuracy of this proof. The result in Saunders maths implies only n non linear constraints on the djk. This makes djk only have n degrees of freedom instead of 2n. However to get to the n(n1)2 conditions a different argument is required.
probabilityislogic

0

For the record, here is a somewhat more extensive proof. It also contains some background information. Maybe this is helpful for others studying the topic.

The main idea of the proof is to show that Jaynes' conditions 1 and 2 imply that

P(Dmk|HiX)=P(Dmk|X),
for all but one data set mk=1,,m. It then shows that for all these data sets, we also have
P(Dmk|H¯iX)=P(Dmk|X).
Thus we have for all but one data set,
P(Dmk|HiX)P(Dmk|H¯iX)=P(Dmk|X)P(Dmk|X)=1.
The reason that I wanted to include the proof here is that some of the steps involved are not at all obvious, and one needs to take care not to use anything else than conditions 1 and 2 and the product rule (as many of the other proofs implicitly do). The link above includes all these steps in detail. It is on my Google Drive and I will make sure it stays accessible.


Welcome to Cross Validated. Thank you for your answer. Can you please edit you answer to expand it, in order to include the main points of the link you provide? It will be more helpful both for people searching in this site and in case the link breaks. By the way, take the opportunity to take the Tour, if you haven't done it already. See also some tips on How to Answer, on formatting help and on writing down equations using LaTeX / MathJax.
Ertxiem - reinstate Monica

Thanks for your comment. I edited the post and sketched the main steps of the proof.
dennis
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.