संभावना-मुक्त अनुमान - इसका क्या अर्थ है?

Question

हाल ही में मुझे साहित्य में 'संभावना-मुक्त' तरीकों के बारे में पता चला है। हालाँकि मैं इस बात पर स्पष्ट नहीं हूँ कि अनुमान या अनुकूलन विधि के लिए इसका मतलब क्या है, संभावना-रहित है ।

मशीन लर्निंग में लक्ष्य आम तौर पर एक फ़ंक्शन को फिट करने के लिए कुछ मापदंडों की संभावना को अधिकतम करने के लिए होता है जैसे एक तंत्रिका नेटवर्क पर भार।

तो क्या वास्तव में एक संभावना-मुक्त दृष्टिकोण का दर्शन है और गणों जैसे प्रतिकूल नेटवर्क इस श्रेणी में क्यों आते हैं?

Answer 1

आंकड़ों में संभावना के आधार पर तरीकों के कई उदाहरण नहीं हैं (मैं मशीन सीखने के बारे में नहीं जानता)। कुछ उदाहरण:

1. फिशर का शुद्ध महत्व परीक्षण । केवल एक तेज परिभाषित शून्य परिकल्पना के आधार पर (जैसे कि लेडी चखने के चाय प्रयोग में पहले और दूध के बीच कोई अंतर नहीं है । यह धारणा एक शून्य परिकल्पना वितरण की ओर ले जाती है, और फिर एक पी-मूल्य है। कोई संभावना नहीं है। यह न्यूनतम हीनतापूर्ण मशीनरी है। अपने आप में शक्ति विश्लेषण (कोई औपचारिक रूप से परिभाषित विकल्प) या विश्वास अंतराल (कोई औपचारिक रूप से परिभाषित पैरामीटर नहीं) के लिए एक आधार नहीं दे सकता है।

2. 1. से संबद्ध यादृच्छिक परीक्षण है यादृच्छिकता परीक्षण और क्रमपरिवर्तन परीक्षण के बीच अंतर , जो इसके सबसे बुनियादी रूप में एक शुद्ध महत्व परीक्षण है।

3. बूटस्ट्रैपिंग एक संभावना फ़ंक्शन की आवश्यकता के बिना किया जाता है। लेकिन संभावना विचारों के संबंध हैं, उदाहरण के लिए अनुभवजन्य संभावना ।

4. रैंक-आधारित विधियाँ आमतौर पर संभावना का उपयोग नहीं करती हैं।

5. बहुत मजबूत आँकड़े।

6. मंझला (या अन्य मात्राओं) के लिए विश्वास अंतराल आदेश आँकड़ों के आधार पर हो सकता है। गणना में कोई संभावना शामिल नहीं है। मंझला के लिए आत्मविश्वास अंतराल , अनुभवजन्य मंझला के विचरण के लिए सर्वश्रेष्ठ अनुमानक

7. V Vapnik के पास पारगमन सीखने का विचार था जो कि https://en.wikipedia.org/wiki/Epilogism से संबंधित प्रतीत होता है जैसा कि ब्लैक स्वान टेलब और ब्लैक स्वान में चर्चा की गई थी ।

8. $\text{N}(\mu, \sigma^2)$$\text{N}(9.37, 2.12^2)$

फिलहाल आपको एक संभावना समारोह मिल गया है, निर्माण करने के लिए एक बहुत बड़ी मशीनरी है। Bayesians बिना नहीं कर सकते हैं, और ज्यादातर अन्य लोग ज्यादातर समय संभावना का उपयोग करते हैं। लेकिन यह एक टिप्पणी में इंगित किया गया है कि यहां तक ​​कि बेयसियंस के बिना भी करने की कोशिश करते हैं, Approximate_Bayesian_computation देखें । यहाँ तक कि उस विषय पर एक नया पाठ भी है ।

लेकिन वे कहां से आते हैं? सामान्य रूप से कार्य की संभावना प्राप्त करने के लिए, हमें बहुत सी मान्यताओं की आवश्यकता होती है जिन्हें औचित्य देना मुश्किल हो सकता है।

यह पूछना दिलचस्प है कि क्या हम इस तरह की कुछ संभावनाओं से मुक्त तरीकों से निर्माण कर सकते हैं। उदाहरण के लिए, बिंदु 6. ऊपर, क्या हम ऑर्डर आँकड़ों से गणना किए गए आत्मविश्वास के अंतराल से (औसतन) एक परिवार के लिए फ़ंक्शन की संभावना का निर्माण कर सकते हैं? मुझे पूछना चाहिए कि एक अलग सवाल के रूप में ...

GAN के I के बारे में आपका अंतिम प्रश्न दूसरों के लिए छोड़ना चाहिए।

Comments

(+1) लेकिन अनुमानित बायेसियन गणना देखें । (मुझे लगता है कि "संभावना-मुक्त" उन प्रक्रियाओं के लिए अधिक उपयोग किया जाता है जहां आप एक संभावना फ़ंक्शन के लिए काम करने की अपेक्षा करेंगे, लेकिन आवश्यकता नहीं है, बल्कि रैंडमाइज़ेशन परीक्षण और जैसे कि जिसके लिए आप स्पष्ट रूप से डॉन करते हैं ' टी)।

— Scortchi - को पुनः स्थापित मोनिका

Answer 2

विशेष रूप से, [हाल ही में] संभावना-मुक्त विधियां एबीसी एल्गोरिदम का एक पुनर्लेखन है, जहां एबीसी अनुमानित बायेसियन अभिकलन के लिए खड़ा है । यह एक बंद-प्रपत्र संभावना फ़ंक्शन के उपयोग की आवश्यकता नहीं है, लेकिन एक विशिष्ट सांख्यिकीय मॉडल का अध्ययन करने का इरादा है कि प्रवेश विधियों को कवर करने का इरादा रखता है। वे संभावना से जुड़ी कम्प्यूटेशनल कठिनाई से मुक्त होते हैं लेकिन उस मॉडल से नहीं जो इस संभावना को पैदा करता है। उदाहरण के लिए देखें

1. ग्रीलाउड, ए; मारिन, जेएम; रॉबर्ट, सी; रोडोलफे, एफ; टैली, एफ (2009)। "गिब्स यादृच्छिक क्षेत्रों में मॉडल की पसंद के लिए संभावना-मुक्त तरीके"। बायेसियन विश्लेषण। 3: 427–442 ।
2. रैटमैन, हे; एंड्रीयू, सी; वाईफ, सी; रिचर्डसन, एस (2009)। "प्रोटीन नेटवर्क विकास के लिए एक आवेदन के साथ संभावना-मुक्त अनुमान पर आधारित मॉडल आलोचना"। संयुक्त राज्य अमेरिका के नेशनल एकेडमी ऑफ साइंसेज की कार्यवाही। 106: 10576–10581 ।
3. बाजिन, ई।, डॉसन, केजे, और ब्यूमोंट, एमए (2010)। एक बायेसियन पदानुक्रमित मॉडल में जनसंख्या संरचना और स्थानीय अनुकूलन की संभावना मुक्त अनुमान। जेनेटिक्स, 185 (2), 587-602 ।
4. डिडेलॉट, एक्स; एवरिट, आरजी; जोहान्सन, एएम; लॉसन, डीजे (2011)। "मॉडल साक्ष्य की संभावना-मुक्त अनुमान"। बायेसियन विश्लेषण। 6: 49–76 ।
5. गुटमैन, एम। और कोंडर, जे। (2016) सिम्युलेटर-आधारित सांख्यिकीय मॉडल जर्नल ऑफ मशीन लर्निंग रिसर्च की संभावना से मुक्त अनुमान के लिए बायेसियन अनुकूलन ।

Answer 3

उत्तरों के लिटनी में जोड़ने के लिए, स्पर्शोन्मुख आँकड़े वास्तव में संभावना से मुक्त होते हैं।

एक "संभावना" यहां डेटा के लिए संभाव्यता मॉडल को संदर्भित करता है । मैं उस बारे में परवाह नहीं कर सकता। लेकिन मुझे कुछ सरल अनुमानक मिल सकते हैं, जैसे कि माध्य, यह डेटा का पर्याप्त सारांश है और मैं वितरण के माध्य के बारे में निष्कर्ष निकालना चाहता हूं (यह मौजूद है, जो अक्सर एक उचित धारणा है)।

केंद्रीय सीमा प्रमेय द्वारा, बड़े एन में माध्य सामान्य वितरण होता है जब विचरण भी मौजूद होता है। मैं लगातार परीक्षण बना सकता हूं (एन 1 को शक्ति के रूप में एन तक जाता है जब अशक्त होता है) सही आकार के होते हैं। जबकि मेरे पास परिमित नमूना आकारों में माध्य के नमूना वितरण के लिए एक संभाव्यता मॉडल (जो कि गलत है) है, मैं अपने "डेटा के उपयोगी सारांश" (माध्य) को बढ़ाने के लिए वैध अनुमान और निष्पक्ष अनुमान प्राप्त कर सकता हूं।

यह ध्यान दिया जाना चाहिए कि मंझला (95 विकल्प @ @ kjetilbhalvorsen के जवाब में विकल्प 6) के आधार पर परीक्षण भी केंद्रीय सीमा प्रमेय पर भरोसा करते हैं कि वे सुसंगत हैं। तो यह सरल टी-टेस्ट को "गैर-पैरामीट्रिक" या "गैर-संभावना आधारित" परीक्षण के रूप में विचार करने के लिए पागल नहीं है।

Answer 4

$p(y|x)$$x$$y$$p(y|x) = N(y|\mu(x), \sigma)$$p(y|x)$

$p(y|x)$