क्या कोई डोमेन है जहां बेयसियन नेटवर्क तंत्रिका नेटवर्क से बेहतर प्रदर्शन करता है?

Question

कंप्यूटर विज़न कार्यों में तंत्रिका नेटवर्क को शीर्ष परिणाम मिलते हैं ( MNIST , ILSVRC , कागल गैलेक्सी चैलेंज देखें )। वे कंप्यूटर विजन में हर दूसरे दृष्टिकोण से बेहतर प्रदर्शन करते हैं। लेकिन अन्य कार्य भी हैं:

• कागल आणविक गतिविधि चुनौती
• रिग्रेशन: कागल रेन प्रेडिक्शन , दूसरा स्थान भी
• पकड़ और लिफ्ट 2 भी तीसरे स्थान पर - ईईजी रिकॉर्डिंग से हाथ की गति को पहचानें

मैं ASR (स्वचालित भाषण मान्यता) और मशीन अनुवाद के बारे में निश्चित नहीं हूं, लेकिन मुझे लगता है कि मैंने भी (आवर्ती) तंत्रिका नेटवर्क (शुरू में) अन्य दृष्टिकोणों को बेहतर बनाने के लिए सुना है।

मैं वर्तमान में बायेसियन नेटवर्क्स के बारे में सीख रहा हूं और मुझे आश्चर्य है कि उन मामलों में जो आमतौर पर लागू होते हैं। तो मेरा सवाल है:

क्या कोई चुनौती / (कागले) प्रतियोगिता है, जहां कला की स्थिति बायेसियन नेटवर्क या कम से कम बहुत समान मॉडल हैं?

(साइड नोट: मैंने निर्णय वृक्षों को भी देखा है , 2 , 3 , 4 , 5 , 6 , 7 हाल की कागिल चुनौतियों में जीत)

Comments

यह डोमेन का सवाल नहीं है। यह सवाल है कि आपके पास कितना डेटा है, आपके पुजारी कितने अच्छे हैं, और आप पोस्टएयर चाहते हैं या नहीं।

— इमरे १

@Emre जो कि डोमेन का प्रश्न है ... (और, निश्चित रूप से, पैसे की जब आपके पास न केवल मौजूदा डेटासेट का उपयोग करने की संभावना है, बल्कि नए डेटा को बनाने / लेबल करने के लिए लोगों को भी नियुक्त कर सकते हैं)।

— मार्टिन थोमा

यह डोमेन का प्रश्न होगा यदि डेटा की कुछ संपत्ति, कुछ संरचना थी, कि एक एल्गोरिथ्म ने दूसरे की तुलना में बेहतर लाभ उठाया, लेकिन यह वह नहीं है जो मैं सुझाव दे रहा हूं।

— एमरे १

तो आपके प्रश्न का उत्तर है, नहीं । सही? क्योंकि सभी उत्तर अन्य भविष्यवाणियों के मॉडल पर बेयसियन नेटवर्क्स के फायदों की ओर इशारा करते हैं, लेकिन मैंने किसी भी कागल प्रतियोगिता को नहीं देखा है, जहां वे वास्तव में अन्य मॉडलों को पछाड़ते हैं। क्या कोई एक प्रदान कर सकता है? क्योंकि सभी कारण और संभावित लाभ, उदाहरण के लिए पर्याप्त डेटा की कमी और अच्छे पुजारी चुनना, उत्तर में दिए गए सिद्धांत में बहुत अच्छे लगते हैं, लेकिन फिर भी कम से कम एक उदाहरण प्रदान करके प्रश्न का उत्तर नहीं देते हैं।

— MNLR

एक बात यह है कि यह बेयसियन नेटवर्क अप्रशिक्षित सीखने / कार्यों के लिए उपयोगी हो सकता है जहां डेटा की मात्रा अपेक्षाकृत सीमित है। तंत्रिका नेटवर्क केवल दूसरों को बेहतर बनाते हैं जब प्रशिक्षण के लिए बड़े पैमाने पर डेटा होता है।

— xji

Answer 1

उन क्षेत्रों में से एक जहां बायेसियन दृष्टिकोण अक्सर उपयोग किया जाता है, वह है जहां किसी को भविष्यवाणी प्रणाली की व्याख्या की आवश्यकता होती है। आप डॉक्टरों को न्यूरल नेट नहीं देना चाहते हैं और कहते हैं कि यह 95% सटीक है। आप इसके बजाय उन मान्यताओं को समझाना चाहते हैं जो आपकी विधि बनाती है, साथ ही निर्णय प्रक्रिया विधि का उपयोग करती है।

समान क्षेत्र तब है जब आपके पास एक मजबूत पूर्व डोमेन ज्ञान है और सिस्टम में इसका उपयोग करना चाहते हैं।

Comments

इसे भी देखें: मॉडल इंटरप्रेटिबिलिटी का मिथक

— मार्टिन थोमा

यह भी देखें: चूना

— मार्टिन थोमा

Answer 2

बायेसियन नेटवर्क और न्यूरल नेटवर्क एक दूसरे के अनन्य नहीं हैं। वास्तव में, बायेसियन नेटवर्क "निर्देशित ग्राफिकल मॉडल" के लिए सिर्फ एक और शब्द है। वे उद्देश्य नेटवर्क तंत्रिका नेटवर्क को डिजाइन करने में बहुत उपयोगी हो सकते हैं। Yann Lecun ने इसे यहां बताया है: https://plus.google.com/+YannLeCunPhD/posts/gWE7Jca3Zoq ।

एक उदाहरण।

ऑटो एनकोडर और डेरिवेटिव्स फॉर्म ग्राफिकल मॉडल निर्देशित होते हैंएक तंत्रिका नेटवर्क का उपयोग को लागू करने के लिए किया जाता है और इसके विलोम के लिए एक सन्निकटन: ।

$$p(x) = \int_z p(x|z)p(z) dz.$$ $p(x|z)$$q(z|x) \approx p(z|x)$

Comments

क्या दो भागों को संयुक्त रूप से प्रशिक्षित किया जा सकता है?

— nn0p

Answer 3

बहुत बढ़िया जवाब।

एक डोमेन जिसके बारे में मैं सोच सकता हूं, और जो बड़े पैमाने पर काम कर रहा है, वह ग्राहक एनालिटिक्स डोमेन है।

मुझे ग्राहकों की सहायता, विपणन और विकास टीमों दोनों को सूचित करने और चेतावनी देने के लिए ग्राहकों की चाल और उद्देश्यों को समझना और भविष्यवाणी करना है।

तो यहाँ, तंत्रिका नेटवर्क मंथन भविष्यवाणी, आदि में वास्तव में अच्छा काम करते हैं, लेकिन, मैंने पाया और बायेसियन नेटवर्क शैली पसंद करते हैं, और यहाँ इसे पसंद करने के कारण हैं:

1. ग्राहकों के पास हमेशा एक पैटर्न होता है। उनके पास हमेशा कार्य करने का एक कारण होता है। और वह कारण कुछ ऐसा होगा जो मेरी टीम ने उनके लिए किया है, या उन्होंने खुद सीखा है। इसलिए, यहां सब कुछ पहले से है, और वास्तव में यह बहुत महत्वपूर्ण है क्योंकि यह ग्राहक द्वारा लिए गए अधिकांश निर्णय को पूरा करता है।
2. ग्राहक और विपणन / बिक्री फ़नल में विकास टीमों द्वारा हर कदम कारण-प्रभाव है। इसलिए, पूर्व ज्ञान महत्वपूर्ण है जब यह एक भावी लीड को ग्राहक में परिवर्तित करने की बात आती है।

इसलिए, ग्राहक विश्लेषण की बात आने पर पूर्व की अवधारणा बहुत महत्वपूर्ण है, जो इस डोमेन के लिए बायेसियन नेटवर्क की अवधारणा को बहुत महत्वपूर्ण बनाता है।

---

सुझाया गया सीखना:

तंत्रिका नेटवर्क के लिए बायेसियन तरीके

बिजनेस एनालिटिक्स में बायेसियन नेटवर्क

Answer 4

कभी-कभी आप परिणाम की भविष्यवाणी के रूप में परिणाम को बदलने के बारे में बहुत परवाह करते हैं।

एक तंत्रिका नेटवर्क जो पर्याप्त प्रशिक्षण डेटा देता है, परिणाम का बेहतर अनुमान लगाएगा, लेकिन एक बार जब आप परिणाम की भविष्यवाणी कर सकते हैं, तो आप परिणाम पर इनपुट सुविधाओं में बदलाव के प्रभाव की भविष्यवाणी करना चाह सकते हैं।

वास्तविक जीवन से एक उदाहरण, यह जानते हुए कि किसी को दिल का दौरा पड़ने की संभावना है, उपयोगी है, लेकिन व्यक्ति को यह बताने में सक्षम होने पर कि अगर वे XX करना बंद कर देते हैं, तो जोखिम 30% कम हो जाता है।

इसी तरह ग्राहक प्रतिधारण के लिए, यह जानते हुए भी कि ग्राहक आपके साथ खरीदारी करना क्यों बंद करते हैं, ग्राहकों की भविष्यवाणी करने के लिए उतने ही लायक हैं जितना आपके लिए खरीदारी बंद करने की संभावना है।

इसके अलावा एक सरल बायेसियन नेटवर्क जो कम अच्छी तरह से भविष्यवाणी करता है, लेकिन अधिक कार्रवाई की ओर जाता है अक्सर एक अधिक "सही" बायेसियन नेटवर्क से बेहतर हो सकता है।

तंत्रिका नेटवर्क पर बायेसियन नेटवर्क का सबसे बड़ा लाभ यह है कि इनका उपयोग कार्य के लिए किया जा सकता है। यह शाखा सांख्यिकी और मशीन सीखने के लिए मूलभूत महत्व की है और इस शोध के लिए जूडिया पर्ल ने ट्यूरिंग पुरस्कार जीता है ।

Comments

लेकिन तंत्रिका नेटवर्क का उपयोग विभिन्न विशेषताओं की भूमिका और महत्व को निर्धारित करने के लिए भी किया जा सकता है, है ना?

— होसैन

Answer 5

बायेसियन नेटवर्क छोटे डेटा सेटिंग में न्यूरल नेटवर्क को बेहतर बना सकते हैं। यदि पूर्व सूचना नेटवर्क संरचना, पुजारी और अन्य हाइपरपामेटरों के माध्यम से ठीक से प्रबंधित की जाती है, तो इसमें तंत्रिका नेटवर्क पर बढ़त हो सकती है। तंत्रिका नेटवर्क, विशेष रूप से अधिक परतों वाले, बहुत अच्छी तरह से डेटा भूखे होने के लिए जाने जाते हैं। लगभग बहुत सारे डेटा द्वारा उन्हें ठीक से प्रशिक्षित करने के लिए आवश्यक है।

Answer 6

मैंने इस लिंक को Reddit पर पोस्ट किया है और बहुत सी प्रतिक्रिया मिली है। कुछ ने अपने जवाब यहां पोस्ट किए हैं, कुछ ने नहीं। इस उत्तर में लाल पोस्ट को योग करना चाहिए। (मैंने इसे सामुदायिक विकि बनाया, ताकि मुझे इसके लिए अंक न मिले)

• ऑटो-एनकोडिंग वैरिएशन बे एक बेयस नेटवर्क और एक तंत्रिका नेटवर्क का एक संयोजन है। बर्नौली अनुमानित अनुमानित विविधता के साथ पेपर बेयसियन कन्वेन्शियल न्यूरल नेटवर्क एक ही दिशा में जाता है।
• ड्रॉपआउट: न्यूरल नेटवर्क्स को ओवरफिटिंग से बचाने का एक सरल तरीका एक उदाहरण है जहां बायेसियन न्यूरल नेटवर्क अपने ड्रॉपआउट दृष्टिकोण को बेहतर बनाते हैं (देखें खंड 6.4 "बायेसियन न्यूरल नेटवर्क्स की तुलना")
• संभावित प्रोग्राम इंडक्शन के माध्यम से मानव-स्तरीय अवधारणा सीखना एक पेपर है "बायेसियन नेट नेटवर्क पर जो कि वन-शॉट वर्गीकरण करता है, जो तंत्रिका नेटवर्क को बेहतर बनाता है" (trashacount12345 के अनुसार - मैंने अब तक जांच नहीं की थी)।
• Yann LeCun ने एक Google+ पोस्ट लिखी , जिसमें उनका तर्क है कि तंत्रिका नेटवर्क और प्रोबेबिलिसिट ग्राफिकल मॉडल ओर्थोगोनल अवधारणाएं नहीं हैं।

Answer 7

बायेसियन नेटवर्क को जीनोम की व्याख्या के लिए पसंद किया जाता है। उदाहरण के लिए, जीनोम व्याख्या के लिए कम्प्यूटेशनल तरीकों पर चर्चा करने वाला यह शोध प्रबंध ।

Comments

उन्हें क्यों पसंद किया जाता है?

— इयान रिंगरोस

Answer 8

मैंने एक बार इसके लिए एक छोटा सा उदाहरण दिया था। इससे मुझे लगता है कि यदि आप किसी वितरण पर कब्जा करना चाहते हैं, तो बायेसियन नेटवर्क को प्राथमिकता दी जाती है, लेकिन आपका इनपुट प्रशिक्षण सेट वितरण को अच्छी तरह से कवर नहीं करता है। ऐसे मामलों में, यहां तक ​​कि एक तंत्रिका नेटवर्क, जो सामान्य रूप से अच्छी तरह से सामान्यीकृत है, वितरण को फिर से संगठित करने में सक्षम नहीं होगा।

Answer 9

मैं दृढ़ता से इस बात से सहमत नहीं हूं कि तंत्रिका जाल अच्छा है तो अन्य शिक्षार्थियों। वास्तव में तंत्रिका जाल अन्य तरीकों की तुलना में बहुत बुरा कर रहे हैं। संयोग से बहुत बार किए गए इस मधुमक्खी के मापदंडों को चुनने के लिए कुछ सलाह के बावजूद कोई कार्यप्रणाली नहीं है। कुछ दोस्त भी हैं जो मंचों पर बेतरतीब ढंग से बात करते हैं कि तंत्रिका जाल कितना अच्छा है, इसलिए नहीं कि उनके पास इसके बारे में कुछ सबूत हैं, बल्कि इसलिए कि वे फैंसी और बुलबुल शब्द, न्यूरल '' के बारे में घिसे हुए हैं। वे बहुत अस्थिर हैं। क्या आपने xgboost के साथ तुलना करने के लिए एक तंत्रिका जाल की कोशिश की? मैं किसी भी तंत्रिका जाल की कोशिश नहीं करूंगा जब तक कि यह आत्म-शंकु नहीं होगा। तब तक खुश तंत्रिका जालिंग :)

Comments

यह एक अच्छा जवाब देने के लिए बहुत अस्पष्ट और संवादी है। कुछ बारीकियों, तथ्यों और संपादन से इसमें सुधार होगा।

— शॉन ओवेन

, विशिष्ट तथ्य '' उन लोगों द्वारा निर्दिष्ट किया जाना चाहिए जो इस तरह के संदेश पोस्ट करते हैं जो कहते हैं कि तंत्रिका जाल सबसे अच्छे हैं, आप कह सकते हैं कि तंत्रिका जाल ठीक कर रहे हैं क्योंकि वे फैंसी ध्वनि करते हैं, जो कि विच न्यूरल नेटवर्क में डेटा सेट भी हैं शायद इस तरह से खराब कि घुटने बेहतर परिणाम से मिल रहे हैं।

— gm1

हालांकि मैं आपके विचारों से इनकार नहीं करता, लेकिन आपको यह भी नहीं कहना चाहिए कि आपका जवाब वास्तव में सवाल का जवाब नहीं देता है। इसलिए, pl इसे टिप्पणी के रूप में जोड़ने पर विचार करें। और, कृपया कोई ठोस सबूत और सिद्धांत, आपका जवाब समर्थन जोड़ने के लिए, और कुछ इसे देखा जा सकता है, एक शेख़ी के रूप में द्वारा भविष्य दर्शकों :)

— Dawny33

@ gm1 मुझे लगता है कि आप मेरे साथ थे ",, विशिष्ट तथ्य '' को उन लोगों द्वारा निर्दिष्ट किया जाना चाहिए जो इस तरह के संदेश पोस्ट करते हैं जो कहते हैं कि तंत्रिका जाल सबसे अच्छे हैं"। कृपया ध्यान दें कि मैंने एक बयान नहीं लिखा था जो कि सामान्य था। मैंने लिखा है कि एनएन कई प्रतियोगिताओं / सीवी कार्यों में जीतता है। और मैंने कुछ चुनौतियों को जोड़ा है जिसमें तंत्रिका नेटवर्क दृष्टिकोण जीता है।

— मार्टिन थोमा

नमस्ते वहाँ, वहाँ निश्चित रूप से कुछ कागल प्रतियोगिताओं जिसमें तंत्रिका जाल अच्छी तरह से किया जाता है (यह मानते हुए कि उन्होंने अन्य मॉडल के साथ संयुक्त तंत्रिका जाल का उपयोग नहीं किया है), लेकिन यह सभी कागल प्रतियोगिताओं का एक छोटा अनुपात है, क्या आप जाने के लिए एक तंत्रिका नेटवर्क का उपयोग कर सकते हैं टागल टीएफआई में टॉप 3? मुझे लगता है कि मैं मॉडल के साथ सार्वजनिक और निजी दोनों एलबी के लिए कर पा रहा हूं जो गैर-रैखिक है।

— gm1