दीप विश्वास नेटवर्क या डीप बोल्ट्ज़मन मशीनें?

मैं उलझन में हूं। क्या डीप विश्वास नेटवर्क और डीप बोल्ट्ज़मैन मशीनों के बीच अंतर है? यदि हां, तो क्या अंतर है?

गहरी विश्वास नेटवर्क पर विकिपीडिया लेख काफी स्पष्ट है, हालांकि यह शब्दों की व्युत्पत्ति / इतिहास की एक बड़ी तस्वीर के लिए उपयोगी / व्यावहारिक होगा। मूल रूप से एक गहरी विश्वास नेटवर्क संभावनावादी पीओवी से एक गहरे तंत्रिका नेटवर्क के लिए काफी अनुरूप है, और गहरी बोल्ट्जमन मशीनें एक एल्गोरिथ्म हैं जो एक गहरी विश्वास नेटवर्क को लागू करने के लिए उपयोग की जाती हैं। स्पष्ट रूप से सभी ANN में संभाव्य व्याख्या / मॉडल होते हैं, लेकिन वे आसानी से / सीधे कुछ बायेसियन / संभाव्य-उन्मुख "विश्वास" मॉडल के रूप में प्राप्त नहीं होते हैं।

— vzn

जवाबों:

हालांकि डीप बेलिफ़ नेटवर्क्स (डीबीएन) और डीप बोल्ट्ज़मन मशीनें (डीबीएम) आरेखीय रूप से बहुत समान दिखते हैं, लेकिन वे वास्तव में गुणात्मक रूप से बहुत भिन्न हैं। ऐसा इसलिए है क्योंकि डीबीएन निर्देशित हैं और डीबीएम अप्रत्यक्ष हैं। यदि हम उन्हें व्यापक एमएल चित्र में फिट करना चाहते थे, तो हम कह सकते हैं कि DBNs अव्यक्त चर के कई घनीभूत परतों के साथ sigmoid विश्वास नेटवर्क हैं और DBMs अव्यक्त चर की कई घनीभूत परतों के साथ यादृच्छिक क्षेत्र हैं।

जैसे वे इन मॉडलों के सभी गुणों को विरासत में देते हैं। उदाहरण के लिए, DBN कंप्यूटिंग , जहाँ दृश्य परत है और छिपे हुए चर हैं, आसान है। दूसरी ओर, कंप्यूटिंग के किसी भी भाग का आमतौर पर अतुलनीय विभाजन फ़ंक्शन के कारण DBM में कम्प्यूटेशनल रूप से संभव है। $P(v|h)$ $v$ $h$ $P$

कहा जा रहा है कि समानताएं हैं। उदाहरण के लिए:

डीबीएन और मूल डीबीएम प्रतिबंधित बोलज़मैन मशीनों (आरबीएमबी) के लालची लेयरवाइज प्रशिक्षण के आधार पर आरंभीकरण योजनाओं का उपयोग करते हुए दोनों काम करते हैं,
वे दोनों "गहरे" हैं।
वे दोनों में अव्यक्त चरों की परतें होती हैं जो ऊपर और नीचे की परतों से सघन रूप से जुड़ी होती हैं, लेकिन इन्ट्रेलर कनेक्शन नहीं होते हैं, आदि।

— ऑल्टो
स्रोत

DBNs कैसे विश्वास योग्य नेटवर्क हो सकते हैं? !! एक डीबीएन की परतें आरबीएम हैं इसलिए प्रत्येक परत एक मार्कोव यादृच्छिक क्षेत्र है!

— जैक ट्वेन

मुझे लगता है कि यहां एक टाइपो है "यह इसलिए है क्योंकि डीबीएम निर्देशित हैं और डीबीएम अप्रत्यक्ष हैं।" मुझे लगता है कि आपका मतलब है कि डीबीएन अप्रत्यक्ष हैं

— जैक ट्वेन

@AlexTwain हाँ, "DBNs निर्देशित हैं" पढ़ना चाहिए था। भले ही आप पहले आरबीएम का एक समूह सीखकर एक डीबीएन को इंटिग्रेट कर सकते हैं, अंत में आप आमतौर पर वेट को खोलते हैं और एक गहरी सिग्मोइड विश्वास नेटवर्क (निर्देशित) के साथ समाप्त होते हैं। बहुत सारे मूल डीबीएन काम में लोगों ने ऊपरी परत को अप्रत्यक्ष रूप से छोड़ दिया और फिर वेक-स्लीप जैसी किसी चीज के साथ जुर्माना लगाया, जिस स्थिति में आपके पास एक संकर है।

— आल्टो

क्या आपका तात्पर्य 3. है कि उनके पास इंट्रालेयर "कनेक्शन नहीं है (जैसे कि छिपी हुई परत में नोड्स के बीच) * इंटरलेयर (उदाहरण से छिपी हुई परत तक) के बजाय ?

— ddiez

@ddiez हाँ, यह है कि कैसे पढ़ा जाना चाहिए। सुधार के लिए धन्यवाद।

— ऑल्टो

दोनों ही आरबीएम की परतदार परतों से युक्त संभाव्य चित्रमय मॉडल हैं। अंतर यह है कि ये परतें कैसे जुड़ी हैं।

यह लिंक काफी हद तक स्पष्ट करता है: http://jmlr.org/proceedings/papers/v5/salakhutdinov09a/salakhutdinov09a.pdf । चित्रा 2 और धारा 3.1 विशेष रूप से प्रासंगिक हैं।

संक्षेपित करते हुए:

एक डीबीएन में परतों के बीच कनेक्शन का निर्देशन किया जाता है। इसलिए, पहली दो परतें एक आरबीएम (एक अप्रत्यक्ष चित्रमय मॉडल) बनाती हैं, फिर बाद की परतें एक निर्देशित जेनरिक मॉडल बनाती हैं।

एक डीबीएम में, सभी परतों के बीच संबंध अप्रत्यक्ष होता है, इस प्रकार प्रत्येक परत की परतें एक आरबीएम बनती हैं।

— Darkensberge
स्रोत

इतनी गहरी बोल्ट्जमन मशीन अभी भी आरबीएम से निर्मित है? मैं अपने निष्कर्ष को कागज पर परिचय और छवि पर आधारित कर रहा हूं

— मारिन