मुझे यह आभास हो रहा है कि जब लोग एक 'गहरे विश्वास' नेटवर्क का उल्लेख कर रहे हैं कि यह मूल रूप से एक तंत्रिका नेटवर्क है लेकिन बहुत बड़ा है। क्या यह सही है या एक गहरी विश्वास नेटवर्क का यह भी मतलब है कि एल्गोरिथ्म अपने आप में अलग है (यानी, कोई फ़ीड आगे तंत्रिका जाल लेकिन शायद फीडबैक छोरों के साथ कुछ)?
जवाबों:
"न्यूरल नेटवर्क" एक शब्द है जिसका उपयोग आमतौर पर फीडफॉरवर्ड न्यूरल नेटवर्क को संदर्भित करने के लिए किया जाता है। डीप न्यूरल नेटवर्क कई परतों वाले फीडरवर्ड न्यूरल नेटवर्क हैं।
एक डीप विश्वास नेटवर्क डीप न्यूरल नेटवर्क के समान नहीं है।
जैसा कि आपने बताया है कि एक गहरी विश्वास नेटवर्क में कुछ परतों के बीच अप्रत्यक्ष कनेक्शन है। इसका मतलब यह है कि DNN और DBN की टोपोलॉजी परिभाषा के हिसाब से अलग है।
डीबीएन में अप्रत्यक्ष परतों को प्रतिबंधित बोल्ट्जमैन मशीनें कहा जाता है। इस परतों को एक अप्रशिक्षित शिक्षण एल्गोरिथ्म (गर्भनिरोधक विचलन) का उपयोग करके प्रशिक्षित किया जा सकता है जो बहुत तेज़ है (यहां एक लिंक है ( विवरण के साथ)।
कुछ और टिप्पणियाँ:
गहरे तंत्रिका नेटवर्क के साथ प्राप्त समाधान 1 या 2 छिपी परतों के साथ नेटवर्क के लिए प्राप्त समाधानों की तुलना में खराब प्रदर्शन करने वाले समाधानों के अनुरूप हैं। जैसे-जैसे आर्किटेक्चर गहरा होता जाता है, डीप एनएन का उपयोग करके अच्छा सामान्यीकरण प्राप्त करना अधिक कठिन हो जाता है।
2006 में Hinton ने पाया कि गहरे आर्किटेक्चर में बहुत बेहतर परिणाम प्राप्त किए जा सकते हैं जब प्रत्येक लेयर (RBM) को एक अप्रशिक्षित लर्निंग अल्गोरिथम (कॉन्ट्रास्टिव डाइवर्जेंस) के साथ प्रशिक्षित किया जाता है। तब नेटवर्क को वज़न को "फाइन-ट्यून" करने के लिए बैकप्रोपेगैशन का उपयोग करके एक पर्यवेक्षित तरीके से प्रशिक्षित किया जा सकता है।
डेविड ने कहा, " गहरे विश्वास नेटवर्क में RBM की तरह, शीर्ष दो परतों के बीच एक अप्रत्यक्ष कनेक्शन होता है ", जो कि मानक फीड-फॉरवर्ड न्यूरल नेटवर्क के विपरीत है। सामान्य तौर पर, एक DNN में मुख्य मुद्दा यह है कि निश्चित रूप से अधिक शामिल है कि एक एकल परत NN के प्रशिक्षण का संबंध है। (मैं एनएन पर काम नहीं कर रहा हूं यह अभी हुआ है मैंने हाल ही में पेपर पढ़ा है।)
संदर्भ: 1. जियोफ्रे हिंटन, ली डेंग, डोंग यू, जॉर्ज डाहल, अब्देल-रहमान मोहम्मद, नवदीप जेटली, एंड्रयू सीनियर, विन्सेन्ट वनहोक, पैट्रिक गुयेन, तारा साईनाथ, और ब्रायन द्वारा भाषण मान्यता में ध्वनिक मॉडलिंग के लिए डीप न्यूरल नेटवर्क। IEEE सिग्नल प्रोसेसिंग मैगज़ीन में किंग्सबरी [82] नवंबर 2012 ( MSR में मूल पेपर से लिंक )
यहां एलेक्स की टिप्पणियों को देखकर खुशी हुई। मैं लोगों को समझा रहा हूं कि DL एक विशिष्ट न्यूरल नेटवर्क है। सीखने की योजना में कोई अंतर नहीं है। C (70 के दशक) में लिखे गए पहले के ANN में कई छिपी हुई परतें स्थापित करने का विकल्प है। वास्तव में मैंने यह निर्धारित करने के लिए परीक्षण किया कि क्या अधिक छिपी हुई परतें सटीकता में सुधार करती हैं। परतों की संख्या DL को ANN से अलग नहीं बनाती है।
मुझे इस तरह की मार्केटिंग की शर्तों से नफरत है। अब हमारे पास इतने डीएल विशेषज्ञ हैं जो डीएल को नहीं जानते हैं कि वास्तव में एएनएन है। क्योंकि विपणन इतना अच्छा और मजबूत है, लोगों का मानना है कि हम मशीन लर्निंग क्षेत्र में बहुत आगे बढ़ गए। लेकिन, कुछ भी नया नहीं है!