गहरी तंत्रिका नेटवर्क प्रशिक्षण की कल्पना करना


13

मैं प्रशिक्षण के दौरान वेट प्लॉट करने के लिए बहुपरत नेटवर्क के लिए Hinton आरेखों के बराबर खोजने की कोशिश कर रहा हूं।

प्रशिक्षित नेटवर्क कुछ हद तक डीप एसआरएन के समान है, अर्थात इसमें कई वेट मैट्रिसेस की अधिक संख्या है जो कई हिंटन आरेखों के एक साथ भूखंड को नेत्रहीन रूप से भ्रमित करेंगे।

किसी को भी कई परतों के साथ आवर्तक नेटवर्क के लिए वजन अद्यतन प्रक्रिया की कल्पना करने का एक अच्छा तरीका पता है?

मुझे इस विषय पर ज्यादा कागज नहीं मिले हैं। मैं समय-समय पर संबंधित जानकारी को प्रति परत वज़न पर प्रदर्शित करने के लिए सोच रहा था अगर मैं किसी चीज़ के साथ नहीं आ सकता। जैसे प्रत्येक परत के लिए समय-समय पर वजन-डेल्टा (हर एक कनेक्शन के उपयोग को छोड़ना)। पीसीए एक और संभावना है, हालांकि मैं बहुत अतिरिक्त गणनाओं का उत्पादन नहीं करना चाहूंगा, क्योंकि प्रशिक्षण के दौरान विज़ुअलाइज़ेशन ऑनलाइन किया जाता है।

जवाबों:


10

मुझे पता है कि बात बंद हो रही है :

दीप लर्निंग मॉडल (मुख्य रूप से न्यूरल नेटवर्क्स) को पूरी तरह से आपके ब्राउज़र में प्रशिक्षण देने के लिए कन्वेंशन एक जावास्क्रिप्ट लाइब्रेरी है। एक टैब खोलें और आप प्रशिक्षण ले रहे हैं। कोई सॉफ़्टवेयर आवश्यकताएँ, कोई कंपाइलर, कोई इंस्टॉलेशन, कोई GPU, कोई पसीना नहीं।

इस साइट पर डेमो का वजन होता है और वे समय के साथ कैसे बदलते हैं (ध्यान में रखते हुए, इसके कई मापदंडों, क्योंकि व्यावहारिक नेटवर्क में बहुत सारे न्यूरॉन्स होते हैं)। इसके अलावा, यदि आप उनके प्लॉटिंग से संतुष्ट नहीं हैं, तो नेटवर्क मापदंडों तक पहुंच है और आप अपनी इच्छानुसार प्लॉट कर सकते हैं (क्योंकि यह जावास्क्रिप्ट है)।


धन्यवाद! दिलचस्प बात यह है कि उन्होंने अपने वजन को बढ़ाने के लिए कई हिन्टन आरेखों का उपयोग करने का विकल्प चुना। मुझे अभी भी लगता है कि इसकी व्याख्या करना कठिन है क्योंकि आपके पास बहुत सी परतें / कनेक्शन हैं, लेकिन इसे कम से कम कार्रवाई में देखना अच्छा है।
रनडोस्रन

5

विषयों की मेरी सरसरी समझ के आधार पर, आपके प्रश्न के साथ जुड़ा हुआ है, मुझे लगता है कि Gephi ( https://gephi.gubub.io ; मूल gephi.org लिंक वहां पुनर्निर्देशित) तंत्रिका नेटवर्क गतिशील दृश्य को संभालने में सक्षम होना चाहिए । ऐसा लगता है कि, अपने लक्ष्य को प्राप्त करने के लिए, आपको अपने ग्राफ (एस) को संबंधित भार ( https://forum.gephi.org/viewtopic.php?t=1875 ) से स्ट्रीम करने की आवश्यकता है । के लिए स्ट्रीमिंग , आप सबसे अधिक संभावना इस आवश्यकता होगी प्लग-इन : https://marketplace.gephi.org/plugin/graph-streaming

अद्यतन : आप भी उपयोगी SoNIA सॉफ्टवेयर पा सकते हैं: http://web.stanford.edu/group/sonia


1
बहुत दिलचस्प विचार! वास्तव में, एक सामाजिक नेटवर्क की तरह एक गहरे जाल की कल्पना करना कुछ ऐसा है जिसके बारे में मैंने नहीं सोचा है। मॉडलों के बीच मुख्य अंतर यह है कि ये ग्राफ अपने नोड्स में जानकारी कोड करते हैं जबकि तंत्रिका नेटवर्क अपने कनेक्शन के भीतर करते हैं। लेकिन इसे संशोधित किया जा सकता है, उदाहरण के लिए सामाजिक नेटवर्क नोड मानों को तंत्रिका नेटवर्क के आउटगोइंग कनेक्शन वेट पर सेट करके।
रनडोस्रन

मुझे खुशी है कि आपको यह विचार पसंद आया। बेझिझक उत्थान / स्वीकार करें। और SoNIA सॉफ्टवेयर की समीक्षा करना न भूलें, जिसके लिंक के साथ मैंने हाल ही में अपना उत्तर अपडेट किया है। अंत में, यदि आप R का उपयोग करते हैं (या उपयोग करने की योजना), तो यहां आपके लिए एक और प्रासंगिक रोचक जानकारी है: sna.stanford.edu/rlabs.php
१३:०४ पर असेम्बली में
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.