मैं एक पेपर की तलाश कर रहा हूं जो गहन शिक्षा के मूल सिद्धांतों का विवरण दे। आदर्श रूप से गहन शिक्षा के लिए एंड्रयू एनजी पाठ्यक्रम। क्या आप जानते हैं कि मुझे यह कहां मिल सकता है?
मैं एक पेपर की तलाश कर रहा हूं जो गहन शिक्षा के मूल सिद्धांतों का विवरण दे। आदर्श रूप से गहन शिक्षा के लिए एंड्रयू एनजी पाठ्यक्रम। क्या आप जानते हैं कि मुझे यह कहां मिल सकता है?
जवाबों:
इस लिंक में गहरी सीखने वाले साहित्य की एक अद्भुत मात्रा है। इसे यहां संक्षेप में प्रस्तुत करना (आदर्श रूप में एक शुरुआत में जाना चाहिए) - नोट: ये सभी संसाधन मुख्य रूप से अजगर का उपयोग करते हैं।
1) सबसे पहले, मशीन सीखने का एक बुनियादी ज्ञान आवश्यक है। मैंने पाया कि कैल्टेक लर्निंग डेटा से नेट पर उपलब्ध सभी मशीन लर्निंग कोर्स के लिए आदर्श है।
एंड्रयू एनजी के कोर्टसेरा पाठ्यक्रम भी बहुत अच्छा है।
2) तंत्रिका नेटवर्क के लिए, कोई भी इसे डॉ । पैट्रिक विंस्टन से बेहतर नहीं बताता है । असाइनमेंट को बेहतर समझ के लिए आज़माया जाना चाहिए। वे अजगर में हैं।
3) तंत्रिका नेटवर्क की बेहतर समझ के लिए, माइकल नीलसन का कोर्स किया जाना चाहिए (जैसा कि एलेक्सी द्वारा सुझाया गया है)। यह बहुत बुनियादी है लेकिन यह काम करता है।
4) गहरी तंत्रिका नेटवर्क, और उन्हें GPUs पर तेजी से लागू करने के लिए, वहाँ इस तरह के रूप में उपलब्ध कई व्यवस्थाएं हैं थेनो , Caffe , Pybrain , मशाल , आदि। इनमें से थीनो एक बेहतर निम्न स्तर की कार्यक्षमता प्रदान करता है जो अपने उपयोगकर्ता को कस्टम एनएन बनाने की अनुमति देता है। यह एक पाइथन लाइब्रेरी है, इसलिए इसके साथ-साथ इसमें खसखस, स्किकिट-लर्न, माटप्लोटलिब, स्किपी का इस्तेमाल किया जा सकता है। गहरी सीखने ट्यूटोरियल लिसा लैब द्वारा लिखित थेनो का एक बेहतर समझ के लिए बाहर की कोशिश की जानी चाहिए।
5) कन्वर्सेशनल न्यूरल नेटवर्क्स के लिए, andrej karpathy के ट्यूटोरियल का अनुसरण करें ।
६) बिना पढ़े सीखने के लिए, यहाँ और यहाँ अनुसरण करें ।
7) गहन शिक्षा और एनएलपी के प्रतिच्छेदन के लिए, रिचर्ड सोचर की कक्षा का अनुसरण करें ।
8) LSTM के लिए, Hochreiter, S., & Schmidhuber, J. (1997) पढ़ें । लंबी अवधि की स्मृति। तंत्रिका संगणना, 9 (8), 1735-1780 और ग्रेव्स, एलेक्स। आवर्तक तंत्रिका नेटवर्क के साथ पर्यवेक्षित अनुक्रम लेबलिंग। वॉल्यूम। 385. स्प्रिंगर, 2012 ।
यहाँ LSTM का Theano कोड है ।
विषय नया है इसलिए अधिकांश ज्ञान पत्रों में बिखरे हुए हैं, लेकिन यहां दो हालिया पुस्तकें हैं:
और कुछ व्यावहारिक सामग्री: http://deeplearning.net/tutorial/
माइकल नील्सन द्वारा न्यूरल नेटवर्क और डीप लर्निंग। पुस्तक अभी भी जारी है, लेकिन यह काफी दिलचस्प और आशाजनक है। और यह मुफ़्त है! यहाँ लिंक है: http://neuralnetworksanddeeplearning.com/
अब तक केवल 5 अध्याय हैं, और उनमें से अधिकांश सामान्य तंत्रिका नेटवर्क के बारे में बात करते हैं, लेकिन यह अभी भी देखने लायक है।
अपडेट: पुस्तक समाप्त हो चुकी है!
मुख्य संदर्भ:
गहन शिक्षा पर पाठ्यक्रम:
NLP उन्मुख:
विजन उन्मुख:
टूलकिट-विशिष्ट ट्यूटोरियल:
एनएलपी और गहन शिक्षा के प्रतिच्छेदन पर रिचर्ड सोचर की हाल ही में पीएचडी शोध प्रबंध भी है: प्राकृतिक भाषा प्रसंस्करण और कंप्यूटर विजन के लिए पुनर्संरचना गहन सीखना
बैक प्रचार प्रसार एल्गोरिथ्म की व्युत्पत्ति के लिए, मैं रयान हैरिस यूट्यूब वीडियो का सुझाव देता हूं जो कम चुनौतीपूर्ण है। आपको दूसरा वीडियो भी मिल सकता है।