backpropagation पर टैग किए गए जवाब

जब फीडरवर्ड न्यूरल नेटवर्क में कनेक्शन वेट का इनिशियलाइज़ किया जाता है, तो किसी भी समरूपता से बचने के लिए उन्हें बेतरतीब ढंग से इनिशियलाइज़ करना ज़रूरी होता है, ताकि लर्निंग एल्गोरिथम टूट न सके। विभिन्न स्थानों में मैंने जो सिफारिश देखी है (उदाहरण के लिए, TensorFlow के MNIST ट्यूटोरियल …

13 neural-networks  backpropagation  weights  truncated-normal 

मुझे RNN (और, विशेष रूप से, LSTM इकाइयों के साथ) कैसे काम करता है, इसका एक बुनियादी ज्ञान है। मेरे पास एक एलएसटीएम इकाई की वास्तुकला का सचित्र विचार है, जो एक सेल और कुछ द्वार हैं, जो मूल्यों के प्रवाह को नियंत्रित करते हैं। हालांकि, जाहिरा तौर पर, मैं …

13 neural-networks  lstm  rnn  backpropagation 

बैच तंत्रिकाकरण को गहरे तंत्रिका जाल में पर्याप्त प्रदर्शन सुधार के साथ श्रेय दिया गया है। इंटरनेट पर बहुत सारी सामग्री यह बताती है कि इसे सक्रियण-दर-सक्रियण के आधार पर कैसे लागू किया जाए। मैंने पहले से ही मैट्रिक्स बीजगणित का उपयोग करके बैकप्रॉप लागू किया है, और यह देखते …

12 machine-learning  neural-networks  deep-learning  backpropagation  batch-normalization 

यह कहें कि मैं एक RNN / LSTM का उपयोग भावना विश्लेषण करने के लिए करता हूं, जो कि कई-से-एक दृष्टिकोण है ( इस ब्लॉग को देखें )। नेटवर्क को समय (BPTT) के माध्यम से एक काट-छाँट backpropagation के माध्यम से प्रशिक्षित किया जाता है, जहां नेटवर्क को हमेशा की …

12 neural-networks  deep-learning  natural-language  backpropagation 

यदि हम एक बैच में 10 उदाहरण कहते हैं, तो मैं समझता हूं कि हम प्रत्येक उदाहरण के लिए नुकसान का योग कर सकते हैं, लेकिन प्रत्येक उदाहरण के लिए भार को अद्यतन करने के संबंध में बैकप्रॉपैगैशन कैसे काम करता है? उदाहरण के लिए: उदाहरण 1 -> नुकसान = …

12 neural-networks  gradient-descent  backpropagation  tensorflow 

मैं सोच रहा था कि क्या बैकप्रॉपैगैशन का उपयोग करके एक एसवीएम (एक रैखिक कहो, चीजों को आसान बनाने के लिए) को प्रशिक्षित करना संभव था? वर्तमान में, मैं एक रोड ब्लॉक में हूं, क्योंकि मैं केवल क्लासिफायर के आउटपुट को लिखने के बारे में सोच सकता हूं f(x;θ,b)=sgn(θ⋅x−(b+1))=sgn(g(x;θ,b))f(x;θ,b)=sgn(θ⋅x−(b+1))=sgn(g(x;θ,b)) f(\mathbf{x};\theta,b) …

11 machine-learning  neural-networks  svm  gradient-descent  backpropagation 

मैं वर्तमान में एक फेस रिकग्निशन सॉफ्टवेयर पर काम कर रहा हूं जो चेहरे को पहचानने के लिए कनवल्शन न्यूरल नेटवर्क का उपयोग करता है। अपने रीडिंग के आधार पर, मैं इकट्ठा हुआ हूं कि एक दृढ़ तंत्रिका नेटवर्क ने वजन साझा किया है, ताकि प्रशिक्षण के दौरान समय की …

11 machine-learning  neural-networks  computer-vision  backpropagation  conv-neural-network 

मैं समझता हूं कि पारंपरिक प्रशिक्षण के साथ कुछ मुद्दों से बचने के लिए प्रीट्रेनिंग का उपयोग किया जाता है। अगर मैं बैकप्रोपेगैशन का उपयोग करता हूं, तो एक ऑटोकेनोडर के साथ, मुझे पता है कि मैं समय के मुद्दों में भाग लेने जा रहा हूं क्योंकि बैकप्रॉपैजेशन धीमा है, …

10 machine-learning  neural-networks  backpropagation  rbm  pre-training 

मैं स्टैनफोर्ड NLP डीप लर्निंग क्लास की लिखित असाइनमेंट समस्याओं http://cs224d.stanford.edu/assignment1/assignment1_soln में समस्याओं से गुज़र रहा हूँ मैं 3a के उत्तर को समझने की कोशिश कर रहा हूं जहां वे केंद्र शब्द के लिए वेक्टर के व्युत्पन्न की तलाश कर रहे हैं। मान लें कि आपको लिए केंद्र शब्द c …

9 self-study  neural-networks  backpropagation  word2vec