डेटा साइंस optimization

8

मैं वर्तमान में स्टोकेस्टिक ग्रैडिएंट डिसेंट को लागू करने पर काम कर रहा हूं, SGDपीछे के प्रसार का उपयोग करते हुए तंत्रिका जाल के लिए, और जब मैं इसके उद्देश्य को समझता हूं तो मुझे कुछ सवाल हैं कि सीखने की दर के लिए मूल्यों का चयन कैसे करें। क्या …

85 machine-learning neural-network deep-learning optimization hyperparameter

4

क्या एक मॉडल को फिर से प्रशिक्षित किया जाना चाहिए यदि नई टिप्पणियां उपलब्ध हैं?

इसलिए, मुझे इस विषय पर कोई साहित्य नहीं मिला है, लेकिन ऐसा लगता है जैसे कुछ विचार देने लायक है: यदि नए अवलोकन उपलब्ध हैं, तो मॉडल प्रशिक्षण और अनुकूलन में सर्वोत्तम अभ्यास क्या हैं? क्या भविष्यवाणियों को नीचा दिखाना शुरू करने से पहले किसी मॉडल को फिर से प्रशिक्षित …

28 machine-learning predictive-modeling optimization training

1

क्या मिनी-बैच के आकार को चुनने के लिए कोई नियम हैं?

तंत्रिका नेटवर्क का प्रशिक्षण करते समय, एक हाइपरपरमीटर एक मिनीबैच का आकार होता है। आम विकल्प 32, 64 और 128 तत्व प्रति मिनी बैच हैं। क्या कोई नियम / दिशानिर्देश हैं कि मिनी-बैच कितना बड़ा होना चाहिए? कोई प्रकाशन जो प्रशिक्षण पर प्रभाव की जांच करता है?

21 neural-network deep-learning convnet optimization

4

क्या ढाल मूल हमेशा एक इष्टतम में परिवर्तित होता है?

मैं सोच रहा हूं कि क्या कोई ऐसा परिदृश्य है जिसमें ढाल मूल न्यूनतम में परिवर्तित नहीं होता है। मुझे पता है कि धीरे-धीरे वंशज को वैश्विक अनुकूलता में परिवर्तित करने की गारंटी नहीं है। मुझे यह भी पता है कि यह एक इष्टतम से विचलन हो सकता है अगर, …

21 machine-learning neural-network deep-learning optimization gradient-descent

3

तंत्रिका नेटवर्क के प्रशिक्षण के लिए एक अनुकूलक का चयन करने के लिए दिशानिर्देश

मैं कुछ समय से तंत्रिका नेटवर्क का उपयोग कर रहा हूं। हालांकि, एक चीज जो मैं लगातार संघर्ष करता हूं वह है नेटवर्क के प्रशिक्षण के लिए एक अनुकूलक का चयन (बैकप्रॉप का उपयोग करके)। आमतौर पर मैं जो करता हूं वह केवल एक (उदाहरण के लिए मानक SGD) के …

18 neural-network optimization backpropagation

2

स्थानीय मिनिमा बनाम काठी गहरी सीखने की ओर इशारा करती है

मैंने एंड्रयू एनजी को सुना (एक वीडियो में मैं दुर्भाग्य से अब और नहीं मिल सकता है) इस बारे में बात करें कि गहरी सीखने की समस्याओं में स्थानीय मिनीमाता की समझ इस अर्थ में बदल गई है कि उन्हें अब कम समस्याग्रस्त माना जाता है क्योंकि उच्च-आयामी रिक्त स्थान …

18 machine-learning deep-learning optimization convergence

2

हमेशा ADAM ऑप्टिमाइज़ेशन तकनीक का उपयोग क्यों नहीं किया जाता है?

यह अनुकूली क्षण अनुमान (एडम) लगता है ऑप्टिमाइज़र लगभग हमेशा बेहतर काम करता है (तेजी से और अधिक मज़बूती से एक वैश्विक न्यूनतम तक पहुँच) जब प्रशिक्षण तंत्रिका जाल में लागत समारोह को कम करता है। हमेशा एडम का उपयोग क्यों नहीं किया जाता है? RMSProp या गति अनुकूलक का …

14 neural-network optimization

1

रैंडम फ़ॉरेस्ट का उपयोग करके नमूना करने के लिए कितनी सुविधाएँ

विकिपीडिया पृष्ठ जो उद्धरण "सांख्यिकीय लर्निंग के तत्वों" का कहना है: आमतौर पर, साथ श्रेणीबद्ध समस्यायें के लिए सुविधाओं, ⌊ √ppp सुविधाओं प्रत्येक विभाजन में उपयोग किया जाता है।⌊p–√⌋⌊p⌋\lfloor \sqrt{p}\rfloor मैं समझता हूं कि यह एक बहुत अच्छा शिक्षित अनुमान है और संभवतः अनुभवजन्य साक्ष्य द्वारा इसकी पुष्टि की गई …

14 statistics random-forest optimization evaluation sampling

2

तंत्रिका नेटवर्क के अनुकूलन के लिए जेनेटिक एल्गोरिदम का उपयोग क्यों नहीं किया जाता है?

मेरी समझ से, जेनेटिक एल्गोरिदम बहुउद्देश्यीय अनुकूलन के लिए शक्तिशाली उपकरण हैं। इसके अलावा, न्यूरल नेटवर्क (विशेष रूप से गहरे वाले) को प्रशिक्षित करना कठिन है और इसमें कई मुद्दे हैं (गैर-उत्तल लागत कार्य - स्थानीय मिनीमा, लुप्त और विस्फोट ग्रेडर आदि)। इसके अलावा, मैं वैचारिक रूप से एनए को …

13 neural-network optimization genetic-algorithms

4

हर आशावादी के लिए ग्रेडिएंट डिसेंट सेंट्रल है?

मैं जानना चाहता हूं कि ग्रैडिएंट वंशज आदमियों, आदमगढ़, आरएमएसप्रॉप और कई अन्य आशावादियों जैसे ऑप्टिमाइज़र में उपयोग किया जाने वाला मुख्य एल्गोरिदम है या नहीं।

13 machine-learning neural-network deep-learning optimization gradient-descent

1

R में MLE के लिए फिशर स्कोरिंग v / s कोऑर्डिनेट डिसेंट

R बेस फ़ंक्शन glm()MLE के लिए फ़िशर स्कोरिंग का उपयोग करता है, जबकि glmnetसमान समीकरण को हल करने के लिए समन्वय डिसेंट विधि का उपयोग करता प्रतीत होता है। फिशर स्कोरिंग की तुलना में कोऑर्डिनेट डिसेंट अधिक समय-कुशल है, क्योंकि फिशर स्कोरिंग कुछ अन्य मैट्रिक्स ऑपरेशनों के अलावा, दूसरे ऑर्डर …

11 machine-learning r algorithms optimization

3

वैज्ञानिक कंप्यूटिंग के लिए सर्वश्रेष्ठ भाषाएँ [बंद]

बंद हो गया । इस प्रश्न पर अधिक ध्यान देने की आवश्यकता है । यह वर्तमान में उत्तर स्वीकार नहीं कर रहा है। इस प्रश्न को सुधारना चाहते हैं? प्रश्न को अपडेट करें ताकि यह इस पोस्ट को संपादित करके केवल एक समस्या पर केंद्रित हो । 5 साल पहले …

10 efficiency statistics tools knowledge-base machine-learning neural-network deep-learning optimization hyperparameter machine-learning time-series categorical-data logistic-regression python visualization bigdata efficiency classification binary svm random-forest logistic-regression data-mining sql experiments bigdata efficiency performance scalability distributed bigdata nlp statistics education knowledge-base definitions machine-learning recommender-system evaluation efficiency algorithms parameter efficiency scalability sql statistics visualization knowledge-base education machine-learning r python r text-mining sentiment-analysis machine-learning machine-learning python neural-network statistics reference-request machine-learning data-mining python classification data-mining bigdata usecase apache-hadoop map-reduce aws education feature-selection machine-learning machine-learning sports data-formats hierarchical-data-format bigdata apache-hadoop bigdata apache-hadoop python visualization knowledge-base classification confusion-matrix accuracy bigdata apache-hadoop bigdata efficiency apache-hadoop distributed machine-translation nlp metadata data-cleaning text-mining python pandas machine-learning python pandas scikit-learn bigdata machine-learning databases clustering data-mining recommender-system

2

सीखने की दर मेरे तंत्रिका नेटवर्क के वजन को आसमान छूने का कारण क्यों बन रही है?

मैं थोड़ा अनुसंधान के लिए सरल तंत्रिका नेटवर्क लिखने के लिए टेंसरफ़्लो का उपयोग कर रहा हूं और मुझे प्रशिक्षण के दौरान 'नेन' वेट के साथ कई समस्याएं हुई हैं। मैंने कई अलग-अलग समाधानों की कोशिश की जैसे कि ऑप्टिमाइज़र को बदलना, नुकसान को बदलना, डेटा का आकार, आदि। लेकिन …

9 machine-learning python tensorflow optimization gradient-descent

optimization पर टैग किए गए जवाब