convex पर टैग किए गए जवाब

मैं सैद्धांतिक मशीन लर्निंग पर काम कर रहा हूं - ट्रांसफर लर्निंग पर, विशिष्ट होने के लिए - मेरे पीएच.डी. जिज्ञासा से बाहर, मुझे उत्तल अनुकूलन पर एक कोर्स क्यों करना चाहिए? उत्तल ऑप्टिमाइज़ेशन से क्या-क्या रास्ते हैं, क्या मैं सैद्धांतिक मशीन सीखने पर अपने शोध में उपयोग कर सकता …

27 machine-learning  optimization  convex  transfer-learning 

उत्तल लागत फ़ंक्शन को देखते हुए, अनुकूलन के लिए SGD का उपयोग करते हुए, अनुकूलन प्रक्रिया के दौरान एक निश्चित बिंदु पर हमारे पास एक ढाल (वेक्टर) होगा। मेरा सवाल यह है कि उत्तल बिंदु को देखते हुए, ग्रेडिएंट केवल उसी दिशा में इंगित करता है जिस पर फ़ंक्शन तेजी …

25 neural-networks  optimization  gradient-descent  sgd  convex 

यहां एक समान धागा है ( तंत्रिका नेटवर्क की लागत फ़ंक्शन गैर-उत्तल है? ) लेकिन मैं वहां के उत्तरों में बिंदुओं को समझने में सक्षम नहीं था और फिर से यह पूछने की मेरी वजह से कुछ मुद्दों को स्पष्ट करने की उम्मीद है: यदि मैं चुकता अंतर लागत फ़ंक्शन …

22 machine-learning  neural-networks  optimization  loss-functions  convex 

मैंने इस कथन को एक पुरानी सच्ची / झूठी परीक्षा पर पढ़ा: हम कई स्थानीय इष्टतम समाधान प्राप्त कर सकते हैं यदि हम क्रमिक वंश का उपयोग करके चुकता त्रुटियों के योग को कम करके एक रैखिक प्रतिगमन समस्या को हल करते हैं। हल: मिथ्या मेरा सवाल यह है कि …

19 least-squares  gradient-descent  convex 

प्रिंसिपल कंपोनेंट एनालिसिस (PCA) का उद्देश्य फ़ंक्शन L2 मानदंड में पुनर्निर्माण त्रुटि को कम कर रहा है (अनुभाग 2.12 यहां देखें । एक और दृश्य प्रक्षेपण पर विचरण को अधिकतम करने की कोशिश कर रहा है। हमारे पास यहां एक उत्कृष्ट पोस्ट भी है: PCA का उद्देश्य फ़ंक्शन क्या है। …

13 machine-learning  pca  optimization  convex 

मैंने IRLS एल्गोरिथ्म का उपयोग करके एक लॉजिस्टिक रिग्रेशन प्रोग्राम किया है । मैं स्वचालित रूप से सही सुविधाओं का चयन करने के लिए एक LASSO दंड लागू करना चाहूंगा । प्रत्येक पुनरावृत्ति पर, निम्न हल किया जाता है: (XTWX)δβ^=XT(y−p)(XTWX)δβ^=XT(y−p)\mathbf{\left(X^TWX\right) \delta\hat\beta=X^T\left(y-p\right)} Let एक गैर-नकारात्मक वास्तविक संख्या है। मैं तत्वों के …

12 logistic  generalized-linear-model  feature-selection  lasso  convex