ridge-regression पर टैग किए गए जवाब

प्रतिगमन मॉडल के लिए एक नियमितीकरण विधि जो गुणांक को शून्य की ओर सिकोड़ती है।

2
रिज रिग्रेशन - बायेसियन व्याख्या
मैंने सुना है कि रिज प्रतिगमन को पूर्ववर्ती वितरण के माध्यम के रूप में प्राप्त किया जा सकता है, यदि पूर्व पर्याप्त रूप से चुना गया हो। क्या अंतर्ज्ञान है कि पूर्व के द्वारा प्रतिगमन गुणांक पर निर्धारित बाधाओं (जैसे मानक सामान्य वितरण 0 के आसपास) समान हैं / गुणांक …

1
रिज रिग्रेशन के संदर्भ में लैग्रैन्जियम छूट
"द एलीमेंट ऑफ स्टैटिस्टिकल लर्निंग" (2 थ एड), पी 63 में, लेखक रिज रिग्रेशन के निम्नलिखित दो सूत्र देते हैं: β^ridge=argminβ{∑i=1N(yi−β0−∑j=1pxijβj)2+λ∑j=1pβ2j}β^ridge=argminβ{∑i=1N(yi−β0−∑j=1pxijβj)2+λ∑j=1pβj2} \hat{\beta}^{ridge} = \underset{\beta}{\operatorname{argmin}} \left\{ \sum_{i=1}^N(y_i-\beta_0-\sum_{j=1}^p x_{ij} \beta_j)^2 + \lambda \sum_{j=1}^p \beta_j^2 \right\} तथा β^ridge=argminβ∑i=1N(yi−β0−∑j=1pxijβj)2, subject to ∑j=1pβ2j≤t.β^ridge=argminβ∑i=1N(yi−β0−∑j=1pxijβj)2, subject to ∑j=1pβj2≤t. \hat{\beta}^{ridge} = \underset{\beta}{\operatorname{argmin}} \sum_{i=1}^N(y_i-\beta_0-\sum_{j=1}^p x_{ij} \beta_j)^2 \text{, subject to …

4
रिज प्रतिगमन के समकक्ष सूत्र का प्रमाण
मैंने सांख्यिकीय शिक्षा में सबसे लोकप्रिय किताबें पढ़ी हैं 1- सांख्यिकीय शिक्षा के तत्व। 2- सांख्यिकीय शिक्षा का परिचय । दोनों का उल्लेख है कि रिज प्रतिगमन में दो सूत्र हैं जो समकक्ष हैं। क्या इस परिणाम का एक समझने योग्य गणितीय प्रमाण है? मैं क्रॉस वैलिडेट के माध्यम से …

1
रिज प्रतिगमन गुणांक जो ओएलएस गुणांक से बड़े हैं या जो
रिज रिग्रेशन चलाते समय, आप ऐसे गुणांक की व्याख्या कैसे करते हैं जो उनके संगत गुणांक से कम से कम वर्गों ( कुछ मूल्यों के लिए ) से बड़े होते हैं? क्या रिज रिग्रेशन को गुणांक को नीरस करने के लिए नहीं माना जाता है?λλ\lambda संबंधित नोट पर, एक गुणांक …

3
रिज रिग्रेशन में रिग्रेशन गुणांक
रिज प्रतिगमन में, उद्देश्य समारोह को कम से कम किया जा रहा है: RSS+λ∑β2j.RSS+λ∑βj2.\text{RSS}+\lambda \sum\beta_j^2. क्या यह लैगेंज गुणक विधि का उपयोग करके अनुकूलित किया जा सकता है? या यह सीधे भेदभाव है?

2
एआईसी, बीआईसी और जीसीवी: दंडित प्रतिगमन विधियों में निर्णय लेने के लिए सबसे अच्छा क्या है?
मेरी सामान्य समझ है AIC मॉडल के फिट की अच्छाई और मॉडल की जटिलता के बीच व्यापार बंद से संबंधित है। AIC=2k−2ln(L)AIC=2k−2ln(L)AIC =2k -2ln(L) kkk = मॉडल में मापदंडों की संख्या LLL = संभावना बायसियन सूचना मानदंड बीआईसी एआईसी के साथ निकटता से संबंधित है। एआईसी बीआईसी की तुलना में …

1
मल्टीकोलिनरिटी की उपस्थिति में रिज रिग्रेशन अच्छा क्यों काम करता है?
मैं रिज प्रतिगमन के बारे में सीख रहा हूं और जानता हूं कि रिज प्रतिगमन मल्टीकोलिनरिटी की उपस्थिति में बेहतर काम करता है। मैं सोच रहा हूं कि यह सच क्यों है? या तो एक सहज जवाब या एक गणितीय एक संतोषजनक होगा (दोनों प्रकार के उत्तर भी अधिक संतोषजनक …

1
रिज रिग्रेशन का AIC: स्वतंत्रता बनाम मापदंडों की संख्या
मैं एक रिज प्रतिगमन मॉडल के एआईसीसी की गणना करना चाहता हूं। समस्या मापदंडों की संख्या है। रैखिक प्रतिगमन के लिए, ज्यादातर लोग सुझाव देते हैं कि मापदंडों की संख्या अनुमानित गुणांक प्लस सिग्मा (त्रुटि का विचरण) की संख्या के बराबर होती है। जब रिज रिग्रेशन की बात आती है …

2
LASSO सहसंबद्ध भविष्यवक्ताओं का चयन कब करता है?
मैं निम्नलिखित कोड के साथ R में पैकेज 'लार्स' का उपयोग कर रहा हूं: > library(lars) > set.seed(3) > n <- 1000 > x1 <- rnorm(n) > x2 <- x1+rnorm(n)*0.5 > x3 <- rnorm(n) > x4 <- rnorm(n) > x5 <- rexp(n) > y <- 5*x1 + 4*x2 + 2*x3 …

2
रिज रिग्रेशन LASSO की तुलना में बेहतर व्याख्यात्मकता क्यों नहीं प्रदान कर सकता है?
मेरे पास पहले से ही रिज रिग्रेशन और LASSO के पेशेवरों और विपक्षों के बारे में एक विचार है। LASSO के लिए, L1 पेनल्टी शब्द एक विरल गुणांक वेक्टर निकलेगा, जिसे फीचर चयन विधि के रूप में देखा जा सकता है। हालाँकि, LASSO के लिए कुछ सीमाएँ हैं। यदि सुविधाओं …

2
पंक्ति वृद्धि का उपयोग करके रिज ने GLM को दंडित किया?
मैंने पढ़ा है कि रिज प्रतिगमन को मूल डेटा मैट्रिक्स में डेटा की पंक्तियों को जोड़कर प्राप्त किया जा सकता है, जहां प्रत्येक चर का निर्माण निर्भर चर के लिए 0 और स्वतंत्र चर के लिए कkk या शून्य के वर्गमूल का उपयोग करके किया जाता है । एक अतिरिक्त …

2
तुल्यता दिखा बीच नॉर्म को नियमित प्रतिगमन और नॉर्म कंस्ट्रेन्ड प्रतिगमन का उपयोग KKT
संदर्भ पुस्तक 1 , पुस्तक 2 और कागज के अनुसार । यह उल्लेख किया गया है कि नियमित प्रतिगमन (रिज, LASSO और इलास्टिक नेट) और उनके बाधा योगों के बीच एक समानता है। मैंने क्रॉस वैलिडेटेड 1 , और क्रॉस वैलिडेटेड 2 को भी देखा है , लेकिन मैं एक …

1
नकारात्मक रिज प्रतिगमन को समझना
मैं नकारात्मक रिज प्रतिगमन के बारे में साहित्य की तलाश कर रहा हूं । संक्षेप में, यह नकारात्मक का उपयोग कर रैखिक रिज प्रतिगमन का सामान्यीकरण है :λλ\lambda आकलनकर्ता सूत्र में β = ( एक्स ⊤ एक्स + λ मैं ) - 1 एक्स ⊤ y । सकारात्मक मामले का …

5
रिज और LASSO मानदंड
यह पोस्ट इस प्रकार है: विकर्ण में स्थिरांक जोड़कर रिज अनुमान ओएलएस से बेहतर क्यों हो जाता है? यहाँ मेरा सवाल है: जहाँ तक मुझे पता है, रिज नियमितीकरण एक -norm (euclidean दूरी) का उपयोग करता है । लेकिन हम इस आदर्श के वर्ग का उपयोग क्यों करते हैं? ( …

1
परिणाम की व्याख्या कैसे करें जब रिज और लासो दोनों अलग-अलग प्रदर्शन करते हैं लेकिन अलग-अलग गुणांक पैदा करते हैं
मैं लासो और रिज दोनों के साथ एक प्रतिगमन मॉडल चला रहा हूं (0-5 से भिन्न असतत परिणाम चर की भविष्यवाणी करने के लिए)। मॉडल को चलाने से पहले, मैं 250 से 25 तक सेट की गई सुविधा को कम करने SelectKBestके scikit-learnलिए विधि का उपयोग करता हूं । एक …

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.