shrinkage पर टैग किए गए जवाब

रिज रिग्रेशन का अनुमान एक रेखीय मॉडल में पैरामीटर by \ hat {\ boldsymbol \ Beta} _ \ lambda = (\ mathbff x ^ \ top \ mathbf X + \ lambda \ mathbf I) ^ {- 1} \ mathbf X ^ \ top \ mathbf y, जहां \ lambda …

16 regression  ridge-regression  shrinkage 

यदि हम डेटा सेट से शुरू करते हैं , तो इसके लिए Lasso को लागू करें और β L का समाधान प्राप्त करें , हम Lasso को फिर से डेटा सेट ( X S , Y ) पर लागू कर सकते हैं , जहां S , गैर-शून्य का सेट है …

16 regression  optimization  lasso  regularization  shrinkage 

इस साइट पर पहले से ही एक पोस्ट है जो एक ही मुद्दे के बारे में बात कर रही है: संकोचन क्यों काम करता है? लेकिन, उत्तर लोकप्रिय होने के बावजूद, मुझे विश्वास नहीं होता कि प्रश्न का सार वास्तव में संबोधित है। यह बहुत स्पष्ट है कि अनुमान में …

15 regularization  ridge-regression  shrinkage 

मुझे जेम्स-स्टीन संकोचन के विचार से लिया गया है (यानी कि संभवतः स्वतंत्र मानदंडों के वेक्टर के एक अवलोकन का एक अरेखीय कार्य यादृच्छिक चर के साधनों का एक बेहतर अनुमानक हो सकता है, जहां 'बेहतर' को स्क्विट त्रुटि से मापा जाता है। )। हालाँकि, मैंने इसे लागू काम में …

15 estimation  error  shrinkage  application  steins-phenomenon 

वहाँ किसी भी विश्लेषणात्मक परिणाम या के बारे में प्रयोगात्मक कागजात हैं इष्टतम के गुणांक के चुनाव जुर्माना अवधि। द्वारा इष्टतम , मैं एक पैरामीटर है कि सबसे अच्छा मॉडल है, या कि कम करता है उम्मीद हानि का चयन करने की संभावना को अधिकतम मतलब है। मैं पूछ रहा …

15 model-selection  lasso  shrinkage 

शब्द सिकुड़न कुछ हलकों में बहुत कुछ फेंक दिया जाता है। लेकिन संकोचन क्या है, इसकी स्पष्ट परिभाषा नहीं है। अगर मेरे पास टाइम सीरीज़ (या किसी प्रक्रिया के अवलोकन का कोई संग्रह) है, तो विभिन्न तरीके क्या हैं जो मैं श्रृंखला पर कुछ प्रकार के अनुभवजन्य संकोचन को माप …

13 estimation  predictive-models  shrinkage 

Zou एट अल। "लास्सो की" स्वतंत्रता की डिग्री "" (2007) से पता चलता है कि गैरज़रो गुणांक की संख्या लसो की स्वतंत्रता की डिग्री के लिए एक निष्पक्ष और सुसंगत अनुमान है। यह मुझे थोड़ा उल्टा लगता है। मान लें कि हमारे पास एक प्रतिगमन मॉडल है (जहां चर शून्य …

12 regression  lasso  degrees-of-freedom  shrinkage 

मैं इस दौरान LASSO (कम से कम पूर्ण संकोचन और चयन ऑपरेटर) का अध्ययन कर रहा हूं । मैं देख रहा हूं कि नियमितीकरण पैरामीटर के लिए इष्टतम मूल्य को क्रॉस सत्यापन द्वारा चुना जा सकता है। मैं रिज रिग्रेशन और कई तरीकों को भी देखता हूं जो नियमितीकरण को …

12 lasso  regularization  shrinkage 

मान लीजिए मैं दो आकलनकर्ता है बीटा 1 और β 2 है कि एक ही पैरामीटर के अनुरूप आकलनकर्ता हैं β 0 और ऐसी है कि √βˆ1β^1\widehat{\beta}_1βˆ2β^2\widehat{\beta}_2β0β0\beta_0n−−√(βˆ1−β0)→dN(0,V1),n−−√(βˆ2−β0)→dN(0,V2)n(β^1−β0)→dN(0,V1),n(β^2−β0)→dN(0,V2)\sqrt{n}(\widehat{\beta}_1 -\beta_0) \stackrel{d}\rightarrow \mathcal{N}(0, V_1), \quad \sqrt{n}(\widehat{\beta}_2 -\beta_0) \stackrel{d}\rightarrow \mathcal{N}(0, V_2) के साथV1≤V2V1≤V2V_1 \leq V_2PSD अर्थ में। इस प्रकार, asymptotically β 1से अधिक कुशल …

11 regression  ridge-regression  shrinkage  penalized 

जेम्स-स्टीन अनुमानक के हर बयान से मुझे लगता है कि रैंडम वैरिएबल का अनुमान एक ही (और यूनिट) विचरण है। लेकिन इन सभी उदाहरणों में यह भी उल्लेख किया गया है कि जेएस अनुमानक का उपयोग मात्राओं का अनुमान लगाने के लिए किया जा सकता है जिनका एक दूसरे से …

11 estimation  shrinkage  steins-phenomenon 

एक साधारण उदाहरण के लिए मान लें कि दो रैखिक प्रतिगमन मॉडल हैं मॉडल 1 है तीन भविष्यवक्ताओं, x1a, x2b, औरx2c मॉडल 2 में मॉडल 1 से तीन और दो अतिरिक्त भविष्यवक्ता हैं x2aऔरx2b वहाँ एक जनसंख्या प्रतिगमन समीकरण जहां जनसंख्या विचरण समझाया है मॉडल 1 के लिए और मॉडल …

10 regression  confidence-interval  estimation  r-squared  shrinkage  anova  t-test  references  tukey-hsd  machine-learning  boosting  r  clustering  fishers-exact  generalized-linear-model  model  probit  link-function  r  survival  probability  distributions  dice  logistic  lme4-nlme  glmm  meta-analysis  distributions  distributions  factor-analysis  r  anova  repeated-measures  post-hoc 

मान लीजिए कि मेरे पास फॉर्म का अनुदैर्ध्य डेटा है य =(Y1, … ,Yजे) ∼ एन( μ , Σ )Y=(Y1,…,YJ)∼N(μ,Σ)\mathbf Y = (Y_1, \ldots, Y_J) \sim \mathcal N(\mu, \Sigma)(मेरे पास कई अवलोकन हैं, यह सिर्फ एक एकल का रूप है)। मुझे प्रतिबंधों में दिलचस्पी हैΣΣ\Sigma। एक अप्रतिबंधितΣΣ\Sigma लेने के बराबर …

9 feature-selection  lasso  shrinkage 

मान लीजिए कि मैंने रूप में खींची गई टिप्पणियों को युग्मित किया है के लिए । Let AND दर्शा द्वारा की वां सबसे बड़ा मनाया मूल्य । का (सशर्त) वितरण क्या है ? (या समकक्ष, )Xi∼N(0,σ2x),Yi∼N(0,σ2y),Xi∼N(0,σx2),Yi∼N(0,σy2),X_i \sim \mathcal{N}\left(0,\sigma_x^2\right), Y_i \sim \mathcal{N}\left(0,\sigma_y^2\right),i=1,2,…,ni=1,2,…,ni=1,2,\ldots,nZi=Xi+Yi,Zi=Xi+Yi,Z_i = X_i + Y_i,ZijZijZ_{i_j}jjjZZZXijXijX_{i_j}YijYijY_{i_j} यह है कि, क्या का …

9 distributions  order-statistics  shrinkage 

मैं एक लॉजिस्टिक प्रतिगमन संदर्भ में सुविधा चयन के लिए क्रमपरिवर्तन विश्लेषण के बारे में उलझन में हूं। क्या आप यादृच्छिक क्रमपरिवर्तन परीक्षण की स्पष्ट व्याख्या प्रदान कर सकते हैं और यह सुविधा चयन पर कैसे लागू होता है? संभवतः सटीक एल्गोरिदम और उदाहरणों के साथ। अंत में, यह कैसे …

9 regression  logistic  feature-selection  permutation-test  shrinkage