shrinkage पर टैग किए गए जवाब

मैं लासो की एक गैर-तकनीकी परिभाषा की तलाश कर रहा हूं और इसके लिए इसका उपयोग किया जाता है।

81 regression  lasso  regularization  shrinkage 

निम्नलिखित तीन घटनाओं पर विचार करें। स्टीन का विरोधाभास: में बहुभिन्नरूपी सामान्य वितरण के कुछ आंकड़े दिए गए , नमूना का मतलब सही मतलब का बहुत अच्छा अनुमानक नहीं है। यदि कोई नमूने के सभी निर्देशांक को शून्य [या उनके मतलब की ओर, या वास्तव में किसी भी मूल्य की …

64 regression  mixed-model  ridge-regression  shrinkage  steins-phenomenon 

छुट्टियों के मौसम ने मुझे द एलिमेंट्स ऑफ स्टैटिस्टिकल लर्निंग के साथ आग के बगल में कर्ल करने का मौका दिया है । (बार-बार) अर्थमिति के परिप्रेक्ष्य में आने से, मुझे रिज रेज्रेशन, लासो, और कम से कम कोण रिग्रेशन (LAR) जैसे संकोचन विधियों के उपयोग को समझने में परेशानी …

61 lasso  ridge-regression  shrinkage  lars 

मैं समझता हूँ कि रिज प्रतिगमन अनुमान है कि के आकार के वर्ग का अवशिष्ट राशि और एक दंड को कम करता हैβββ\betaββ\beta βridge=(λID+X′X)−1X′y=argmin[RSS+λ∥β∥22]βridge=(λID+X′X)−1X′y=argmin⁡[RSS+λ‖β‖22]\beta_\mathrm{ridge} = (\lambda I_D + X'X)^{-1}X'y = \operatorname{argmin}\big[ \text{RSS} + \lambda \|\beta\|^2_2\big] हालांकि, मैं पूरी तरह से तथ्य यह है कि के महत्व को समझ में नहीं …

59 regression  least-squares  ridge-regression  shrinkage 

मॉडल चयन की समस्याओं को हल करने के लिए, कई तरीके (LASSO, रिज रिग्रेशन, आदि) भविष्यवाणियों के गुणांक को शून्य की ओर कम कर देंगे। मैं एक सहज व्याख्या की तलाश कर रहा हूं कि यह भविष्य कहनेवाला क्षमता में सुधार क्यों करता है। यदि चर का वास्तविक प्रभाव वास्तव …

55 lasso  regularization  ridge-regression  intuition  shrinkage 

भविष्यवक्ताओं और नमूना आकार साथ एक अच्छी पुरानी प्रतिगमन समस्या पर विचार करें । सामान्य ज्ञान यह है कि ओएलएस आकलनकर्ता ओवरफिट करेगा और आम तौर पर रिज रिग्रेशन अनुमानक द्वारा बेहतर प्रदर्शन करेगा:यह एक इष्टतम नियमितीकरण पैरामीटर खोजने के लिए क्रॉस-मान्यता का उपयोग करने के लिए मानक है । …

50 cross-validation  regularization  overfitting  ridge-regression  shrinkage 

समायोजित आर-वर्ग के लिए R में प्रयुक्त सटीक सूत्र क्या है lm() ? मैं इसकी व्याख्या कैसे कर सकता हूं? समायोजित r-squared सूत्र समायोजित आर-वर्ग की गणना करने के लिए कई सूत्र मौजूद हैं। हैरी सूत्र: 1−(1−R2)(n−1)(n−v)1−(1−R2)(n−1)(n−v)1-(1-R^2)\frac{(n-1)}{(n-v)} मैकनेमर का सूत्र:1−(1−R2)(n−1)(n−v−1)1−(1−R2)(n−1)(n−v−1)1-(1-R^2)\frac{(n-1)}{(n-v-1)} भगवान का सूत्र:1 - ( 1 - आर2) ( एन …

35 r  regression  r-squared  lm  shrinkage 

मैंने Lassoप्रतिगमन जैसे कुछ के पहले चर के मानकीकरण के तीन मुख्य कारण पढ़े हैं : 1) गुणांकों की व्याख्या। 2) बाद के संकोचन गुणांक अनुमानों के सापेक्ष परिमाण द्वारा गुणांक महत्व को रैंक करने की क्षमता। 3) अवरोधन की कोई आवश्यकता नहीं। लेकिन मैं सबसे महत्वपूर्ण बिंदु के बारे …

28 normalization  lasso  standardization  regularization  shrinkage 

मूल इलास्टिक नेट पेपर Zou & Hastie (2005) रेगुलराइजेशन और वैरिएबल सिलेक्शन के जरिए इलास्टिक नेट पेश किया लीनियर रिग्रेशन के लिए इलास्टिक नेट लॉस फंक्शन (यहां मेरा मानना ​​है कि सभी वेरिएबल्स को केंद्रित और स्केल किया गया है): लेकिन इसे "भोला लोचदार जाल" कहा जाता है। उन्होंने तर्क …

27 regression  regularization  glmnet  elastic-net  shrinkage 

मैंने एक बार दो बार लासो का उपयोग करने की एक विधि (एक डबल-लासो की तरह) सुनी थी जहाँ आप चर के मूल सेट पर लासो प्रदर्शन करते हैं, S1 कहते हैं, S2 नामक एक विरल सेट प्राप्त करें, और फिर सेट S2 प्राप्त करने के लिए S2 पर फिर …

26 regression  lasso  regularization  shrinkage  lars 

LASSO प्रतिगमन शून्य की ओर गुणांक सिकुड़ता है, इस प्रकार प्रभावी रूप से मॉडल चयन प्रदान करता है। मेरा मानना ​​है कि मेरे डेटा में नाममात्र और निरंतर कोवरिएट्स के बीच सार्थक बातचीत हैं। हालांकि, जरूरी नहीं कि वे सच्चे मॉडल के 'मुख्य प्रभाव' सार्थक (गैर-शून्य) हों। निश्चित रूप से …

25 machine-learning  lasso  glmnet  shrinkage  penalized 

एक रेखीय मॉडल के लिए y=β0+xβ+εy=β0+xβ+εy=\beta_0+x\beta+\varepsilon , संकोचन अवधि हमेशा होता है P(β)P(β)P(\beta) । क्या कारण है कि हम पूर्वाग्रह (इंटरसेप्ट) शब्द को ? क्या हमें तंत्रिका नेटवर्क मॉडल में पूर्वाग्रह शब्द को सिकोड़ना चाहिए?β0β0\beta_0

21 regression  neural-networks  ridge-regression  intercept  shrinkage 

परिशुद्धता के रूप में परिभाषित किया गया है: p = true positives / (true positives + false positives) क्या यह सही है, जैसा कि true positivesऔर false positivesदृष्टिकोण 0, सटीक दृष्टिकोण 1? याद करने के लिए एक ही सवाल: r = true positives / (true positives + false negatives) मैं …

20 precision-recall  data-visualization  logarithm  references  r  networks  data-visualization  standard-deviation  probability  binomial  negative-binomial  r  categorical-data  aggregation  plyr  survival  python  regression  r  t-test  bayesian  logistic  data-transformation  confidence-interval  t-test  interpretation  distributions  data-visualization  pca  genetics  r  finance  maximum  probability  standard-deviation  probability  r  information-theory  references  computational-statistics  computing  references  engineering-statistics  t-test  hypothesis-testing  independence  definition  r  censoring  negative-binomial  poisson-distribution  variance  mixed-model  correlation  intraclass-correlation  aggregation  interpretation  effect-size  hypothesis-testing  goodness-of-fit  normality-assumption  small-sample  distributions  regression  normality-assumption  t-test  anova  confidence-interval  z-statistic  finance  hypothesis-testing  mean  model-selection  information-geometry  bayesian  frequentist  terminology  type-i-and-ii-errors  cross-validation  smoothing  splines  data-transformation  normality-assumption  variance-stabilizing  r  spss  stata  python  correlation  logistic  logit  link-function  regression  predictor  pca  factor-analysis  r  bayesian  maximum-likelihood  mcmc  conditional-probability  statistical-significance  chi-squared  proportion  estimation  error  shrinkage  application  steins-phenomenon 

मैं जेम्स-स्टीन अनुमानक के बारे में पढ़ रहा हूं। यह परिभाषित किया गया है, इस नोट्स में , जैसा कि θ^= ( 1 - पी - 2∥ एक्स∥2) एक्सθ^=(1-पी-2‖एक्स‖2)एक्स \hat{\theta}=\left(1 - \frac{p-2}{\|X\|^2}\right)X मैंने प्रमाण पढ़ा है लेकिन मैं निम्नलिखित कथन को नहीं समझता: ज्यामितीय रूप से, जेम्स-स्टीन अनुमानक प्रत्येक घटक …

19 estimation  terminology  shrinkage  steins-phenomenon 

मेरे पास ब्राडली एफ्रोन और कार्ल मॉरिस द्वारा "स्टाइन के पैराडॉक्स इन स्टैटिस्टिक्स" 1977 के वैज्ञानिक अमेरिकन पेपर में जेम्स-स्टीन श्रिंकेज कारक की गणना करने पर एक प्रश्न है । मैंने बेसबॉल खिलाड़ियों के लिए डेटा इकट्ठा किया और यह नीचे दिया गया है: Name, avg45, avgSeason Clemente, 0.400, 0.346 …

18 estimation  shrinkage  steins-phenomenon