regularization पर टैग किए गए जवाब

गैर-नकारात्मक रिज प्रतिगमन कैसे करें? गैर-नकारात्मक लसो में उपलब्ध है scikit-learn, लेकिन रिज के लिए, मैं दांव की गैर-नकारात्मकता को लागू नहीं कर सकता, और वास्तव में, मैं नकारात्मक गुणांक प्राप्त कर रहा हूं। क्या किसी को पता है कि यह क्यों है? क्या मैं नियमित रूप से कम से …

10 regression  lasso  regularization  ridge-regression 

मैं समझता हूं कि हम कम से कम वर्गों के प्रतिगमन समस्या में नियमितीकरण को नियोजित कर सकते हैं w∗=argminw[(y−Xw)T(y−Xw)+λ∥w∥2]w∗=argminw⁡[(y−Xw)T(y−Xw)+λ‖w‖2]\boldsymbol{w}^* = \operatorname*{argmin}_w \left[ (\mathbf y-\mathbf{Xw})^T(\boldsymbol{y}-\mathbf{Xw}) + \lambda\|\boldsymbol{w}\|^2 \right] और इस समस्या का एक बंद-रूप समाधान है: w^=(XTX+λI)−1XTy.w^=(XTX+λI)−1XTy.\hat{\boldsymbol{w}} = (\boldsymbol{X}^T\boldsymbol{X}+\lambda\boldsymbol{I})^{-1}\boldsymbol{X}^T\boldsymbol{y}. हम देखते हैं कि 2 समीकरण में, नियमितीकरण बस λλ\lambda को …

10 regression  regularization  ridge-regression  overfitting  matrix-inverse 

वर्तमान में रिज रिग्रेशन सीखना और मैं अधिक जटिल मॉडल (या अधिक जटिल मॉडल की परिभाषा) के दंड के बारे में थोड़ा भ्रमित था। मैं जो समझता हूं, उससे जरूरी नहीं है कि मॉडल जटिलता बहुपद के आदेश के अनुरूप हो। इसलिए:2 + 3 + 4एक्स2+ ५एक्स3+ 6एक्स42+3+4एक्स2+5एक्स3+6एक्स4 2 + …

9 regression  regularization  hyperparameter 

मैं आरकेएचएस प्रतिगमन और रैखिक प्रतिगमन में नियमितीकरण के बीच अंतर का अध्ययन कर रहा हूं, लेकिन मेरे पास दोनों के बीच महत्वपूर्ण अंतर को समझने में कठिन समय है। इनपुट-आउटपुट जोड़े दिए (xi,yi)(xi,yi)(x_i,y_i), मैं एक फ़ंक्शन का अनुमान लगाना चाहता हूं f(⋅)f(⋅)f(\cdot) निम्नलिखित नुसार f(x)≈u(x)=∑i=1mαiK(x,xi),f(x)≈u(x)=∑i=1mαiK(x,xi),\begin{equation}f(x)\approx u(x)=\sum_{i=1}^m \alpha_i K(x,x_i),\end{equation} कहाँ …

9 regression  generalized-linear-model  regularization  kernel-trick  rbf-kernel 

जब , तो कम से कम वर्गों की समस्या जो के मान पर एक गोलाकार प्रतिबंध लगाती है, उसे लिखा जा सकता है एक अतिव्यापी प्रणाली के लिए। \ | \ cdot \ | _2 एक वेक्टर का यूक्लिडियन मानदंड है।y=Xβ+ey=Xβ+ey = X\beta + eδδ\deltaββ\betamin ∥y−Xβ∥22s.t. ∥β∥22≤δ2min⁡ ‖y−Xβ‖22s.t.⁡ ‖β‖22≤δ2\begin{equation} \begin{array} …

9 regression  least-squares  regularization  ridge-regression  underdetermined 

मान लीजिए कि मेरे पास 4 संभावित घटनाओं की आवृत्तियों का एक नमूना है: Event1 - 5 E2 - 1 E3 - 0 E4 - 12 और मुझे होने वाली मेरी घटनाओं की संभावित संभावनाएं हैं: p1 - 0.2 p2 - 0.1 p3 - 0.1 p4 - 0.6 मेरी चार …

9 r  statistical-significance  chi-squared  multivariate-analysis  exponential  joint-distribution  statistical-significance  self-study  standard-deviation  probability  normal-distribution  spss  interpretation  assumptions  cox-model  reporting  cox-model  statistical-significance  reliability  method-comparison  classification  boosting  ensemble  adaboost  confidence-interval  cross-validation  prediction  prediction-interval  regression  machine-learning  svm  regularization  regression  sampling  survey  probit  matlab  feature-selection  information-theory  mutual-information  time-series  forecasting  simulation  classification  boosting  ensemble  adaboost  normal-distribution  multivariate-analysis  covariance  gini  clustering  text-mining  distance-functions  information-retrieval  similarities  regression  logistic  stata  group-differences  r  anova  confidence-interval  repeated-measures  r  logistic  lme4-nlme  inference  fiducial  kalman-filter  classification  discriminant-analysis  linear-algebra  computing  statistical-significance  time-series  panel-data  missing-data  uncertainty  probability  multivariate-analysis  r  classification  spss  k-means  discriminant-analysis  poisson-distribution  average  r  random-forest  importance  probability  conditional-probability  distributions  standard-deviation  time-series  machine-learning  online  forecasting  r  pca  dataset  data-visualization  bayes  distributions  mathematical-statistics  degrees-of-freedom 

तो, मेरे पास 16 परीक्षण हैं जिनमें मैं एक व्यक्ति को बॉयोमीट्रिक विशेषता से हैमिंग दूरी का उपयोग करके प्रमाणित करने की कोशिश कर रहा हूं। मेरी दहलीज 3.5 पर सेट है। मेरा डेटा नीचे है और केवल परीक्षण 1 एक सच्चा सकारात्मक है: Trial Hamming Distance 1 0.34 2 …

9 mathematical-statistics  roc  classification  cross-validation  pac-learning  r  anova  survival  hazard  machine-learning  data-mining  hypothesis-testing  regression  random-variable  non-independent  normal-distribution  approximation  central-limit-theorem  interpolation  splines  distributions  kernel-smoothing  r  data-visualization  ggplot2  distributions  binomial  random-variable  poisson-distribution  simulation  kalman-filter  regression  lasso  regularization  lme4-nlme  model-selection  aic  r  mcmc  dlm  particle-filter  r  panel-data  multilevel-analysis  model-selection  entropy  graphical-model  r  distributions  quantiles  qq-plot  svm  matlab  regression  lasso  regularization  entropy  inference  r  distributions  dataset  algorithms  matrix-decomposition  regression  modeling  interaction  regularization  expected-value  exponential  gamma-distribution  mcmc  gibbs  probability  self-study  normality-assumption  naive-bayes  bayes-optimal-classifier  standard-deviation  classification  optimization  control-chart  engineering-statistics  regression  lasso  regularization  regression  references  lasso  regularization  elastic-net  r  distributions  aggregation  clustering  algorithms  regression  correlation  modeling  distributions  time-series  standard-deviation  goodness-of-fit  hypothesis-testing  statistical-significance  sample  binary-data  estimation  random-variable  interpolation  distributions  probability  chi-squared  predictor  outliers  regression  modeling  interaction