optimization पर टैग किए गए जवाब

प्रतिगमन करते समय, उदाहरण के लिए, चुनने के लिए दो हाइपर पैरामीटर अक्सर फ़ंक्शन की क्षमता (उदाहरण के लिए, एक बहुपद का सबसे बड़ा प्रतिपादक), और नियमितीकरण की मात्रा है। मैं जिस उलझन में हूं, वह यह है कि क्यों न केवल कम क्षमता वाले फंक्शन का चयन किया जाए …

32 regression  machine-learning  optimization  regularization  polynomial 

पीसीए एल्गोरिथ्म को सहसंबंध मैट्रिक्स के रूप में तैयार किया जा सकता है (मान लें कि डेटा XXX पहले से ही सामान्य हो गया है और हम केवल पहले पीसी पर प्रक्षेपण पर विचार कर रहे हैं)। उद्देश्य समारोह के रूप में लिखा जा सकता है: maxw(Xw)T(Xw)s.t.wTw=1.maxw(Xw)T(Xw)s.t.wTw=1. \max_w (Xw)^T(Xw)\; \: …

32 pca  optimization 

यदि हेसियन अनुकूलन के लिए बहुत अच्छे हैं (उदाहरण के लिए न्यूटन की विधि देखें ), तो वहां क्यों रुकें? चलो तीसरे, चौथे, पांचवें और छठे डेरिवेटिव का उपयोग करें? क्यों नहीं?

29 optimization  gradient-descent  hessian 

उदाहरण के लिए, पर XGBoost मॉडल का उद्देश्य समारोह ले 'वें यात्रा:ttt L(t)=∑i=1nℓ(yi,y^(t−1)i+ft(xi))+Ω(ft)L(t)=∑i=1nℓ(yi,y^i(t−1)+ft(xi))+Ω(ft)\mathcal{L}^{(t)}=\sum_{i=1}^n\ell(y_i,\hat{y}_i^{(t-1)}+f_t(\mathbf{x}_i))+\Omega(f_t) जहां नुकसान समारोह है, है 'वें पेड़ उत्पादन और नियमितीकरण है। तेजी से गणना के लिए (कई) महत्वपूर्ण चरणों में से एक है:ℓℓ\ellftftf_ttttΩΩ\Omega L(t)≈∑i=1nℓ(yi,y^(t−1)i)+gtft(xi)+12hif2t(xi)+Ω(ft),L(t)≈∑i=1nℓ(yi,y^i(t−1))+gtft(xi)+12hift2(xi)+Ω(ft),\mathcal{L}^{(t)}\approx \sum_{i=1}^n\ell(y_i,\hat{y}_i^{(t-1)})+g_tf_t(\mathbf{x}_i)+\frac{1}{2}h_if_t^2(\mathbf{x}_i)+\Omega(f_t), जहां gigig_i और hihih_i नुकसान फ़ंक्शन के पहले और दूसरे डेरिवेटिव हैं। …

28 optimization  loss-functions  boosting  xgboost  taylor-series 

मैं सिर्फ इस पेपर में आया था , जो बताता है कि मिश्रित प्रभाव मॉडलिंग के माध्यम से माप की पुनरावृत्ति (उर्फ विश्वसनीयता, उर्फ ​​इंट्राक्लास सहसंबंध) की गणना कैसे की जाती है। आर कोड होगा: #fit the model fit = lmer(dv~(1|unit),data=my_data) #obtain the variance estimates vc = VarCorr(fit) residual_var = …

28 mixed-model  reliability  intraclass-correlation  repeatability  spss  factor-analysis  survey  modeling  cross-validation  error  curve-fitting  mediation  correlation  clustering  sampling  machine-learning  probability  classification  metric  r  project-management  optimization  svm  python  dataset  quality-control  checking  clustering  distributions  anova  factor-analysis  exponential  poisson-distribution  generalized-linear-model  deviance  machine-learning  k-nearest-neighbour  r  hypothesis-testing  t-test  r  variance  levenes-test  bayesian  software  bayesian-network  regression  repeated-measures  least-squares  change-scores  variance  chi-squared  variance  nonlinear-regression  regression-coefficients  multiple-comparisons  p-value  r  statistical-significance  excel  sampling  sample  r  distributions  interpretation  goodness-of-fit  normality-assumption  probability  self-study  distributions  references  theory  time-series  clustering  econometrics  binomial  hypothesis-testing  variance  t-test  paired-comparisons  statistical-significance  ab-test  r  references  hypothesis-testing  t-test  normality-assumption  wilcoxon-mann-whitney  central-limit-theorem  t-test  data-visualization  interactive-visualization  goodness-of-fit 

जब मैं GAM का उपयोग करता हूं, तो यह मुझे अवशिष्ट डीएफ देता है (कोड में अंतिम पंक्ति)। इसका क्या मतलब है? GAM उदाहरण से परे, सामान्य तौर पर, क्या स्वतंत्रता की डिग्री की संख्या एक गैर-पूर्णांक संख्या हो सकती है?26.626.626.6 > library(gam) > summary(gam(mpg~lo(wt),data=mtcars)) Call: gam(formula = mpg ~ …

27 r  degrees-of-freedom  gam  machine-learning  pca  lasso  probability  self-study  bootstrap  expected-value  regression  machine-learning  linear-model  probability  simulation  random-generation  machine-learning  distributions  svm  libsvm  classification  pca  multivariate-analysis  feature-selection  archaeology  r  regression  dataset  simulation  r  regression  time-series  forecasting  predictive-models  r  mean  sem  lavaan  machine-learning  regularization  regression  conv-neural-network  convolution  classification  deep-learning  conv-neural-network  regression  categorical-data  econometrics  r  confirmatory-factor  scale-invariance  self-study  unbiased-estimator  mse  regression  residuals  sampling  random-variable  sample  probability  random-variable  convergence  r  survival  weibull  references  autocorrelation  hypothesis-testing  distributions  correlation  regression  statistical-significance  regression-coefficients  univariate  categorical-data  chi-squared  regression  machine-learning  multiple-regression  categorical-data  linear-model  pca  factor-analysis  factor-rotation  classification  scikit-learn  logistic  p-value  regression  panel-data  multilevel-analysis  variance  bootstrap  bias  probability  r  distributions  interquartile  time-series  hypothesis-testing  normal-distribution  normality-assumption  kurtosis  arima  panel-data  stata  clustered-standard-errors  machine-learning  optimization  lasso  multivariate-analysis  ancova  machine-learning  cross-validation 

हम जानते हैं कि कुछ उद्देश्य कार्यों को अनुकूलित करना आसान है और कुछ कठिन हैं। और कई नुकसान कार्य हैं जिन्हें हम उपयोग करना चाहते हैं लेकिन मुश्किल से उपयोग करते हैं, उदाहरण के लिए 0-1 नुकसान। तो हमें काम करने के लिए कुछ प्रॉक्सी लॉस फंक्शन्स मिलते हैं। …

27 machine-learning  classification  optimization  loss-functions 

मैं सैद्धांतिक मशीन लर्निंग पर काम कर रहा हूं - ट्रांसफर लर्निंग पर, विशिष्ट होने के लिए - मेरे पीएच.डी. जिज्ञासा से बाहर, मुझे उत्तल अनुकूलन पर एक कोर्स क्यों करना चाहिए? उत्तल ऑप्टिमाइज़ेशन से क्या-क्या रास्ते हैं, क्या मैं सैद्धांतिक मशीन सीखने पर अपने शोध में उपयोग कर सकता …

27 machine-learning  optimization  convex  transfer-learning 

मैंने एंड्रयू एनजी के मशीन लर्निंग कोर्स को एक साल पहले पूरा कर लिया है, और अब मैं अपने हाई स्कूल मैथ की खोज को लॉजिस्टिक रिग्रेशन और तकनीकों के प्रदर्शन पर अनुकूलित करने के लिए लिख रहा हूं। इन तकनीकों में से एक, निश्चित रूप से, नियमितीकरण है। नियमितीकरण …

27 regression  machine-learning  optimization  regularization  overfitting 

यकीन नहीं होता कि यह सवाल यहाँ है, लेकिन यह अनुकूलन में ढाल के तरीकों से निकटता से संबंधित है, जो यहाँ विषय पर लगता है। वैसे भी, अगर आपको लगता है कि कुछ अन्य समुदाय के विषय में बेहतर विशेषज्ञता है तो आप बेझिझक पलायन कर सकते हैं। संक्षेप …

27 optimization  derivative  tensorflow  automatic-differentiation 

जब हम कोई पुस्तक पढ़ते हैं, तो सूचनाओं को समझना सामग्री को समझने में बहुत महत्वपूर्ण भूमिका निभाता है। दुर्भाग्य से, विभिन्न समुदायों के मॉडल और अनुकूलन समस्या पर सूत्रीकरण के लिए अलग-अलग संकेतन सम्मेलन हैं। क्या कोई भी कुछ सूत्र संकेतन यहाँ प्रस्तुत कर सकता है और संभावित कारण …

26 machine-learning  probability  self-study  optimization 

उत्तल लागत फ़ंक्शन को देखते हुए, अनुकूलन के लिए SGD का उपयोग करते हुए, अनुकूलन प्रक्रिया के दौरान एक निश्चित बिंदु पर हमारे पास एक ढाल (वेक्टर) होगा। मेरा सवाल यह है कि उत्तल बिंदु को देखते हुए, ग्रेडिएंट केवल उसी दिशा में इंगित करता है जिस पर फ़ंक्शन तेजी …

25 neural-networks  optimization  gradient-descent  sgd  convex 

मैं डीप लर्निंग के लिए एडम ऑप्टिमाइज़र के बारे में पढ़ रहा था और बेंगियो, गुडफेलो और कोर्टविल की नई किताब डीप लर्निंग में निम्नलिखित वाक्य आया : एडम को आमतौर पर हाइपर मापदंडों के चुनाव के लिए काफी मजबूत माना जाता है, हालांकि सीखने की दर को कभी-कभी सुझाए …

24 neural-networks  deep-learning  optimization  hyperparameter  adam 

असल में, मैं आपसे पूछना चाहता था कि मैं धीरे-धीरे उतरने की स्थिति को कैसे परिभाषित कर सकता हूं। क्या मैं पुनरावृत्तियों की संख्या के आधार पर इसे रोक सकता हूँ, अर्थात, मान के लिए मान, १०० पुनरावृत्तियों? या क्या मुझे ऐसा इंतजार करना चाहिए कि दो मापदंडों मानों में …

24 algorithms  optimization  gradient-descent 

नोट: मैं अपना एक पूर्व छात्र से एक प्रश्न पोस्ट कर रहा हूं जो तकनीकी कारणों से अपने आप पोस्ट करने में असमर्थ है। एक iid नमूना को एक वितरण से pdf है, जिसमें एक उपयोगी उत्पाद चर प्रतिनिधित्व और इसलिए एक संबद्ध EM (अपेक्षा-अधिकतमकरण) एल्गोरिथ्म है जिसका उपयोग सीधा …

24 optimization  missing-data  expectation-maximization  weibull  gumbel