mutual-information पर टैग किए गए जवाब

आपसी जानकारी सूचना सिद्धांत से एक अवधारणा है। यह दो यादृच्छिक चर के बीच संयुक्त निर्भरता का एक उपाय है, जो सामान्य सहसंबंध गुणांक की तरह नहीं है, जो स्केलर चर तक सीमित है।


3
क्या गैर-रेखीय सहसंबंधों का पता लगाने के लिए एमआईसी एल्गोरिदम को सहज रूप से समझाया जा सकता है?
अभी हाल ही में, मैंने दो लेख पढ़े। पहला सहसंबंध के इतिहास के बारे में है और दूसरा नई विधि के बारे में है जिसे मैक्सिमल इन्फ़ॉर्मेशन कोएफ़िशिएंसी (एमआईसी) कहा जाता है। चर के बीच गैर-रेखीय सहसंबंधों का अनुमान लगाने के लिए एमआईसी पद्धति को समझने के लिए मुझे आपकी …

2
आपसी सूचनाओं पर सीमाबद्ध होकर आपसी जानकारी देना
मान लीजिए कि मेरे पास दो सेट XXX और और इन सेटों पर एक संयुक्त संभाव्यता वितरण है । चलो और से अधिक सीमांत वितरण निरूपित और क्रमशः।YYYp(x,y)p(x,y)p(x,y)p(x)p(x)p(x)p(y)p(y)p(y)XXXYYY और बीच की पारस्परिक जानकारी को परिभाषित किया गया है: XXXYYYI(X;Y)=∑x,yp(x,y)⋅log(p(x,y)p(x)p(y))I(X;Y)=∑x,yp(x,y)⋅log⁡(p(x,y)p(x)p(y))I(X; Y) = \sum_{x,y}p(x,y)\cdot\log\left(\frac{p(x,y)}{p(x)p(y)}\right) यानी यह बिंदुवार आपसी जानकारी pmi का औसत …

1
अशक्त परिकल्पना के तहत विनिमेय नमूनों के पीछे अंतर्ज्ञान क्या है?
क्रमपरिवर्तन परीक्षण (इसे रेंडमाइजेशन टेस्ट, री-रैंडमाइजेशन टेस्ट या एक सटीक परीक्षण भी कहा जाता है) बहुत उपयोगी होते हैं और उदाहरण के लिए आवश्यक सामान्य वितरण की धारणा को पूरा करने और काम में आने पर काम में आते t-testहैं। गैर-पैरामीट्रिक परीक्षण की तरह Mann-Whitney-U-testअधिक जानकारी खो जाएगी। हालांकि, इस …
15 hypothesis-testing  permutation-test  exchangeability  r  statistical-significance  loess  data-visualization  normal-distribution  pdf  ggplot2  kernel-smoothing  probability  self-study  expected-value  normal-distribution  prior  correlation  time-series  regression  heteroscedasticity  estimation  estimators  fisher-information  data-visualization  repeated-measures  binary-data  panel-data  mathematical-statistics  coefficient-of-variation  normal-distribution  order-statistics  regression  machine-learning  one-class  probability  estimators  forecasting  prediction  validation  finance  measurement-error  variance  mean  spatial  monte-carlo  data-visualization  boxplot  sampling  uniform  chi-squared  goodness-of-fit  probability  mixture  theory  gaussian-mixture  regression  statistical-significance  p-value  bootstrap  regression  multicollinearity  correlation  r  poisson-distribution  survival  regression  categorical-data  ordinal-data  ordered-logit  regression  interaction  time-series  machine-learning  forecasting  cross-validation  binomial  multiple-comparisons  simulation  false-discovery-rate  r  clustering  frequency  wilcoxon-mann-whitney  wilcoxon-signed-rank  r  svm  t-test  missing-data  excel  r  numerical-integration  r  random-variable  lme4-nlme  mixed-model  weighted-regression  power-law  errors-in-variables  machine-learning  classification  entropy  information-theory  mutual-information 


1
दूरी सहसंबंध बनाम आपसी जानकारी
मैंने कुछ समय के लिए आपसी जानकारी के साथ काम किया है। लेकिन मुझे "सहसंबंध की दुनिया" में एक बहुत हालिया माप मिला, जिसका उपयोग वितरण स्वतंत्रता को मापने के लिए भी किया जा सकता है, जिसे "दूरी सहसंबंध" (जिसे ब्राउनियन सहसंबंध भी कहा जाता है) कहा जाता है: http://en.wikipedia.org/wiki/Browarian_covariance …

1
आपसी सूचना मैट्रिक्स के आइजनवेक्टर का अर्थ क्या है?
जब कोवरियन मैट्रिक्स के आइजनवेक्टरों को देखते हैं, तो हमें अधिकतम विचरण की दिशाएँ मिलती हैं (पहला ईजनवेक्टर वह दिशा है जिसमें डेटा सबसे भिन्न होता है, आदि); इसे प्रधान घटक विश्लेषण (PCA) कहा जाता है। मैं सोच रहा था कि आपसी सूचना मैट्रिक्स के eigenvectors / मूल्यों को देखने …

1
निरंतर चर और श्रेणीगत चर के बीच सहसंबंध का अनुमान लगाने के लिए आपसी जानकारी का उपयोग करना
शीर्षक के रूप में, विचार एक निरंतर चर और एक श्रेणीगत चर के बीच "सहसंबंध" (परिभाषित के रूप में "मुझे पता है कि जब मैं बी के बारे में कितना जानता हूं") के रूप में अनुमान लगाने के लिए, यहां और एमआई के बाद आपसी जानकारी का उपयोग करना है। …

2
संभाव्यता के रूप में पारस्परिक जानकारी
संयुक्त एन्ट्रापी के बारे में परस्पर जानकारी: 0 ≤ मैं( एक्स), वाई)एच( एक्स), वाई)≤ १0≤मैं(एक्स,Y)एच(एक्स,Y)≤1 0 \leq \frac{I(X,Y)}{H(X,Y)} \leq 1 के रूप में परिभाषित किया जा सकता है: "X से Y तक जानकारी का एक टुकड़ा संप्रेषित करने की संभावना"? मुझे इतना भोला होने के लिए खेद है, लेकिन मैंने …

1
क्या आपसी जानकारी हासिल करने का मूल्य 1 से अधिक हो सकता है
मुझे बहुत बुनियादी संदेह है। क्षमा करें यदि यह कुछ परेशान करता है। मुझे पता है कि म्युचुअल सूचना मूल्य 0 से अधिक होना चाहिए, लेकिन क्या यह 1 से कम होना चाहिए? क्या यह किसी ऊपरी मूल्य से बंधा है? धन्यवाद, अमित।

1
SVD से पहले एक शब्द समरूपता मैट्रिक्स पर बिंदुवार पारस्परिक जानकारी लागू करने के पेशेवरों और विपक्ष क्या हैं?
शब्द एम्बेडिंग उत्पन्न करने का एक तरीका इस प्रकार है ( दर्पण ): एक कॉर्पोरा प्राप्त करें, उदाहरण के लिए "मुझे उड़ान का आनंद मिलता है। मुझे एनएलपी पसंद है। मुझे गहरी शिक्षा पसंद है।" इससे शब्द cooccurrence मैट्रिक्स बनाएँ: XXX पर SVD का प्रदर्शन करें , और U के …

1
लोग "साक्ष्य के वजन" शब्द का उपयोग क्यों करते हैं और यह "बिंदुवार पारस्परिक जानकारी" से कैसे भिन्न होता है?
यहाँ, "साक्ष्य का वजन" (WOE) प्रकाशित वैज्ञानिक और नीति-निर्माण साहित्य में एक सामान्य शब्द है, जिसे सबसे अधिक बार जोखिम मूल्यांकन के संदर्भ में देखा जाता है: w ( e : h ) = लॉगपी ( ई | एच )पी ( ई | एच |¯¯¯)w(e:h)=log⁡p(e|h)p(e|h¯)w(e : h) = \log\frac{p(e|h)}{p(e|\overline{h})} जहां …

1
सांख्यिकीविद आपसी जानकारी का उपयोग संघ के उपाय के रूप में क्यों नहीं करते हैं?
मैंने गैर-सांख्यिकीविदों द्वारा कुछ बातचीत की है, जहाँ वे प्रतिगमन (या समतुल्य / निकट-संबंधी सांख्यिकीय परीक्षणों) के बजाय पारस्परिक जानकारी का उपयोग करके सहसंबंध के उपायों को सुदृढ़ करने के लिए लगते हैं। मुझे लगता है कि यह एक अच्छा कारण है कि सांख्यिकीविद् इस दृष्टिकोण को नहीं लेते हैं। …

1
आपसी जानकारी की गणना कैसे करें?
मैं थोड़ा असमंजस में हूँ। क्या कोई मुझे समझा सकता है कि दो टर्म के बीच आपसी जानकारी की गणना कैसे करें, बाइनरी टर्म घटना के साथ एक टर्म-डॉक्यूमेंट मैट्रिक्स के आधार पर वजन? Document1Document2Document3′Why′111′How′101′When′111′Where′100′Why′′How′′When′′Where′Document11111Document21010Document31110 \begin{matrix} & 'Why' & 'How' & 'When' & 'Where' \\ Document1 & 1 & 1 …

3
मतलाब में आपसी जानकारी का उपयोग करके सुविधा का चयन
मैं चयन करने की सुविधा के लिए पारस्परिक जानकारी के विचार को लागू करने की कोशिश कर रहा हूं, जैसा कि इन व्याख्यान नोट्स (पृष्ठ 5 पर) में वर्णित है । मेरा मंच मतलब है। अनुभवजन्य डेटा से पारस्परिक जानकारी की गणना करते समय मुझे एक समस्या यह है कि …

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.