दूरी सहसंबंध बनाम आपसी जानकारी

Question

मैंने कुछ समय के लिए आपसी जानकारी के साथ काम किया है। लेकिन मुझे "सहसंबंध की दुनिया" में एक बहुत हालिया माप मिला, जिसका उपयोग वितरण स्वतंत्रता को मापने के लिए भी किया जा सकता है, जिसे "दूरी सहसंबंध" (जिसे ब्राउनियन सहसंबंध भी कहा जाता है) कहा जाता है: http://en.wikipedia.org/wiki/Browarian_covariance । मैंने उन कागजों की जाँच की जहाँ यह उपाय पेश किया गया है, लेकिन पारस्परिक जानकारी के लिए कोई भी संलयन पाए बिना।

तो, मेरे सवाल हैं:

• क्या वे ठीक उसी समस्या का समाधान करते हैं? यदि नहीं, तो समस्याएं कैसे भिन्न हैं?
• और अगर पिछले प्रश्न का उत्तर सकारात्मक पर दिया जा सकता है, तो एक या दूसरे का उपयोग करने के क्या फायदे हैं?

Comments

एक सरल उदाहरण के लिए स्पष्ट रूप से 'दूरी सहसंबंध' और 'पारस्परिक जानकारी' लिखने का प्रयास करें। दूसरे मामले में आपको लॉगरिदम मिलेगा, जबकि पहले में - नहीं।

— पियोट्र मिगदल

@PiotrMigdal हां, मैं उस अंतर से अवगत हूं। क्या आप बता सकते हैं कि यह महत्वपूर्ण क्यों है? कृपया, इस बात का ध्यान रखें कि मैं सांख्यिकीविद् नहीं हूँ ...

— dsign

मा के लिए प्रायिकता वितरण की पारस्परिक निर्भरता को मापने वाला एक मानक उपकरण पारस्परिक जानकारी है। इसमें बहुत सारे अच्छे गुण हैं और इसकी व्याख्या सीधी है। हालांकि, ऐसी विशिष्ट समस्याएं हो सकती हैं जहां दूरी सहसंबंध को प्राथमिकता दी जाती है (लेकिन मैंने अपने जीवन में इसका इस्तेमाल कभी नहीं किया है)। तो आप किस समस्या को हल करने की कोशिश कर रहे हैं?

— पियोट्र मिग्डल

यह टिप्पणी कुछ साल देर से है लेकिन कोलंबिया विश्वविद्यालय के सांख्यिकी विभाग ने शैक्षणिक वर्ष 2013-2014 को निर्भरता के उपायों पर ध्यान केंद्रित करने वाला वर्ष बना दिया। अप्रैल-मई 2014 में, एक कार्यशाला आयोजित की गई थी, जिसमें इस क्षेत्र में काम करने वाले शीर्ष शिक्षाविदों को शामिल किया गया था, जिसमें कुछ नाम रखने के लिए रेशे ब्रदर्स (एमआईसी), गैबोर सेकीली (दूरी सहसंबंध), सुभदीप मुखोपाध्याय शामिल थे। यहां कार्यक्रम का लिंक दिया गया है जिसमें प्रस्तुतियों से कई पीडीएफ़ शामिल हैं। dependence2013.wikischolars.columbia.edu/…

— माइक हंटर

Answer 1

सूचना / पारस्परिक जानकारी संभव मूल्यों पर निर्भर नहीं करती है, यह केवल संभावनाओं पर निर्भर करती है इसलिए यह कम संवेदनशील है। दूरी सहसंबंध अधिक शक्तिशाली और गणना के लिए सरल है। एक तुलना के लिए देखें

http://www-stat.stanford.edu/~tibs/reshef/comment.pdf

Comments

नमस्कार, आपके जवाब के लिए धन्यवाद! आपके द्वारा संदर्भित कागज एमआईसी के बारे में है, जो मुझे लगता है कि एमआई से थोड़ा अधिक है। मैंने दूरी सहसंबंध माप को लागू किया है और मुझे नहीं लगता कि यह असतत श्रेणी परिवर्तनशील चर के मूल मामले के लिए एमआई की तुलना में सरल है। फिर एक बात जो मैंने सीखी है वह यह है कि डीसीएम अच्छी तरह से परिभाषित है और निरंतर चर के लिए अच्छी तरह से व्यवहार किया जाता है, लेकिन एमआई के साथ आपको बिनिंग या फैंसी सामान अला एमआईसी करने की आवश्यकता है।

— dsign

हालाँकि, DCM को वर्ग मैट्रिसेस की आवश्यकता लगती है, जिनके किनारे नमूनों की संख्या है। दूसरे शब्दों में, अंतरिक्ष की जटिलता चतुर्थांश है। या कम से कम यह मेरी धारणा है, मैं एक गलती में रहना चाहूंगा। एमआईसी बेहतर करता है, क्योंकि आप इसे सटीक और प्रदर्शन के बीच किसी प्रकार के समझौते में बदल सकते हैं।

— dsign