दूरी और मात्रा को परिभाषित करने के लिए सूचना ज्यामिति का उपयोग ... उपयोगी?


13

मैं साहित्य के एक बड़े निकाय में आया था जो फ़िशर की सूचना मीट्रिक को संभावना वितरण के स्थान पर प्राकृतिक स्थानीय मीट्रिक के रूप में उपयोग करने की वकालत करता है और फिर दूरी और मात्रा को परिभाषित करने के लिए इसे एकीकृत करता है।

लेकिन क्या ये "एकीकृत" मात्रा वास्तव में किसी भी चीज के लिए उपयोगी हैं? मुझे कोई सैद्धांतिक औचित्य नहीं मिला और बहुत कम व्यावहारिक अनुप्रयोग। एक लड़का लेबनान का काम है जहां वह दस्तावेजों को वर्गीकृत करने के लिए "फिशर की दूरी" का उपयोग करता है और दूसरा एक है रॉड्रिग्ज ' एबीसी ऑफ मॉडल चयन ... जहां मॉडल चयन के लिए "फिशर की मात्रा" का उपयोग किया जाता है। जाहिरा तौर पर, "सूचना मात्रा" का उपयोग करने से मॉडल चयन के लिए एआईसी और बीआईसी पर "परिमाण के सुधार" के आदेश मिलते हैं, लेकिन मैंने उस काम पर कोई अनुवर्ती कार्रवाई नहीं देखी है।

एक सैद्धांतिक औचित्य हो सकता है कि एक सामान्यीकरण बाध्य हो जो दूरी या मात्रा के इस उपाय का उपयोग करता है और एमडीएल या एसिम्प्टोटिक तर्कों से प्राप्त सीमा से बेहतर है, या इन मात्राओं में से एक पर भरोसा करने वाला एक तरीका जो कुछ उचित व्यावहारिक स्थिति में बेहतर है। इस तरह का कोई परिणाम?


फिशर की जानकारी पैरामीटर आकलन में कम बाध्यता देती है। यह एक प्राकृतिक मीट्रिक है क्योंकि यह मोटे तौर पर कुछ कहता है "इस दिशा में मेरी समस्या की कठिनाई इससे अधिक नहीं घट सकती"। क्या आप सामान्यीकरण सीमा को ऊपरी सीमा कहते हैं? क्या आप फिशर मैट्रिक (आपके द्वारा उल्लेखित बड़े निकाय एक अच्छी सूची है) का उपयोग करने की विधि जानना चाहते हैं? क्षमा करें, लेकिन मुझे वास्तव में सवाल नहीं मिला :) क्या आप उस बिंदु को सुधार सकते हैं?
रॉबिन जिरार्ड

मान लीजिए कि फिशर की सूचना मैट्रिक्स हमारे रीमानियन मेट्रिक टेंसर को देती है। यह हमें एकीकृत करके किसी भी वक्र की गति का पता लगाने देता है। फिर आप p और q के बीच की दूरी को p और q से जोड़ते हुए सभी वक्रों पर सबसे छोटे आरेख के रूप में परिभाषित करते हैं। यह दूरी मापक है जिसके बारे में मैं पूछ रहा हूं। आयतन के साथ भी।
यारोस्लाव बुलटोव

1
इसलिए, एक उदाहरण के रूप में, रोड्रिगेज "सूचना की मात्रा" को मॉडल जटिलता के माप के रूप में उपयोग करके एक महत्वपूर्ण सुधार प्राप्त करता है, लेकिन आश्चर्यजनक रूप से मैं किसी और को यह कोशिश नहीं कर सकता हूं
यारोस्लाव बुलटोव

जवाबों:


5

मुख्य रूप से फिशर सूचना मीट्रिक: http://www.rss.org.uk/main.asp?page=1836#Oct_13_2010 -Meeting का उपयोग करते हुए, मुख्य रूप से फिशर सूचना मीट्रिक का उपयोग करते हुए, MCMC तकनीक पर रॉयल स्टैटिस्टिकल सोसायटी में पिछले हफ्ते एक रीड पेपर था

परिणाम आशाजनक प्रतीत होते हैं, हालांकि जैसा कि लेखक बताते हैं, ब्याज के कई मॉडलों (जैसे मिश्रण मॉडल) में फिशर जानकारी का कोई विश्लेषणात्मक रूप नहीं है।


1
क्या वह "रीमैन कई गुना लैंग्विन" कागज है? फिशर जानकारी को किसी बिंदु पर एकीकृत करते हैं?
यारोस्लाव बुलटोव

4

सबसे अच्छी तरह से ज्ञात तर्क यह है कि फिशर मेट्रिक, परिवर्तनों को समन्वयित करने के लिए अपरिवर्तनीय होने के नाते, एक अनियंत्रित पूर्व (जेफ्रीज़ पूर्व) तैयार करने के लिए इस्तेमाल किया जा सकता है। निश्चित नहीं कि मैं इसे खरीदूँ!

कम अच्छी तरह से जाना जाता है, कभी-कभी ये "एकीकृत मात्रा" डायवर्जेंस के रूप में बदल जाती है और इस तरह, कोई यह तर्क दे सकता है कि फिशर दूरियां डायवर्जेंस (और इसके गुण) का एक सामान्यीकृत सेट उत्पन्न करती हैं।

लेकिन फिर भी, मैं अभी तक फिशर जानकारी और इसे उत्पन्न करने वाली मात्रा का एक अच्छा सहज ज्ञान युक्त विवरण नहीं पा रहा हूँ। कृपया मुझे बताओ अगर तुम एक मिल जाए।


फिशर इंफॉर्मेशन के बारे में लॉट्स की बातें जानी जाती हैं, यह फिशर इंफॉर्मेशन का अभिन्न अंग है जिसके बारे में मुझे यकीन नहीं है। मैं फ़िशर सूचना के बारे में जो कुछ कहता हूँ, उससे मैं परिचित नहीं हूँ, जो एकीकरण पर कुछ ज्ञात विचलन में बदल रहा है
यारोस्लाव बुलटोव

4

कारण यह है कि "कोई अनुवर्ती नहीं है" यह है कि बहुत कम लोग कई वर्षों से इस वापस जाने पर रोड्रिगेज के काम को समझते हैं। यह महत्वपूर्ण सामान है और हम भविष्य में इसका अधिक हिस्सा देखेंगे, मुझे यकीन है।

हालाँकि, कुछ लोग यह तर्क देंगे कि फिशर मेट्रिक केवल एक 2 ऑर्डर सन्निकट है ट्रू मेट्रिक (उदाहरण के लिए एंट्रोपिक पादरियों को स्थापित करने पर न्यूमैन का पेपर ), जो वास्तव में कुल्बैक-लाइब्लर डिस्टेंस (या सामान्य स्थिति) द्वारा परिभाषित किया गया है और जो ज़ेलर के सूत्रीकरण की ओर जाता है। एमडीआई के पुजारी।

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.