फिशर गुठली से परे


10

कुछ समय के लिए, ऐसा लग रहा था कि फिशर कर्नेल लोकप्रिय हो सकते हैं, क्योंकि वे संभावित मॉडल से गुठली बनाने का एक तरीका प्रतीत हो रहे थे। हालांकि, मैंने शायद ही कभी उन्हें अभ्यास में इस्तेमाल करते देखा है, और मेरे पास यह अच्छा अधिकार है कि वे बहुत अच्छा काम नहीं करते हैं। वे फिशर सूचना की गणना पर भरोसा करते हैं -

फिशर की जानकारी च के प्राकृतिक लघुगणक के संबंध में दूसरी व्युत्पन्न की अपेक्षा के नकारात्मक है। जानकारी को seen की अधिकतम संभावना अनुमान (एमएलई) के पास समर्थन वक्र के "वक्रता" के माप के रूप में देखा जा सकता है।

जहां तक ​​मैं यह बता सकता हूं कि दो बिंदुओं के बीच कर्नेल फ़ंक्शन इस घुमावदार सतह के साथ दूरी है - क्या मैं सही हूं?

हालांकि यह कर्नेल विधियों में उपयोग के लिए समस्याग्रस्त हो सकता है, जैसा कि

  1. MLE किसी दिए गए मॉडल के लिए बहुत बुरा अनुमान हो सकता है
  2. MLE के चारों ओर समर्थन वक्र की वक्रता उदाहरणों के बीच भेदभाव करने के लिए किसी भी तरह का उपयोग नहीं हो सकती है, उदाहरण के लिए यदि लाइकलीहुड की सतह बहुत चरम पर थी
  3. यह मॉडल के बारे में बहुत सारी जानकारी को फेंक देता है

यदि यह मामला है, तो क्या संभाव्य तरीकों से गुठली के निर्माण के आधुनिक तरीके हैं? उदाहरण के लिए, क्या हम MAP अनुमानों का उसी तरह से उपयोग करने के लिए होल्ड-आउट सेट का उपयोग कर सकते हैं? संभाव्य तरीकों से दूरी या समानता की अन्य धारणाएं (वैध) कर्नेल फ़ंक्शन के निर्माण के लिए क्या काम कर सकती हैं?

जवाबों:


9

आप अपने द्वारा उठाए गए तीन मुद्दों के बारे में सही हैं, और आपकी व्याख्या बिल्कुल सही है।

लोगों ने अन्य दिशाओं से देखा है कि संभाव्य मॉडल से गुठली बनाने के लिए:

  • मोरेनो एट अल। Kullback-Leibler को प्रस्तावित करें हालांकि जब यह संतुष्ट करता है मर्सर की शर्तों को अच्छी तरह से समझा नहीं गया था जब मैंने इस समस्या को देखा जब मैंने इसे पढ़ा।

  • जेबरा एट अल। वितरण के स्थान में आंतरिक उत्पाद का प्रस्ताव। यह पेपर बहुत अच्छा लगता है जैसे आप क्या कर रहे हैं: आप इसे यहाँ डाउनलोड कर सकते हैं

मैंने उन्हें कुछ समय पहले (2008) पढ़ा था, यह निश्चित नहीं था कि पिछले कुछ वर्षों में उस क्षेत्र का विकास कैसे हुआ है।

ऐसा करने के लिए गैर-संभाव्य तरीके भी हैं; बायोइनफॉरमैटिक्स में लोगों ने तार और इतने पर अंतरिक्ष में गतिशील प्रोग्रामिंग प्रकारों को देखा है। ये चीजें हमेशा PSD नहीं होती हैं और उनकी खुद की समस्याएं होती हैं।


1
jmlr.org/papers/volume10/martins09a/martins09a.pdf केएल विचलन से संबंधित गुठली के कुछ सिद्धांत विकसित करता है जो सकारात्मक और निश्चित नहीं हैं।
डगल
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.