छिपे हुए मार्कोव मॉडल और सशर्त यादृच्छिक क्षेत्रों के बीच सहज अंतर


33

मैं समझता हूं कि एचएमएम (हिडन मार्कोव मॉडल) जेनेरेटिव मॉडल हैं, और सीआरएफ भेदभावपूर्ण मॉडल हैं। मैं यह भी समझता हूं कि CRF (कंडिशनल रैंडम फील्ड्स) कैसे डिजाइन और उपयोग किए जाते हैं। मुझे समझ में नहीं आता कि वे एचएमएम से कैसे अलग हैं? मैंने पढ़ा है कि एचएमएम के मामले में, हम केवल अपनी पिछली स्थिति को पिछले नोड, वर्तमान नोड और संक्रमण संभावना पर मॉडल कर सकते हैं, लेकिन सीआरएफ के मामले में हम ऐसा कर सकते हैं और निर्भरता बनाने के लिए एक साथ कई नोड्स को जोड़ सकते हैं। या संदर्भ? क्या मैं यहाँ ठीक हूँ?


1
इस टिप्पणी के पाठकों को यह उत्तर पसंद नहीं आ सकता है, लेकिन अगर आपको वास्तव में इस उत्तर को जानने की आवश्यकता है, तो समझने का सबसे अच्छा तरीका यह है कि आप स्वयं पेपर पढ़ें और अपनी राय बनाएं। इसमें बहुत समय लगता है, लेकिन यह वास्तव में यह जानने का एकमात्र तरीका है कि क्या हो रहा है और यह बताने में सक्षम है कि क्या अन्य लोग आपको सच बता रहे हैं
स्पष्ट

जवाबों:


23

4
क्या आप इस पर अपनी खुद की अंतर्ज्ञान / अंतर्दृष्टि / समझ जोड़ने की परवाह करेंगे - भले ही सिर्फ हाइलाइट्स (आपके नजरिए से) की ओर इशारा कर रहे हों?
जावदबा

10

"सशर्त यादृच्छिक फ़ील्ड्स को अधिकतम एन्ट्रोपी मॉडल के अनुक्रमिक विस्तार के रूप में समझा जा सकता है"। यह वाक्य "शास्त्रीय संभावित मॉडल और सशर्त यादृच्छिक फ़ील्ड्स" से संबंधित तकनीकी रिपोर्ट से है।

यह शायद HMM, CRF और अधिकतम प्रवेश जैसे विषयों के लिए सबसे अच्छा पढ़ा जाता है।

पुनश्च: कड़ी में चित्र 1 उनके बीच एक बहुत अच्छी तुलना देता है।

सादर,


5

एक साइड नोट के रूप में: मैं आपसे अनुरोध करूंगा कि आप इसे (अपूर्ण) सूची बनाए रखें ताकि इच्छुक उपयोगकर्ताओं के पास आसानी से सुलभ संसाधन हो। यथास्थिति अभी भी व्यक्तियों को सीआरएफ और एचएमएम से संबंधित उत्तर खोजने के लिए बहुत सारे कागजात और / या लंबी तकनीकी रिपोर्ट की जांच करने की आवश्यकता है।

अन्य के अलावा, पहले से ही अच्छे जवाब, मैं उन विशिष्ट विशेषताओं को इंगित करना चाहता हूं जो मुझे सबसे अधिक उल्लेखनीय लगते हैं:

  • HMM जेनेरिक मॉडल हैं जो संयुक्त वितरण P (y, x) को मॉडल करने का प्रयास करते हैं। इसलिए, ऐसे मॉडल डेटा पी (एक्स) के वितरण को मॉडल करने की कोशिश करते हैं जो बदले में अत्यधिक निर्भर सुविधाओं को लागू कर सकते हैं । ये निर्भरताएं कभी-कभी अवांछनीय होती हैं (उदाहरण के लिए एनएलपी के पीओएस टैगिंग में) और बहुत बार मॉडल / कंप्यूट के लिए अट्रैक्टिव होती हैं।
  • सीआरएफ भेदभावपूर्ण मॉडल हैं जो पी (y | x) मॉडल करते हैं। जैसे, उन्हें स्पष्ट रूप से मॉडल पी (एक्स) की आवश्यकता नहीं है और कार्य के आधार पर, इसलिए उच्च प्रदर्शन प्राप्त कर सकते हैं, क्योंकि उन्हें नमूने सीखने के लिए कम मापदंडों की आवश्यकता होती है, जैसे कि नमूने उत्पन्न करते समय वांछित नहीं है । भेदभावपूर्ण मॉडल अक्सर अधिक उपयुक्त होते हैं जब जटिल और अतिव्यापी सुविधाओं का उपयोग किया जाता है (क्योंकि उनका वितरण मॉडलिंग अक्सर कठिन होता है)।
  • यदि आपके पास ऐसी ओवरलैपिंग / जटिल विशेषताएं हैं (जैसे कि पीओएस टैगिंग में) तो आप सीआरएफ पर विचार करना चाह सकते हैं क्योंकि वे इन्हें अपने फ़ीचर फ़ंक्शंस के साथ मॉडल कर सकते हैं (ध्यान रखें कि आपको आमतौर पर इन फ़ंक्शंस को फ़ीचर करना होगा)।
  • ytxtcap(xt1)
  • रैखिक और सामान्य CRF के बीच अंतर पर भी ध्यान दें । रैखिक CRFs, HMM की तरह, केवल पिछले तत्व पर निर्भरता थोपते हैं जबकि सामान्य CRF के साथ आप मनमाने ढंग से तत्वों पर निर्भरता थोप सकते हैं (जैसे कि पहला तत्व किसी क्रम के बहुत अंत में पहुँचा जाता है)।
  • व्यवहार में, आप सामान्य सीआरएफ की तुलना में अधिक बार रैखिक सीआरएफ देखेंगे क्योंकि वे आमतौर पर आसान अनुमान लगाते हैं। सामान्य तौर पर, सीआरएफ इंजेक्शन अक्सर अवर्णनीय होता है, जो आपको अनुमानित अनुमान के एकमात्र ट्रैक्टेबल विकल्प के साथ छोड़ देता है)।
  • रैखिक CRFs में इंजेक्शन Viterbi एल्गोरिथ्म के रूप में HMMs में किया जाता है।
  • एचएमएम और रैखिक सीआरएफ दोनों को आमतौर पर अधिकतम संभावना जैसे कि ग्रेडिएंट डिसेंट, क्वैसी -न्यूटन विधियों या एचएमएम के लिए एक्सपेक्टेशन मैक्सिमाइजेशन तकनीक (बॉम-वेल्च एल्गोरिथम) के साथ प्रशिक्षित किया जाता है । यदि अनुकूलन समस्याएं उत्तल हैं, तो ये विधियां इष्टतम पैरामीटर सेट की उपज देती हैं।
  • [1] के अनुसार, रैखिक सीआरएफ मापदंडों को सीखने के लिए अनुकूलन समस्या उत्तल है अगर सभी नोड्स में घातीय पारिवारिक वितरण होते हैं और प्रशिक्षण के दौरान देखे जाते हैं।

[१] सटन, चार्ल्स; मैक्कलम, एंड्रयू (2010), "एन इंट्रोडक्शन टू कंडिशनल रैंडम फील्ड्स"

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.