मार्कोव रैंडम फील्ड और कंडिशनल रैंडम फील्ड में क्या अंतर है?

Question

यदि मैं एमआरएफ के देखे गए नोड्स के मूल्यों को ठीक करता हूं, तो क्या यह सीआरएफ बन जाता है?

Comments

यह भी देखें: क्या प्रत्येक सशर्त रैंडम फ़ील्ड केवल प्रतिबंधित संरचना के साथ मार्कोव रैंडम फ़ील्ड है?

— मार्टिन थोमा

और एमआरएफ और सीआरएफ के बीच वास्तव में क्या अंतर है

— मार्टिन थोमा

और मार्कोव रैंडम फील्ड्स (MRF) और कंडीशनल रैंडम फील्ड्स (CRF) के बीच क्या अंतर है? मुझे कब एक का उपयोग करना चाहिए?

— मार्टिन थोमा

Answer 1

ठीक है, मुझे खुद जवाब मिला:

कोंडिटाइनल रैंडम फील्ड्स (CRFs) मार्कोव रैंडम फील्ड्स (MRFs) का एक विशेष मामला है।

1.5.4 सशर्त यादृच्छिक क्षेत्र

एक सशर्त रैंडम फ़ील्ड (CRF) MRF का एक रूप है जो ऊपर दिए गए छिपे हुए MRF के साथ चर x डेटा z के लिए एक पीछे को परिभाषित करता है। छिपे हुए MRF के विपरीत, हालांकि, डेटा वितरण P (x | z) और पूर्व P (x) में गुणन स्पष्ट नहीं किया गया है [288]। यह z पर x की जटिल निर्भरता को स्पष्ट वितरण के बिना, पश्च वितरण में सीधे लिखा जा सकता है। (दिए गए पी (x। Z), ऐसे कारक हमेशा मौजूद होते हैं, हालांकि- असीम रूप से उनमें से कई, वास्तव में- इसलिए कोई सुझाव नहीं है कि सीआरएफ छिपे हुए एमआरएफ की तुलना में अधिक सामान्य है, केवल इससे निपटने के लिए अधिक सुविधाजनक हो सकता है ।)

स्रोत: ब्लेक, कोहली और रोदर: मार्कोव दृष्टि और छवि प्रसंस्करण के लिए यादृच्छिक क्षेत्र। 2011।

एक सशर्त यादृच्छिक क्षेत्र या CRF (Lafferty et al। 2001), कभी-कभी एक भेदभावपूर्ण यादृच्छिक क्षेत्र (कुमार और हेबर्ट 2003), एमआरएफ का एक संस्करण है, जहां सभी क्लिच क्षमता संभावित इनपुट सुविधाओं पर वातानुकूलित हैं [...]

एक MRF से अधिक CRF का लाभ एक जनरेटिव क्लासिफायरियर (धारा 8.6 देखें) पर एक विभेदक क्लासिफायरियर के लाभ के अनुरूप है, अर्थात्, हमें उन संसाधनों को "बेकार" करने की आवश्यकता नहीं है जिन्हें हम हमेशा देखते हैं। [...]

MRF पर CRFs का नुकसान यह है कि उन्हें लेबल किए गए प्रशिक्षण डेटा की आवश्यकता होती है, और वे प्रशिक्षण के लिए धीमे होते हैं [...]

स्रोत: केविन पी। मर्फी: मशीन लर्निंग: ए प्रोबेबिलिस्टिक पर्सपेक्टिव

मेरे प्रश्न का उत्तर देना:

यदि मैं एमआरएफ के देखे गए नोड्स के मूल्यों को ठीक करता हूं, तो क्या यह सीआरएफ बन जाता है?

हाँ। मानों को ठीक करना उन पर कंडीशनिंग के समान है। हालांकि, आपको ध्यान देना चाहिए कि प्रशिक्षण में भी मतभेद हैं।

पीजीएम के बारे में कई व्याख्यान (प्रोबेरिस्टिक ग्राफिकल मॉडल) के बारे में प्रांगण में देखने से मुझे बहुत मदद मिली।

Answer 2

MRF vs Bayes nets : Unpreciesly (लेकिन सामान्य रूप से) बोलना , दो प्रकार के चित्रमय मॉडल हैं: अप्रत्यक्ष चित्रमय मॉडल और निर्देशित ग्राफिकल मॉडल (एक और प्रकार, उदाहरण के लिए टान्नर ग्राफ)। पूर्व को मार्कोव रैंडम फील्ड्स / मार्कोव नेटवर्क और बाद में बेय्स नेट / बायेसियन नेटवर्क के रूप में भी जाना जाता है। (कभी-कभी दोनों में स्वतंत्रता की धारणाओं को वर्णिक रेखांकन द्वारा दर्शाया जा सकता है)

मार्कोव का तात्पर्य है कि यह जिस तरह से कारक और यादृच्छिक क्षेत्र का अर्थ है है एक अप्रत्यक्ष मॉडल द्वारा परिभाषित लोगों के बीच एक विशेष वितरण।

सीआरएफ $\in$ एमआरएफ : कुछ चर मनाया जाता है हम एक सशर्त वितरण एन्कोड करने के लिए (अनिर्दिष्ट रेखांकन के रूप में) एक ही अनिर्दिष्ट ग्राफ प्रतिनिधित्व और parameterization उपयोग कर सकते हैं जब $P(Y|X)$ जहां $Y$ लक्ष्य चर का एक सेट है और $X$ एक (संबंध तोड़ना है ) मनाया चर का सेट।

और एकमात्र अंतर यह है कि एक मानक मार्कोव नेटवर्क के लिए एक्स और वाई पर सामान्यीकरण शब्द समता है, लेकिन सीआरएफ के लिए केवल यम से अधिक शब्द है।

संदर्भ:

1. अप्रत्यक्ष चित्रमय मॉडल (मार्कोव यादृच्छिक क्षेत्र)
2. संभाव्य चित्रमय मॉडल सिद्धांत और तकनीक (2009, द ​​एमआईटी प्रेस)
3. मार्कोव यादृच्छिक क्षेत्र

Answer 3

आइए, एक सीआरएफ का उपयोग करके मॉडलिंग के साथ एमआरएफ के तहत सशर्त विरोधाभास, रास्ते पर परिभाषाओं को सुलझाते हैं, और फिर मूल प्रश्न को संबोधित करते हैं।

एमआरएफ

एक ग्राफ $G$ संबंध में एक मार्कोव रैंडम फील्ड (MRF) है

1. $G$ में नोड्स के अनुरूप यादृच्छिक चर (या यादृच्छिक "तत्व" यदि आपको पसंद है) का एक सेट (इस प्रकार, "यादृच्छिक क्षेत्र")
2. एक संयुक्त वितरण के साथ है जो जी के संबंध में मार्कोव है ; यह है कि, संयुक्त संभाव्यता इस एमआरएफ के साथ जुड़े वितरण जी द्वारा दिए गए मार्कोव बाधा के अधीन है: किसी भी दो चर के लिए, वी मैं और वी जे , के मूल्य वी मैं की सशर्त स्वतंत्र है वी जे अपने पड़ोसियों को देखते हुए बी मैं । इस मामले में, यह कहा जाता है कि संयुक्त संभाव्यता वितरण P ( { V i } ) G के अनुसार कारक है ।$G$$V_i$$V_j$$V_i$$V_j$$\mathcal{B}_i$$P(\{V_i\})$ $G$

एक MRF के तहत सशर्त इंजेक्शन

चूंकि MRF कई चर पर एक संयुक्त वितरण का प्रतिनिधित्व करता है जो मार्कोव बाधाओं का पालन करता है, तो हम कुछ चर के देखे गए मानों को दिए गए सशर्त संभाव्यता वितरण की गणना कर सकते हैं।

उदाहरण के लिए, यदि मेरे पास चार यादृच्छिक चर पर एक संयुक्त वितरण है: IsRaining, SprinklerOn, SidewalkWet, और GrassWet, तो सोमवार को मैं IsRaining और SprinkelOn पर संयुक्त संभाव्यता वितरण का अनुमान लगाना चाहूंगा कि मैंने SidewalkWet = False और GrassWet देखा है। सच। मंगलवार को, मैं IsRaining और SprinklerOn पर संयुक्त संभाव्यता वितरण का अनुमान लगाना चाह सकता हूं जो मैंने दिया है कि मैंने SidewalkWet = True और GrassWet = True देखा है।

दूसरे शब्दों में, हम इन दो अलग-अलग स्थितियों में इनफ़ॉर्मेशन बनाने के लिए एक ही MRF मॉडल का उपयोग कर सकते हैं, लेकिन हम यह नहीं कहेंगे कि हमने मॉडल बदल दिया है। वास्तव में, हालांकि हमने यहां वर्णित दोनों मामलों में SidewalkWet और GrassWet का अवलोकन किया है, MRF के पास स्वयं "वैरिएबल" प्रति se नहीं है --- सभी वैरिएबल्स की MRF की दृष्टि में समान स्थिति है, इसलिए MRF भी मॉडल है। उदाहरण के लिए, SidewalkWet और GrassWet का संयुक्त वितरण।

सीआरएफ

इसके विपरीत, हम एक ग्राफ एक सशर्त [मार्कोव] रैंडम फील्ड (सीआरएफ) को परिभाषित कर सकते हैं$G$

1. $G$ में नोड्स के अनुरूप यादृच्छिक चर का एक सेट , एक उपसमूह $\{X_i\}_{i=1}^n$ जिनमें से माना जाता है कि हमेशा मनाया जाता है और शेष चर $\{Y_i\}_{i=1}^m$
2. एक साथ सशर्त वितरण $P(\{Y_i\}_{i=1}^m|\{X_i\}_{i=1}^n)$ है कि मार्कोव के संबंध में $G$

अंतर

एमआरएफ और सीआरएफ दोनों के लिए, हम आम तौर पर एक मॉडल फिट करते हैं जिसे हम बाद में विविध सेटिंग्स में सशर्त इंजेक्शन के लिए उपयोग कर सकते हैं (जैसा कि ऊपर बारिश उदाहरण में)। हालांकि, जबकि MRF ने लगातार "देखे गए चर" को निर्दिष्ट नहीं किया है और सभी चर पर एक संयुक्त वितरण की आवश्यकता है जो कि $G$ , एक CRF के मार्कोव बाधाओं का पालन करता है :

1. "देखे गए" के रूप में चर का एक सबसेट नामित

2. केवल गैर-प्रेक्षित दिए गए चर पर एक सशर्त वितरण को परिभाषित करता है ; यह देखे गए चर की संभावना को मॉडल नहीं करता है (यदि मापदंडों के संदर्भ में वितरण व्यक्त किए जाते हैं, तो यह अक्सर एक लाभ के रूप में देखा जाता है क्योंकि पैरामीटर उन चीजों की संभावना को बर्बाद करने में बर्बाद नहीं होते हैं जो हमेशा ज्ञात होंगे)

3. $G$

$\{X_i\}$$G$$G'$$\{Y_i\}$$\{Y_i\}$$\{X_i\}$$\{Y_i\}$$\{X_i\}$

उदाहरण

$Y_i$$X_1, X_2, ... X_{n-1}$$X_n$

$G$$\{X_i\}$$\{Y_i\}$$\{X_i\}$ s में से ।

निष्कर्ष

$G$$G$$G$$G$। इसके बजाय, उपयुक्त नुस्खा होगा, जिस पर एमआरएफ दिया जाएगा$G$, गैर-देखे गए सबसेट पर एक MRF को परिभाषित करें $G$ एमआरएफ के मापदंडों के साथ मनाया चर के पैरामीटर कार्यों के उत्पादन के रूप में व्यक्त किया गया है, लेबल डेटा पर परिणामी सशर्त एमआरएफ की संभावना को अधिकतम करने के लिए फ़ंक्शन मापदंडों का प्रशिक्षण।

मॉडल पैरामीटर्स की संभावित बचत के अलावा, सशर्त मॉडल की वृद्धि की अभिव्यक्ति, और अनुमान दक्षता की अवधारण, सीआरएफ नुस्खा के बारे में एक अंतिम महत्वपूर्ण बिंदु यह है कि असतत मॉडल (और गैर-असतत मॉडल का एक बड़ा उपसमूह) के बावजूद, CRF परिवार की अभिव्यक्तियाँ, लॉग-लाइबिलिटी को ग्रैडिएंट वंश के साथ वैश्विक अनुकूलन के लिए अनुमति देने वाले फ़ंक्शन मापदंडों के उत्तल फ़ंक्शन के रूप में व्यक्त किया जा सकता है।

See also: the original crf paper and this tutorial