डायनामिक (डायनामिक) बेय्स नेटवर्क और HMM में क्या अंतर है?

Question

मैंने पढ़ा है कि एचएमएम, पार्टिकल फिल्टर और कलमन फ़िल्टर डायनेमिक बेय नेटवर्क के विशेष मामले हैं। हालाँकि, मैं केवल HMM को जानता हूं और मुझे डायनेमिक बेयर्स नेटवर्क में अंतर नहीं दिखता है।

क्या कोई समझा सकता है?

यह अच्छा होगा यदि आपका उत्तर निम्नलिखित के समान हो, लेकिन बेयर्स नेटवर्क के लिए:

छिपे हुए मार्कोव मॉडल

एक हिडन मार्कोव मॉडल (HMM) एक 5-tuple :$\lambda = (S, O, A, B, \Pi)$

• $S \neq \emptyset$ : राज्यों का एक सेट (उदाहरण के लिए " शुरुआत", " मध्य", " अंत")
• $O \neq \emptyset$ : संभव टिप्पणियों का एक सेट (ऑडियो सिग्नल)
• $A \in \mathbb{R}^{|S| \times |S|}$ : एक स्टोकेस्टिक मैट्रिक्स जो को राज्य से राज्य तक लाने के लिए देता है ।$(a_{ij})$$i$$j$
• $B \in \mathbb{R}^{|S| \times |O|}$ : एक स्टोकेस्टिक मैट्रिक्स जो देता है राज्य में अवलोकन ।$(b_{kl})$$k$$l$
• $\Pi \in \mathbb{R}^{|S|}$ : प्रारंभिक वितरण एक राज्य में शुरू करने के लिए।

यह आमतौर पर एक निर्देशित ग्राफ के रूप में प्रदर्शित किया जाता है, जहां प्रत्येक नोड एक राज्य से मेल खाता है और किनारों पर संक्रमण संभावनाओं को दर्शाया जाता है।$s \in S$

छिपे हुए मार्कोव मॉडल को "छिपा हुआ" कहा जाता है, क्योंकि वर्तमान स्थिति छिपी हुई है। एल्गोरिदम को स्वयं टिप्पणियों और मॉडल से इसका अनुमान लगाना होगा। उन्हें "मार्कोव" कहा जाता है, क्योंकि अगले राज्य के लिए केवल वर्तमान राज्य मायने रखता है।

एचएमएम के लिए, आप एक निश्चित टोपोलॉजी (राज्यों की संख्या, संभव किनारों) देते हैं। फिर 3 संभावित कार्य हैं

• मूल्यांकन : एक HMM दिया गया है , यह कैसे संभव है कि यह (फॉरवर्ड एल्गोरिथ्म) प्राप्त करे।$\lambda$$o_1, \dots, o_t$
• डिकोडिंग : एक HMM और एक अवलोकन , जो राज्यों के (Viterbi एल्गोरिथ्म) की सबसे अधिक संभावित अनुक्रम है$\lambda$$o_1, \dots, o_t$$s_1, \dots, s_t$
• सीखना : सीखें : बॉम-वेल्च एल्गोरिथम , जो एक्सपेक्टेशन मैक्सिमाइजेशन का एक विशेष मामला है।$A, B, \Pi$

बेय नेटवर्क

बेय नेटवर्क को चक्रीय रेखांकन (DAG) । नोड्स यादृच्छिक चर प्रतिनिधित्व करते हैं । प्रत्येक , एक संभावना वितरण है जो के माता-पिता पर वातानुकूलित है :$G = (\mathcal{X}, \mathcal{E})$$X \in \mathcal{X}$$X$$X$

$$P(X|\text{parents}(X))$$

लगता है (कृपया स्पष्ट करें) दो कार्य:

• आविष्कार : कुछ चर को देखते हुए, अन्य चर के सबसे संभावित मूल्यों को प्राप्त करें। सटीक अनुमान एनपी-हार्ड है। लगभग, आप MCMC का उपयोग कर सकते हैं।

• सीखना : आप कैसे सीखते हैं उन वितरण सटीक समस्या ( स्रोत ) पर निर्भर करता है :

  • ज्ञात संरचना, पूरी तरह से अवलोकन: अधिकतम संभावना अनुमान (MLE)
  • ज्ञात संरचना, आंशिक रूप से अवलोकनीय: अपेक्षा अधिकतमकरण (EM) या मार्कोव चेन मोंटे कार्लो (MCMC)
  • अज्ञात संरचना, पूरी तरह से अवलोकन: मॉडल स्थान के माध्यम से खोज
  • अज्ञात संरचना, आंशिक रूप से अवलोकनीय: EM + मॉडल स्थान के माध्यम से खोज

डायनेमिक बेय नेटवर्क

मुझे लगता है कि डायनेमिक बेयर्स नेटवर्क (डीबीएन) भी संभाव्य चित्रमय मॉडल निर्देशित हैं। परिवर्तनशीलता समय के साथ बदलते नेटवर्क से आती है। हालांकि, मुझे लगता है कि यह केवल एक ही नेटवर्क को कॉपी करने और समय में प्रत्येक नोड को जोड़ने के बराबर है समय में इसी नोड हर साथ । क्या यह मामला है?$t$$t+1$

Comments

1. आप एचएमएम की टोपोलॉजी भी सीख सकते हैं। 2. जब बीएन के साथ अनुमान लगाते हैं, तो अधिकतम संभावना अनुमान लगाने के अलावा, आप वितरण से नमूना भी ले सकते हैं, संभावनाओं का अनुमान लगा सकते हैं, या जो कुछ भी संभावना सिद्धांत आपको देता है, वह करते हैं। 3. एक DBN समय के साथ कॉपी किया गया एक बीएन होता है, जिसमें कुछ (जरूरी नहीं कि सभी) अतीत से भविष्य तक जंजीर वाले हों। इस अर्थ में, एक HMM एक साधारण DBN है जिसमें प्रत्येक समय-स्लाइस में सिर्फ दो नोड्स होते हैं और समय के साथ नोड्स में से एक होता है।

— केटी।

मैंने किसी से इस बारे में पूछा और उन्होंने कहा: "एचएमएम डायनेमिक बेयस नेट्स के विशेष मामले हैं, जिसमें प्रत्येक बार एक अव्यक्त चर वाले स्लाइस होते हैं, जो पिछले एक मार्कोव श्रृंखला को देने के लिए निर्भर है, और प्रत्येक अव्यक्त चर पर निर्भर एक अवलोकन है। डीबीएन समय के साथ विकसित होने वाली कोई भी संरचना हो सकती है। ”

— एशले

Answer 1

एक से समान क्रॉस मान्यता प्रश्न इस प्रकार @jerad जवाब:

एचएमएम डीबीएन के बराबर नहीं हैं, बल्कि वे डीबीएन का एक विशेष मामला है जिसमें दुनिया के पूरे राज्य को एक एकल छिपे हुए राज्य चर द्वारा दर्शाया गया है। डीबीएन ढांचे के भीतर अन्य मॉडल मूल एचएमएम को सामान्य करते हैं, जो अधिक छिपे हुए राज्य चर के लिए अनुमति देता है (कई किस्मों के लिए ऊपर दूसरा पेपर देखें)।

अंत में, नहीं, DBNs हमेशा असतत नहीं होते हैं। उदाहरण के लिए, रैखिक गाऊसी राज्य मॉडल (कलमैन फिल्टर) को निरंतर मूल्यवान एचएमएम के रूप में कल्पना की जा सकती है, जिसका उपयोग अक्सर अंतरिक्ष में वस्तुओं को ट्रैक करने के लिए किया जाता है।

मैं इन दो उत्कृष्ट समीक्षा पत्रों को देखना चाहूंगा:

• Zoubin Gharamani द्वारा छिपे हुए मार्कोव मॉडल और बायेसियन नेटवर्क का एक परिचय
• केविन मर्फी द्वारा डायनेमिक बायेशियन नेटवर्क