छिपे हुए मार्कोव मॉडल और कण फ़िल्टर (और कलमन फ़िल्टर) के बीच अंतर


21

यहाँ मेरा पुराना सवाल है

मैं पूछना चाहता हूं कि क्या किसी को हिडन मार्कोव मॉडल (एचएमएम) और पार्टिकल फिल्टर (पीएफ) के बीच का अंतर (और कोई अंतर) पता है, और परिणामस्वरूप कलमन फ़िल्टर, या किन परिस्थितियों में हम किस एल्गोरिथ्म का उपयोग करते हैं। मैं एक छात्र हूं और मुझे एक प्रोजेक्ट करना है, लेकिन पहले मुझे कुछ चीजों को समझना होगा।

इसलिए, ग्रंथ सूची के अनुसार, दोनों स्टेट स्पेस मॉडल हैं , जिसमें छिपे हुए (या अव्यक्त या बिना पढ़े हुए) राज्य शामिल हैं। विकिपीडिया (Hidden_Markov_model) के अनुसार "एचएमएम में, छिपे हुए चर का राज्य स्थान असतत है, जबकि अवलोकन स्वयं या तो असतत हो सकते हैं (आमतौर पर एक श्रेणीगत वितरण से उत्पन्न) या निरंतर (आमतौर पर एक गाऊसी वितरण से)। निरंतर राज्य रिक्त स्थान की अनुमति देने के लिए छिपे हुए मार्कोव मॉडल को भी सामान्यीकृत किया जा सकता है। ऐसे मॉडलों के उदाहरण हैं जहां मार्कोव छिपे हुए चर पर प्रक्रिया एक रैखिक गतिशील प्रणाली है, जिसमें संबंधित चर के बीच एक रैखिक संबंध है और जहां सभी छिपे हुए और देखे गए चर एक गाऊसी वितरण का पालन करते हैं। सरल मामलों में, जैसे कि रेखीय गतिकीय प्रणाली अभी बताई गई है, सटीक अनुमान ट्रैक्टेबल है (इस मामले में, कलमन फ़िल्टर का उपयोग करके); हालांकि, सामान्य रूप से, निरंतर अव्यक्त चरों के साथ HMM में सटीक निष्कासन संभव है, और अनुमानित विधियों का उपयोग किया जाना चाहिए,"

लेकिन मेरे लिए यह थोड़ा भ्रमित करने वाला है ... सरल शब्दों में इसका मतलब यह है कि अनुसरण (अधिक शोध के आधार पर जो मैंने किया है):

  • एचएमएम में, राज्य स्थान या तो असतत या निरंतर हो सकता है । इसके अलावा अवलोकन स्वयं या तो असतत या निरंतर हो सकते हैं । इसके अलावा HMM एक रैखिक और गाऊसी या गैर-गाऊसी गतिशील प्रणाली है।
  • पीएफ में, राज्य स्थान या तो असतत या निरंतर हो सकता है । इसके अलावा अवलोकन स्वयं या तो असतत या निरंतर हो सकते हैं । लेकिन पीएफ एक गैर-रेखीय (और गैर-गौसियन?) डायनेमिक सिस्टम है (क्या यह उनका अंतर है?)।
  • कलमन फ़िल्टर (एचएमएम की तरह ही मुझे भी दिखता है) का उपयोग तब किया जा रहा है जब हमारे पास रैखिक और गॉसियन डायनेमिक सिस्टम है।

मुझे यह भी कैसे पता चलेगा कि किस एल्गोरिदम को चुनना है, क्योंकि मेरे लिए यह सब एक जैसा लगता है ... इसके अलावा मुझे एक पेपर मिला (अंग्रेजी में नहीं) जो यह कहता है कि पीएफ में हालांकि रैखिक डेटा हो सकता है (उदाहरण के लिए एक सेंसर-काइनेक्ट से कच्चा डेटा जो एक आंदोलन को पहचानता है), डायनेमिक सिस्टम गैर-रैखिक हो सकता है। ऐसा कभी होता है क्या? क्या ये सही है? कैसे?

इशारा पहचान के लिए, शोधकर्ता एचएमएम या पीएफ का उपयोग कर सकते हैं, लेकिन वे यह नहीं समझाते हैं कि वे प्रत्येक एल्गोरिथ्म का चयन क्यों करते हैं ... क्या कोई जानता है कि मुझे इन एल्गोरिदम को भेद करने में मदद कैसे की जा सकती है, उनके मतभेदों को समझने के लिए और सबसे अच्छा एल्गोरिदम कैसे चुनना है?

मुझे क्षमा करें यदि मेरा प्रश्न बहुत बड़ा है, या कुछ भाग अनुभवहीन हैं, लेकिन मुझे कहीं भी ठोस और वैज्ञानिक उत्तर नहीं मिला। आपके समय के लिए अग्रिम धन्यवाद!

यहाँ मेरा नया प्रश्न है (@ conjugateprior की सहायता के अनुसार)

इसलिए आगे पढ़ने के साथ, मैं अपनी पिछली टिप्पणी के अपने कुछ हिस्सों को अपडेट करना चाहूंगा, और यह सुनिश्चित करने के लिए कि मैं थोड़ा और समझ रहा हूं कि क्या चल रहा है।

  • फिर से सरल शब्दों में, छाता डायनेमिक बायेशियन नेटवर्क है जिसके तहत एचएमएम और स्टेट स्पेस के मॉडल शामिल हैं (उपवर्ग) ( http://mlg.eng.cam.ac.uk/zoubin/papers/ijprai.pdf )।
  • इसके अलावा, 2 मॉडलों के बीच प्रारंभिक अंतर यह है कि, एचएमएम में छिपे हुए राज्य चर असतत हैं , जबकि अवलोकन या तो असतत या निरंतर हो सकते हैं । पीएफ में छिपे हुए राज्य चर निरंतर (वास्तविक मूल्यवान छिपे हुए वेक्टर) होते हैं, और टिप्पणियों में गॉसियन वितरण होते हैं
  • इसके अलावा @conjugateprior के अनुसार प्रत्येक मॉडल में 3 निम्न कार्य होते हैं: फ़िल्टर करना, चौरसाई करना और भविष्यवाणी करना। छानने में, मॉडल एचएमएम असतत छिपे हुए राज्य चर के लिए उपयोग करता है विधि फॉरवर्ड एल्गोरिथ्म, राज्य अंतरिक्ष निरंतर चर और रैखिक गतिशील प्रणाली के लिए उपयोग करता है कलमन फ़िल्टर, आदि।
  • हालांकि, एचएमएम को निरंतर राज्य रिक्त स्थान की अनुमति देने के लिए भी सामान्यीकृत किया जा सकता है ।
  • एचएमएम के इन एक्सटेंशनों के साथ, 2 मॉडल वैचारिक रूप से समान प्रतीत होते हैं (जैसा कि हिडेन मार्कोव मॉडल बनाम मार्कोव ट्रांजिशन मॉडल बनाम स्टेट-स्पेस मॉडल ...? ) में भी वर्णित है ।

मुझे लगता है कि मैं शब्दावली का थोड़ा अधिक सटीक उपयोग कर रहा हूं, लेकिन फिर भी मेरे लिए सब कुछ धुंधला है। क्या कोई मुझे समझा सकता है कि एचएमएम और स्टेट स्पेस मॉडल में क्या अंतर है ?

क्योंकि मुझे वास्तव में ऐसा उत्तर नहीं मिल रहा है जो मेरी आवश्यकताओं के अनुकूल हो सके।

एक बार और धन्यवाद!


1
यदि आपके विद्यालय के पुस्तकालय में यह पुस्तक है: crcpress.com/Time-Series-Modeling-Computation-and-Inference/… मैं इस पर एक नज़र डालूंगा । यह तीनों विषयों की व्याख्या करने का एक अच्छा काम करता है, जिनका मैं उल्लेख कर सकता हूं, तीन बहुत अलग विषय हैं।

मैंने अभी जाँच की है कि पुस्तकालय में यह पुस्तक नहीं है, दुर्भाग्य से .. इसलिए यदि आप मुझे उन हिस्सों को भेज सकते हैं जो आपको विश्वास है कि मेरे प्रश्न का उत्तर दें या मुझे इन विषयों को अलग करने में मदद करें तो यह बहुत अच्छा होगा!
:)

जवाबों:


15

यह उस मॉडल से अलग होने में मददगार होगा, जिसे आप उसके साथ बनाना चाहते हैं, क्योंकि अब मानक शब्दावली दोनों को मिला देती है।

मॉडल वह हिस्सा है जहां आप प्रकृति को निर्दिष्ट करते हैं : छिपी हुई जगह (असतत या निरंतर), छिपी हुई राज्य गतिशीलता (रैखिक या गैर-रेखीय) प्रेक्षणों की प्रकृति (आमतौर पर सशर्त रूप से बहुराष्ट्रीय या सामान्य), और माप मॉडल को जोड़ने टिप्पणियों के लिए छिपा राज्य। HMMs और राज्य अंतरिक्ष मॉडल मॉडल विनिर्देशों के दो ऐसे सेट हैं।

ऐसे किसी भी मॉडल के लिए तीन मानक कार्य हैं: फ़िल्टर करना, चौरसाई करना और भविष्यवाणी करना। किसी भी समय श्रृंखला पाठ (या वास्तव में Google) को आपको एक विचार देना चाहिए कि वे क्या हैं। आपका प्रश्न फ़िल्टरिंग के बारे में है, जो कि a) एक तरीका है, जो किसी भी चीज़ के लिए सबसे बेहतर है, (यदि आप बायेसियन महसूस नहीं कर रहे हैं, तो) एक पोस्टीरियर डिस्ट्रीब्यूशन ओवर (या 'बेस्ट' का अनुमान है, के छिपे हुए राज्य को पूरा सेट दिया गया है। मॉडल के तहत डेटा की संभावना, समय और संबंधित बी सहित डेटा तक । tt

उन स्थितियों में जहां राज्य निरंतर है, राज्य गतिशीलता और माप रैखिक और सभी शोर सामान्य है, एक कलमन फ़िल्टर उस काम को कुशलता से करेगा। राज्य के असतत होने पर इसका एनालॉग फॉरवर्ड एल्गोरिथम है। ऐसे मामले में जहां गैर-सामान्यता और / या गैर-रैखिकता है, हम लगभग अनुमानित फिल्टर पर वापस आते हैं। नियतात्मक सन्निकटन होते हैं, उदाहरण के लिए एक विस्तारित या अनसेंटेड कलमैन फिल्टर, और स्टोकेस्टिक सन्निकटन होते हैं, जिनमें से सबसे अच्छा ज्ञात कण कण हैं।

सामान्य भावना यह प्रतीत होती है कि राज्य या माप भागों में अनुपयोगी गैर-रैखिकता की उपस्थिति या अवलोकनों में गैर-सामान्यता (सामान्य समस्या की स्थिति) में, व्यक्ति सबसे संभव सन्निकटन के साथ दूर होने की कोशिश करता है। तो, ईकेएफ फिर यूकेएफ फिर पीएफ।

अनसेंटेड कलमन फ़िल्टर पर साहित्य में आमतौर पर स्थितियों की कुछ तुलनाएँ होती हैं जब यह विस्तारित कलमन फ़िल्टर के पारंपरिक रैखिककरण से बेहतर काम कर सकता है।

कण फ़िल्टर की लगभग पूरी व्यापकता है - किसी भी गैर-रैखिकता, किसी भी वितरण - लेकिन इसमें मेरे अनुभव में काफी सावधानीपूर्वक ट्यूनिंग की आवश्यकता होती है और आमतौर पर दूसरों की तुलना में बहुत अधिक अनिच्छुक होता है। हालांकि कई स्थितियों में, यह एकमात्र विकल्प है।

आगे पढ़ने के लिए: मुझे Särkkä's बायेसियन फ़िल्टरिंग और स्मूथिंग का ch.4-7 पसंद है, हालांकि यह काफी विपरीत है। लेखक के पास व्यक्तिगत उपयोग के लिए ऑनलाइन कॉपी उपलब्ध है। अन्यथा, अधिकांश राज्य अंतरिक्ष समय श्रृंखला पुस्तकें इस सामग्री को कवर करेंगी। कण छानने के लिए, एक डकेट एट अल है। विषय पर मात्रा, लेकिन मुझे लगता है कि यह अब काफी पुराना है। शायद अन्य लोग एक नए संदर्भ को इंगित करेंगे।


सबसे पहले आप अपने जवाब के लिए बहुत बहुत धन्यवाद। कृपया जाँच लें कि मैंने उपरोक्त प्रश्न को शब्दावली के साथ अधिक सुसंगत और सटीक होने के लिए संपादित किया है। मैं अपने पूरे प्रश्न को भी दोहराता हूं।
user5584748 12

आपके पुनर्लेखन में यह बिल्कुल सच नहीं है कि "पीएफ में छिपे हुए राज्य चर निरंतर (वास्तविक मूल्यवान छिपे हुए वेक्टर) हैं, और टिप्पणियों में गौसियन वितरण हैं।" पीएफ एक फिल्टर है। जिस मॉडल के लिए यह एक फिल्टर है, उसके पास एक निरंतर राज्य स्थान होना चाहिए (कुछ मार्कोवियन संरचना या अन्य के साथ) लेकिन अन्यथा असंबंधित है: किसी भी वितरण, किसी भी गतिशीलता और किसी भी माप की प्रक्रिया।
संयुक्ताक्षरी 14

उदाहरण के लिए, आप एक सामान्य रैखिक गाऊसी राज्य अंतरिक्ष मॉडल को फ़िल्टर करने के लिए पीएफ का उपयोग कर सकते हैं। यह ठीक काम करेगा। आपको सिर्फ कलमन फ़िल्टर सटीक नहीं है।
conjugateprior

4
"HMM और स्टेट स्पेस मॉडल में क्या अंतर है?" मूल रूप से: सम्मेलन द्वारा, एचएमएम में असतत राज्य है। इसके अलावा, 'राज्य अंतरिक्ष मॉडल' निरंतर राज्य के साथ चीजों को दर्शाते हैं।
conjugateprior

आपको बहुत - बहुत धन्यवाद! तो यह अंतर सम्मेलन (और ग्रंथ सूची के अनुसार) के द्वारा हुआ है। लेकिन सामान्य तौर पर, हम जो चाहें मॉडल चुन सकते हैं। क्या वो सही है? जो मॉडल मैं चुनूंगा वह इस बात पर निर्भर करता है कि क्या मेरे पास बेहतर परिणाम होंगे?
user5584748
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.