स्प्लिस बनाम गॉसियन प्रोसेस रिग्रेशन


15

मुझे पता है कि गॉसियन प्रोसेस रिग्रेशन (जीपीआर) लचीली नॉनलाइनियर मॉडल फिटिंग के लिए स्प्लिन का उपयोग करने का एक विकल्प है। मैं जानना चाहूंगा कि किन स्थितियों में एक दूसरे की तुलना में अधिक उपयुक्त होगा, विशेष रूप से बायेसियन प्रतिगमन ढांचे में।

मैंने पहले ही देखा है कि स्प्लिन, स्मूथ स्प्लिन और गॉसियन प्रोसेस एमुलेटर का उपयोग करने के क्या फायदे / नुकसान हैं? लेकिन इस पोस्ट में जीपीआर पर कुछ भी नहीं लगता है।


मैं कहूंगा कि जीपी एक गैर-रैखिक फ़ंक्शन को फिट करने के लिए एक अधिक डेटा-चालित दृष्टिकोण है। आमतौर पर एन-वें बहुपद के लिए स्प्लिन प्रतिबंधित हैं। जीपी बहुपद की तुलना में अधिक जटिल कार्यों को मॉडल कर सकता है (हालांकि 100% निश्चित नहीं है)।
व्लादिस्लाव डोवगलकेस

जवाबों:


15

मैं @ __ के उत्तर से सहमत हूं।

हालाँकि, मैं इस तथ्य को उजागर करना चाहूंगा कि स्प्लिन गॉसियन प्रोसेस रिग्रेशन / क्रिगिंग का एक विशेष मामला है

यदि आप गास्सियन प्रक्रिया प्रतिगमन में एक निश्चित प्रकार का कर्नेल लेते हैं, तो आप वास्तव में तख़्त फिटिंग मॉडल प्राप्त करते हैं।

इस तथ्य को किमलडोर्फ और वाह्बा (1970) ने इस पत्र में साबित किया है । यह बल्कि तकनीकी है, क्योंकि यह कर्नेल हिल्बर्ट स्पेसेस (आरकेएचएस) की रिग्रेसिंग और रिप्रोडेसिंग कर्नेल में इस्तेमाल की जाने वाली गुठली के बीच की कड़ी का उपयोग करता है।


2
एक उदाहरण के रूप में, एक आयामी मामले में, प्रसिद्ध चौरसाई तख़्ता के लिए जीपी मॉडल बस एक दोगुनी एकीकृत गाऊसी सफेद शोर है। यह क्रेग अंसले और रॉबर्ट कोहन द्वारा 1980 के दशक के अंत में कुशल एल्गोरिदम डिजाइन करने के लिए उपयोग किया गया है। मेरा मानना ​​है कि इस समानता को आरकेएचएस के गहन गणित में गोता लगाए बिना आंशिक रूप से समझा जा सकता है।
यवेस

यह बहुत अच्छा जवाब है।
एस्ट्रिड

6

यह एक बहुत ही दिलचस्प सवाल है: गौस्सियन प्रक्रियाओं और चौरसाई के बीच समतुल्य दिखाया गया है किमल्डॉर्फ और वाहबा 1970 में दिखाया गया है। विवश प्रक्षेप के मामले में इस पत्राचार के सामान्यीकरण को बे एट अल में विकसित किया गया है। 2016।

बे एट अल। 2016. विवश हुए प्रक्षेप के लिए किमल्डोर्फ-वाहबा पत्राचार का सामान्यीकरण। सांख्यिकी के इलेक्ट्रॉनिक जर्नल।

इस पत्र में बायेसियन दृष्टिकोण के लाभ पर चर्चा की गई है।


2

मैं @ xeon की टिप्पणी से सहमत हूं कि जीपीआर संभावित कार्यों की अनंत संख्या पर एक संभाव्यता वितरण और मीन फ़ंक्शन (जो कि पसंद की तरह है) केवल MAP का अनुमान है, लेकिन आपके पास इसके बारे में भी एक विचरण है। यह प्रायोगिक डिजाइन (इनपुट डेटा को चुनना जो अधिकतम जानकारीपूर्ण है) जैसे महान अवसरों के लिए अनुमति देता है। यदि आप मॉडल के एकीकरण (चतुर्भुज) को निष्पादित करना चाहते हैं, तो जीपी में एक गाऊसी परिणाम होगा जो आपको अपने परिणाम पर विश्वास करने की अनुमति देता है। कम से कम मानक तख़्ता मॉडल के साथ यह संभव नहीं है।

व्यवहार में जीपीआर एक अधिक जानकारीपूर्ण परिणाम (मेरे अनुभव में) देता है, लेकिन मेरे अनुभव में तख़्ता मॉडल जल्दी लगता है।

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.