गाऊसी प्रक्रिया: फ़ंक्शन सन्निकटन गुण

मैं गाऊसी प्रक्रिया के बारे में सीख रहा हूं और केवल बिट्स और टुकड़ों को सुना है। वास्तव में टिप्पणियों और उत्तरों की सराहना करेंगे।

डेटा के किसी भी सेट के लिए, क्या यह सच है कि एक गाऊसी प्रक्रिया फ़ंक्शन सन्निकटन डेटा बिंदुओं पर शून्य या नगण्य फिटिंग त्रुटि देगा? एक अन्य स्थान पर मैंने यह भी सुना कि गॉसियन प्रक्रिया विशेष रूप से शोर डेटा के लिए अच्छी है। यह किसी भी देखे गए डेटा के लिए कम फिटिंग त्रुटि के साथ संघर्ष में लगता है?

इसके अतिरिक्त, डेटा बिंदुओं से और अधिक अनिश्चितता (बड़ा सहसंयोजक) प्रतीत होता है। यदि हां, तो क्या यह स्थानीय मॉडल (आरबीएफ आदि) की तरह व्यवहार करता है?

अंत में, क्या कोई सार्वभौमिक सन्निकटन संपत्ति है?

gaussian-process

— oalah
स्रोत

मान लीजिए कि डेटा नमूना । यह भी मान लीजिए, कि हमारे पास एक कोविरियस फंक्शन और जीसस प्रक्रिया के लिए निर्दिष्ट शून्य माध्य है। के लिए एक नया बिंदु वितरण मतलब के साथ गाऊसी हो जाएगा $D = (X, \mathbf{y}) = \{\mathbf{x}_i, y_i = y(x_i)\}_{i = 1}^N$ $k(\mathbf{x}_1, \mathbf{x}_2)$ $\mathbf{x}$

म (एक्स) = क क^{- 1} y

$m(\mathbf{x}) = \mathbf{k} K^{-1} \mathbf{y}$ और विचरण

वेक्टर

सहसंयोजी का एक सदिश है, मैट्रिक्स

वी (एक्स) = क (एक्स, एक्स) - क क^{- 1} क^{टी} ।

$V(\mathbf{x}) = k(\mathbf{x}, \mathbf{x}) - \mathbf{k} K^{-1} \mathbf{k}^T.$

k = {k (x, x_{1}), \dots, k (x, x_{N})}

$\mathbf{k} = \{k(\mathbf{x}, \mathbf{x}_1), \ldots, k(\mathbf{x}, \mathbf{x}_N)\}$

नमूना सहसंयोजी का एक मैट्रिक्स है। मामले में हम नमूनाप्रक्षेप संपत्तिधारण केलिए पीछे वितरण के औसत मूल्य का उपयोग कर भविष्यवाणी करतेहैं। वास्तव में,

लेकिन, यदि हम नियमितीकरण का उपयोग करते हैं तो यह जरूरी नहीं है कि इसमें सफेद शोर शब्द शामिल हो। नमूने के लिए इस मामले सहप्रसरण मैट्रिक्स में रूप है

, लेकिन असली समारोह मूल्यों के साथ सहप्रसरण के लिए हम सहप्रसरण मैट्रिक्स है

, और पीछे मतलब है

K = {k (x_{i}, x_{j})}_{i, j = 1}^{N}

$K = \{k(\mathbf{x}_i, \mathbf{x}_j)\}_{i, j = 1}^N$

म (एक्स) = क क^{- 1} y = y ।

$m(X) = K K^{-1} \mathbf{y} = \mathbf{y}.$

K + σ I

$K + \sigma I$

K

$K$

इसके अलावा, नियमितिकरण समस्या को अधिक कम्प्यूटेशनल रूप से स्थिर बनाता है।

म (एक्स) = क (क + σ मैं)^{- 1} y \neq y ।

$m(X) = K (K + \sigma I)^{-1} \mathbf{y} \neq \mathbf{y}.$

शोर विचरण का चयन अगर हम चाहते हैं हम का चयन कर सकते प्रक्षेप ( ) या हम चाहते हैं शोर टिप्पणियों को संभालने के लिए ( बड़ा है)। $\sigma$ $\sigma = 0$ $\sigma$

$k$ $O(n)$ $n$

— एलेक्सी ज़ेत्सेव
स्रोत