मेटरन कोवरियनस समारोह का औचित्य क्या है?

19

Matérn सहसंयोजक समारोह आमतौर पर गाऊसी प्रक्रिया में कर्नेल फ़ंक्शन के रूप में उपयोग किया जाता है। इसे इस तरह परिभाषित किया गया है

C_{ν} (d) = σ^{2} \frac{2^{1 - ν}}{Γ (ν)} (\sqrt{2 ν} \frac{d}{ρ})^{ν} K_{ν} (\sqrt{2 ν} \frac{d}{ρ})

$C_{\nu }(d)=\sigma ^{2}{\frac {2^{1-\nu }}{\Gamma (\nu )}}{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}^{\nu }K_{\nu }{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}$

जहां एक डिस्टेंस फंक्शन है (जैसे कि यूक्लिडियन डिस्टेंस), गामा फंक्शन है, दूसरी तरह का मॉडिफाइड Bessel फंक्शन है, और पॉजिटिव पैरामीटर हैं। को व्यवहार में या होने के लिए चुना गया बहुत समय है । $d$ $\Gamma$ $K_\nu$ $\rho$ $\nu$ $\nu$ $\frac{3}{2}$ $\frac{5}{2}$

बहुत बार यह कर्नेल मानक गाऊसी कर्नेल की तुलना में बेहतर काम करता है क्योंकि यह 'कम चिकना' है, लेकिन इसके अलावा, क्या कोई अन्य कारण है कि कोई इस कर्नेल को पसंद करेगा? यह कैसे व्यवहार करता है, इसके बारे में कुछ ज्यामितीय अंतर्ज्ञान या प्रतीत होता है कि गुप्त फार्मूला के कुछ स्पष्टीकरण की अत्यधिक सराहना की जाएगी।

spatial gaussian-process kernel-trick

— हाओची किआंग
स्रोत

18

@DahnJahn अच्छा जवाब के अलावा, मैंने सोचा कि मैं थोड़ा और अधिक कहने की कोशिश करूंगा कि बेसेल और गामा फ़ंक्शन कहाँ से आते हैं। कोविरियन फंक्शन में पहुंचने के लिए एक शुरुआती बिंदु Bochner का प्रमेय है।

प्रमेय (Bochner) एक निरंतर स्थिर कार्य सकारात्मक निश्चित है यदि और केवल if एक परिमित सकारात्मक माप का फूरियर रूपांतरण है: $k(x, y) = \widetilde{k}(|x − y|)$ $\widetilde{k}$
$\tilde{k} (t) = \int_{R} e^{- i ω t} d µ (ω)$ $\widetilde{k}(t) = \int_{\mathbb{R}} e^{−iωt}dµ(ω)$

इससे आप यह अनुमान लगा सकते हैं कि Matérn covariance मैट्रिक्स व्युत्पन्न के रूप में फूरियर रूपांतरण के रूप में (स्रोत) है । यह सब अच्छा है, लेकिन यह वास्तव में हमें यह नहीं बताता है कि आप द्वारा दिए गए इस परिमित सकारात्मक उपाय पर कैसे पहुंचे । खैर, यह एक स्टोकेस्टिक प्रक्रिया का (पावर) स्पेक्ट्रल घनत्व है । $\frac{1}{(1+\omega^2)^p}$ $\frac{1}{(1+\omega^2)^p}$ $f(x)$

कौन सी स्टोकेस्टिक प्रक्रिया? यह ज्ञात है कि Matérn covariance फ़ंक्शन के साथ पर एक यादृच्छिक प्रक्रिया स्टोकेस्टिक आंशिक अंतर समीकरण (SPDE) जहां इकाई विचरण के साथ गाऊसी सफेद शोर है, लाप्लास ऑपरेटर है, और (मुझे लगता है कि यह Cressie और Wikle में है )। $\mathbb{R}^d$

(κ^{2} - ∆)^{α / 2} X (s) = φ W (s),

$(κ^2 − ∆)^{α/2} X(s) = φW(s),$

W (s)

$W(s)$

Δ = \sum_{i = 1}^{d} \frac{\partial^{2}}{\partial x_{i}^{2}}

$\Delta = \sum_{i=1}^d \frac{\partial^2}{\partial x^2_i}$

α = ν + d / 2

$α =ν + d/2$

इस विशेष SPDE / स्टोचैस्टिक प्रक्रिया को क्यों चुनें? मूल स्थानिक आँकड़ों में है जहाँ यह तर्क दिया गया है कि सबसे सरल और प्राकृतिक सहसंयोजक है जो में अच्छी तरह से काम करता है : $\mathbb{R}^2$

घातीय सहसंबंध समारोह एक आयाम में एक प्राकृतिक सहसंबंध है, क्योंकि यह एक मार्कोव प्रक्रिया से मेल खाता है। दो आयामों में यह अब ऐसा नहीं है, हालांकि भूवैज्ञानिक कार्यों में घातीय एक सामान्य सहसंबंध समारोह है। व्हिटलेस (1954) ने लाप्लास प्रकार के एक स्टोकेस्टिक अंतर समीकरण के अनुरूप सहसंबंध को निर्धारित किया:

$[{(\frac{\partial}{\partial t_{1}})}^{2} + {(\frac{\partial}{\partial t_{2}})}^{2} - κ^{2}] X (t_{1}, t_{2}) = ϵ (t_{1}, t_{2})$ $\left[ \left(\frac{\partial}{\partial t_1}\right)^2 + \left(\frac{\partial}{\partial t_2}\right)^2 - \kappa^2 \right] X(t_1, t_2) = \epsilon(t_1 , t_2)$ जहां सफेद शोर है। संबंधित असतत जाली प्रक्रिया एक दूसरे क्रम का ऑटोरेजेशन है। (स्रोत) $\epsilon$

मेटरन समीकरण से जुड़े एसडीई में शामिल प्रक्रियाओं के परिवार में एक कण के ब्राउनियन गति से गुजरने वाले ऑरेंस्टीन-उहलेनबेक मॉडल शामिल हैं। आम तौर पर, आप प्रत्येक पूर्णांक लिए प्रक्रियाओं के परिवार के लिए एक पावर स्पेक्ट्रम को परिभाषित कर सकते हैं जिसमें एक Matérn परिवार सहसंयोजक भी होता है। यह रासमुसेन और विलियम्स के परिशिष्ट में है। $AR(1)$ $AR(p)$ $p$

यह सहसंयोजक कार्य Matérn क्लस्टर प्रक्रिया से संबंधित नहीं है।

संदर्भ

Cressie, नोएल, और क्रिस्टोफर के। आँकड़ों के लिए आँकड़े-लौकिक डेटा। जॉन विली एंड संस, 2015।

गुट्टोर्प, पीटर, और तिलमन गेनिंग। "मैट्रन सहसंबंध परिवार पर XLIX की संभावना और आंकड़ों के इतिहास में अध्ययन।" बायोमेट्रिक 93.4 (2006): 989-995।

मशीन लर्निंग के लिए रासमुसेन, CE और विलियम्स, CKI गाऊसी प्रक्रियाएं। एमआईटी प्रेस, 2006।

— MachineEpsilon
स्रोत

2

एक आयामी मामले में, आकार के साथ Matern सहप्रसरण के साथ एक सकारात्मक पूर्णांक है कि एक सतत समय autoregressive प्रक्रिया के के आदेश के । हालांकि, सभी मॉडल में एक मेटरन कोवरियन नहीं है।

ν = p - 1 / 2

$\nu = p - 1/2$

p

$p$

CAR (p)

$\text{CAR}(p)$

p

$p$

CAR (p)

$\text{CAR}(p)$

— यवेस

यह मेरी ओर से एक गलत गलतफहमी है, मैं जवाब को अपडेट करूंगा। धन्यवाद!

— मशीनएपिलोन

16

मुझे नहीं पता, लेकिन मुझे यह सवाल बहुत दिलचस्प लगा और यहां मुझे इस पर थोड़ा पढ़ने के बाद मिला।

के कुछ मूल्यों के लिए , Matérn covariance फ़ंक्शन को घातीय और बहुपद के उत्पाद के रूप में व्यक्त किया जा सकता है । उदाहरण के लिए : यह तो बहुत कि आश्चर्य की बात नहीं है, जैसा कि , वास्तव में converges करने के लिए गाऊसी RBF : के लिए , Matérn covariance फ़ंक्शन पूर्ण घातांक कर्नेल $\nu$ $\nu = 5/2$

C_{5 / 2} (d) = σ^{2} (1 + \frac{\sqrt{5} d}{ρ} + \frac{5 d^{2}}{3 ρ^{2}}) \exp (- \frac{\sqrt{5} d}{ρ})

$C_{5/2}(d) = \sigma^2\left(1 + \frac{\sqrt 5 d}{\rho} + \frac{5d^2}{3\rho^2} \right) \exp \left(- \frac{\sqrt 5 d}{\rho}\right)$

ν \to \infty

$\nu \to \infty$

C_{ν}

$C_\nu$

lim_{ν \to \infty} C_{ν} (d) = σ^{2} \exp (- \frac{d^{2}}{2 ρ^{2}})

$\lim_{\nu \to \infty} C_\nu(d) = \sigma^2 \exp \left( -\frac{d^2}{2\rho^2}\right)$

ν = 1 / 2

$\nu = 1/2$

C_{1 / 2} (d) = σ^{2} \exp (- \frac{d}{ρ})

$C_{1/2}(d) = \sigma^2 \exp\left( -\frac{d}{\rho} \right)$

इसके अलावा, पैरामीटर के साथ Matérn सहप्रसरण समारोह के साथ एक गाऊसी प्रक्रिया है टाइम विभेदक । $\nu$ $\lceil \nu \rceil -1$

यह रासमुसेन और विलियम्स (2006) से ली गई एक तस्वीर पर काफी बारीकी से दिखाया गया है

में स्थानिक डाटा का अंतर्वेशन , स्टीन (जो वास्तव में Matérn सहप्रसरण समारोह के नाम का प्रस्ताव) का तर्क है (पृ। 30) कि गाऊसी सहप्रसरण समारोह के अनंत differentiability शारीरिक प्रक्रियाओं के लिए अवास्तविक परिणाम प्राप्त होते हैं, का केवल एक छोटा सा अंश निरंतर अवलोकन के बाद से अंतरिक्ष / समय, सिद्धांत में, पूरे कार्य को प्राप्त करना चाहिए। उन्होंने इस प्रकार मैट्रन संस्करण को एक सामान्यीकरण के रूप में प्रस्तावित किया जो भौतिक प्रक्रियाओं को अधिक वास्तविक रूप से मेल करने में सक्षम है।

सारांश

मेटरन कोवरियनस समारोह को गॉसियन रेडियल आधार फ़ंक्शन के सामान्यीकरण के रूप में देखा जा सकता है । इसमें पूर्ण घातीय कर्नेल भी शामिल है, जो मौलिक रूप से अलग-अलग परिणाम देता है, और अपनी परिमित भिन्नता (परिमित लिए ) के कारण शारीरिक प्रक्रियाओं को पकड़ने में बेहतर है । $\nu$

बेसेल फ़ंक्शन की उपस्थिति की रहस्यमयता के लिए, मैं इसके पीछे और अंतर्ज्ञान देखना पसंद करूंगा, लेकिन मुझे लगता है कि यह में इसका (asymptotic) व्यवहार ठीक है जिसने इस संदर्भ में इसे उपयोगी बनाया और स्टीन को रहस्यमय बनाने के लिए नेतृत्व किया। Matérn covariance फ़ंक्शन को परिभाषित करें। यह निश्चित रूप से इस संभावना से इंकार नहीं करता है कि वहाँ एक सुंदर तर्क है कि क्यों यह सब सच है। $\nu$

— डॅन
स्रोत

1

(+1) मैं उत्सुक था कि क्या मैट्रन की किताब pub.epsilon.slu.se/10033/1/ में इस सहसंयोजक समारोह की व्याख्या या व्युत्पत्ति हुई थी ? मैं अब तक इसका पता नहीं लगा पाया हूं। यह सहसंयोजक कार्य ऐसा लगता है कि स्टीन की पुस्तक में इसका प्रमुख स्थान है, इसलिए मैं और अधिक जानने के लिए उत्सुक हूं।

— मशीनएपिलोन

@Machineepsilon Matérn हर वास्तव में फ़ंक्शन का उल्लेख / परिभाषित करता है? मुझे स्टीन की किताब से यह अहसास हुआ कि वह इसके साथ आई है और केवल इसका नाम मेटरन के नाम पर रखा गया है।

— दाहन

मुझे यकीन नहीं है, कि मैं क्या पता लगाना चाहता था थोड़े है! मेरे पास एक नज़र रखने की कोशिश होगी क्योंकि रासमुसेन पुस्तक का संदर्भ देते हैं।

— मशीनएपिलोन