आप दो गाऊसी प्रक्रियाओं की तुलना कैसे करते हैं?

कुल्बैक-लिबलर विचलन दो संभावना घनत्व कार्यों की तुलना करने के लिए एक मीट्रिक है, लेकिन दो जीपी के और की तुलना करने के लिए किस मीट्रिक का उपयोग किया जाता है ? $X$ $Y$

gaussian-process metric

— पुष्कर
स्रोत

d (X, Y) = E [sup_{t} | X (t) - Y (t) |]

$d(X,Y)=\mathbb{E}\left[ \sup_t |X(t)-Y(t)| \right]$

— ज़ेन

@ ज़ेन: यदि आपके पास समय है, तो मुझे इस दूरी मीट्रिक के बारे में अधिक जानने की दिलचस्पी है।

— नील जी

हाय, नील। मैं इसके बारे में ज्यादा नहीं जानता। कृपया, मेरे उत्तर को देखें।

— ज़ेन

जवाबों:

यह याद रखें कि गौसियन प्रक्रियाओं का वितरण संभवतया अनंत लिए मल्टीवेरेट गौसियन का विस्तार है । इस प्रकार, आप जीपी प्रायिकता वितरणों के बीच केएल विचलन का उपयोग पर एकीकृत करके कर सकते हैं : $\mathcal{X}\to\mathbb{R}$ $\mathcal{X}$ $\mathbb{R}^\mathcal{X}$

D_{K L} (P | Q) = \int_{R^{X}} \log \frac{d P}{d Q} d P .

$D_{KL}(P|Q)=\int_{\mathbb{R}^\mathcal{X}} \log \frac{dP}{dQ} dP\,.$

आप अपने जीपी वितरण के अनुसार बार-बार नमूने प्रक्रियाओं द्वारा एक विखंडित पर संख्यात्मक रूप से इस मात्रा को अनुमानित करने के लिए MC विधियों का उपयोग कर सकते हैं । मुझे नहीं पता कि क्या अभिसरण गति पर्याप्त रूप से अच्छी है ... $\mathcal{X}$

इस बात पर ध्यान दें कि यदि साथ परिमित है , तो यदि आप बहुभिन्नरूपी सामान्य वितरण के लिए केएल विचलन पर वापस आते हैं: $\mathcal{X}$ $|\mathcal{X}|=n$

D_{K L} (G P (μ_{1}, K_{1}), G P (μ_{2}, K_{2})) = \frac{1}{2} (t r (K_{2}^{- 1} K_{1}) + (μ_{2} - μ_{1})^{⊤} K_{2}^{- 1} (μ_{2} - μ_{1}) - n + \log \frac{| K_{2} |}{| K_{1} |})

$D_{KL}\big(\mathcal{GP}(\mu_1,K_1), \mathcal{GP}(\mu_2,K_2)\big) = \frac 1 2 \Big(tr(K_2^{-1}K_1) + (\mu_2\!-\!\mu_1)^\top K_2^{-1}(\mu_2\!-\!\mu_1)-n+\log\frac{|K_2|}{|K_1|}\Big)$

— एमिल
स्रोत

मैं आपके द्वारा उल्लिखित दो साधनों (mu1 और mu2) की गणना कैसे कर सकता हूं। या मुझे उन्हें गॉसियन प्रक्रिया के लिए हमेशा की तरह शून्य के बराबर लेना चाहिए?

— मराट जकीरोव

याद रखें कि अगर एक गॉसियन प्रक्रिया है जिसका मतलब है फ़ंक्शन और सहसंयोजक फ़ंक्शन , तो, हर , यादृच्छिक वेक्टर का अर्थ वेक्टर और सहसंयोजक मैट्रिक्स साथ एक बहुभिन्नरूपी सामान्य वितरण है। , जहां हमने सामान्य संक्षिप्त नाम । $X:T\times \Omega\to\mathbb{R}$ $m$ $K$ $t_1,\dots,t_k\in T$ $(X(t_1),\dots,X(t_k))$ $(m(t_1),\dots,m(t_k))$ $\Sigma=(\sigma_{ij})=(K(t_i,t_j))$ $X(t)=X(t,\,\cdot\,)$

प्रत्येक बोधन एक वास्तविक कार्य है जिसका डोमेन सूचकांक । मान लीजिए कि । दो को देखते हुए गाऊसी प्रक्रियाओं और , दो प्रतीति के बीच एक आम दूरी और है। इसलिए, यह दो प्रक्रियाओं के बीच की दूरी को परिभाषित करने के प्राकृतिक लगता है और के रूप में $X(\,\cdot\,,\omega)$ $T$ $T=[0,1]$ $X$ $Y$ $X(\,\cdot\,,\omega)$ $Y(\,\cdot\,,\omega)$ $\sup_{t\in[0,1]} |X(t,\omega) - Y(t,\omega)|$ $X$ $Y$

d (X, Y) = E [sup_{t \in [0, 1]} | X (t) - Y (t) |] . (*)

$d(X,Y) = \mathbb{E}\!\left[\sup_{t\in[0,1]} \left| X(t) - Y(t)\right|\right] \, . \qquad (*)$ मुझे नहीं पता कि इस दूरी के लिए एक विश्लेषणात्मक अभिव्यक्ति है, लेकिन मेरा मानना है कि आप एक मोंटे कार्लो सन्निकटन की गणना निम्नानुसार कर सकते हैं। कुछ ठीक ग्रिड को ठीक करें , और नमूने आकर्षित और से सामान्य यादृच्छिक वैक्टर और , क्रमशः, । लगभग by

0 \leq t_{1} < \dots < t_{k} \leq 1

$0\leq t_1<\dots<t_k\leq 1$

(x_{i 1}, \dots, x_{i k})

$(x_{i1},\dots,x_{ik})$

(y_{i 1}, \dots, y_{i k})

$(y_{i1},\dots,y_{ik})$

(X (t_{1}), \dots, X (t_{k}))

$(X(t_1),\dots,X(t_k))$

(Y (t_{1}), \dots, Y (t_{k}))

$(Y(t_1),\dots,Y(t_k))$

i = 1, \dots, N

$i=1,\dots,N$

d (X, Y)

$d(X,Y)$

\frac{1}{N} \sum_{i = 1}^{N} max_{1 \leq j \leq k} | x_{i j} - y_{i j} | .

$\frac{1}{N} \sum_{i=1}^N \max_{1\leq j\leq k} |x_{ij}-y_{ij}| \, .$

— जेन
स्रोत

आप प्रत्येक वेक्टर से नमूना कैसे लेते हैं? यदि आप प्रत्येक जीपी में केवल उन साधनों का नमूना लेते हैं जिन्हें आप भिन्नताओं को ध्यान में नहीं रखते हैं। अन्यथा आपको एक नमूना तकनीक विकसित करनी होगी जो सुसंगत हो।

— पुष्कर

यह एक उत्कृष्ट संसाधन है: gaussianprocess.org/gpml/chapters

— Zen

आप इस प्रश्न के सभी उत्तर भी पढ़ सकते हैं: आंकड़े.stackexchange.com/questions/30652/…

— Zen

वेतन ध्यान है कि इस के बाद से एक दूरी नहीं है

। केएल दो वितरण और नहीं दो प्रतीति तुलना के रूप में, दो ग्राम पंचायतों के बीच जेन की दूरी के रूप में परिभाषित किया जाना चाहिए

, और हम है कि

d (X, X) \neq 0

$d(X,X) \neq 0$

d (G_{1}, G_{2}) = E_{X \sim G_{1}, Y \sim G_{2}} [sup_{t} | X (t) - Y (t) |]

$d(G_1,G_2)=\mathbb{E}_{X\sim G_1, Y\sim G_2}[\sup_t |X(t)-Y(t)|]$

गैर के लिए गाऊसी प्रक्रिया विकृत

।

E_{X \sim G, Y \sim G} sup_{t} | X (t) - Y (t) | > 0

$\mathbb{E}_{X\sim G, Y\sim G} \sup_t |X(t)-Y(t)| > 0$

G

$G$

— एमिल

@Emile: यह कैसे है कि

का उपयोग कर परिभाषा

d (X, X) \neq 0

$d(X,X)\neq 0$

(*)

$(*)$

— ज़ेन