बिंदुवार उत्पाद के तहत कर्नेल कार्यों की निकटता का प्रमाण

13

मैं कैसे साबित कर सकता हूं कि दो कर्नेल फ़ंक्शन का पॉइंटवाइज़ उत्पाद एक कर्नेल फ़ंक्शन है?

machine-learning kernel-trick

— Gigili
स्रोत

18

बिंदु-वार उत्पाद द्वारा, मेरा मतलब है कि यदि $k_1(x,y), k_2(x,y)$ दोनों वैध कर्नेल फ़ंक्शन हैं, तो उनका उत्पाद

\begin{aligned} क_{पी} (एक्स, y) = क_{1} (एक्स, y) क_{2} (एक्स, y) \end{aligned}

$\begin{align} k_{p}( x, y) = k_1( x, y) k_2(x,y) \end{align}$

एक मान्य कर्नेल फ़ंक्शन भी है।

जब हम मर्सर के प्रमेय का आह्वान करते हैं तो इस संपत्ति को साबित करना सीधा है। चूँकि वैध कर्नेल हैं, हम जानते हैं (मर्सर के माध्यम से) कि उन्हें एक आंतरिक उत्पाद प्रतिनिधित्व स्वीकार करना होगा। चलो निरूपित की फीचर वेक्टर और के लिए एक ही निरूपित । $k_1, k_2$ $a$ $k_1$ $b$ $k_2$

\begin{aligned} क_{1} (एक्स, y) = ए (एक्स)^{टी} ए (y), ए (z) = [ए_{1} (z), ए_{2} (z), ... ए_{म} (z)] \\ क_{2} (एक्स, y) = ख (एक्स)^{टी} ख (y), ख (z) = [ख_{1} (z), ख_{2} (z), ... ख_{एन} (z)] \end{aligned}

$\begin{align} k_1(x,y) = a(x)^T a(y), \qquad a( z ) = [a_1(z), a_2(z), \ldots a_M(z)] \\ k_2(x,y) = b(x)^T b(y), \qquad b( z ) = [b_1(z), b_2(z), \ldots b_N(z)] \end{align}$

तो ऐसा फ़ंक्शन है जो -dim वेक्टर बनाता है, और एक -dim वेक्टर बनाता है। $a$ $M$ $b$ $N$

अगला, हम सिर्फ और संदर्भ में उत्पाद लिखते हैं , और कुछ रीग्रुपिंग करते हैं। $a$ $b$

\begin{aligned} k_{p} (x, y) & = k_{1} (x, y) k_{2} (x, y) \\ = (\sum_{m = 1}^{M} a_{m} (x) a_{m} (y)) (\sum_{n = 1}^{N} b_{n} (x) b_{n} (y)) \\ = Σ_{m = 1}^{म} Σ_{n = 1}^{एन} [ए_{म} (एक्स) ख_{n} (एक्स)] [ए_{म} (y) ख_{n} (y)] \\ = Σ_{म = 1}^{म} Σ_{n = 1}^{एन} {सी}_{म n} (एक्स) {सी}_{म n} (y) \\ = सी (एक्स)^{टी} सी (y) \end{aligned}

$\begin{align} k_{p}(x,y) &= k_1(x,y) k_2(x,y) \\&= \Big( \sum_{m=1}^M a_m(x) a_m(y) \Big) \Big( \sum_{n=1}^N b_n(x) b_n(y) \Big) \\&= \sum_{m=1}^M \sum_{n=1}^N [ a_m(x) b_n(x) ] [a_m(y) b_n(y)] \\&= \sum_{m=1}^M \sum_{n=1}^N c_{mn}( x ) c_{mn}( y ) \\&= c(x)^T c(y) \end{align}$

जहां एक है आयामी वेक्टर, सेंट । $c(z)$ $M \cdot N$ $c_{mn}(z) = a_m(z) b_n(z)$

अब, क्योंकि हम फीचर मैप का उपयोग करते हुए एक आंतरिक उत्पाद के रूप में लिख सकते हैं , हम जानते हैं एक मान्य कर्नेल है (मर्सर के प्रमेय के माध्यम से)। यही सब है इसके लिए। $k_p(x,y)$ $c$ $k_p$

— माइक ह्यूजेस
स्रोत

आप कैसे जानते हैं कि हिल्बर्ट अंतरिक्ष की विशेषता परिमित आयामी है? क्या यह गैर-वियोज्य भी नहीं हो सकता है?

— आंद्रेई ख

आपके पहले पैराग्राफ के अनुसार हम केवल

कर्नेल को जानते हैं

k

$k$

⟹

$\implies$ एक आंतरिक उत्पाद प्रतिनिधित्व का अस्तित्व। लेकिन अपने निष्कर्ष में आप एक आंतरिक उत्पाद प्रतिनिधित्व के अस्तित्व का तात्पर्य है कि जो प्रयोग

कर्नेल है। वह क्यों मान्य है?

k_{p}

$k_p$

— विक्टर ग्लोम्बिक

3

निम्नलिखित प्रमाण के बारे में कैसे:

स्रोत: यूसीकोगो कर्नेल तरीके व्याख्यान , पृष्ठ 5

— PALEN
स्रोत

0

$K1$ $K2$ $k_1(x,y)$ $k_2(x,y)$ $k(x,y) = k_1(x,y)k_2(x,y)$ $K = K1 \circ K2$

$K_3 = K1 \otimes K2$
$K$ $K_3$

— सयाओ झंग
स्रोत