एसवीएम में गुठली का अंतर?

Question

क्या कोई मुझे SVM ​​में गुठली के बीच का अंतर बता सकता है:

1. रैखिक
2. बहुपद
3. गाऊसी (आरबीएफ)
4. अवग्रह

क्योंकि जैसा कि हम जानते हैं कि कर्नेल का उपयोग हमारे इनपुट स्थान को उच्च आयामीता वाले स्थान में मैप करने के लिए किया जाता है। और उस सुविधा स्थान में, हम रैखिक अलग करने योग्य सीमा पाते हैं।

उनका उपयोग कब किया जाता है (किस शर्त के तहत) और क्यों?

Answer 1

रैखिक कर्नेल वह है जो आप अपेक्षा करेंगे, एक रैखिक मॉडल। मेरा मानना ​​है कि बहुपद कर्नेल समान है, लेकिन सीमा कुछ परिभाषित लेकिन मनमाना क्रम है

(उदाहरण के लिए आदेश 3: )।$a= b_1 + b_2 \cdot X + b_3 \cdot X^2 + b_4 \cdot X^3$

RBF डेटा बिंदुओं के आस-पास सामान्य घटता का उपयोग करता है, और इन पर हस्ताक्षर करता है ताकि निर्णय सीमा को एक प्रकार की टोपोलॉजी स्थिति से परिभाषित किया जा सके जैसे कि वक्र जहां योग 0.5 के मान से ऊपर है। (यह तस्वीर देखें )

मैं निश्चित नहीं हूं कि सिग्मॉइड कर्नेल क्या है, जब तक कि यह लॉजिस्टिक रिग्रेशन मॉडल के समान नहीं है, जहां एक लॉजिस्टिक फ़ंक्शन का उपयोग घटता को परिभाषित करने के लिए किया जाता है, जहां लॉजिस्टिक वैल्यू कुछ मूल्य (मॉडलिंग संभावना) से अधिक होती है, जैसे कि 0.5 सामान्य मामला।

Comments

तो, हम रैखिक अलग करने योग्य हाइपरप्लेन (सीमा) प्राप्त कर सकते हैं, अगर हम रैखिक कर्नेल का उपयोग करते हैं ?? और अगर हम बहुपद या आरबीएफ कर्नेल का उपयोग करते हैं, (बहुपद के लिए) हाइपरलेन समूहित वर्गों (आरबीएफ के लिए) और वक्र का एक चक्र हो सकता है ?? क्या वह सही है?? scikit-learn.org/stable/modules/svm.html

— user3378327

प्रत्येक गुठली उनकी संबंधित सीमाओं के उच्च आयाम संस्करणों के लिए काम करती है। क्या इससे आपके प्रश्न का उत्तर मिलता है? आप किसी भी कर्नेल के बारे में तीन आयामों तक सीमित नहीं हैं जिनसे मैं अवगत हूं।

— जॉन बुट्टर

मैं इसे स्पष्ट करना चाहता हूं। तो रैखिक कर्नेल का उपयोग करके सीमा एक रैखिक है? RBF के लिए समूहीकृत वर्ग के एक चक्र की तरह है ?? और बहुपद के लिए, यह बहुपद की डिग्री के आधार पर वक्र हो सकता है ??

— user3378327

मैं यह नहीं कहूंगा कि आरबीएफ समूहबद्ध वर्ग का एक चक्र है। मेरी समझ यह है कि यह प्रत्येक डेटा बिंदु पर एक सामान्य वितरण के आधार पर एक फ़ंक्शन लागू करता है, और इन कार्यों को पूरा करता है। फिर उस फ़ंक्शन पर एक निश्चित मान का प्रतिनिधित्व करने वाले वक्र द्वारा एक सीमा बनाई जाती है। यदि कोई व्यक्ति जिसने एसवीएम लाइब्रेरी में योगदान दिया है, तो वह इसमें मदद कर सकता है। मुझे लगता है कि अन्य दो गुठली की आपकी समझ सही है।

— जॉन येट्टर

यू ने कहा कि लाइनर कर्नेल वही है जिसकी मुझे उम्मीद थी (कर्नेल का उपयोग करके लिनियरली अलग श्रेणी प्राप्त करने के लिए)। और एसवीएम क्लासिफायर का उपयोग करके, हमने इसे लिनियर एसवीएम कहा। लेकिन अगर हम एसवीएम में किसी भी कर्नेल के बिना लिनेरेली अलग होने योग्य डेटा कैसे प्राप्त कर सकते हैं। हम इसे क्या कहते हैं ?? फिर भी लाइनर एसवीएम या गैर लाइनर एसवीएम ??

— user3378327

Answer 2

गुठली के बारे में पाठक के बुनियादी ज्ञान पर भरोसा करना।

रैखिक कर्नेल: $K(X, Y) = X^T Y$

बहुपद गिरी: $K(X, Y) = (γ\cdot X^T Y + r)^d , γ > 0$

$K(X, Y) = \exp(\|X-Y\|^2/2σ^2)$$\exp(-γ \cdot \|X - Y\|^2), γ > 0$

$K(X, Y) = \tanh(γ\cdot X^TY + r)$

$r$$d$$γ$

Comments

हालांकि आपके उत्तर की जानकारी सही है, मुझे नहीं लगता कि यह यहां उठाए गए प्रश्न का उत्तर देता है, जो कि उन दोनों के बीच व्यावहारिक अंतर के बारे में अधिक है, अर्थात जब एक या दूसरे का उपयोग करना है।

— फायरबग

आश्चर्यजनक रूप से इन सरल परिभाषाओं का आना मुश्किल है। गुठली के अंतर के बारे में बात करते समय उन्हें प्रस्तुत किया जाना चाहिए, फिर भी उन्हें फैलाने के लिए एक व्यापक प्रसार विफलता है।

— कैममिल

क्या इनका कोई आधिकारिक स्रोत है? (मैंने उनका परीक्षण किया और वे सही प्रतीत होते हैं, लेकिन मैं उनका हवाला देना चाहूंगा।)

— क्रिश्चियन एरिकसन

Answer 3

इस प्रश्न का उत्तर सैद्धांतिक और व्यावहारिक दृष्टिकोण से दिया जा सकता है। नो-फ्री लंच प्रमेय के अनुसार सैद्धांतिक से कहा गया है कि एक कर्नेल के लिए दूसरे से बेहतर काम करने की कोई गारंटी नहीं है। यह एक ऐसी प्राथमिकता है जिसे आप कभी नहीं जानते हैं और न ही आप पता लगा सकते हैं कि कौन सा कर्नेल बेहतर काम करेगा।

व्यावहारिक दृष्टिकोण से, निम्नलिखित पृष्ठ से परामर्श करें:

एसवीएम के लिए कर्नेल का चयन कैसे करें?

Answer 4

यह दर्शाता है कि क्या कर्नेल "के लिए अच्छा है" या जब इसका उपयोग किया जाना चाहिए, तो कोई कठिन और तेज़ नियम नहीं हैं।

यदि आप क्लासिफायरिफायर / रेजिस्टर एक दिए गए कर्नेल के साथ अच्छा प्रदर्शन कर रहे हैं, तो यह उचित है, यदि नहीं, तो दूसरे को बदलने पर विचार करें।

इनसाइट में आपका प्रदर्शन कैसा हो सकता है, विशेष रूप से अगर यह एक वर्गीकरण मॉडल है, तो कुछ विज़ुअलाइज़ेशन उदाहरणों की समीक्षा करके प्राप्त किया जा सकता है, जैसे कि https://gist.github.com/WittmannF/60680723ed8dd0cb9930a7448f7805