एसवीएम एल्गोरिथ्म में, वेक्टर डब्ल्यू अलग करने वाले हाइपरप्लेन के लिए क्यों है?

13

मैं मशीन लर्निंग की शुरुआत कर रहा हूं। एसवीएम में, अलग होने वाले हाइपरप्लेन को रूप में परिभाषित किया गया है । क्यों हम वेक्टर ऑर्थोगोनल को अलग करने वाले हाइपरप्लेन कहते हैं? $y = w^T x + b$ $w$

machine-learning svm

— चोंग झेंग
स्रोत

3

इसी तरह के सवाल का जवाब (तंत्रिका नेटवर्क के लिए) यहाँ है ।

— बोगट्रॉन

@bogatron - मैं आपसे पूरी तरह सहमत हूँ। लेकिन मेरे सिर्फ एक एसवीएम विशिष्ट जवाब।

— अनिटल्डप्रोग्रामर

2

सिवाय इसके कि नहीं है। आपका उत्तर सही है लेकिन इसके बारे में ऐसा कुछ नहीं है जो एसवीएम के लिए विशिष्ट हो (न ही होना चाहिए)। एक वेक्टर समीकरण है जो हाइपरप्लेन को परिभाषित करता है।

w^{T} x = b

$w^{T}x=b$

— बोगट्रॉन

10

ज्यामितीय, w वेक्टर लाइन द्वारा परिभाषित के लिए ओर्थोगोनल निर्देशित है । इसे निम्नलिखित रूप से समझा जा सकता है: $w^{T} x = b$

पहले । अब यह स्पष्ट है कि सभी वैक्टर, , लुप्त हो रहे आंतरिक उत्पाद के साथ इस समीकरण को संतुष्ट करते हैं, अर्थात इस समीकरण को पूरा करने के लिए सभी वैक्टर orthogonal। $b = 0$ $x$ $w$

अब हाइपरप्लेन को एक सदिश पर मूल से दूर अनुवाद करें a। विमान के लिए समीकरण अब हो जाता है: , यानी हम भरपाई के लिए है कि लगता है , जो वेक्टर के प्रक्षेपण है वेक्टर पर । $(x − a)^{T} w = 0$ $b = a^{T} w$ $a$ $w$

व्यापकता के नुकसान के बिना हम इस प्रकार विमान के लिए लंबवत चुन सकते हैं, जिस स्थिति में लंबाई जो मूल और हाइपरप्लेन के बीच सबसे छोटी, ऑर्थोगोनल दूरी का प्रतिनिधित्व करता है। $\vert\vert a \vert\vert = \vert b \vert /\vert\vert w\vert\vert$

इसलिए वेक्टर को अलग करने वाले हाइपरप्लेन के लिए ऑर्थोगोनल कहा जाता है। $w$

— untitledprogrammer
स्रोत

5

कारण है कि अति विमान सामान्य है इसलिए है क्योंकि हम इसे उस तरह से होना करने के लिए निर्धारित किए हैं: $w$

मान लीजिए कि हमारे पास 3 डी स्पेस में एक (हाइपर) प्लेन है। चलो यानी इस विमान पर एक बिंदु । इसलिए इस बिंदु पर उत्पत्ति से वेक्टर सिर्फ । मान लीजिए कि हमारे पास विमान पर एक मनमाना बिंदु है। शामिल होने वाले वेक्टर $P_0$ $P_0 = x_0, y_0, z_0$ $(0,0,0)$ $<x_0,y_0,z_0>$ $P (x,y,z)$ $P$ और तब इसके द्वारा दिया जाता है: ध्यान दें कि यह वेक्टर विमान में स्थित है। $P_0$

\vec{पी} - \vec{{पी}_{0}} = < एक्स - {एक्स}_{0}, y - y_{0}, z - z_{0} >

$\vec{P} - \vec{P_0} = <x-x_0, y-y_0, z-z_0>$

आइए अब विमान को सामान्य (ओर्थोगोनल) वेक्टर हो। ध्यान दें कि सिर्फ एक संख्या है और के बराबर है में हमारे मामले, जबकि सिर्फ और $\hat{n}$

\hat{n} ∙ (\vec{पी} - \vec{{पी}_{0}}) = 0

$\hat{n} \bullet (\vec{P}-\vec{P_0}) = 0$

\hat{n} ∙ \vec{पी} - \hat{n} ∙ \vec{{पी}_{0}} = 0

$\hat{n} \bullet \vec{P}- \hat{n} \bullet \vec{P_0} = 0$

- \hat{n} ∙ \vec{P_{0}}

$-\hat{n} \bullet \vec{P_0}$

b

$b$

\hat{n}

$\hat{n}$

w

$w$

\vec{P}

$\vec{P}$

x

$x$

w

$w$

— शेहरर मलिक
स्रोत

2

$w^Tx + b = 0$ $x_a$ $x_b$

w^{टी} {एक्स}_{ए} + ख = 0 w^{टी} {एक्स}_{ख} + ख = 0

$\begin{equation} w^Tx_a + b = 0 \\ w^Tx_b + b = 0 \end{equation}$

$w^T.(x_a - x_b) = 0$ $x_a - x_b$ $x_b$ $x_a$ $w^T.(x_a - x_b)$ $w^T$ $x_a - x_b$

— adityagaydhani
स्रोत

0

एक हाइपरप्लेन के लिए एक वेक्टर के बीजीय परिभाषा का उपयोग करते हुए:

$\forall \ x_1, x_2$

w^{टी} ({एक्स}_{1} - {एक्स}_{2}) = (w^{टी} {एक्स}_{1} + ख) - (w^{टी} {एक्स}_{2} + ख) = 0 - 0 = 0 ◻ ।

$w^T(x_1-x_2)=(w^Tx_1 + b)-(w^Tx_2 + b)=0-0=0 \ \small\Box.$

— Indominus
स्रोत