रैखिक विभेदक विश्लेषण और बेयस नियम: वर्गीकरण

रैखिक भेदभाव विश्लेषण और बेयस नियम के बीच क्या संबंध है? मैं समझता हूं कि एलडीए का उपयोग वर्गीकरण में समूह विचरण के बीच और समूह विचरण के अनुपात को कम करने की कोशिश में किया जाता है, लेकिन मुझे नहीं पता कि इसमें बेय्स नियम का उपयोग कैसे करते हैं।

classification discriminant-analysis bayes

— zca0
स्रोत

भेदभावपूर्ण कार्य निकाले जाते हैं ताकि समूह-समूह भिन्नता को अधिकतम-समूह भिन्नता अनुपात में अधिकतम किया जा सके। इसका वर्गीकरण से कोई लेना-देना नहीं है, जो एलडीए का दूसरा और स्टैंड-अलोन चरण है।

— ttnphns

एलडीए में वर्गीकरण निम्नानुसार है (बेयस नियम दृष्टिकोण)। [विभेदकों के निष्कर्षण के बारे में यहां कोई देख सकता है ।]

Bayes प्रमेय के अनुसार, मांग के लिए संभावना है कि हम वर्ग के साथ हैं निपटने , जबकि वर्तमान में बिंदु को देख है , जहां $k$ $x$ $P(k|x) = P(k)*P(x|k) / P(x)$

- बिना शर्त (पृष्ठभूमि) वर्ग की संभावना; - बिना शर्त (पृष्ठभूमि) बिंदु की संभावना; -कक्षा मेंबिंदु की उपस्थिति की संभावना, यदि वर्ग साथ व्यवहार किया जा रहा है। $P(k)$ $k$ $P(x)$ $x$ $P(x|k)$ $x$ $k$ $k$

"वर्तमान में बिंदु अवलोकन " आधार स्थिति होने के नाते, , और इसलिए भाजक को छोड़ा जा सकता है। इस प्रकार, । $x$ $P(x)=1$ $P(k|x) = P(k)*P(x|k)$

एक पूर्व (पूर्व विश्लेषणात्मक) संभावना है कि के लिए देशी वर्ग है ; उपयोगकर्ता द्वारा निर्दिष्ट किया गया है। आमतौर पर डिफ़ॉल्ट रूप से सभी वर्ग बराबर = 1 / number_of_classes प्राप्त करते हैं। गणना करने के लिए , यानी पीछे (के बाद विश्लेषणात्मक) संभावना है कि के लिए देशी वर्ग है , एक पता होना चाहिए । $P(k)$ $x$ $k$ $P(k)$ $P(k)$ $P(k|x)$ $x$ $k$ $P(x|k)$

-प्रति सेप्रायिकता - विभेदकों के लिएनहीं पाया जा सकता है, LDA का मुख्य मुद्दा निरंतर है, असतत नहीं, चर। इस मामले में कोव्यक्त करने की मात्राऔर इसके समानुपातीसंभावना घनत्व(पीडीएफ फ़ंक्शन) है। इसके द्वारा हम के लिए बिंदु गणना पीडीएफ की जरूरत कक्षा में , , में के मूल्यों द्वारा गठित आयामी सामान्य वितरण $P(x|k)$ $P(x|k)$ $x$ $k$ $PDF(x|k)$ $p$ $p$ discriminants। [विकिपीडिया बहुभिन्नरूपी सामान्य वितरण देखें]

P D F (x | k) = \frac{e^{- d / 2}}{(2 π)^{p / 2} \sqrt{| S |})}

$PDF(x|k) = \frac {e^{-d/2}} {(2\pi)^{p/2}\sqrt{\bf |S|})}$

जहाँ - वर्गित महालनोबिस दूरी [विकिपीडिया महालनोबिस दूरी देखें] बिंदु से एक वर्ग केन्द्रक तक के विभेदकों के अंतरिक्ष में ; - सह-विभेदकों के बीच सहसंयोजक मैट्रिक्स , उस वर्ग के भीतर मनाया गया। $d$ $x$ $\bf S$

प्रत्येक वर्ग के लिए इस तरह से गणना करें । के लिए बिंदु और वर्ग मांग के लिए व्यक्त हमारे लिए। लेकिन इसके बाद के संस्करण आरक्षित है कि पीडीएफ असल संभावना है, केवल यह के अनुपात में नहीं है के साथ, हम सामान्य चाहिए $PDF(x|k)$ $P(k)*PDF(x|k)$ $x$ $k$ $P(k)*P(x|k)$ , की राशि से विभाजित सभी वर्गों से अधिक है। उदाहरण के लिए, यदि सभी में 3 वर्ग हैं, , , , तो $P(k)*PDF(x|k)$ $P(k)*PDF(x|k)$ $k$ $l$ $m$

प्वाइंट को एलडीए द्वारा उस वर्ग को सौंपा जाता है जिसके लिए सबसे अधिक है। $x$ $P(k|x)$

$\bf S$ $\bf S$ $\bf |S|=1$ $d$ $\bf S$ $\bf S_w$

जोड़ । एलडीए, फिशर, एलडीए पायनियर को वर्गीकरण के लिए उपरोक्त बेय्स नियम दृष्टिकोण से पहले , एलडीए में अंकों को वर्गीकृत करने के लिए अब तथाकथित फिशर के रैखिक वर्गीकरण कार्यों को प्रस्तावित करने का प्रस्ताव दिया गया है । बिंदु के लिए वर्ग से संबंधित फ़ंक्शन स्कोर रैखिक संयोजन , जहाँ $x$ $k$ $b_{kv1}V1_x+b_{kv2}V2_x+...+Const_k$ विश्लेषण में भविष्यवक्ता चर हैं। $V1, V2,...V_p$

गुणांक , वर्गों की संख्या और किया जा रहा है की जमा भीतर स्तरीय बिखराव मैट्रिक्स के तत्व होने -variables। $b_{kv}=(n-g)\sum_w^p{s_{vw}\bar{V}_{kw}}$ $g$ $s_{vw}$ $p$ $V$

। $Const_k=\log(P(k))-(\sum_v^p{b_{kv}\bar{V}_{kv}})/2$

$x$

— ttnphns
स्रोत

यह बायेसियन दृष्टिकोण सही है? इसके लिए फिशर का दृष्टिकोण क्या है?

— zca0

आपके अनुरोध पर जवाब में जोड़ा गया

— ttnphns

X

$X$

K

$K$

p (K | X)

$p(K|X)$

p (K | X)

$p(K|X)$

K

$K$

और मुझे लगता है कि बेयस का दृष्टिकोण अधिक समझ में आता है, और हमें फिशर के दृष्टिकोण का उपयोग करने की आवश्यकता क्यों है?

— एवोकैडो

हमें जरूरत नहीं है। सिर्फ ऐतिहासिक बात के लिए।

— tnnphns

$x$ $f_1(x)$ $f_2(x)$ $x$ $f_1(x) \geq f_2(x)$ $f_1$ $f_2$

— माइकल आर
स्रोत