बेयस क्लासिफायर आदर्श क्लासिफायरियर क्यों है?

11

यह आदर्श मामला माना जाता है जिसमें श्रेणियों को अंतर्निहित संभावना संरचना पूरी तरह से जानी जाती है।

बेयस क्लासिफायर के साथ ऐसा क्यों है कि हम सबसे अच्छा प्रदर्शन प्राप्त कर सकते हैं जो हासिल किया जा सकता है?

इसके लिए औपचारिक प्रमाण / स्पष्टीकरण क्या है? जैसा कि हम हमेशा अन्य सभी सहपाठियों के प्रदर्शन की तुलना करने के लिए एक बेंचमार्क के रूप में बेस क्लासिफायर का उपयोग करते हैं।

— वत्सल
स्रोत

9

बेयस क्लासिफायर के साथ ऐसा क्यों है कि हम सबसे अच्छा प्रदर्शन प्राप्त कर सकते हैं जो हासिल किया जा सकता है? इसके लिए औपचारिक प्रमाण / स्पष्टीकरण क्या है?

आमतौर पर, एक डाटासेट $D$ से मिलकर माना जाता है $n$ आईआईडी नमूने $x_i$ एक वितरण है कि आपके डेटा उत्पन्न की। एक नमूना दिया इसके बाद, आपको दिए गए आंकड़ों से एक भविष्य कहनेवाला मॉडल का निर्माण $x_i$ , तुम वर्ग की भविष्यवाणी है, जबकि नमूने के असली वर्ग है । $\hat{f}(x_i)$ $f(x_i)$

हालांकि, सिद्धांत रूप में, आप एक विशेष मॉडल का चयन करने के लिए नहीं तय कर सकता है , बल्कि पर विचार सभी संभव मॉडल एक ही बार में और उन्हें एक में किसी भी तरह के गठबंधन बड़ा मॉडल । $\hat{f}_\text{chosen}$ $\hat{f}$ $\hat F$

बेशक, डेटा को देखते हुए, कई छोटे मॉडल्स काफी हद तक अनुचित या अनुचित हो सकते हैं (उदाहरण के लिए, मॉडल जो लक्ष्य के केवल एक मूल्य का अनुमान लगाते हैं, भले ही आपके डेटासेट $D$ में लक्ष्य के कई मूल्य हों )।

किसी भी मामले में, आप नए नमूनों के लक्ष्य मूल्य की भविष्यवाणी करना चाहते हैं, जो कि $x_i$ s के समान वितरण से तैयार किए गए हैं । एक अच्छा उपाय $e$ अपने मॉडल के प्रदर्शन की होगी

इ (नमूना) = पी [च (एक्स) = नमूना (एक्स)],

$e(\text{model}) = P[f(X) = \text{model}(X)]\text{,}$ यानी, संभावना है कि आप एक बेतरतीब ढंग से नमूना के लिए सच लक्ष्य मूल्य का अनुमान है

X

$X$ ।

बेयस फॉर्मूला का उपयोग करके, आप गणना कर सकते हैं कि क्या संभावना है कि एक नया सैंपल $x$ में टारगेट वैल्यू $v$ , जिसे डेटा $D$ दिया गया है :

पी (v | डी) = \underset{\hat{च}}{Σ} पी (v | \hat{च}) पी (\hat{च} | डी) ।

$P(v\mid D) = \sum_{\hat{f}} P(v\mid \hat{f}) P(\hat{f}\mid D)\text{.}$ उस पर जोर देना चाहिए

आम तौर पर $P(v\mid \hat{f})$ या तो है $0$ या $1$ , के बाद से की एक नियतात्मक समारोह है , $\hat{f}$ $x$
आम तौर पर नहीं, लेकिन लगभग हर समय, यह असंभव अनुमान लगाने के लिए है $P(\hat{f}\mid D)$ (ऊपर उल्लिखित तुच्छ मामलों को छोड़कर),
आम तौर पर नहीं है, लेकिन लगभग सभी समय, संभव मॉडलों की संख्या बहुत बड़ा, के लिए ऊपरी राशि का मूल्यांकन किया जाना है। $\hat{f}$

इसलिए, यह प्राप्त करने के लिए / अनुमान बहुत कठिन है $P(v\mid D)$ अधिकांश मामलों में।

अब, हम Optimal Bayes क्लासिफायरियर की ओर आगे बढ़ते हैं। के लिए किसी दिए गए $x$ , यह मूल्य भविष्यवाणी के बाद से यह सब संभव लक्ष्य मूल्यों के बीच सबसे संभावित मूल्य है , इष्टतम Bayes वर्गीकारक प्रदर्शन को मापने अधिकतम ।

\hat{v} = {argmax}_{v} \underset{\hat{च}}{Σ} पी (v | \hat{च}) पी (\hat{च} | डी) ।

$\hat{v} = \text{argmax}_v \sum_{\hat{f}} P(v\mid \hat{f}) P(\hat{f}\mid D)\text{.}$

v

$v$

e (\hat{f})

$e(\hat{f})$

जैसा कि हम हमेशा अन्य सभी सहपाठियों के प्रदर्शन की तुलना करने के लिए एक बेंचमार्क के रूप में बेस क्लासिफायर का उपयोग करते हैं।

शायद, आप बेयस क्लासिफायर के भोले संस्करण का उपयोग करते हैं । यह लागू करना आसान है, ज्यादातर समय में अच्छी तरह से काम करता है, लेकिन केवल $P(v\mid D)$ एक भोले अनुमान की गणना करता है ।

— एंटोनी
स्रोत

क्या बेयस क्लासिफायरियर (भोला बेयस नहीं है) बेयस इष्टतम क्लासिफायरियर के समान है ???? और

पूर्व संभावना है?

P (v | f)

$P(v|f)$

— रुईकी

@RuiQi मुझे नहीं लगता कि जैसे बात नहीं है करते Bayes वर्गीकारक। मैं अनुभवहीन बेयस क्लासिफायर और इष्टतम बेय्स क्लासिफायर से अवगत हूं।

— एंटोनी

P (v ∣ \hat{f})

$P(v\mid \hat{f})$

v

$v$

\hat{f}

$\hat{f}$

0

$C_T$ $C_P$

$X$ $X$ $x$

पी ({सी}_{टी} = {सी}_{पी}) = \int_{सब संभव एक्स} च (एक्स) पी ({सी}_{टी} = {सी}_{पी} | एक्स) घ एक्स

$P(C_T=C_P) = \int_{\text{all possible $X$}} f(x)P(C_T=C_P|x) \text{d}x$

$f(x)$ $X$

$x$

$x$ $P(C_T=C_P|x)$ $x$

— सेक्सटस एम्पिरिकस
स्रोत