मशीन लर्निंग क्लासीफायर बिग-ओ या जटिलता

प्रदर्शन को नए क्लासिफायर किए गए एल्गोरिथ्म के मूल्यांकन के लिए, मैं सटीकता और जटिलता (प्रशिक्षण और वर्गीकरण में बड़ा-ओ) की तुलना करने की कोशिश कर रहा हूं। से मशीन लर्निंग: एक समीक्षा मैं एक पूरी निगरानी classifiers सूची भी एक सटीकता तालिका एल्गोरिदम के बीच से 44 परीक्षण समस्याओं मिलता है, और यूसीआई डेटा repositoy । हालाँकि, मुझे आम क्लासीफायर जैसे बड़े-ओ के साथ एक समीक्षा, कागज या वेब-साइट नहीं मिल सकती है:

C4.5
रिपर (मुझे लगता है कि यह संभव नहीं हो सकता है, लेकिन कौन जानता है)
बैक प्रपोजल के साथ ए.एन.एन.
नाइव बेयसियन
कश्मीर एनएन
SVM

अगर किसी के पास इन क्लासिफायर के लिए कोई अभिव्यक्ति है, तो यह बहुत उपयोगी होगा, धन्यवाद।

— Dinl
स्रोत

आपको निम्नलिखित लेख में रुचि हो सकती है: thekerneltrip.com/machine/learning/… पूर्ण अस्वीकरण, यह मेरा ब्लॉग है :)

— RUser4512

उन स्थानों का पता लगाने में सावधानी बरतें जहां पर अब प्रश्न के मृत-लिंक दिए गए हैं?

— मैट

@ RUser4512 वास्तव में महान ब्लॉग विचार-विमर्श! क्या आपने अंतरिक्ष जटिलता को जोड़ने पर विचार किया है?

— मैट

@matt धन्यवाद :) हाँ, लेकिन शायद एक अन्य लेख में, इस बारे में कहने के लिए बहुत सी बातें हैं!

— RUser4512

चलो = प्रशिक्षण उदाहरणों की संख्या, = सुविधाओं की गतिशीलता और = कक्षाओं की संख्या। $N$ $d$ $c$

फिर प्रशिक्षण में जटिलताएँ होती हैं:

अनुभवहीन Bayes है , यह सब करने की जरूरत है कंप्यूटिंग हर सुविधा मूल्य की आवृत्ति है प्रत्येक वर्ग के लिए। $O(Nd)$ $d_i$
-NN (कुछ लोग तो इसे गैर-मौजूद भी कहते हैं, लेकिन प्रशिक्षण की अंतरिक्ष जटिलता क्योंकि आपको उस डेटा को संग्रहीत करने की आवश्यकता है जिसमें समय भी लगता है)। $k$ $\mathcal{O}(1)$ $\mathcal{O}(Nd)$
गैर-अनुमानित गैर-अनुमानित SVM कर्नेल के आधार पर या । आप कुछ ट्रिक्स के साथ नीचे प्राप्त कर सकते हैं । $O(N^2)$ $O(N^3)$ $O(N^3)$ $O(N^{2.3})$
अनुमानित एसवीएम जहां आर पुनरावृत्तियों की संख्या है। $O(NR)$

परीक्षण जटिलताएं:

Naive Bayes क्योंकि आपको प्रत्येक वर्गों के लिए फ़ीचर मान प्राप्त करना है। $\mathcal{O}(cd)$ $d$ $c$
-NN क्योंकि आपको अपने डेटाबेस में हर बिंदु पर परीक्षण बिंदु की तुलना करनी है। $k$ $\mathcal{O}(Nd)$

स्रोत: "कोर वेक्टर मशीनें: बहुत बड़े डेटा सेट पर फास्ट एसवीएम प्रशिक्षण" - http://machinelearning.wustl.edu/mlpapers/paper_files/TsangKC05.pdf

क्षमा करें, मैं दूसरों के बारे में नहीं जानता।

— samthebest
स्रोत

O (n^{2})

$O(n^2)$

O (n^{3})

$O(n^3)$

@MarcClaesen लिंक अब काम नहीं करता है और यह वेवबैक मशीन पर नहीं है। क्या यह वही कागज है: leon.bottou.org/publications/pdf/lin-2006.pdf ?

— शब्दफोर वाइज