कौन सा कर्नेल विधि सर्वोत्तम संभावना आउटपुट देता है?

Question

हाल ही में मैंने डिफ़ॉल्ट घटनाओं की संभावनाओं का अनुमान लगाने के लिए एसवीएम-आउटपुट के प्लैट की स्केलिंग का उपयोग किया है। अधिक प्रत्यक्ष विकल्प "कर्नेल लॉजिस्टिक रिग्रेशन" (KLR) और संबंधित "आयात वेक्टर मशीन" प्रतीत होते हैं।

क्या कोई बता सकता है कि संभाव्यता-आउटपुट देने वाली कौन सी कर्नेल विधि वर्तमान में कला की स्थिति है? क्या केएलआर का एक आर-कार्यान्वयन मौजूद है?

मदद के लिए आपका बहुत बहुत धन्यवाद!

Comments

(+1) एक बहुत ही दिलचस्प सवाल ...

— २१

Answer 1

गॉसियन प्रोसेस क्लासिफिकेशन (एक्सपेक्टेशन प्रोपेगेशन का उपयोग करके) संभवत: मशीन लर्निंग में अत्याधुनिक है। रस्मुसेन और विलियम्स (मुफ्त में डाउनलोड करने योग्य) द्वारा एक उत्कृष्ट पुस्तक है, जिस वेबसाइट के लिए बहुत अच्छा MATLAB कार्यान्वयन है। अधिक सॉफ्टवेयर, किताबें, कागजात आदि यहां । हालांकि, व्यवहार में, केएलआर शायद ज्यादातर समस्याओं के लिए काम करेगा, प्रमुख कठिनाई गिरी और नियमितीकरण मापदंडों का चयन करने में है, जो संभवतः क्रॉस-सत्यापन द्वारा सबसे अच्छा किया जाता है, हालांकि छुट्टी-एक-आउट क्रॉस-सत्यापन का अनुमान लगाया जा सकता है बहुत कुशलता से, Cawley और टैलबोट (2008) देखें।

Comments

(+1) मॉडल चयन मुद्दे पर लिंक और सलाह के लिए धन्यवाद।

— १।

मुझे जोड़ना चाहिए, लाप्लास सन्निकटन के आधार पर कार्यान्वयन का उपयोग नहीं करना चाहिए - पीछे की तरफ अत्यधिक तिरछी है, और मोड पर केंद्रित एक सममित सन्निकटन आमतौर पर बहुत अच्छी तरह से काम नहीं करेगा।

— डिक्रान मार्सुपियल

धन्यवाद दीकरन! क्या आप मुझे KLR und कर्नेल के संबंध के बारे में समझा सकते हैं? KLR- मॉडल svm [लॉस + पेनल्टी] -फॉर्म के समान बनाया गया है और ग्रेडिएंट डिसेंट के माध्यम से हल किया गया है। लेकिन केएलआर पर उसी समय के संदर्भ (जैसे "कर्नेल लॉजिस्टिक रिग्रेशन एंड द इंपोर्ट वेक्टर मशीन", झू और हस्ती 2005) स्मूथिंग-लिटरेचर (जैसे "सामान्यीकृत एडिटिव मॉडल", हस्ती और टिब्शिर 1990) पर जाते हैं।

— रिचर्ड एनएन

मैं स्मूथिंग लिटरेचर से परिचित नहीं हूं, लेकिन कर्नेल मॉडल स्पलाइन स्मूथिंग से निकटता से संबंधित हैं। मुझे लगता है कि ग्रेस वहाबा ( stat.wisc.edu/~wahba ) द्वारा प्रकाशनों को देखने के लिए सबसे अच्छी जगह होगी , जहां काम करने के लिए स्मूथिंग और कर्नेल दोनों तरीके हैं।

— डिक्रान मार्सुपियल

धन्यवाद, मैं wahba के प्रकाशनों पर करीब से नजर डालूंगा। क्या आप केएलआर के कार्यान्वयन की सिफारिश कर सकते हैं, आर में सबसे अच्छा है?

— रिचर्ड डीएन 30'10

Answer 2

मुझे लगता है कि आप जानते हैं कि लॉजिस्टिक रिग्रेशन के लिए कर्नेल एक गैर पैरामीट्रिक है, इसलिए सबसे पहले आपके पास यह प्रतिबंध है।

R पैकेज के बारे में, जिसे मैं जानता हूं और बहुत अच्छी तरह से काम करता है, वह है np : मिश्रित डेटा प्रकारों के लिए गैर-पैरामीटर कर्नेल स्मूदिंग विधि

यह पैकेज विभिन्न प्रकार के नॉनपैरेमेट्रिक (और सेमीपैरमेट्रिक) कर्नेल तरीके प्रदान करता है जो मूल रूप से निरंतर, अनियंत्रित और आदेशित कारक डेटा प्रकारों के मिश्रण को संभालते हैं।

कला केर्ननेल की स्थिति के बारे में मैं 2009 से इस पत्र में वर्णित लोगों के साथ प्रयोग करने का पुन: दावा कर सकता हूं । जो आपके लिए सबसे अच्छा और अधिक वास्तविक है, उसे चुनने के लिए ध्यान से पढ़ें।

Comments

हे मारियाना, आपके उत्तर के लिए धन्यवाद, लेकिन हमें एक गलतफहमी थी: मैं "कर्नेल विधियों" के माध्यम से मतलब तरीके जैसे "वेक्टर कर्नेल" का उपयोग करके "कर्नेल ट्रिक", न कि कर्नेल स्मूथिंग तरीके।

— रिचर्ड एनएन