समर्थन वेक्टर मशीनों के साथ गामा पैरामीटर का उपयोग


9

उपयोग करते समय libsvm, पैरामीटर कर्नेल फ़ंक्शन के लिए एक पैरामीटर है। इसका डिफ़ॉल्ट मान सेटअपγ

γ=1सुविधाओं की संख्या।

क्या मौजूदा तरीकों, जैसे, ग्रिड खोज के अलावा इस पैरामीटर को स्थापित करने के लिए कोई सैद्धांतिक मार्गदर्शन है?

जवाबों:


8

मैं निम्नलिखित सैद्धांतिक मार्गदर्शन का सुझाव दूंगा। जब आप गाऊसी आरबीएफ कर्नेल का उपयोग कर रहे हैं, तो आपकी अलग सतह प्रत्येक समर्थन वेक्टर पर केंद्रित घंटी के आकार की सतहों के संयोजन पर आधारित होगी। प्रत्येक घंटी के आकार की सतह की चौड़ाई इसके विपरीत आनुपातिक होगीγ। यदि यह चौड़ाई आपके डेटा के लिए न्यूनतम जोड़ी-वार दूरी से छोटी है, तो आप अनिवार्य रूप से ओवरफिटिंग करते हैं। यदि यह चौड़ाई आपके डेटा के लिए अधिकतम जोड़ी-वार दूरी से बड़ी है, तो आपके सभी बिंदु एक ही श्रेणी में आते हैं और आपके पास अच्छा प्रदर्शन भी नहीं है। तो इन दो चरम सीमाओं के बीच इष्टतम चौड़ाई कहीं होनी चाहिए।


pair-wise distance for your data= स्केलिंग के बाद सरल यूक्लिडियन दूरी?
इधरानी

5

नहीं, यह अनिवार्य रूप से डेटा पर निर्भर है। ग्रिड खोज (लॉग-ट्रांसफ़ॉर्म किए गए हाइपर-पैरामीटर्स पर) एक बहुत अच्छी विधि है, यदि आपके पास ट्यून करने के लिए केवल बहुत कम हाइपर-पैरामीटर हैं, लेकिन ग्रिड रिज़ॉल्यूशन को बहुत अच्छा नहीं बनाते हैं या आप ट्यूनिंग को ओवर-फिट करने की संभावना रखते हैं कसौटी। कर्नेल मापदंडों की एक बड़ी संख्या के साथ समस्याओं के लिए, मुझे लगता है कि Nelder-Mead सिंप्लेक्स विधि अच्छी तरह से काम करती है।


डिक्रान, उत्तर के लिए धन्यवाद। क्या आप "डेटा-निर्भर" पर अधिक विस्तार कर सकते हैं? R और डेटा के सेट के बीच क्या संबंध है? या दूसरे शब्दों में, डेटा का एक सेट दिया गया है, क्या इन डेटा के आधार पर r को परिभाषित करने का कोई तरीका है?
user3269

1
अनिवार्य रूप से "डेटा निर्भर" का अर्थ है कि सर्वश्रेष्ठ सेटिंग डेटा की विशेष संरचना के अनुसार अलग-अलग होगी और क्रॉस-सत्यापन त्रुटि को कम करने की तुलना में उन्हें सेट करने के लिए आमतौर पर कोई बेहतर तरीका नहीं है। कर्नेल तरीके वास्तव में कर्नेल सीखने के बारे में अधिक सैद्धांतिक विश्लेषण के साथ कर सकते हैं, लेकिन दुर्भाग्य से यह गणितीय रूप से बहुत मुश्किल है।
डिक्रान मार्सुपियल
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.