एक प्रमुख भविष्यवक्ता के साथ वर्गीकरण


9

मेरे पास एक (-क्लास) वर्गीकरण समस्या, 100 वास्तविक-मूल्यवान भविष्यवक्ताओं के आदेश के साथ, जिनमें से एक में अन्य की तुलना में बहुत अधिक व्याख्यात्मक शक्ति है। मैं अन्य चर के प्रभावों में गहराई से जाना चाहता हूं। हालांकि, मानक मशीन सीखने की तकनीक (यादृच्छिक वन, एसवीएम, आदि) एक मजबूत भविष्यवक्ता द्वारा बदली हुई लगती है और मुझे दूसरों के बारे में बहुत दिलचस्प जानकारी नहीं देती है।

यदि यह एक प्रतिगमन समस्या थी, तो मैं बस मजबूत भविष्यवक्ता के खिलाफ फिर से प्राप्त करूंगा और फिर अन्य एल्गोरिदम के लिए अवशिष्ट के रूप में अवशिष्ट का उपयोग करूंगा। मैं वास्तव में यह नहीं देखता कि इस दृष्टिकोण का वर्गीकरण के संदर्भ में अनुवाद कैसे किया जा सकता है।

मेरी वृत्ति यह है कि यह समस्या यथोचित होनी चाहिए: क्या इससे निपटने के लिए कोई मानक तकनीक है?

जवाबों:


2

2-श्रेणी की समस्याओं के लिए, आप आर में जीबीएम पैकेज का उपयोग कर सकते हैं , जो नुकसान के कार्य से अवशिष्टों के लिए वर्गीकरण के पेड़ को फिट करेगा। दुर्भाग्य से यह अभी तक बहु-वर्ग की समस्याओं का समर्थन नहीं करता है।

यह एक समस्या की तरह लगता है जो बढ़ावा देने के लिए अच्छी तरह से अनुकूल है, लेकिन मैं किसी भी बूस्टिंग पैकेज के बारे में नहीं जानता जो कि के-क्लास समस्याओं का समर्थन करता है। मुझे लगता है कि समस्या कई वर्गों के लिए एक उपयुक्त हानि फ़ंक्शन लिख रही है। glmnetसंकुल, एक बहुपद नुकसान कार्य है शायद आप यह कुछ संकेत के लिए स्रोत कोड के माध्यम से देख सकते हैं।

आप अपने स्वयं के बूस्टिंग एल्गोरिथ्म को लिखने की कोशिश कर सकते हैं , या आप अपनी समस्या को k बाइनरी वर्गीकरण समस्याओं (एक वर्ग बनाम अन्य सभी वर्ग) में बदल सकते हैं, प्रत्येक समस्या के लिए एक gbm मॉडल फिट कर सकते हैं और प्रत्येक मॉडल से कक्षा की संभावनाओं को औसत कर सकते हैं।


2
ज़च सुनिश्चित नहीं है कि यह विकास स्थिरता में कहां है, लेकिन आर फोर्ज पर जीबीएम में मल्टी श्रेणी वर्गीकरण की अनुमति देने वाले नुकसान फ़ंक्शन के रूप में बहुराष्ट्रीय उपस्कर है।
B_Miner

धन्यवाद! मैं इस बात से सहमत हूं कि इस दृष्टिकोण को बढ़ाने के लिए एक अच्छा तरीका होने की संभावना है, और मैं आपके द्वारा सुझाई गई चीजों पर ध्यान दूंगा। मुझे अभी भी यह जानने में दिलचस्पी है कि क्या समस्या को हल करके इससे निपटने का एक अच्छा तरीका है।
मार्टिन ओ

@Zach कृपया मुझे बताएं कि यह कैसे काम करता है।
B_Miner
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.