मैं एंटरप्राइज़ माइनर का उपयोग करके लगभग 1% की दर से एक डेटासेट पर ग्रेडिंग बढ़ाने की कोशिश कर रहा हूं, लेकिन यह किसी भी आउटपुट का उत्पादन करने में विफल हो रहा है। मेरा प्रश्न यह है कि चूंकि यह एक निर्णय आधारित पेड़ है, इसलिए क्या इस तरह के निम्न घटना के साथ ढाल को बढ़ावा देना सही है?
3
आप असंतुलित डेटासेट के साथ काम कर रहे हैं। बूस्टिंग वास्तव में इससे निपटने का एक अच्छा तरीका है। जानकारी के लिए देखें आँकड़े ।stackexchange.com
—
questions/
लेकिन मेरे लिए लॉजिस्टिक रिग्रेशन रैंडमटेस्ट या ग्रेडिएंट बूस्टिंग की तुलना में बेहतर परिणाम दे रहा है। मैं अपने मॉडल के प्रदर्शन में सुधार करना चाहता था, बढ़े हुए पेड़ों की कोशिश करके।
—
user2542275
बूस्टिंग कमजोर क्लासीफायर पर आधारित है। सैद्धांतिक रूप से, कोई भी कमजोर क्लासिफायरियर जो यादृच्छिक से थोड़ा बेहतर होता है। व्यवहार में अलग-अलग एल्गोरिदम कुछ डेटा सेट के लिए अधिक उपयुक्त होते हैं, इसलिए आपके द्वारा चुने गए कमजोर क्लासिफ़ायर महत्वपूर्ण हैं। क्या आप उपयोग किए गए एल्गोरिदम, उनके परिणामों और डेटा सेट के बारे में अधिक बता सकते हैं?
—
DaL
ठीक है। डेटासेट के बारे में: नमूना आकार> 4 मीटर, घटना दर = 1.2%। भविष्यवाणियों की संख्या जो महत्वपूर्ण पी-मूल्य हैं <0.05 150 हैं। सबसे महत्वपूर्ण चर के साथ लॉजिस्टिक प्रतिगमन 20% आबादी पर 3 की लिफ्ट दी। तंत्रिका नेटवर्क ने लगभग 2.8 की लिफ्ट दी। धीरे-धीरे बूस्टिंग ने कोई आउटपुट नहीं दिया, जब तक कि मैंने उलट पूर्व वजन के साथ स्तरीकृत नमूने का उपयोग नहीं किया। लेकिन प्रदर्शन खराब है।
—
user2542275
चूंकि आपका डेटा सेट काफी बड़ा है, इसलिए आपके पास अपने अल्पसंख्यक वर्ग के पर्याप्त नमूने होने चाहिए, इसलिए समस्या सापेक्ष असंतुलन के कारण है। आपके पास कुछ विशेषताएं हैं लेकिन बहुत अधिक नहीं, लेकिन वास्तव में निर्णय ट्री ऐसे डेटासेट के लिए कम उपयुक्त हैं। मेरा सुझाव है कि आप एक संतुलित डेटासेट बनाएंगे और देखेंगे कि आपके एल्गोरिदम इस पर कितना अच्छा प्रदर्शन करते हैं। जिस तरह से मैंने पहली टिप्पणी में वर्णित किया था, उसके मूल एल्गोरिथ्म पर एल्गोरिथ्म लागू कर सकेंगे।
—
DaL