बूस्टिंग में, कमजोर या अस्थिर क्लासिफायर बेस शिक्षार्थियों के रूप में उपयोग किए जाते हैं। यह मामला है क्योंकि उद्देश्य निर्णय सीमाओं को उत्पन्न करना है जो काफी भिन्न हैं। फिर, एक अच्छा आधार सीखने वाला वह है जो अत्यधिक पक्षपाती है, दूसरे शब्दों में, मूल रूप से आउटपुट तब भी समान रहता है, जब आधार सीखने वालों के लिए प्रशिक्षण मापदंडों को थोड़ा बदल दिया जाता है।
तंत्रिका नेटवर्क में, ड्रॉपआउट एक नियमितीकरण तकनीक है जिसकी तुलना प्रशिक्षण पहनावा से की जा सकती है। अंतर यह है कि पहनावा अव्यक्त स्थान में होता है (न्यूरॉन्स मौजूद हैं या नहीं) इस प्रकार सामान्यीकरण त्रुटि कम हो जाती है।
"प्रत्येक प्रशिक्षण उदाहरण इस प्रकार एक अलग, बेतरतीब ढंग से सैंपल आर्किटेक्चर के लिए ग्रेडिएंट प्रदान करने के रूप में देखा जा सकता है, ताकि अंतिम तंत्रिका नेटवर्क कुशलता से तंत्रिका नेटवर्क के एक बड़े कलाकारों की टुकड़ी का प्रतिनिधित्व करता है, अच्छी सामान्यीकरण क्षमता के साथ" - यहाँ से उद्धृत ।
ऐसी दो तकनीकें हैं: ड्रॉपआउट में न्यूरॉन्स गिराए जाते हैं (मतलब न्यूरॉन्स मौजूद हैं या एक निश्चित संभावना के साथ नहीं) जबकि ड्रॉपकनेक्ट में वज़न गिरा दिया जाता है।
अब, आपके प्रश्न का उत्तर देने के लिए, मेरा मानना है कि तंत्रिका नेटवर्क (या परसेप्ट्रॉन) का उपयोग बूस्टिंग सेटअप में बेस लर्नर के रूप में नहीं किया जाता है क्योंकि वे प्रशिक्षण के लिए धीमे हैं (बस बहुत समय लगता है) और शिक्षार्थी उतने कमजोर नहीं हैं, हालांकि वे कर सकते हैं अधिक अस्थिर होने के लिए सेटअप करें। तो, यह प्रयास के लायक नहीं है।
इस विषय पर शोध हो सकता है, हालाँकि यह अफ़सोस की बात है कि जो विचार अच्छे से काम नहीं करते हैं, वे आमतौर पर सफलतापूर्वक प्रकाशित नहीं होते हैं। हमें ऐसे मार्ग को कवर करने के लिए और अधिक शोध की आवश्यकता है जो कहीं भी नेतृत्व न करें, उर्फ "यह प्रयास करने में परेशान न करें"।
संपादित करें:
मेरे पास इस पर थोड़ा अधिक था और यदि आप बड़े नेटवर्क के ensembles में रुचि रखते हैं, तो आप ऐसे कई नेटवर्क के आउटपुट के संयोजन के तरीकों का उल्लेख कर सकते हैं। अधिकांश लोग कार्य के आधार पर बहुसंख्यक मतदान का औसत या उपयोग करते हैं - यह इष्टतम नहीं हो सकता है। मेरा मानना है कि किसी विशेष रिकॉर्ड पर त्रुटि के अनुसार प्रत्येक नेटवर्क के आउटपुट के लिए वज़न बदलना संभव होना चाहिए। कम सहसंबद्ध आउटपुट, बेहतर अपने दास शासन।