बस यूकियान के उत्तर पर थोड़ा विस्तार करने के लिए। बैगिंग के पीछे का विचार यह है कि जब आप एक गैर-घटक प्रतिगमन विधि (आमतौर पर प्रतिगमन या वर्गीकरण पेड़ों के साथ ओवरवेट करते हैं, लेकिन किसी भी गैर-घटक विधि के बारे में हो सकते हैं), तो आप उच्च विचरण, पूर्वाग्रह (या निम्न) पूर्वाग्रह के पक्षपात वाले हिस्से में जाते हैं। / विचरण व्यापार। इसका कारण यह है कि एक ओवरफिटिंग मॉडल बहुत लचीला है (एक ही आबादी से कई रिम्स पर कम बायस, अगर वे उपलब्ध थे) लेकिन उच्च परिवर्तनशीलता है (यदि मैं एक नमूना एकत्र करता हूं और इसे ओवरफिट करता हूं, और आप एक नमूना एकत्र करते हैं और इसे ओवरफ्लो करते हैं, हमारे) परिणाम अलग-अलग होंगे क्योंकि गैर-पैरामीट्रिक प्रतिगमन डेटा में शोर को ट्रैक करता है)। हम क्या कर सकते है? हम कई रिसैम्पल (बूटस्ट्रैपिंग से) ले सकते हैं, प्रत्येक ओवरफिटिंग, और उन्हें एक साथ औसत कर सकते हैं। यह एक ही पूर्वाग्रह (निम्न) के लिए नेतृत्व करना चाहिए, लेकिन कुछ विचरण को रद्द करें,
धीरे-धीरे अपने दिल को बढ़ाने के साथ काम करता है, जो कि गैर-समरूपता वाले नियमों के साथ काम करता है, जो बहुत सरल हैं और इस प्रकार डेटा में वास्तविक संबंध (यानी पक्षपाती) का वर्णन करने के लिए पर्याप्त लचीले नहीं हैं, लेकिन क्योंकि वे फिटिंग के अधीन हैं, कम विचरण करते हैं (आप चाहेंगे यदि आप नए डेटा सेट एकत्र करते हैं तो समान परिणाम प्राप्त करने के लिए)। आप इसके लिए कैसे सही हैं? मूल रूप से, यदि आप फिट हैं, तो आपके मॉडल के RESIDUALS में अभी भी उपयोगी संरचना (जनसंख्या के बारे में जानकारी) है, इसलिए आप अपने पास मौजूद पेड़ (या जो कुछ भी अपरंपरागत भविष्यवक्ता) को अवशेषों पर बनाए गए पेड़ से जोड़ते हैं। यह मूल पेड़ की तुलना में अधिक लचीला होना चाहिए। आप बार-बार अधिक से अधिक पेड़ उत्पन्न करते हैं, प्रत्येक चरण में k-1 से अवशिष्टों के लिए लगाए गए वृक्ष के आधार पर एक भारित वृक्ष द्वारा संवर्धित होता है। इन पेड़ों में से एक इष्टतम होना चाहिए, तो आप या तो इन सभी पेड़ों को एक साथ जोड़कर या एक का चयन करके समाप्त हो जाते हैं जो सबसे अच्छा लगता है। इस प्रकार ढाल बूस्टिंग अधिक लचीले उम्मीदवार पेड़ों का एक गुच्छा बनाने का एक तरीका है।
सभी गैरपारंपरिक प्रतिगमन या वर्गीकरण दृष्टिकोणों की तरह, कभी-कभी बैगिंग या बूस्टिंग महान काम करता है, कभी-कभी एक या दूसरा दृष्टिकोण औसत दर्जे का होता है, और कभी-कभी एक या दूसरा दृष्टिकोण (या दोनों) दुर्घटनाग्रस्त हो जाएगा और जल जाएगा।
इसके अलावा, इन दोनों तकनीकों को पेड़ों के अलावा अन्य प्रतिगमन दृष्टिकोणों पर भी लागू किया जा सकता है, लेकिन वे आमतौर पर पेड़ों से जुड़े होते हैं, शायद इसलिए कि मापदंडों को सेट करना मुश्किल है ताकि फिटिंग या ओवरफिटिंग से बचा जा सके।
