यह वास्तव में "3 बी" तकनीकों में से एक को उबालता है: बैगिंग, बूस्टिंग या सम्मिश्रण।
बैगिंग में, आप ऑब्जेक्ट के अलग-अलग सबसेट पर बहुत सारे क्लासीफायर प्रशिक्षित करते हैं और प्रतिगमन के लिए औसत से उत्तर जोड़ते हैं और वर्गीकरण के लिए मतदान करते हैं (अधिक जटिल स्थितियों के लिए कुछ अन्य विकल्प हैं, लेकिन मैं इसे छोड़ दूँगा)। व्यक्तिगत अनुपात को आमतौर पर स्वतंत्र माना जाता है क्योंकि वोट अनुपात / भिन्नता को त्रुटि सन्निकटन के रूप में व्याख्या की जा सकती है। आरएफ वास्तव में एक बैगिंग पहनावा है।
बूस्टिंग तरीकों का एक व्यापक परिवार है, हालांकि उनका मुख्य बिंदु यह है कि आप पूर्व के अवशेषों पर अगले क्लासिफायरियर का निर्माण करते हैं, इस तरह (सिद्धांत रूप में) धीरे-धीरे अधिक से अधिक सूक्ष्म बातचीत को उजागर करके सटीकता बढ़ाते हैं। इस प्रकार भविष्यवाणियों को आमतौर पर उनके द्वारा जोड़ दिया जाता है, कुछ ऐसा होता है जैसे x के लिए अपने टेलर श्रृंखला के तत्वों के मान द्वारा x में किसी फ़ंक्शन के मान की गणना करना।
सबसे लोकप्रिय संस्करण हैं (स्टोचस्टिक) ग्रेडिंग बूस्टिंग (अच्छी गणितीय नींव के साथ) और AdaBoost (अच्छी तरह से ज्ञात, वास्तव में जीबी का एक विशिष्ट मामला)। समग्र दृष्टिकोण से, निर्णय वृक्ष तुच्छ धुरी क्लासिफायर का एक बढ़ावा है।
सम्मिश्रण क्लासीफायर का एक विचार है, अर्थात एक क्लासिफायर को अन्य क्लासिफायर के पूर्वानुमान से बने सूचना प्रणाली पर चलाना। इसलिए, यह एक बहुत ही परिवर्तनशील विधि है और निश्चित रूप से एक परिभाषित एल्गोरिथ्म नहीं है; बहुत सी वस्तुओं की आवश्यकता हो सकती है (ज्यादातर मामलों में "ब्लेंडर" क्लासिफायर को उन वस्तुओं के एक सेट पर प्रशिक्षित किया जाना चाहिए जो कि ओवरशूट से बचने के लिए आंशिक क्लासिफायर बनाने के लिए उपयोग नहीं किए गए थे)।
आंशिक रूप से वर्गीकृत करने वालों की भविष्यवाणियों को स्पष्ट रूप से एक सूचना प्रणाली में पिघलाकर संयुक्त किया जाता है, जो कि ब्लेंडर द्वारा भविष्यवाणी की जाती है।