मैं गहरी शिक्षा के साथ शुरुआत कर रहा हूं, और मेरे पास एक सवाल है जिसका जवाब मुझे नहीं मिला, शायद मैंने ठीक से नहीं खोजा है। मैंने इसका उत्तर देखा है , लेकिन यह अभी भी स्पष्ट नहीं है कि वजन घटाने का नुकसान क्या है और यह नुकसान के कार्य से कैसे संबंधित है।
जवाबों:
वजन क्षय तंत्रिका नेटवर्क में नियमितीकरण को निर्दिष्ट करता है।
प्रशिक्षण के दौरान, बैकप्रोपगेशन ग्रेडिएंट की गणना करने के लिए नेटवर्क के नुकसान में एक नियमितीकरण शब्द जोड़ा जाता है। weight decayमूल्य निर्धारित करता है कि प्रमुख इस नियमितीकरण अवधि ढाल गणना में किया जाएगा।
अंगूठे के एक नियम के रूप में, आपके पास जितने अधिक प्रशिक्षण उदाहरण हैं, उतना कमजोर यह शब्द होना चाहिए। आपके पास इस शब्द के जितने अधिक पैरामीटर हों, उतने अधिक होने चाहिए।
तो, वजन कम करना एक नियमितीकरण शब्द है जो बड़े वजन को दंडित करता है। जब वज़न घटने का गुणांक बड़ा होता है, तो बड़े वज़न के लिए जुर्माना भी बड़ा होता है, जब यह छोटा वज़न स्वतंत्र रूप से बढ़ सकता है।
इसलिए, अब यदि आप उस उत्तर को पढ़ने के लिए वापस जाते हैं, जिसे आपने अपने प्रश्न में जोड़ा था, तो यह अब पूर्ण समझ में आएगा।