एक प्रशिक्षण परत में कई फिल्टर प्रशिक्षण के दौरान एक ही पैरामीटर नहीं सीखेंगे?


11

मैंने जो भी सीखा है, उसके आधार पर, हम अलग-अलग फ़ीचर डिटेक्टरों को सीखने के लिए CNN के कन्वीनर लेयर में कई फिल्टरों का उपयोग करते हैं। लेकिन चूंकि ये फ़िल्टर समान रूप से लागू होते हैं (यानी इनपुट के क्षेत्रों में स्लेज और गुणा), तो क्या वे प्रशिक्षण के दौरान समान पैरामीटर नहीं सीखेंगे? इसलिए कई फिल्टर का उपयोग बेमानी होगा?

जवाबों:


6

इस तथ्य को समझने में मुझे वही भ्रम था। शुरुआती लोगों के लिए भ्रम की स्थिति पैदा होती है क्योंकि पुस्तक की खोज में यह उल्लेख नहीं है कि फिल्टर अलग हैं।

चूँकि ये फ़िल्टर इसी तरह से लगाए जाते हैं

फिल्टर समान रूप से लागू होते हैं लेकिन मैट्रिक्स में सेल का मूल्य एक दूसरे फिल्टर से अलग होता है। इसलिए वे छवि से विभिन्न विशेषताओं को निकालते हैं।

क्या वे सिर्फ प्रशिक्षण के दौरान एक ही पैरामीटर नहीं सीखेंगे

नहीं, वे एक ही पैरामीटर नहीं सीखते क्योंकि फ़िल्टर अब अलग हैं। इसलिए मल्टीपल फिल्टर का इस्तेमाल बेमानी नहीं है।


जवाब देने के लिए शुक्रिया। क्या वास्तव में उन्हें अलग बनाता है? हम यह कैसे सुनिश्चित करें कि वे प्रशिक्षण के दौरान विभिन्न मापदंडों को सीखें? क्या यह उनका प्रारंभिक मूल्य है?
cjbayron

1
प्रत्येक सेल के विभिन्न मान उन्हें अलग बनाते हैं। जैसे कुछ तिरछी रेखा का पता लगाएंगे, कुछ 45 डिग्री वक्र रेखा आदि का पता लगाएंगे, इसलिए वे सभी अलग हैं।
आयरनमैन

1
हाँ, मैं समझता हूँ कि विभिन्न मान फ़िल्टर को विभिन्न विशेषताओं का पता लगाते हैं। लेकिन प्रशिक्षण के दौरान ये फ़िल्टर अलग तरह से कैसे सीखते हैं?
cjbayron

3
यदि फ़िल्टर सभी समान शुरू होते हैं तो वे उसी तरह रहेंगे। यादृच्छिक आरंभीकरण का मतलब है कि वे अलग-अलग शुरू करते हैं और वहां से वे अलग-अलग चीजें सीखते हैं। अधिक जानकारी के लिए तंत्रिका नेटवर्क में समरूपता को तोड़ते हुए देखें।
आरोन

4

मुझे इस सवाल का जवाब मिल गया है: https://www.quora.com/Why-does-each-filter-learn-different-features-in-a-convolutional-neural-network

यह यहाँ कहता है: "... (ऑप्टिमाइज़ेशन) एल्गोरिथ्म में पाया गया है कि दो फिल्टर और वज़न समान होने पर नुकसान कम नहीं होता है, इसलिए यह अंततः नुकसान को कम करने के लिए फ़िल्टर (वेट्स और बायसेज़) में से एक को बदल देगा। एक नई सुविधा सीखना। "

उत्तर देने के लिए आपको धन्यवाद। इसकी प्रशंसा करना :)

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.