सीखने की दर और छिपी हुई परतों की संख्या के बीच संबंध?

Question

क्या तंत्रिका नेटवर्क की गहराई और सीखने की दर के बीच अंगूठे का कोई नियम है? मैं देख रहा हूँ कि नेटवर्क जितना गहरा है, सीखने की दर उतनी ही कम होनी चाहिए।

यदि यह सही है, तो ऐसा क्यों है?

Comments

एक बूस्टिंग मॉडल के लिए संबंधित चर्चा। आँकड़े.स्टैकएक्सचेंज.com

— डु

चर्चा उपयोगी जानकारी प्रदान करती है लेकिन यह मेरे प्रश्न का उत्तर नहीं देती है। क्या आप कृपया इस पर टिप्पणी कर सकते हैं?

— user_1177868

हाँ, इसीलिए मैंने इसे टिप्पणी में रखा, लेकिन उत्तर नहीं दिया, और आपके प्रश्नों को उकेरा।

— हितैओ दू

Answer 1

इस सवाल का जवाब यहाँ दिया गया है:

तंत्रिका नेटवर्क के साथ, सीखने की दर किसी तरह से छिपी हुई परत के आकार के अनुपात में होनी चाहिए? क्या उन्हें एक-दूसरे को प्रभावित करना चाहिए?

संक्षिप्त उत्तर हाँ है, एक संबंध है। हालांकि, संबंध यह तुच्छ नहीं है, सभी मैं आपको बता सकता हूं कि आप जो देखते हैं वह इसलिए है क्योंकि अनुकूलन की सतह अधिक जटिल हो जाती है क्योंकि छिपी हुई परतों की संख्या बढ़ जाती है, इसलिए छोटे सीखने की दर आम तौर पर बेहतर होती है। जबकि स्थानीय मिनीमाता में फंसना कम सीखने की दर के साथ एक संभावना है, यह जटिल सतह और उच्च सीखने की दर से बहुत बेहतर है।