2
कब उपयोग करना है (वह या ग्लोरोट) एक समान इनिट पर सामान्य इनिशियलाइज़ेशन? और बैच सामान्यीकरण के साथ इसके प्रभाव क्या हैं?
मुझे पता था कि अवशिष्ट नेटवर्क (ResNet) ने उन्हें सामान्य आरंभीकरण को लोकप्रिय बना दिया था। ResNet में, वह सामान्य इनिशियलाइज़ेशन का उपयोग करता है , जबकि पहली परत He यूनिफॉर्म इनिशियलाइज़ेशन का उपयोग करती है। मैंने ResNet पेपर और "डिलीटिंग डीप इन रेक्टिफायर्स" पेपर (उन्होंने इनिशियलाइज़ेशन पेपर) के माध्यम …