दृढ़ तंत्रिका नेटवर्क में रैखिक एम्बेडिंग परत का पता लगाने में असमर्थ?

11

मेरे पास पेपर से नेटवर्क आर्किटेक्चर है "गहन रैंकिंग के साथ ठीक-ठीक छवि समानता सीखना" और मैं यह पता लगाने में असमर्थ हूं कि तीन समानांतर नेटवर्क से आउटपुट रैखिक एम्बेडिंग परत का उपयोग करके कैसे विलय किया जाता है। इस परत पर दी गई एकमात्र जानकारी, कागज में है

अंत में, हम तीन भागों से एम्बेडिंग को सामान्य करते हैं, और उन्हें एक रैखिक एम्बेडिंग परत के साथ जोड़ते हैं। एम्बेडिंग का आयाम 4096 है।

क्या कोई मुझे यह पता लगाने में मदद कर सकता है कि इस परत के बारे में लेखक का क्या मतलब है?

neural-network deep-network

— उ। सैम
स्रोत

यह मेरे लिए दुर्भाग्य की बात है कि इस सवाल का कोई जवाब नहीं है। क्योंकि मैं बिलकुल उसी मुद्दे पर अड़ा हुआ हूं। क्या आपने यह अंदाजा लगाया?

— एलकेएम

मैंने उत्तर का पता नहीं लगाया, लेकिन मैंने सिर्फ तीन हिस्सों से इनपुट प्राप्त किया और इसे 4096 नोड्स वाली घनी परत से गुजारा।

— ए। सैम

1

रैखिक एम्बेडिंग परत केवल एक सक्रिय नाम होना चाहिए जिसमें कोई सक्रियता नहीं है। 'रैखिक ’का अर्थ है कोई सक्रियण नहीं है (सक्रियण पहचान है)। और एम्बेडिंग इनपुट डेटा के वेक्टर प्रतिनिधित्व के लिए एक अवधारणा है (उदाहरण के लिए शब्द एम्बेडिंग)। मेरा मानना है कि दूसरे वेक्टर से तत्वों को पहले एक तत्व-वार में जोड़ा जाता है।

— Dmytro Prylipko
स्रोत

0

यह कागज में उल्लिखित है:

एक स्थानीय सामान्यीकरण परत इकाई मानदंड और शून्य माध्य के लिए एक स्थानीय पड़ोस के आसपास फीचर मैप को सामान्य करती है। यह फीचर मैप्स की ओर जाता है जो रोशनी और कंट्रास्ट में अंतर के लिए मजबूत होते हैं।

वे मॉडल के प्रत्येक भाग को लेते हैं और इसे अलग से सामान्य करते हैं।

उन्हें संयोजित करने के लिए, जैसा कि आपने टिप्पणी की थी, सबसे अधिक मुख्य विशेषताओं को पकड़ने के लिए, पूर्ण-निरूपण के साथ गैर-रैखिकता की कोई आवश्यकता नहीं है।

— फडी बकौरा
स्रोत