"LSTM सेल में इकाइयों की संख्या" का क्या अर्थ है?


19

Tensorflow कोड से: Tensorflow। RnnCell।

num_units: int, The number of units in the LSTM cell.

क्या इसका मतलब यह नहीं समझा जा सकता है। LSTM सेल की इकाइयाँ क्या हैं। इनपुट, आउटपुट और गेट्स भूल जाते हैं? क्या इसका मतलब "डीप एलएसटीएम के लिए आवर्तक प्रक्षेपण परत में इकाइयों की संख्या" है। फिर इसे "LSTM सेल में इकाइयों की संख्या" क्यों कहा जाता है? LSTM सेल क्या है और अंतर क्या है VS LSTM ब्लॉक, सेल नहीं तो कम से कम LSTM यूनिट क्या है?



यदि परत में कई समानांतर LSTM इकाइयां हैं, तो यह इनपुट x को कैसे संभालती है? केस 1: एच (1) = एफ (एक्स) एच (टी) = एफ (एच (टी -1), एक्स) एच (टी + 1) = एफ (एच (टी), एक्स) केस 2: एच (1) ) = f (x) h (t) = h (t-1) हो सकता है कि ResNet जैसा कोई दूसरा मामला हो।
user1908842

जवाबों:


10

जैसा कि उस समारोह में सहायक टिप्पणियों का कहना है,

इस पैकेज में सेल की परिभाषा साहित्य में प्रयुक्त परिभाषा से भिन्न है। साहित्य में, सेल एक एकल स्केलर आउटपुट के साथ एक ऑब्जेक्ट को संदर्भित करता है। इस पैकेज में परिभाषा ऐसी इकाइयों की एक क्षैतिज सरणी को संदर्भित करती है।

संक्षेप में, परत में कई समानांतर LSTM इकाइयां होंगी, संरचनात्मक रूप से समान लेकिन प्रत्येक में "कुछ अलग बात" याद रखना सीखना होगा।


1
धन्यवाद :) इस टिप्पणी को इस सवाल के 7 दिन पहले जोड़ा गया था। कुछ खुदाई के बाद मैंने Google समूह में Tensorflow टीम से पूछा है कि वे LSTM सेल की परिभाषा साहित्य LSTM सेल से अलग क्यों है .. और उन्होंने उस टिप्पणी को जोड़ा है :)
Brans Ds

7

अधिकांश LSTM / RNN आरेख केवल छिपी हुई कोशिकाओं को दिखाते हैं लेकिन उन कोशिकाओं की इकाइयों को कभी नहीं दिखाते हैं। इसलिए, भ्रम। प्रत्येक छिपी हुई परत में छिपी हुई कोशिकाएं होती हैं, जितने समय के कदम होते हैं। और आगे, प्रत्येक छिपी हुई सेल कई छिपी हुई इकाइयों से बनी होती है, जैसे नीचे दिए गए चित्र में। इसलिए, आरएनएन में एक छिपे हुए परत मैट्रिक्स की आयामीता है (समय कदमों की संख्या, छिपी हुई इकाइयों की संख्या)।

यहाँ छवि विवरण दर्ज करें


1

कैरस में, जो या तो टेंसोरफ्लो या थीनो के शीर्ष पर बैठता है, जब आप कॉल करते हैं model.add(LSTM(num_units)), तो num_units आउटपुट स्पेस ( यहाँ , लाइन 863 से) की गतिशीलता है । मेरे लिए, इसका मतलब num_unitsहै कि छिपी हुई इकाइयों की संख्या, जिनकी सक्रियता अगले समय के कदम के लिए आगे बढ़ती है।


0

RNN में इकाइयों की संख्या RNN मेमोरी यूनिटों की संख्या है, जो अनुक्रम के प्रत्येक इनपुट में लंबवत तरीके से जुड़ी हुई हैं, और हर एक फ़िल्टर की गई जानकारी को अगली मेमोरी इकाइयों में भेज रही है।

याद रखें कि यह अवधारणा कंप्यूटर विज्ञान की अवधारणा से अलग-अलग इकाइयों के लिए मेमोरी आवंटन के प्रवाह से प्रेरित थी।

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.