मुझे कितने LSTM सेल का उपयोग करना चाहिए?

क्या LSTM कोशिकाओं की न्यूनतम, अधिकतम और "उचित" राशि से संबंधित अंगूठे (या वास्तविक नियम) के कोई नियम हैं जिनका मुझे उपयोग करना चाहिए? विशेष रूप से मैं कर रहा हूँ से संबंधित BasicLSTMCell TensorFlow और से num_unitsसंपत्ति।

कृपया मान लें कि मेरे पास एक वर्गीकरण समस्या है जिसे परिभाषित किया गया है:

t - number of time steps
n - length of input vector in each time step
m - length of output vector (number of classes)
i - number of training examples

क्या यह सच है, उदाहरण के लिए, प्रशिक्षण उदाहरणों की संख्या इससे अधिक होनी चाहिए:

4*((n+1)*m + m*m)*c

cकोशिकाओं की संख्या कहां है? मैं इस पर आधारित है: एक LSTM नेटवर्क के मापदंडों की संख्या की गणना कैसे करें? जैसा कि मैं समझता हूं, यह कुल मापदंडों को देना चाहिए, जो प्रशिक्षण के उदाहरणों की संख्या से कम होना चाहिए।

rnn machine-learning r predictive-modeling random-forest python language-model sentiment-analysis encoding machine-learning deep-learning neural-network dataset caffe classification xgboost multiclass-classification unbalanced-classes time-series descriptive-statistics python r clustering machine-learning python deep-learning tensorflow machine-learning python predictive-modeling probability scikit-learn svm machine-learning python classification gradient-descent regression research python neural-network deep-learning convnet keras python tensorflow machine-learning deep-learning tensorflow python r bigdata visualization rstudio pandas pyspark dataset time-series multilabel-classification machine-learning neural-network ensemble-modeling kaggle machine-learning linear-regression cnn convnet machine-learning tensorflow association-rules machine-learning predictive-modeling training model-selection neural-network keras deep-learning deep-learning convnet image-classification predictive-modeling prediction machine-learning python classification predictive-modeling scikit-learn machine-learning python random-forest sampling training recommender-system books python neural-network nlp deep-learning tensorflow python matlab information-retrieval search search-engine deep-learning convnet keras machine-learning python cross-validation sampling machine-learning

— समुदाय
स्रोत

मैं इस पत्र की जाँच करूँगा, जो क्रमिक रूप से गहरे सीखने वाले मॉडल और हाइपरपरेटिंग ट्यूनिंग की तुलना करने के विषय को संबोधित करता है: arxiv.org/pdf/1503.04069.pdf सारांश में वे स्पष्ट रूप से सुझाव देते हैं, कि प्रति LSTM ब्लॉक की संख्या में वृद्धि। परत के प्रदर्शन में सुधार होता है, लेकिन रिटर्न कम होता है और प्रशिक्षण समय बढ़ता है।

— घनबोट C

प्रशिक्षण के उदाहरणों की न्यूनतम संख्या है जो आपके पास है:

4 (n m + n^{2})

$4(nm + n^2)$

अधिक जानकारी के लिए इस लेख का संदर्भ लें: यदि आपको कुछ दृश्य सहायता की आवश्यकता हो तो इस लिंक का संदर्भ लें: एक LSTM मॉडल में मापदंडों की संख्या

स्टैक की प्रत्येक परत में इकाइयों की संख्या अलग-अलग हो सकती है। उदाहरण के लिए Tensorflow से Transl.py में इसे 1024, 512 या वस्तुतः किसी भी संख्या में कॉन्फ़िगर किया जा सकता है। सबसे अच्छी सीमा को क्रॉस सत्यापन के माध्यम से पाया जा सकता है। लेकिन मैंने स्टैक की प्रत्येक परत में 1000 और 500 दोनों इकाइयों को देखा है। मैंने व्यक्तिगत रूप से छोटी संख्या के साथ भी परीक्षण किया है।

— अली
स्रोत