मैं एक मनमानी समस्या के लिए तंत्रिका नेटवर्क की टोपोलॉजी की पसंद को कैसे स्वचालित कर सकता हूं?


14

मान लें कि मैं एक तंत्रिका नेटवर्क के साथ एक समस्या को हल करना चाहता हूं जो या तो मैं पहले से ही मौजूद टोपोलॉजी (पेसेप्ट्रोन, कोनोहेन, आदि) के लिए फिट नहीं हो सकता है या मैं बस उन लोगों के अस्तित्व से अवगत नहीं हूं या मैं उन्हें समझने में असमर्थ हूं यांत्रिकी और मैं इसके बजाय अपने दम पर भरोसा करते हैं।

मैं एक मनमानी समस्या के लिए तंत्रिका नेटवर्क की टोपोलॉजी (जो परतों की संख्या, सक्रियता के प्रकार, कनेक्शन के प्रकार और दिशा आदि) की पसंद को कैसे स्वचालित कर सकता है?

मैं एक शुरुआत कर रहा हूँ, फिर भी मुझे एहसास हुआ कि कुछ टोपोलॉजी (या, कम से कम अवधारणात्मक में) यह बहुत कठिन है अगर आंतरिक यांत्रिकी को समझना असंभव नहीं है क्योंकि छिपी हुई परतों के न्यूरॉन्स किसी भी गणितीय अर्थपूर्ण संदर्भ को व्यक्त नहीं करते हैं।

जवाबों:


11

मुझे लगता है कि इस मामले में, आप शायद अपने खुद के काम करने के बजाय एक टोपोलॉजी उत्पन्न करने के लिए एक आनुवंशिक एल्गोरिथ्म का उपयोग करना चाहेंगे। मुझे व्यक्तिगत रूप से NEAT (ऑगमेंटिंग टोपोलॉजी की न्यूरोएवोल्यूशन) पसंद है

मूल एनईएटी पेपर में कनेक्शन के लिए वज़न को शामिल करना शामिल है, लेकिन यदि आप केवल टोपोलॉजी चाहते हैं, तो आप इसके बजाय एक वेटिंग एल्गोरिथ्म का उपयोग कर सकते हैं। यदि आप सुनिश्चित नहीं हैं कि आप कौन से उपयोग के लिए सक्रियण कार्यों को मिला सकते हैं। यहाँ बैकप्रोपेगेशन और कई न्यूरॉन प्रकारों का उपयोग करने का एक उदाहरण है।


5

अन्य उत्तर में नेटवर्क वज़न या टोपोलॉजी उत्पन्न करने के लिए NEAT का उल्लेख है । पेपर न्यूरोइवोल्यूशन: द ट्रांसपोर्टेशन ऑफ ट्रांसफर फंक्शन इवोल्यूशन एंड हेटेरोजेनस नेटवर्क्स , जो न्यूरोएवोल्यूशन तकनीकों का संक्षिप्त सारांश भी देता है, एनईएटी को एक वैकल्पिक दृष्टिकोण प्रदान करता है। यह एक से अधिक सक्रियण कार्यों को विकसित करने के लिए कार्टेशियन जेनेटिक प्रोग्रामिंग का उपयोग करता है ।

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.