सक्रियण समारोह से संबंधित तंत्रिका नेटवर्क की कम्प्यूटेशनल शक्ति है


10

यह साबित होता है कि तर्कसंगत भार के साथ तंत्रिका नेटवर्क में तंत्रिका जाल के साथ यूनिवर्सल ट्यूरिंग मशीन ट्यूरिंग संगणनीयता की कम्प्यूटेशनल शक्ति है । मुझे जो मिलता है, उससे लगता है कि वास्तविक-मूल्यवान भार का उपयोग करने से और भी अधिक कम्प्यूटेशनल शक्ति प्राप्त होती है, हालांकि मैं इस एक के बारे में निश्चित नहीं हूं।

हालांकि, क्या एक तंत्रिका जाल की कम्प्यूटेशनल शक्ति और इसके सक्रियण समारोह के बीच कोई संबंध है? उदाहरण के लिए, यदि सक्रियण फ़ंक्शन इनपुट की तुलना एक Specker अनुक्रम की सीमा के खिलाफ करता है (कुछ आप जो नियमित रूप से मशीन, राइट?) के साथ नहीं कर सकते हैं, क्या यह तंत्रिका नेट को कम्प्यूटेशनल रूप से "मजबूत" बनाता है? क्या कोई मुझे इस दिशा में संदर्भ दे सकता है?


कम्प्यूटेशनल शक्ति से आपका क्या अभिप्राय है?
edA-qa मोर्ट-ओर-वाई-

@ edA-qamort-ora-y मैंने प्रश्न को स्पष्ट करने के लिए कुछ संपादन किए हैं। यदि आपके पास कोई अन्य संपादन सुझाव है, तो मुझे उन्हें भी सहर्ष प्रसन्न करना होगा
Ktete

जवाबों:


12

सिर्फ एक नोट:

  • तर्कसंगत-भारित आवर्तक बूलियन सक्रियण फ़ंक्शन (सरल थ्रेसहोल्ड) वाले परिमित राज्य ऑटोमेटा (मिन्स्की, "संगणना: परिमित और अनंत मशीनें", 1967) के बराबर हैं;एनएन

  • परिमेय-भारित आवर्तक में लीनियर सिग्मॉइड सक्रियण कार्य ट्यूरिंग मशीन (सीगलमैन और सोंटेग, " तंत्रिका जाल की कम्प्यूटेशनल शक्ति पर ", 1995) के बराबर हैं ;एनएन

  • वास्तविक भारित आवर्तक में लीनियर सिग्मॉइड सक्रियण कार्य ट्यूरिंग मशीन (साइगलमैन और सोंटेग, " न्यूरल नेटवर्क के माध्यम से एनालॉग कम्प्यूटेशन ", 1993) की तुलना में अधिक शक्तिशाली हैं ;एनएन

परंतु ...


5

मैं आसान समाधान लेने जा रहा हूं और "हां" कहूंगा। एक सक्रियण फ़ंक्शन पर विचार करें जो किसी भी इनपुट को स्वीकार करता है और बस एक निरंतर मूल्य देता है (अर्थात, यह इनपुट्स की उपेक्षा करता है)। यह नेटवर्क हमेशा एक निरंतर आउटपुट में परिणाम करता है, और इस प्रकार इस नेटवर्क की कम्प्यूटेशनल पावर (किसी भी परिभाषा से) शून्य है। यह किसी भी चीज की गणना करने में सक्षम नहीं है।

यह नेटवर्क की शक्ति पर सक्रियण फ़ंक्शन के बीच सहसंबंध दिखाने के लिए पर्याप्त है । यह निश्चित रूप से प्रदर्शित नहीं करता है, न ही नापसंद करता है, कि एक नेटवर्क में एक सार्वभौमिक ट्यूरिंग मशीन की तुलना में अधिक शक्ति हो सकती है ।

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.