जेफ हॉकिन्स के एआई ढांचे में क्या खामियां हैं?


19

2004 में, पाम पायलट के आविष्कारक जेफ हॉकिन्स ने ऑन इंटेलीजेंस नामक एक बहुत ही दिलचस्प पुस्तक प्रकाशित की , जिसमें उन्होंने एक सिद्धांत का वर्णन किया कि मानव नियोकोर्टेक्स कैसे काम करता है।

इस सिद्धांत को मेमोरी-प्रेडिक्शन फ्रेमवर्क कहा जाता है और इसमें कुछ हड़ताली विशेषताएं हैं, उदाहरण के लिए न केवल बॉटम-अप (फीडफ़वर्ड), बल्कि टॉप-डाउन सूचना प्रसंस्करण और एक साथ बनाने की क्षमता, लेकिन भविष्य के विभिन्न परिदृश्यों की असतत भविष्यवाणियों (जैसा कि वर्णित है) इस पत्र में )।

मेमोरी-प्रेडिक्शन फ्रेमवर्क का वादा भविष्य की संभावनाओं के स्थिर उच्च स्तर के प्रतिनिधित्व की अप्रकाशित पीढ़ी है। कुछ ऐसा जो एआई अनुसंधान क्षेत्रों के एक पूरे समूह में क्रांति लाएगा।

हॉकिन्स ने एक कंपनी की स्थापना की और अपने विचारों को लागू करने के लिए आगे बढ़ा। दुर्भाग्य से दस साल से अधिक समय बाद भी उनके विचारों का वादा अभी भी अधूरा है। अब तक कार्यान्वयन केवल विसंगति का पता लगाने के लिए उपयोग किया जाता है, जो कि वास्तव में आप क्या करना चाहते हैं, इसके विपरीत है। समझ को निकालने के बजाय, आप उन उदाहरणों को निकालेंगे जो आपके कृत्रिम प्रांतस्था को नहीं समझते हैं।

मेरा सवाल यह है कि हॉकिन्स की रूपरेखा किस तरीके से कम हुई। ऐसी कौन सी ठोस या वैचारिक समस्याएं हैं जो अब तक उनके सिद्धांत को व्यवहार में लाने से रोकती हैं?

जवाबों:


11

संक्षिप्त उत्तर यह है कि हॉकिन्स की दृष्टि को अभी तक व्यापक रूप से सुलभ तरीके से लागू किया जाना है, विशेष रूप से भविष्यवाणी से संबंधित अपरिहार्य भागों में।

इसका लंबा जवाब यह है कि मैंने कुछ साल पहले हॉकिन्स की किताब पढ़ी थी और वह पदानुक्रमित टेम्पोरल मेमोरी (HTM) की संभावनाओं से उत्साहित था। मैं अभी भी इस तथ्य के बावजूद हूं कि मुझे चेतना, स्वतंत्र इच्छा और ऐसे अन्य विषयों के अर्थों पर उनके कुछ दार्शनिक पेशों के बारे में कुछ आरक्षण है। मैं उन गलतफहमियों के बारे में यहाँ नहीं बताऊँगा क्योंकि वे जर्मे नहीं हैं मुख्य, अत्यधिक कारण है कि HTM नेट आज तक उतनी सफल नहीं हुई है: मेरे ज्ञान के लिए, नुमेंटा ने केवल अपनी दृष्टि का एक छोटा संस्करण लागू किया है। उन्होंने अधिकांश भविष्यवाणी वास्तुकला को छोड़ दिया, जो हॉकिन्स के सिद्धांतों में ऐसी महत्वपूर्ण भूमिका निभाता है। जैसा कि गेरोड एम। बोनहॉफ ने इसे HTM में एक उत्कृष्ट थीसिस 1 में रखा था,

Numenta द्वारा अपनाया गया सबसे महत्वपूर्ण डिजाइन निर्णय पदानुक्रम के भीतर प्रतिक्रिया को खत्म करना था और इसके बजाय केवल भार के लिए डेटा पूलिंग एल्गोरिदम का उपयोग करके इस सैद्धांतिक अवधारणा का अनुकरण करना था। यह निर्णय तुरंत संदिग्ध है और HTM की प्रमुख अवधारणाओं का उल्लंघन करता है। प्रतिक्रिया, हॉकिन्स का कहना है, कोर्टिकल फ़ंक्शन और उनके सिद्धांतों के लिए महत्वपूर्ण है। फिर भी, नुमेंटा का दावा है कि उनके कार्यान्वयन और मालिकाना पूलिंग एल्गोरिदम का उपयोग करके अधिकांश एचटीएम लागू समस्याओं को हल किया जा सकता है। "

मैं अभी भी इस क्षेत्र में रस्सियों को सीख रहा हूं और यह नहीं कह सकता कि नूमेंटा ने हॉकिन्स के विचारों के पूर्ण कार्यान्वयन के पक्ष में इस दृष्टिकोण को खत्म कर दिया है या नहीं, विशेष रूप से सभी महत्वपूर्ण भविष्यवाणी वास्तुकला। यहां तक ​​कि अगर उनके पास है, तो इस डिजाइन निर्णय ने संभवतः कई वर्षों तक गोद लेने में देरी की है। यह प्रति आलोचना नहीं है; शायद भविष्यवाणी मूल्यों पर नज़र रखने और उन्हें उड़ने पर अद्यतन करने की कम्प्यूटेशनल लागत उस समय सहन करने के लिए बहुत अधिक थी, तंत्रिका जाल प्रसंस्करण की सामान्य लागतों के ऊपर, उन्हें अपने स्वामित्व पूलिंग की तरह आधे-उपाय की कोशिश करने के अलावा और कोई रास्ता नहीं छोड़ता था। तंत्र। फिर भी, मैंने उस विषय पर जो सबसे अच्छे शोध पत्र पढ़े हैं, उनमें से नूमेंटा के मंच पर निर्भर होने के बजाय एल्गोरिदम को फिर से लागू करने के लिए चुना है, आमतौर पर अनुपलब्ध भविष्यवाणी सुविधाओं के कारण।बोल्टन बायोमेट्रिक सिस्टम प्रयोगशाला 2 के विश्वविद्यालय के लिए माल्टन की तकनीकी रिपोर्ट । उन सभी मामलों में, हालांकि, उनके भिन्न एचटीएम को तत्काल उपयोग करने के लिए (जहां तक ​​आप जानते हैं) डालने के लिए आसानी से सुलभ सॉफ्टवेयर नहीं है। इस सब का सार यह है कि ईसाई धर्म के बारे में जीके चेस्टर्टन के प्रसिद्ध कहावत की तरह, "HTM की कोशिश नहीं की गई है और वे चाहते पाए गए हैं; वे मुश्किल पाए गए हैं, और अनछुए रह गए हैं।" चूंकि नुमेंटा ने भविष्यवाणी के कदमों को छोड़ दिया था, इसलिए मुझे लगता है कि वे किसी भी व्यक्ति का इंतजार कर रहे मुख्य ठोकर होंगे जो हॉकिन्स को एक एचटीएम क्या होना चाहिए की पूरी दृष्टि को कोड करना चाहते हैं।

1 बोनहॉफ, गेरोड एम।, 2008, विसंगतिपूर्ण नेटवर्क गतिविधि का पता लगाने के लिए पदानुक्रमित टेम्पोरल मेमोरी का उपयोग करना। मार्च, 2008 में वायु सेना संस्थान, राइट-पैटरसन एयर फ़ोर्स बेस, ओहियो में प्रस्तुत किया गया।

2 माल्टोनी, डेविड, 2011, पदानुक्रमित टेम्पोरल मेमोरी द्वारा पैटर्न मान्यता। DEIS तकनीकी रिपोर्ट 13 अप्रैल, 2011 को प्रकाशित हुई। बोलोग्ना बॉयोमीट्रिक सिस्टम प्रयोगशाला विश्वविद्यालय: बोलोग्ना, इटली।


1
बहुत बढ़िया जवाब! मैं जोड़ना चाहता हूं कि जाहिर तौर पर आईबीएम इसे एक शॉट दे रहा है: technologyreview.com/s/536326/…
BlindKungFuMaster

1

उत्पादन के लिए 10 साल तैयार?

आइए डालते हैं परिप्रेक्ष्य में। परसेप्ट्रॉन को 1957 में पेश किया गया था। यह 1986 में पीडीपी पुस्तकों की रिलीज तक वास्तव में प्रयोग करने योग्य मॉडल के रूप में फूलना शुरू नहीं हुआ था। स्कोर रखने वालों के लिए: 29 वर्ष।

पीडीपी पुस्तकों से, हमने पिछले दशक तक उस विस्तृत नेटवर्क को प्रयोग करने योग्य गहरे नेटवर्क के रूप में नहीं देखा। यदि आप एंड्रयू एनजी और जेफ डीन कैट मान्यता कार्य को एक गहरे नेटवर्क डिफाइनिंग इवेंट के रूप में लेते हैं जो कि 2012 है। उत्पादन तैयार होने में 25 साल से अधिक समय लगता है।

https://en.wikipedia.org/wiki/Timeline_of_machine_learning


यह सवाल का जवाब नहीं है। इसके अलावा, अब हमारे पास पहले से ही कंप्यूटर हैं जो कुछ बहुत ही प्रभावशाली AI उपलब्धियों के लिए पर्याप्त तेज़ हैं। लेकिन उन उपलब्धियों HTM में नहीं होता है।
BlindKungFuMaster
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.