वहाँ एक मजबूत तर्क है कि अस्तित्व वृत्ति एक एजीआई बनाने के लिए एक शर्त है?


11

यह सवाल काफी कुछ "अनौपचारिक" स्रोतों से उपजा है। 2001, ए स्पेस ओडिसी और एक्स माकिना जैसी फिल्में ; डेस्टिनेशन वेद (फ्रैंक हर्बर्ट) जैसी किताबें , और अन्य लोग सुझाव देते हैं कि सामान्य बुद्धि जीवित रहना चाहती है, और इसके लिए महत्व भी सीखती है।

अस्तित्व के लिए कई तर्क हो सकते हैं। सबसे प्रमुख क्या होगा?


@DukeZhou क्या आपके पास इस विषय पर सार्वजनिक दस्तावेज़ होंगे?
एरिक प्लैटन

1
अभी तक नहीं। (यह एक लंबी प्रक्रिया होने जा रही है क्योंकि हमारा विकास चक्र बहुत धीमा है। मुझे शायद इस संदर्भ में एजीआई का उल्लेख नहीं करना चाहिए था क्योंकि मैं वास्तव में जो देख रहा हूं वह सामान्यीकृत उपयोगिता फ़ंक्शन का अधिक है जो जोखिम को कम करता है, न कि जोखिम को कम करने वाला; सुपर-इंटेलिजेंस!) आपको अपडेट करना चाहता था, लेकिन शायद सबसे अच्छा अगर मैं इस संबंध में अति-आशावादी / भ्रामक होने के लिए अपनी मूल टिप्पणी हटा देता हूं।
DukeZhou

1
अनिवार्य रूप से, मेरा विचार था कि एक सामान्य आर्थिक उपयोगिता समारोह एक प्रमुख उद्देश्य प्रदान करके एजीआई के लिए एक अच्छा आधार बनेगा । (विचार यह है कि सामान्य बुद्धि क्षमता की एक डिग्री है: समस्याओं का एक असीम रूप से विस्तार।) यह इस अर्थ में अस्तित्व की वृत्ति से संबंधित होगा कि ऑटोमेटा यह स्थिति बनाए रखने और बेहतर बनाने के संदर्भ में इष्टतम निर्णय लेने की ओर संचालित है। (हालांकि नासमझ विस्तार की बात है जो अपनी "पारिस्थितिकी तंत्र के लिए हानिकारक हो सकता है के लिए नहीं) है, जहां हर निर्णय अंततः के रूप में आर्थिक माना जाता है।
DukeZhou

1
(यदि आपके पास एक "ऑनलाइन स्थल" है, जहां उन विषयों पर चर्चा की जा सकती है, तो यह बहुत अच्छा होगा --- मुझे लगता है कि हम इस साइट से दूर हो रहे हैं)
एरिक प्लैटन

जवाबों:


6

स्टीव ओमोहुड्रो ने बेसिक एआई ड्राइव्स नामक एक पेपर लिखा था जिसके माध्यम से हम कुछ संकीर्ण, सामान्य अवधारणाओं को उनके संकीर्ण लक्ष्यों के लिए उपयोगी के रूप में खोजने के लिए संकीर्ण लक्ष्यों के साथ एआई की उम्मीद करेंगे।

उदाहरण के लिए, शेयर बाजार के रिटर्न को अधिकतम करने के लिए बनाया गया एक AI, लेकिन जिसका डिजाइन जीवित रहने के लिए जारी रखने के महत्व पर चुप है, उसे पता चलता है कि इसका निरंतर अस्तित्व स्टॉक मार्केट रिटर्न को अधिकतम करने का एक प्रमुख घटक है, और इस प्रकार खुद को चालू रखने के लिए कार्रवाई करता है।

सामान्य तौर पर, हमें एआई और अन्य कोड को 'एन्थ्रोपोमोर्फिफ़िंग' के बारे में संदेह होना चाहिए, लेकिन ऐसा लगता है कि "इससे परे की उम्मीद करने के लिए कारण हैं " ठीक है, मनुष्य इस तरह से व्यवहार करते हैं, इसलिए यह होना चाहिए कि सभी खुफिया व्यवहार कैसे करते हैं। "


1
मुझे लगता है कि मिनोहैक्स के संदर्भ में ओमोहुड्रू "अधिकतम रिटर्न" का उपयोग करता है, जहां नकारात्मक पक्ष का समीकरण समीकरण का हिस्सा है। मेरे नजरिए से, "जीत बाकी बची" चक्रीय खेलों में मिनिमैक्स का एक बुनियादी विस्तार है।
DukeZhou

5

'सर्वाइवल इंस्टिंक्ट' की अवधारणा संभवतः मार्विन मिंस्की की 'सूटकेस शब्द' की श्रेणी में आती है, यानी यह एक साथ संबंधित घटनाओं की एक संख्या को पैकेज करता है जो पहले एक विलक्षण धारणा प्रतीत होती है।

इसलिए यह बहुत संभव है कि हम ऐसे तंत्रों का निर्माण कर सकते हैं जिनमें किसी प्रकार के 'हार्ड-कोडेड' सर्वाइवल इंस्टिंक्ट की उपस्थिति हो, इसके बिना कभी भी डिजाइन में एक स्पष्ट नियम (एस) की विशेषता होती है।

न्यूरोनाटोमिस्ट वैलेंटिनो ब्रेइटेनबर्ग की सुंदर छोटी पुस्तक 'वाहन' को एक सम्मोहक कथा के लिए देखें कि इस तरह के 'शीर्ष नीचे' की अवधारणा 'अस्तित्व वृत्ति' के रूप में 'नीचे से ऊपर' कैसे विकसित हो सकती है।

इसके अलावा, यह सुनिश्चित करने की कोशिश कर रहे हैं कि बुद्धिमान कलाकृतियों को उनके अस्तित्व पर बहुत अधिक प्राथमिकता मिलती है ताकि वे आसानी से किलबॉट होल्सस्केप को जन्म दे सकें


2

मैं द मिथ ऑफ सिसेफस पुस्तक के उद्धरण से उत्तर दूंगा :

वास्तव में गंभीर दार्शनिक प्रश्न केवल एक है, और वह है आत्महत्या।

इसलिए, शायद, हमें एक अस्तित्व की वृत्ति की कुछ डिग्री की आवश्यकता है यदि हम नहीं चाहते कि हमारे एजीआई "खुद को समाप्त करें" (जो भी इसका मतलब है), जब भी वे अस्तित्व में हों।

हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.