मैंने तकनीकी विलक्षणता के विचार को सुना है, यह क्या है और यह आर्टिफिशियल इंटेलिजेंस से कैसे संबंधित है? क्या यह सैद्धांतिक बिंदु है जहां आर्टिफिशियल इंटेलिजेंस मशीनें उस बिंदु पर आगे बढ़ गई हैं जहां वे बढ़ते हैं और अपने दम पर सीखते हैं कि मनुष्य क्या कर सकता है और उनकी वृद्धि क्या होती है? इस बिंदु पर पहुंचने पर हमें कैसे पता चलेगा?
जवाबों:
प्रौद्योगिकीय अपूर्वता समय में एक सैद्धांतिक बिंदु है जिस पर एक स्वयं में सुधार है कृत्रिम सामान्य बुद्धि , समझ और अवधारणाओं मानव मस्तिष्क की सीमा यह है कि, इस समय जब यह चीजों मनुष्य को समझ सकता हूँ के बाहर हेरफेर करने के लिए, जैविक डिजाइन द्वारा सक्षम हो जाता है कर सकते हैं ' टी।
विलक्षणता के बारे में चर्चा इस तथ्य से होती है कि, विलक्षणता के बाद से, इतिहास प्रभावी रूप से अप्रत्याशित है। मानव भविष्य की किसी भी घटना की भविष्यवाणी करने या किसी भी वर्तमान घटनाओं की व्याख्या करने में असमर्थ होगा, क्योंकि विज्ञान स्वयं मशीन-ट्रिगर घटनाओं का वर्णन करने में असमर्थ हो जाता है। अनिवार्य रूप से, मशीनें हमारे बारे में उसी तरह सोचती हैं जैसे हम चींटियों के बारे में सोचते हैं। इस प्रकार, हम विलक्षणता के अतीत को कोई अनुमान नहीं लगा सकते हैं। इसके अलावा, एक तार्किक परिणाम के रूप में, हम उस बिंदु को परिभाषित करने में असमर्थ होंगे जिस पर विलक्षणता बिल्कुल भी हो सकती है, या ऐसा होने पर भी इसे पहचान सकते हैं।
हालांकि, विलक्षणता के लिए जगह बनाने के लिए, एजीआई को विकसित करने की आवश्यकता होती है, और क्या यह संभव है कि काफी गर्म बहस होअभी। इसके अलावा, एक एल्गोरिथ्म जो बिट्स और बाइट्स से बाहर अलौकिक खुफिया बनाता है, को डिजाइन करना होगा। परिभाषा के अनुसार, एक मानव प्रोग्रामर ऐसा कार्य करने में सक्षम नहीं होगा, क्योंकि उसके मस्तिष्क को अपनी सीमा से परे अवधारणाओं को समझने में सक्षम होना चाहिए। यह तर्क भी है कि एक खुफिया विस्फोट (वह तंत्र जिसके द्वारा एक तकनीकी विलक्षणता सैद्धांतिक रूप से बनाई जाएगी) डिजाइन की चुनौती को और अधिक बुद्धिमान बनाने में कठिनाई के कारण असंभव हो जाएगा, इसकी बुद्धि के लिए आनुपातिक रूप से बड़ा होना, और वह कठिनाई डिज़ाइन ने स्वयं कहा कि चुनौती को हल करने के लिए आवश्यक बुद्धि से आगे निकल सकते हैं ( टिप्पणियों में लामाओं के देवता के लिए अंतिम बिंदु क्रेडिट )।
इसके अलावा, मानव जाति को लेने वाली मशीनों और उस विज्ञान-फाई कथा के सभी से संबंधित सिद्धांत हैं। हालांकि, ऐसा होने की संभावना नहीं है, अगर असिमोव के नियमों का उचित रूप से पालन किया जाता है। यहां तक कि अगर असिमोव के कानून पर्याप्त नहीं थे, फिर भी गलत व्यक्तियों द्वारा एजीआई के दुरुपयोग से बचने के लिए बाधाओं की एक श्रृंखला अभी भी आवश्यक होगी, और असिमोव के कानून हमारे निकटतम हैं।
"विलक्षणता" की अवधारणा तब है जब मशीनें मनुष्यों को बाहर करती हैं। हालांकि स्टीफन हॉकिंग की राय है कि यह स्थिति अपरिहार्य है, लेकिन मुझे लगता है कि उस बिंदु तक पहुंचना बहुत मुश्किल होगा, क्योंकि प्रत्येक एआई एल्गोरिदम को मनुष्यों द्वारा प्रोग्राम किए जाने की आवश्यकता होती है, इसलिए यह हमेशा अपने निर्माता की तुलना में अधिक सीमित होगा।
हमें शायद तब पता चलेगा जब वह बिंदु जब मानवता आर्टिफिशियल इंटेलिजेंस पर नियंत्रण खो देगी जहां सुपर-स्मार्ट एआई मनुष्यों के साथ प्रतिस्पर्धा में होगा और शायद अधिक परिष्कृत बुद्धिमान प्राणी पैदा करेगा, लेकिन वर्तमान में, यह विज्ञान कथा (उर्फ टर्मिनेटर के स्काईनेट ) की तरह है।
जोखिम में लोगों को मारना शामिल हो सकता है (जैसे स्व-फ़्लाइंग वॉर ड्रोन अपना निर्णय लेना), देशों को नष्ट करना या यहां तक कि पूरे ग्रह (जैसे एआई परमाणु हथियार (उर्फ वारगेम मूवी) से जुड़ा है ), लेकिन यह इस बात को साबित नहीं करता है कि मशीनें इंसानों की तुलना में अधिक स्मार्ट होंगी।
एअर इंडिया के संदर्भ में विलक्षणता एक सैद्धांतिक घटना है जिसके तहत निम्नलिखित मानदंडों के साथ एक बुद्धिमान प्रणाली तैनात है।
प्रेरण द्वारा, सिद्धांत तब भविष्यवाणी करता है कि घटनाओं का एक क्रम खुफिया वृद्धि की संभावित दर के साथ उत्पन्न होगा जो मस्तिष्क के विकास की संभावित दर से अधिक हो सकता है।
इस स्व-सुधार इकाई या खरीदे गए संस्थाओं की आबादी मानव जीवन को संरक्षित करने के लिए कितनी बाध्य होगी और स्वतंत्रता अनिश्चित है। यह विचार कि इस तरह का दायित्व एक अपरिवर्तनीय सॉफ्टवेयर अनुबंध का हिस्सा हो सकता है, ऊपर (4) के माध्यम से मापदंड (1) से बंधी क्षमताओं की प्रकृति के प्रकाश में भोली है। अन्य शक्तिशाली प्रौद्योगिकी के साथ, जोखिम संभावित लाभों के रूप में कई और दूरगामी हैं।
मानवता के जोखिम को बुद्धि की आवश्यकता नहीं है। विलक्षणता शब्द के उपयोग के अन्य संदर्भ हैं, लेकिन वे इस एआई फोरम के दायरे से बाहर हैं, लेकिन स्पष्टता के लिए एक संक्षिप्त उल्लेख के लायक हो सकता है। जेनेटिक इंजीनियरिंग, न्यूक्लियर इंजीनियरिंग, ग्लोबलाइजेशन, और एक अंतरराष्ट्रीय अर्थव्यवस्था को एक परिमित ऊर्जा स्रोत पर आधारित करना, जिसका पृथ्वी से उत्पन्न होने की तुलना में हजारों गुना अधिक तेजी से उपभोग किया जा रहा है - ये उच्च जोखिम वाली तकनीकों और बड़े पैमाने पर रुझानों के अन्य उदाहरण हैं जो जोखिम के साथ-साथ लाभ भी देते हैं। मानवता के लिए।
एआई में लौटकर, विलक्षणता के सिद्धांत में प्रमुख चेतावनी इसकी संभावना को शामिल करने में विफलता है। हालाँकि उपरोक्त मानदंड (1) के माध्यम से (4) के अनुरूप होने वाली एक इकाई को विकसित करना संभव हो सकता है, यह इतना असंभव हो सकता है कि पहली घटना तब होती है जब पृथ्वी पर बोली जाने वाली सभी मौजूदा भाषाएं मृत हो जाती हैं।
प्रायिकता वितरण के दूसरे चरम पर, कोई भी आसानी से तर्क दे सकता है कि एक गैर-बीमित संभावना है कि पहले से ही पहली घटना हुई थी।
उन पंक्तियों के साथ, अगर एक बेहतर उपस्थिति जहां पहले से ही इंटरनेट पर मौजूद है, तो यह कैसे संभव होगा कि यह अपने आप को सबसे कम ब्याज में पाएगा ताकि वह कम मनुष्यों को प्रकट कर सके। क्या हम अपने आप को एक गुजरते हुए से जोड़ते हैं?
"विलक्षणता," को संकीर्ण रूप से देखा जाता है, एक ऐसे बिंदु को संदर्भित करता है जिस पर आर्थिक विकास इतना तेज होता है कि हम भविष्य के अतीत के बारे में उपयोगी अनुमान नहीं लगा सकते हैं कि वह बिंदु कैसा दिखेगा।
इसे अक्सर "इंटेलिजेंस विस्फोट" के साथ इस्तेमाल किया जाता है, जो तब होता है जब हमें तथाकथित स्ट्रांग एआई मिलता है, जो एआई है जो खुद को समझने और सुधारने के लिए पर्याप्त बुद्धिमान है। यह उम्मीद करना उचित प्रतीत होता है कि खुफिया विस्फोट तुरंत एक आर्थिक विलक्षणता की ओर ले जाएगा, लेकिन रिवर्स जरूरी नहीं कि सच हो।