एक जागरूक एआई के विकास पर वर्तमान सिद्धांत क्या हैं?

Question

एक जागरूक एआई के विकास पर वर्तमान सिद्धांत क्या हैं? क्या कोई जागरूक AI विकसित करने की कोशिश भी कर रहा है?

क्या यह संभव है कि चेतना एक आकस्मिक घटना है, अर्थात, एक बार जब हम अपने सिस्टम में पर्याप्त जटिलता डाल देते हैं, तो यह स्वयं-जागरूक हो जाएगा?

Comments

संज्ञानात्मक संगठन का मानना ​​है कि हम जीवन के विकास के भौतिक नियमों के परिणामस्वरूप विकसित चेतना को पहचानते हैं। और मौका की बात करते हुए, यह किसी भी घटना के रूप में अपरिहार्य था, एक संभावना के साथ किसी भी घटना, भले ही वहां पहुंचने का सटीक मार्ग अप्रत्याशित हो। यदि ऐसा है, तो इससे पता चलता है कि एक डिजिटल वातावरण का कृत्रिम निर्माण जो पर्यावरण के आवश्यक घटकों को अनुकरण करता है जिसने हमारी चेतना को जन्म दिया, "कृत्रिम" चेतना को विकसित करने के लिए इस्तेमाल किया जा सकता है। (cont ....)

— क्रेग हिक्स

(.... प्रतियोगिता) कुछ हद तक कुछ हद तक मानव विद्वानों की शैक्षिक सामग्री का जीवनकाल पूरी तरह से प्रशंसनीय है। सुपरकंप्यूटर पर एक या दो दिन में अनुभूति के विकास के लगभग एक लाख साल कैसे? मैं तर्क दूंगा कि पर्यावरण का अनुकरण प्रमुख है, और विकास के नियम बाकी का ध्यान रखेंगे। पर्यावरण का अनुकरण एक ऐसा कार्य है जिसे मनुष्य मूर के कानून की अनिवार्यता के साथ, व्यवस्थित रूप से हमला कर सकता है और सीमा में सफल हो सकता है।

— क्रेग हिक्स

रिकैशन का प्रस्ताव रजनीमी द्वारा किया गया है, और मुझे मनुष्यों के विषय में कई संज्ञानात्मक विज्ञान के पेपर मिले हैं, लेकिन अभी भी एल्गोरिथम चेतना के संदर्भ में इस पर चर्चा करने वाले पत्रों की तलाश कर रहा हूं।

— DukeZhou

Answer 1

इस प्रश्न का उत्तर देने के लिए, पहले हमें यह जानना होगा कि सचेत AI का विकास कठिन क्यों है। मुख्य कारण यह है कि चेतना की कोई गणितीय या अन्यथा कठोर परिभाषा नहीं है। निश्चित रूप से आपके पास चेतना का एक विचार है जैसा कि आप इसे अनुभव करते हैं और हम दार्शनिक लाश के बारे में बात कर सकते हैं, लेकिन यह एक ठोस अवधारणा नहीं है जिसे तोड़कर काम किया जा सकता है। इसके अलावा, एआई में वर्तमान शोध का अधिकांश हिस्सा मुख्य रूप से एक व्यावहारिक दृष्टिकोण है जिसमें एक मॉडल का निर्माण करने की कोशिश की जा रही है जो कुछ वांछित लागत फ़ंक्शन के अनुसार अच्छा प्रदर्शन कर सकता है। यह एक बहुत बड़ा और रोमांचक क्षेत्र है और कई शोध समस्याओं को समाहित करता है और हर नई खोज या तो गणितीय सिद्धांत पर आधारित होती है या एक नए एल्गोरिदम / मॉडल निर्माण / आदि के अनुभवजन्य साक्ष्य पर। होने के कारण,

तो आपके सवाल का जवाब देने के लिए, कोई भी वास्तव में "सचेत" एआई बनाने की कोशिश नहीं कर रहा है क्योंकि हम नहीं जानते कि उस शब्द का क्या मतलब है, हालांकि, इसके बारे में बात करने वाले लोगों को रोकना नहीं है।

Comments

"... सचेत AI कठिन है [क्योंकि] चेतना की कोई गणितीय या अन्यथा कठोर परिभाषा नहीं है"। मानव चेतना कुछ लागत फ़ंक्शन के अनुसार अच्छा प्रदर्शन करके विकसित हुई, विशेष रूप से व्यक्तिगत और समूह दोनों स्तरों पर जीवित रहने की क्षमता। ताकि विकास की पद्धति का एक ट्रैक रिकॉर्ड हो। इसके विपरीत, चेतना की गणितीय परिभाषा को पूरा करने के लिए डिजाइन द्वारा विकास का कोई ट्रैक रिकॉर्ड नहीं है।

— क्रेग हिक्स

@ क्रैग्स हिक्स शायद आपको वह नहीं मिला जो आपका मतलब था, लेकिन क्या आपका मतलब है कि विकासवादी सफलता चेतना का सूचक है। अगर आपका यही मतलब है, तो मुझे असहमत होना चाहिए। ऐसे जीवित जीव हैं जिन्हें स्व-जागरूक नहीं माना जाता है, लेकिन एक विकासवादी POV (वायरस और बैक्टीरिया, या कुछ पौधों, उदाहरण के लिए) से बेहद सफल हैं।

— लोरेंजो दोनाती मोनिका

@ क्रेगहिक्स हम एक एआई विकसित कर सकते हैं जिसे सचेत माना जा सकता है। लेकिन यह तब तक होगा, जब तक हमारे पास कुछ प्रमुख वैचारिक और दार्शनिक सफलता नहीं होगी, मौका और भाग्य से होगा। ऐसा इसलिए है क्योंकि जब तक हम यह नहीं जानते कि हम "चेतना" को कैसे परिभाषित कर सकते हैं (इसके अलावा ("इसके अलावा हम शायद इसे तब जान पाएंगे जब हम इसे देखेंगे"), यह जानने का कोई तरीका नहीं है कि हम संभावित मशीन वाली मशीन को कैसे डिजाइन कर सकते हैं। इसे प्रदर्शित करने के लिए।

— आर्थर

स्पष्ट रूप से एक जागरूक एआई बनाने का सबसे सीधा तरीका गलती से युडकोव्स्की द्वारा लिखा गया था: एक बॉक्स में एक एआई रखो और इसे थोड़ा सा हिलाएं। यदि यह आपको बॉक्स से बाहर जाने के लिए मना करता है, तो आप शायद हार गए =)

— Cort Ammon - Reicaate Monica

मैं सहमत हूं कि दुर्घटना से ऐसा करना पूरी तरह से संभव है, मुद्दा यह है कि, दार्शनिक ज़ोंबी तर्क के समान, अभी तक यह कहने का कोई परीक्षण नहीं है कि वास्तव में कुछ भी हुआ था। व्यक्तिगत रूप से, मुझे नहीं लगता कि इस तरह की कोई परीक्षा सभी में मौजूद है और इस कारण से, शायद आने वाले भविष्य में उनके चैटबॉट और व्यक्तिगत सहायकों के लिए अधिक विनम्र होना चाहिए, बस अगर आप उनकी भावनाओं को चोट पहुंचाते हैं। "धन्यवाद सिरी"।

— जेडन Travnik

Answer 2

चेतना क्या है? एक लक्ष्य के रूप में चेतना स्थापित करने में कुछ वास्तविक चुनौतियां हैं, क्योंकि हमारे पास अभी तक इतनी वैज्ञानिक समझ नहीं है कि मस्तिष्क यह कैसे करता है या दीर्घकालिक स्मृति, अल्पकालिक स्मृति, अंतर्निहित के बीच क्या संतुलन होना चाहिए। व्याख्या का काम, स्वत: प्रसंस्करण और जानबूझकर प्रसंस्करण के विपरीत जागरूक मोड (खानमन्न का एस 1 और एस 2)। जॉन किहलस्ट्रोम (बर्कले में मनोविज्ञान का उद्भव) iTunesU में उपलब्ध चेतना पर एक व्याख्यान सेट है जिसे आप देख सकते हैं। कार्नेगी-मेलन यूनी का एक मॉडल है जिसका नाम एसीटी-आर है जो सीधे ध्यान देने जैसे सचेत व्यवहारों को दर्शाता है।

इसके बारे में हमारी समझ क्या बाध्य कर सकती है? दर्शन लंबे समय से चेतना के सवाल पर विचार कर रहा है। व्यक्तिगत रूप से मुझे हेगेल और हीडगर (दार्शनिक) पसंद हैं। दोनों को पढ़ना बहुत मुश्किल है, लेकिन हेइडेगर (ह्यूबर्ट ड्रेफस द्वारा व्याख्या की गई) ने सत्तर के दशक के 'अच्छे पुराने जमाने के एआई' प्रोजेक्ट की आलोचना की और बताया कि कितनावहाँ काम सिर्फ एक दृश्य इनपुट की व्याख्या है। हेगेल को अक्सर दुर्व्यवहार किया जाता है, लेकिन उसे अच्छी तरह से व्याख्या करने के लिए, चेतना के तर्क पर रॉबर्ट ब्रैंडम की बातचीत LMU को देखें और हेगेल को एक प्रारंभिक विक्रेता-इयान व्यावहारिक के रूप में देखें। यदि चेतना को सत्य और निश्चितता को पकड़ना है, तो यह 'संदेह का मार्ग, या अधिक उचित रूप से निराशा का एक राजमार्ग' करता है, जिसके साथ यह कभी भी सुधार के ऊपर स्थापित नहीं होता है। हेगेल के पुनरावर्ती शब्दों में चेतना के उपचार के बारे में कुछ है, एक शातिर रजक के बिना, कि मुझे लगता है कि अंत से पहले पैदा होने वाला है।

हाल ही हुए परिवर्तनें। दीप लर्निंग एप्रोच और वर्तमान की व्यावहारिक सफलताएँ रोमांचक हैं, लेकिन यह देखना दिलचस्प होगा कि वे आवश्यक सूचनाओं को एकीकृत करने और सामान्य बनाने में कितनी दूर जा सकते हैं, वास्तविक मानव दिमाग के संपर्क में आते हैं। जबकि डीप लर्निंग और डेटा माइनिंग बेहद दर्शनीय हैं, प्रतीकात्मक दृष्टिकोण भी वहाँ से बाहर हैं और अभी भी बेहतर और विविध हैं। लेकिन अतिव्यापी सैद्धांतिक व्याख्या की कमी है जो सामान्यीकरण की अनुमति देगा।

दो बड़े सिद्धांत पैर की अंगुली-पकड़। अगर मुझे एक ऐसी परियोजना चुननी थी जिसके बारे में मुझे सोचने लायक था, तो Giulio Tononi (et al) ने ' एकीकृत सूचना सिद्धांत ' में समस्या का एक बहुत अच्छा आधुनिकीकरण स्थापित किया है, लेकिन आप इस बात का विस्तार करना चाह सकते हैं कि रॉल्फ फ़ाइफ़र ' जैसी किसी चीज़ के साथ ' शरीर हमारे सोचने के तरीके को आकार देता है, क्योंकि कुछ 'एकीकृत जानकारी' में हाथ और पैर, आंखें और नाक होने का अनुमान लगाया जाता है। किया - पेशेवरों तेजी से पत्र लिख रहे हैं की तुलना में मैं उन्हें पढ़ सकते हैं।

आपके प्रश्न के लिए अधिक विशिष्ट, मानव दिमागों का अनुकरण करने की कोशिशें हैं जो यह उम्मीद करते हैं कि समग्र उद्देश्य अनुसंधान को निधि देने में मदद करेगा और ऊपर प्रत्येक पैरा के उत्तर देगा।

Comments

मैंने द अटलांटिक ( theatlantic.com/technology/archive/2018/01/… ) में डगलस हॉफ़स्टैटर का एक दिलचस्प और ईमानदार लेख पढ़ा, "डीप लर्निंग" शब्द का उपयोग Google के डीप लर्निंग ट्रांसलेशन प्रोग्राम को संदर्भित करने के लिए, और मनोरंजक का उपयोग करते हुए कार्यक्रमों में सच्ची समझ की कमी दिखाने के उदाहरण हैं। उन्होंने एक ठोस तर्क दिया कि एक जागरूक एआई को विकसित किए बिना अच्छा भाषा अनुवाद संभव नहीं होगा।

— क्रेग हिक्स

हां, मुझे नहीं लगता है कि कोई भी सचेत हो सकता है कि नीचे यह गलती हो, हालांकि मैं एक अनुवादक की कल्पना कर सकता हूं जो कभी-कभी कला की शर्तों के साथ किसी भी बेहतर बनाने में असमर्थ होता है। इसकी आउटपुट में आत्म-जागरूकता की कमी: reddit.com/r/softwaregore/comments/6bxh2m/…

— Atcrank

पहले भाग के बारे में: मेरे पुराने एआई प्रोफेसर कहते थे कि अगर कंप्यूटर सोच सकता है तो यह पूछना कि क्या पनडुब्बियां तैरती हैं। इसका उत्तर इस बात पर निर्भर करता है कि आप "तैरना" को कैसे परिभाषित करना चाहते हैं जितना मशीन वास्तव में कर रही है, उससे अधिक है।

— TED

Answer 3

CERA-CRANIUM मशीन-चेतना (MC) उत्पन्न करने के लिए एक संज्ञानात्मक-वास्तुकला का एक उदाहरण है। कंप्यूटर गेम वर्णों में सचेत व्यवहार की तरह, 2009 में यह एक ब्लैकबोर्ड प्रणाली के रूप में महसूस किया गया था जो थ्रेडेड कार्यों को निष्पादित करने में सक्षम है। कार्यान्वयन स्वयं प्राकृतिक भाषा के साथ काम करता है। इसका मतलब है, एक CERA-CRANIUM एजेंट के पास एक वेरिएबल होता है जिसे "I am in fear" कहा जाता है, और अगर यह वेरिएबल True पर सेट होता है, तो इमोशन एक्टिवेट हो जाता है। तो यह वास्तविक चेतना नहीं है, लेकिन "द सिम्स" के पात्रों की आंतरिक स्थितियों के साथ सामान्य रूप से अधिक है।

दिलचस्प पहलू यह है, कि "मशीन चेतना" इतनी गूढ़ नहीं है, जैसा कि यह दिखता है। Google विद्वान इसके बारे में 3k पेपर पाता है। ज्यादातर मामलों में, इन-गेम-पात्रों के लिए भावनाओं को लागू करने के उद्देश्य से विकास शुरू होता है जो बाद में एक आभासी मानव में सामान्य विचारों के लिए बढ़ाए गए थे।

Comments

क्या यह मज़ेदार नहीं होगा यदि सच्चा एआई "जीवन" विकसित होता है (विकसित होता है?) अनुसंधान से नहीं, बल्कि गेम-सॉफ़्टवेयर लेखकों द्वारा एक हिरन बनाने की कोशिश कर रहा है।

— क्रेग हिक्स

@ क्रेगहिक्स: आप मतलब है, जैसे दोस्ती में इष्टतम है ?

— vsz

Answer 4

जैडेन के उत्कृष्ट उत्तर के अलावा "कोई भी वास्तव में" जागरूक "एआई बनाने की कोशिश नहीं कर रहा है क्योंकि हम नहीं जानते कि उस शब्द का क्या मतलब है फिर भी" मैं जोड़ना चाहूंगा कि "अभी तक" शब्द अत्यधिक आशावादी है।

यह एक सचेत प्राणी और एक प्राणी के बीच अंतर करने के लिए अत्यधिक समस्याग्रस्त और संभावित रूप से असंभव है जो बिल्कुल वैसा ही व्यवहार करता है जैसे कि वह सचेत था। दर्शनशास्त्री सदियों से इससे जूझ रहे हैं; कुछ लोग भी एकांतवाद करते हैं, जो "मैं मैट्रिक्स में रहता हूं" दर्शन है। विशेष रूप से, आप यह कैसे बता सकते हैं कि आपका बचपन का दोस्त या आपका जीवनसाथी या कोई अन्य एआई के अवतार के बजाय एक जागरूक व्यक्ति है जो एक जागरूक व्यक्ति के रूप में बिल्कुल कार्य करता है?

यह संभव है, निश्चित रूप से, "अगर यह बतख की तरह चलता है और बतख के रूप में चलता है तो यह एक बतख है"। उस स्थिति में एअर इंडिया के पास एक ट्यूरिंग टेस्ट स्वचालित रूप से सचेत माना जाएगा। हालाँकि, अधिकांश लोग चेतना के बतख मानदंडों को स्वीकार नहीं करेंगे; अन्यथा उन्हें बहुत जल्द अपने एलेक्सा द्वारा संचालित घरेलू उपकरणों को सचेत करना होगा।

मेरे दो सेंट मूल रूप से जडेन के समान हैं, सिवाय इसके कि मैं कभी भी समझने के बारे में अधिक निराशावादी हूं कि चेतना क्या है।

Comments

मुझे लगता है कि डक टेस्ट पर्याप्त है यदि कोई AI पूर्ण ट्यूरिंग टेस्ट पास करता है, जो बुद्धिमान वयस्कों द्वारा प्रशासित है। (चीनी रूम मेरे समस्या यह है कि यह qualia पर आधारित है, और मैं qualia मान्य करने के लिए की एक और इकाई है कि इकाई बनने के लिए है एक ही तरीका है संदेह है।)

— DukeZhou

मैं यह भी तर्क दे सकता हूं कि कोई भी धारणा चेतना की सबसे बुनियादी परिभाषा को पूरा करती है, और इनपुट के आधार पर किसी भी निर्णय लेने की क्षमता बुद्धि की सबसे बुनियादी परिभाषा को संतुष्ट करती है। हम सभी जानते हैं, चेतना सिर्फ मेटा-अनुभूति का कुछ रूप हो सकता है, और पूरी तरह से प्रणाली की जटिलता का एक कार्य हो सकता है।

— DukeZhou

Answer 5

चेतना अपने स्वयं के विचारों, अपने तत्काल वातावरण, भावनाओं और कुछ भी नहीं से अवगत होने की क्षमता है। यह हमारे मस्तिष्क के तंत्र को हमारे निम्न प्रकार के विचारों को नियंत्रित करने के लिए है, जो संघों और भावनाओं पर आधारित है। चेतना हमारे विचारों और भावनाओं को वैसे ही देख रही है जैसे हम अपनी आँखों से वास्तविक दुनिया का निरीक्षण करते हैं। यह जटिल नहीं है। असली सवाल यह नहीं है कि क्या मशीनें चेतना के लिए सक्षम हैं लेकिन क्या वे भावनाओं में सक्षम हैं।

Comments

मजबूत भावनाओं का प्रदर्शन करने वाले आधुनिक मनुष्यों के अलावा बहुत सारी प्रजातियां हैं। ये भावनाएं सहज हैं - वे सामाजिक व्यवहार को परिभाषित करने में बहुत महत्वपूर्ण हैं जो "समूह" की उत्तरजीविता और फिटनेस को बढ़ाते हैं। मैं नहीं देख सकता कि अन्य स्तनधारियों की तुलना में मानव भावना गुणात्मक रूप से कितनी भिन्न है। इसके विपरीत, मानव चेतना निकटतम अन्य प्रजातियों की तुलना में मनुष्यों में अधिक विकसित परिमाण के कई आदेश हैं। जहाँ मानव भावना अन्य प्रजातियों से भिन्न प्रतीत होती है, वह केवल चेतना के माध्यम से भावना को नियंत्रित करने की क्षमता है।

— क्रेग हिक्स

यह उत्तर 'आपके' की परिभाषा के बिना कोई अर्थ नहीं रखता है।

— DrMcCleod

Answer 6

परिचय : वर्तमान में, हम मानते हैं कि वर्तमान प्रणाली मनुष्यों की तुलना में लगभग हर विशेष कार्य में बेहतर हो जाती है। इसके अतिरिक्त, हम देखते हैं कि वैज्ञानिक कम विशिष्ट कार्यों (वर्तमान में: पत्र मान्यता, से जा रहे हैं: जानवरों की मान्यता, प्रजातियों की मान्यता, गतिविधि की पहचान, चलती छवि की पहचान,) में भी बेहतर काम करते हैं।

निष्कर्ष : यह विश्वास करने का कोई कारण नहीं है कि भविष्य में किसी भी कार्य में न्यूरल नेटवर्क एडेड सिस्टम बेहतर नहीं बनेंगे।

प्रश्न :

चेतना क्या है?

मुझे लगता है कि आत्म-जागरूकता के बारे में मौजूदा समस्या एक परिभाषा समस्या है। दार्शनिक (जो, दुर्भाग्य से, इस संदर्भ में पूरी तरह से बेकार है) के बावजूद मुझे इस विषय के बारे में ज्यादा साहित्य नहीं मिल रहा था।

साहित्य की कमी के कारण मैं अपनी परिभाषा खुद बनाना चाहूंगा। सौभाग्य से, हम अवलोकन से जानते हैं कि सभी "बुद्धिमान" रेटेड जानवरों में "आत्म-चेतना" की कुछ डिग्री है और वे उत्सुक हैं। जीव विज्ञान से हम जानते हैं कि जिज्ञासा एक अवलोकन / तर्क / परीक्षण व्यवहार के लिए एक प्रेरणा तंत्र है। अब हम निष्कर्ष निकालते हैं कि आत्म जागरूकता, स्पष्ट रूप से वही तंत्र है जो आपके स्वयं के व्यवहार / विचार प्रक्रियाओं पर लागू होता है। हम बस दी गई क्रिया के एक संभावित परिणाम की कल्पना करते हैं, जो हम प्रदर्शन कर सकते हैं, और इसे विकसित कर सकते हैं।

इसलिए चेतना एक दी गई प्रेरणा प्रणाली का परिणाम होना चाहिए जो जिज्ञासा और पर्याप्त रूप से जटिल अनिर्दिष्ट मूल्यांकन प्रणाली का पक्ष लेती है।

मेरा अनुमान है कि इस तरह की प्रेरणा प्रणाली को लागू करना बहुत आसान है। वर्तमान समस्या यह है कि बस कोई भी प्रणाली मौजूद नहीं है जो किसी भी कार्य को "हल" करने के लिए पर्याप्त रूप से बहुमुखी है। वर्तमान नेटवर्क अभी भी बहुत विशिष्ट हैं।

Comments

"सौभाग्य से, हम अवलोकन से जानते हैं कि सभी" बुद्धिमान "रेटेड जानवरों में कुछ हद तक" आत्म-चेतना "है। आपकी परिभाषा परिपत्र है।

— DrMcCleod

क्या परिभाषा और कैसे?

आप इस विचार से 'चेतना' की परिभाषा का प्रयास कर रहे हैं कि जीव 'आत्म-चेतन' हैं। आपके पास एक परिभाषा नहीं हो सकती है जो परिभाषित की जा रही अप्रीरी अस्तित्व पर निर्भर करती है। और न ही, इस बात के लिए, क्या आप मान सकते हैं कि खुद के अलावा किसी और चीज में चेतना है क्योंकि हमारे पास इसे मापने का कोई तरीका नहीं है।

— DrMcCleod

चेतना और आत्म-चेतना समान हैं और उसी पर भरोसा करते हैं। क्या अंतर होना चाहिए?

आत्म-चेतना और आत्म-जागरूकता भी एक ही चीज है। किसी शब्द को संदर्भित करके उसे परिभाषित करने के लिए तार्किक अर्थ नहीं है। आप यह कहकर हाथी को परिभाषित कर सकते हैं कि यह एक हाथी है।

— DrMcCleod