हमें AI में सामान्य ज्ञान की आवश्यकता क्यों है?


10

आइए इस उदाहरण पर विचार करें:

यह जॉन का जन्मदिन है, चलो उसे पतंग खरीदते हैं।

हम मनुष्य सबसे अधिक संभावना यह कहेंगे कि पतंग एक जन्मदिन का उपहार है, अगर पूछा जाए कि इसे क्यों खरीदा जा रहा है; और हम इस तर्क को सामान्य ज्ञान के रूप में संदर्भित करते हैं ।

कृत्रिम रूप से बुद्धिमान एजेंटों में हमें इसकी आवश्यकता क्यों है? मुझे लगता है कि यह समस्याओं की अधिकता पैदा कर सकता है, क्योंकि हमारी कई मानवीय त्रुटियां इन अस्पष्ट धारणाओं के कारण होती हैं।

एक एआई की कल्पना करें जो कुछ चीजों को अनदेखा कर रहा है क्योंकि यह मानता है कि यह पहले से ही किसी और (या किसी अन्य एआई) द्वारा किया गया है, अपने सामान्य ज्ञान का उपयोग करके।

क्या एआई सिस्टम में मानवीय त्रुटियों को नहीं लाया जाएगा?


टिप्पणियाँ विस्तारित चर्चा के लिए नहीं हैं; इस वार्तालाप को बातचीत में स्थानांतरित कर दिया गया है ।
nbro

जवाबों:


16

सामान्य ज्ञान ज्ञान परिसर का संग्रह है जिसे हर कोई, एक निश्चित संदर्भ में (इसलिए सामान्य ज्ञान ज्ञान संदर्भ का एक कार्य हो सकता है) प्रदान करता है। यदि एआई में सामान्य ज्ञान का ज्ञान नहीं होता तो मानव और एआई के बीच बहुत अधिक गलतफहमी होती। इसलिए, सामान्य ज्ञान ज्ञान मानव-एआई बातचीत के लिए मौलिक है ।

ऐसे परिसर भी हैं जो प्रत्येक मानव स्वतंत्र रूप से देश, संस्कृति या सामान्य रूप से संदर्भ के लिए लेता है। उदाहरण के लिए, प्रत्येक मानव (उसके जन्म के बाद से) के पास भोले भौतिकी के बारे में तर्क करने के लिए एक तंत्र है, जैसे कि अंतरिक्ष, समय और भौतिक इंटरैक्शन। यदि कोई AI इस ज्ञान के अधिकारी नहीं है, तो वह उन कार्यों को नहीं कर सकता है जिनके लिए इस ज्ञान की आवश्यकता होती है।

किसी भी कार्य के लिए सामान्य ज्ञान ज्ञान ( औसत मानव का) के लिए एक मशीन की आवश्यकता होती है , जिसे एआई-पूर्ण माना जाता है , अर्थात इसके लिए मानव-स्तर (या सामान्य) बुद्धि की आवश्यकता होती है। क्रिश्चियन एंड्रीक, लियो नोवोसेल और बोजन हर्नकास द्वारा कॉमन सेंस नॉलेज (2009) के सेक्शन 3 देखें ।

बेशक, मनुष्य के अलग-अलग मान्यताओं या परिसरों के कारण संवाद करते समय जो समस्याएं उत्पन्न होती हैं, वे मनुष्यों और एआई के बीच भी उत्पन्न हो सकती हैं (जो सामान्य ज्ञान ज्ञान रखती हैं)।


टिप्पणियाँ विस्तारित चर्चा के लिए नहीं हैं; इस वार्तालाप को बातचीत में स्थानांतरित कर दिया गया है ।
nbro

10

यदि हम मानव भाषा को समझने के लिए कंप्यूटर प्राप्त करना चाहते हैं तो हमें इस तरह के सामान्य ज्ञान ज्ञान की आवश्यकता है । आपके द्वारा दिए गए उदाहरण की व्याकरणिक संरचना का विश्लेषण करने के लिए कंप्यूटर प्रोग्राम के लिए यह आसान है, लेकिन इसके अर्थ को समझने के लिए हमें संभावित संदर्भों को जानना होगा, जिसे आप यहां "सामान्य ज्ञान" के रूप में संदर्भित करते हैं।

रोजर शैंक एट अल में इस पर बहुत जोर दिया गया था कहानियों की कंप्यूटर समझ पर काम करते हैं, और ज्ञान प्रतिनिधित्व, लिपियों, योजनाओं, लक्ष्यों में बहुत अधिक शोध करते हैं। स्कंक के काम का एक उदाहरण मैरी भूखा था। उसने एक मिशेलिन गाइड उठाया। - यह एक गैर-सीक्वेटुर की तरह लगता है: अगर आपको भूख लगी है, तो एक किताब क्यों लें? जब तक आप यह महसूस नहीं करते कि यह एक रेस्तरां गाइड है, और मैरी संभवतः खाने के लिए एक रेस्तरां में जाने की योजना बना रही है। यदि आप जानते हैं कि किसी रेस्तरां में जाना भूख लगने की समस्या का एक संभावित समाधान है, तो आपको इस कहानी के टुकड़े को समझने में कोई समस्या नहीं है।

किसी भी कहानी को समझने के लिए सामान्य ज्ञान की आवश्यकता होती है, क्योंकि कोई भी कहानी पूरी तरह से स्पष्ट नहीं होती है। सामान्य चीजें "समझी जाती हैं" और स्पष्ट रूप से उल्लेख नहीं की जाती हैं। कहानियां मानव अनुभव से संबंधित हैं, और एक ऐसी कहानी जो सब कुछ स्पष्ट कर देगी, शायद एक कंप्यूटर प्रोग्राम की तरह पढ़ेगी। आपको यह समझने के लिए भी सामान्य ज्ञान की आवश्यकता है कि कहानी में पात्र कैसे व्यवहार करते हैं, और वे कैसे प्रभावित होते हैं। फिर, यह बहुत व्यक्तिपरक है, लेकिन यह आवश्यक है। कुछ सामान्य ज्ञान आमतौर पर लागू हो सकते हैं, इसके अन्य पहलू नहीं होंगे। यह एक जटिल मुद्दा है, यही वजह है कि शोधकर्ताओं ने एआई अनुसंधान के कम से कम आधी सदी के लिए इसके साथ संघर्ष किया है।

बेशक यह एक AI प्रणाली में "मानवीय त्रुटियों" को पेश करेगा। यह सब बहुत व्यक्तिपरक और संस्कृति-विशिष्ट है। संयुक्त राज्य अमेरिका में एक रेस्तरां में जाना फ्रांस में एक से जाने से अलग है - यही कारण है कि विदेश जाना एक चुनौती हो सकता है। और मेरी एक कहानी पढना शायद आपसे अलग होगा। लेकिन अगर आप मानवीय बुद्धिमत्ता का अनुकरण करना चाहते हैं, तो आप ऐसा नहीं कर सकते हैं, बिना संभावित मानवीय "त्रुटियों" के।


टिप्पणियाँ विस्तारित चर्चा के लिए नहीं हैं; इस वार्तालाप को बातचीत में स्थानांतरित कर दिया गया है ।
nbro

2

मैं इस प्रश्न का कई भागों में उत्तर दूंगा:

AGI सिस्टम को सामान्य ज्ञान की आवश्यकता क्यों है?

जंगली कारण में मनुष्य और सख्त तर्क के साथ सामान्य ज्ञान का अधिक उपयोग करते हुए संवाद करते हैं, आप यह देख कर देख सकते हैं कि तर्क की तुलना में किसी की भावना के लिए अपील करना आसान है। तो कोई भी प्रणाली जो मानव अनुभूति (जैसे एजीआई में) को दोहराने की कोशिश करती है, उसे भी सामान्य ज्ञान का उपयोग करने की इस प्रवृत्ति को दोहराना चाहिए।

और अधिक सीधे शब्दों में, हम चाहते हैं कि हमारी एजीआई प्रणाली सामान्य भाषा में हमसे बात कर सकती है, क्योंकि यह वही है जो हम सबसे अच्छी तरह से समझते हैं (अन्यथा हम हमारे अनुकूल एजीआई हम नहीं समझेंगे?)। ऑब्सट्यूट सिद्धांत और सख्त तर्क तकनीकी रूप से सही हो सकते हैं, लेकिन हमारी समझ के लिए अपील नहीं करते हैं।

क्या एजीआई का लक्ष्य सबसे संज्ञानात्मक अग्रिम प्रणाली नहीं है? क्यों "सबसे सही" एजीआई प्रणाली को सामान्य अर्थों में मौजूद ऐसी खामियों और अभद्रता से निपटने की आवश्यकता है?

सबसे पहले, यह केवल ऐसा प्रतीत हो सकता है कि सामान्य ज्ञान तर्क "तर्कहीन" है। शायद सामान्य ज्ञान को मॉडल करने के लिए एक सुसंगत गणितीय तरीका है जैसे कि सामान्य ज्ञान की सभी सूक्ष्मताओं को एक कठोर फैशन में दर्शाया गया है।

दूसरा, आर्टिफिशियल इंटेलिजेंस का शुरुआती अध्ययन संज्ञानात्मक विज्ञान के अध्ययन में शुरू हुआ, जहां शोधकर्ताओं ने "मन के एल्गोरिदम" को दोहराने की कोशिश की, या अधिक सटीक: निर्णायक प्रक्रियाएं जिन्होंने मानव विचार को दोहराया। उस हद तक, AI का अध्ययन "सबसे सर्वोच्च संज्ञानात्मक एजेंट" बनाने के लिए नहीं है, बल्कि केवल मानव विचार / व्यवहार को दोहराने के लिए है। एक बार जब हम मानव व्यवहार को दोहरा सकते हैं तो हम शायद इसे अधिक कम्प्यूटेशनल शक्ति देकर कुछ सुपर-ह्यूमन बनाने की कोशिश कर सकते हैं, लेकिन इसकी गारंटी नहीं है।

मैं अभी भी नहीं देखता कि एजीआई सिस्टम में सामान्य ज्ञान की आवश्यकता क्यों है। क्या एजीआई सबसे बुद्धिमान और शक्तिशाली कम्प्यूटेशनल प्रणाली नहीं है? उसे मानवीय समझ की सीमाओं की देखभाल या पालन क्यों करना चाहिए, जिसके लिए सामान्य ज्ञान की आवश्यकता है?

शायद तब आपको थोड़ी-सी गलतफहमी हो गई हो कि एजीआई किस बात पर जोर देता है। AGI का मतलब अनबंटेड कम्प्यूटेशनल पावर (शारीरिक रूप से असंभव होने की वजह से कंप्रेशन पर भौतिक बाधाएं जैसे Bremermann की सीमा ) या अनबाउंड इंटेलिजेंस (शायद पहले की कमी के कारण शारीरिक रूप से असंभव) है। यह आमतौर पर कृत्रिम "सामान्य बुद्धि" का अर्थ है, सामान्य अर्थ व्यापक और सामान्य।

अनबाउंड एजेंटों के बारे में विचारों का विस्तार से अध्ययन किया जाता है जैसे कि सैद्धांतिक कंप्यूटर विज्ञान (सिद्धांत मैं विश्वास करता हूं), निर्णय सिद्धांत, और शायद यहां तक ​​कि सिद्धांत भी निर्धारित करता है, जहां हम अनबंटेड कम्प्यूटेशनल पावर वाले एजेंटों के बारे में सवाल करने में सक्षम हैं। हम कह सकते हैं कि बिना बिजली के भी एजीआई सिस्टम से सवाल हैं, हॉल्टिंग की समस्या के कारण कोई जवाब नहीं दे सकता है , लेकिन केवल अगर उन क्षेत्रों पर धारणाएं दी गई एजीआई की संरचना पर मैप करती हैं, जो सच नहीं हो सकती हैं।

AGI और उसके लक्ष्य क्या हो सकते हैं, इसकी बेहतर समझ के लिए, मैं दो पुस्तकों की सिफारिश कर सकता हूं: आर्टिफिशियल इंटेलिजेंस: एक बहुत ही व्यावहारिक दृष्टिकोण के लिए जॉन हागलैंड द्वारा बहुत आइडिया (जैसा कि AI- दर्शन हो सकता है, और वस्तुओं की उत्पत्ति पर) अधिक दार्शनिक दृष्टिकोण के लिए ब्रायन केंटवेल स्मिथ।

एक तरफ एक मजेदार के रूप में, ज़ेन कोन: द गैटलेस गेट के संग्रह में निम्नलिखित मार्ग शामिल हैं: ( विकिपीडिया से उद्धृत और संपादित )

एक भिक्षु ने एक चीनी ज़ेन मास्टर झाउझोऊ से पूछा, "क्या एक कुत्ता बुद्ध-प्रकृति है या नहीं?" झाउझोउ ने उत्तर दिया, "वू"

वू (")" कोई नहीं "," नोन्सच ", या" कुछ भी नहीं "का अनुवाद करता है, जिसकी व्याख्या हां या ना में जवाब देने से बचने के लिए की जा सकती है। यह प्रबुद्ध व्यक्ति हर सवाल का कड़ाई से जवाब देने की कोशिश नहीं करता है, लेकिन सिर्फ इस तरह से जवाब देता है जो समझ में आता है। यह वास्तव में मायने नहीं रखता है कि कुत्ते को भगाने के लिए बुद्ध-प्रकृति है या नहीं (जो भी बुद्ध-प्रकृति का अर्थ है), इसलिए मास्टर प्रश्न को हल करने के बजाय उसे अनुपस्थित करने के लिए चूकता है।


3
यह बहुत मजेदार होता अगर मास्टर ने जवाब दिया होता "wúf wúf!"
m3characters

1

शायद यह एक उदाहरण देने में मदद करेगा कि सामान्य ज्ञान के बिना क्या गलत हो सकता है: जेम्स होगन द्वारा उपन्यास "द टू फेसेस ऑफ़ टुमॉरो" की शुरुआत में, चंद्रमा पर एक निर्माण पर्यवेक्षक एक स्वचालित प्रणाली के साथ एक अनुरोध दायर करता है, यह पूछे जाने पर कि निर्माण उपकरण के एक विशेष बड़े टुकड़े को जल्द से जल्द उसकी साइट पर पहुंचाया जाएगा। सिस्टम जवाब देता है कि यह बीस मिनट में आ जाएगा। बीस मिनट बाद, पर्यवेक्षक को मार दिया जाता है क्योंकि उपकरण उसके निर्माण स्थल में दुर्घटनाग्रस्त हो जाता है। सिस्टम ने निर्धारित किया था कि उस साइट पर उपकरण वितरित करने का सबसे तेज़ तरीका यह था कि इसे एक द्रव्यमान-चालक पर माउंट किया जाए और इसे साइट पर लॉन्च किया जाए। यदि प्रश्न में प्रणाली को सामान्य ज्ञान दिया गया होता, तो यह क्वेरी पर अतिरिक्त अस्थिर बाधाओं का अनुमान लगा सकता था, जैसे कि 'उपकरण अक्षुण्ण होना चाहिए', ' उपकरणों के आगमन से नुकसान या जीवन का नुकसान नहीं होना चाहिए ', और इसी तरह। (बाकी उपन्यास सामान्य ज्ञान के साथ एक नई प्रणाली के निर्माण के लिए किए गए प्रयोग का वर्णन करता है)


काफी दिलचस्प उदाहरण है। हालांकि, शायद यह दूसरे रास्ते पर भी जा सकता है। एक रोगी पर एक एआई जाँच की कल्पना करें, और रोगी के समग्र सामान्य रूप को देखकर, निष्कर्ष निकालें कि रोगी ठीक हो सकता है / यह सामान्य ज्ञान पर आधारित है (यदि आप ठीक दिखते हैं तो शायद आप हैं); हालांकि, रोगी को गंभीर मदद की जरूरत है। हालाँकि, मुझे लगता है कि यह अब तक स्पष्ट है कि सामान्य ज्ञान समस्या नहीं है, यह दोषपूर्ण सामान्य ज्ञान / ज्ञान है जो महत्वपूर्ण परिस्थितियों में खतरनाक हो सकता है। इसलिए मुझे लगता है कि हमें नियंत्रण रखना चाहिए और सुनिश्चित करना चाहिए कि एआई में दोष रहित सामान्य ज्ञान है।
टाइटन

0

क्या यह सामान्य ज्ञान है, या यह प्राकृतिक भाषा समझ है?

यह कहा गया है कि प्राकृतिक भाषा की समझ एआई कार्यों में से एक है। यह एक उदाहरण है जो दिखा रहा है कि क्यों। वाक्य का पहला भाग दूसरे भाग से संबंधित है, कि वाक्य कैसे काम करता है।

अब प्रासंगिक सवाल यह है कि दोनों भाग कैसे संबंधित हैं। कुछ मानक संबंध हैं जिनका हम सामना करते हैं, उदाहरण के लिए एक अस्थायी आदेश। इस विशिष्ट उदाहरण में, संबंध की प्रकृति एक कारण और प्रभाव के करीब है।

जब हम इस संबंध को स्पष्ट करने के लिए कोई शब्द सम्मिलित करते हैं तो आप यह प्रभाव देखते हैं:

यह जॉन का जन्मदिन है, तो चलिए उसे पतंग खरीदते हैं। या चलो जॉन को एक पतंग खरीदें, क्योंकि यह उसका जन्मदिन है।

यह इन निहित संबंधों को स्पष्ट करने के लिए मनुष्यों के लिए एक तकनीक है।

अब, जिज्ञासु नोटों के रूप में, आपको यह समझने के लिए सांस्कृतिक ज्ञान की भी आवश्यकता है कि जन्मदिन एक वर्तमान का कारण कैसे हो सकता है। सामान्य ज्ञान की कोई भी राशि इसमें मदद नहीं करती है।


हम " सामान्य ज्ञान " का उपयोग करते हैं हमें उस तरह एक वाक्य को समझना होगा। एनएलपी वास्तव में कठिन है, मैं सहमत हूं, और ऐसा इसलिए है क्योंकि अभी तक एआई के पास दुनिया का यह व्यापक ज्ञान और मॉडल नहीं है जो हमारे पास है; इसलिए यह डॉट्स को जोड़ने और उन निहित संबंधों को समझने में कमी है। आपके द्वारा उल्लेखित " सांस्कृतिक ज्ञान " को मूल रूप से हमारा सामान्य ज्ञान माना जाता है।
टाइटन
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.