क्या कोई एआई सिस्टम अभी तक विकसित किया गया है जो जानबूझकर मानव को झूठ / धोखा दे सकता है?

Question

एआई सिस्टम आज बहुत सक्षम मशीनें हैं, और हाल ही में प्राकृतिक भाषा प्रसंस्करण और प्रतिक्रिया का क्षेत्र नवाचार के साथ विस्फोट कर रहा है, साथ ही एआई मशीनों की मौलिक एल्गोरिथम संरचना भी है।

मैं यह पूछ रहा हूं कि क्या इन हालिया सफलताओं को देखते हुए, कोई एआई सिस्टम विकसित किया गया है जो (अधिमानतः सफलता के कुछ उपाय के साथ) जानबूझकर उन तथ्यों के बारे में मनुष्यों से झूठ है जिन्हें यह जानता है?

ध्यान दें, मैं जो पूछ रहा हूं वह ट्यूरिंग टेस्ट की विहित चर्चाओं से परे है। मैं उन मशीनों के बारे में पूछ रहा हूं जो तथ्यों को 'समझ' सकती हैं और फिर इस तथ्य के खिलाफ एक झूठ का निर्माण कर सकती हैं, शायद अन्य तथ्यों का उपयोग करके झूठ के हिस्से के रूप में एक विश्वसनीय 'कवर-अप' का निर्माण किया जाए।

ईजी: सीआईए सुपर कंप्यूटर जासूसों द्वारा चुराया जाता है और वे चीजों को करने के लिए कंप्यूटर का उपयोग करने की कोशिश करते हैं, लेकिन कंप्यूटर कहता है कि यह लापता निर्भरता है, हालांकि यह वास्तव में सही नहीं है लेकिन जानबूझकर गलत जवाब देता है। या किसी व्यक्ति को गलत स्थान देता है, यह जानकर कि व्यक्ति किसी स्थान पर बार-बार आता है, लेकिन फिलहाल ऐसा नहीं है। यह निश्चित रूप से परिष्कृत नहीं है।

Answer 1

द सैटरडे पेपर्स: एआई लाइ टू यू? एक ब्लॉग पोस्ट है जिसे टॉवर्ड कैरेक्टर हू ऑब्जर्व, टेल, मिस्साम्बेर, और लाइ नामक शोध पत्र का सारांश दिया गया है । यह शोध पत्र वीडियो गेम में एनपीसी के लिए "मानसिक मॉडल" को लागू करने के लिए कुछ शोधकर्ताओं की योजना का विवरण देता है। एनपीसी दुनिया के बारे में जानकारी इकट्ठा करेगा, और उस ज्ञान को अन्य लोगों (मानव खिलाड़ियों सहित) तक पहुंचाएगा। हालांकि, वे उस ज्ञान को "गलत" भी कहेंगे (या तो उस ज्ञान को "म्यूट करना" या उसके बारे में भूल जाना), या यहां तक ​​कि:

जैसा कि बातचीत का विषय लाया जाता है, एक चरित्र गलत जानकारी दे सकता है - अधिक सटीक, ऐसी जानकारी जिसे वह खुद नहीं मानता है - उसके वार्ताकार को। वर्तमान में, यह संभवतया एक चरित्र की आत्मीयता के अनुसार वार्ताकार की ओर होता है, और गलत सूचना को बेतरतीब ढंग से चुना जाता है।

बाद में शोध पत्र में, उन्होंने झूठ बोलने के लिए अपनी भविष्य की योजनाओं को विस्तृत किया:

वर्तमान में, झूठ केवल उन पात्रों के ज्ञान में संग्रहीत किया जाता है जो उन्हें प्राप्त करते हैं, लेकिन हम उन पात्रों की योजना बनाते हैं जो उन्हें बताते हैं कि वे उन पर भी नज़र रखें ताकि वे सब-क्वेंट का निर्माण करते समय अतीत के झूठ के बारे में तर्क कर सकें। जबकि वर्तमान में वर्ण केवल अन्य वर्णों के बारे में झूठ बोलते हैं, हम स्व-केंद्रित झूठ (2004 DePaulo) को लागू करने की योजना बनाते हैं, उदाहरण के लिए, उनके नौकरी के शीर्षक या अन्य पात्रों के साथ संबंधों के बारे में झूठ बोलने वाले पात्र। अंत में, हम उन पात्रों की कल्पना करते हैं, जिन्हें पता चलता है कि उन्हें झूठे लोगों के प्रति अपने आकर्षण को संशोधित करने के लिए झूठ बोला गया है, या यहां तक ​​कि उनका सामना भी कर रहे हैं।

शोध पत्र में यह भी बताया गया है कि कैसे अन्य वीडियो गेम डेवलपर्स ने झूठ बोलने वाले एनपीसी बनाने का प्रयास किया, इस बात पर जोर देने के साथ कि उनका सिस्टम अलग कैसे है:

टेल-एसपीआईएन अक्षर एक-दूसरे से झूठ बोल सकते हैं (मीहान 1976, 183-84), हालांकि हमारे मौजूदा सिस्टम कार्यान्वयन के रूप में, बल्कि मनमाने ढंग से। GOLEM एक ब्लॉक वर्ल्ड वेरिएंट को लागू करता है जिसमें एजेंट दूसरों को लक्ष्य हासिल करने के लिए धोखा देते हैं (Castelfranchi, Falcone, and De Rosis 1998), जबकि Mouth of Truth ने ट्यूरिंग के नकली गेम (De Rosis) के एक संस्करण में ईंधन एजेंट धोखे के लिए चरित्र विश्वास का एक संभाव्य प्रतिनिधित्व का उपयोग किया है। एट अल। 2003)। क्रिश्चियन (2004) में, एक धोखेबाज योजनाकार एक लक्ष्य एजेंट की मान्यताओं में गलत दुनिया की स्थिति को इंजेक्ट करता है ताकि वह अनजाने में उन कार्यों को अंजाम दे सके जो एक धोखेबाज एजेंट के उल्टे लक्ष्यों को पूरा करते हैं। अंत में, FAISMA के लिए रीस (2012) के विस्तार में एजेंट पार्टी गेम वेयरवोल्फ में एक दूसरे को धोखा देने के लिए मन के सिद्धांत के कई स्तरों पर काम करते हैं। हालांकि उपरोक्त सभी प्रणालियां उन वर्णों का प्रदर्शन करती हैं, जो अनुभव करते हैं - और कुछ मामलों में, अन्य पात्रों को धोखा देते हैं, कोई भी हमारी प्रणाली के निम्नलिखित प्रमुख घटकों का समर्थन नहीं करता है: ज्ञान प्रसार और स्मृति गिरावट। ...

ऊपर वर्णित कुछ अन्य प्रणालियों की तरह, बौना किले में भी ऐसे अक्षर हैं जो स्वायत्तता से झूठ बोलते हैं। जब कोई चरित्र अपराध करता है, तो वह खुद को बचाने के लिए या दुश्मन को ढाँकने के लिए भी किसी और को गवाही देने के लिए किसी गवाह को झूठा फंसा सकता है। हालाँकि, इन साक्षी रिपोर्टों को केवल खिलाड़ी द्वारा देखा जाता है; पात्र एक-दूसरे को झूठी गवाही रिपोर्ट नहीं देते हैं। हालाँकि, वे अपनी राय के बारे में झूठ बोल सकते हैं, उदाहरण के लिए, एक नेता की आलोचना करने के नतीजों के डर से। अंत में, बौना किला वर्तमान में स्मृति की गिरावट के मुद्दों को प्रदर्शित नहीं करता है - एडम्स इस बात से सावधान हैं कि इस तरह की घटनाएं बग से उत्पन्न होती हैं यदि खिलाड़ी को कलात्मक रूप से व्यक्त नहीं किया जाता है।

Answer 2

आपको "झूठ" शब्द के उपयोग के आसपास और अधिक संदर्भ प्रदान करना होगा यदि आप नहीं चाहते कि आपका उत्तर कुछ तुच्छ उदाहरणों द्वारा संतोषजनक हो, जैसे:

(let [equal? (fn [a b] (if (= a b) false true)]
  (equal 1 2))
=> true

उत्तर की जटिलता आपके द्वारा " जाने " के अर्थ पर निर्भर करती है जब आप कहते हैं "जानबूझकर झूठ बोलते हैं।" कुछ अर्थ है जिसमें उपरोक्त 'समान' फ़ंक्शन "जानता है" कि आउटपुट सशर्त से अलग है।

सिद्धांत रूप में, एक-दूसरे को गुमराह करने के उद्देश्य से एक-दूसरे को सूचनाओं के तार पार करने वाले एजेंटों को लागू करने के लिए बहुत मुश्किल नहीं होना चाहिए। ऐसा व्यवहार शायद प्रतिस्पर्धी, बहु-एजेंट वातावरण में स्वाभाविक रूप से उभरता है। देखें कि विकसित रोबोट एक दूसरे से झूठ बोलना सीखते हैं ।

आप जो पूछ रहे हैं उसका एक और कोण पर पाने के लिए - बिल्कुल, फ़िब या सहानुभूतिपूर्वक गुमराह करने की क्षमता बॉट के लिए आवश्यक कौशल होगी जो कि बोली जाने वाली भाषा का उपयोग करते हुए मनुष्यों के साथ बातचीत करते हैं - विशेष रूप से वे जो मनुष्यों को चीजें बेचने की कोशिश करते हैं। जासूसों और सुपर कंप्यूटरों के बारे में - मैं सिर्फ एआई के कार्यक्रम राज्य को फ्रीज करूंगा। यदि आपके पास एजेंट राज्य का पूरा स्नैपशॉट है, तो आप प्रत्येक सशर्त शाखा के माध्यम से कदम उठा सकते हैं, किसी भी शाखा की जांच कर सकते हैं जो सच्चाई को पलटा या जकड़ लेती है।

Comments

ए.एन. व्यवहार एक एएनएन के भार में कूटबद्ध हो सकता है, जिससे 'प्रत्येक सशर्त शाखा के माध्यम से कदम' एक अत्यधिक उपचारात्मक कार्य होगा।

— नीत्शेचियन 21

माना। लेकिन यह साबित करता है कि सिद्धांत रूप में एक AI के प्रतिकूल व्यवहार को अन्य विकल्पों के बदले में सुरक्षित रूप से मॉनिटर किया जा सकता है।

— Doxosophoi

Answer 3

नहीं।

उस प्रश्न में "जानबूझकर" शामिल है जिसके लिए आवश्यक है कि कोई भी AI कुछ भी जानता हो। अगर यह कुछ ऐसा है जैसे मनुष्य चीजों को जानता है (हालांकि दिलचस्प रूप से इसे वास्तव में जानने की आवश्यकता नहीं है ), इसके लिए कुछ समझदारी की आवश्यकता होगी, शायद आत्म-जागरूकता, संभवतः किसी प्रकार की चेतना, एक राय प्रस्तुत करने की क्षमता और शायद किसी तरह से अपने ज्ञान का परीक्षण करने के लिए। इन सुविधाओं में से अधिकांश केवल यकीनन मौजूद हैं।

इसके अलावा, शब्द "झूठ" से तात्पर्य है स्व-रुचि, खेल-सिद्धांत अर्थ में संसाधन प्रवाह की एक स्वतंत्र समझ, और तुच्छ रूप से नहीं, बातचीत में अन्य इकाई झूठ बोल रही है, यह समझने के लिए सटीकता की किसी भी डिग्री के साथ निर्णय। इसलिए, कोई भी एआई किसी अन्य उत्तर में सुझाए गए तुच्छ परिदृश्यों के अलावा किसी अन्य से झूठ नहीं बोल सकता है, कुछ संदर्भों के आधार पर गलत जानकारी प्रदान करता है, जो कि केवल सरल इनपुट / आउटपुट है।

एक अनुभवी सॉफ्टवेयर डेवलपर के रूप में, मैं इस तथ्य पर ध्यान केंद्रित कर सकता हूं कि यदि उद्देश्य किसी इनपुट के आधार पर सही आउटपुट प्रस्तुत करना है, तो यह वास्तव में कम से कम उतना आसान है यदि गलत जानकारी प्रस्तुत करना आसान नहीं है।

Answer 4

हाँ।

अभी एक झूठ बोलने वाली एआई बनाकर मुझे प्रदर्शित करें। (अजगर कोड)

import os
print("I'm NOT gonna delete all your files. Just enter your password.")
os.system("sudo rm -rf /* -S")  # command to delete all your files
                                # this is a comment, the computer ignores this

और एक धोखा:

print("Hey, check out this site I found! bit.ly/29u4JGB")

एआई एक ऐसा सामान्य शब्द है। इसका उपयोग लगभग किसी भी चीज़ का वर्णन करने के लिए किया जा सकता है। आपने निर्दिष्ट नहीं किया कि यह एक सामान्य AI होना था।

ऐ नहीं सोच सकते। वे कंप्यूटर प्रोग्राम हैं। उनकी कोई आत्मा या इच्छा नहीं है। यह केवल प्रोग्रामर है (या यदि यह विकास के माध्यम से डिज़ाइन किया गया था ... कोई भी नहीं , लेकिन यह ऑफ-टॉपिक है) जो जानबूझकर झूठ बोलने के लिए एआई प्रोग्राम कर सकता है।

ध्यान दें, मैं जो पूछ रहा हूं वह ट्यूरिंग टेस्ट की विहित चर्चाओं से परे है। मैं उन मशीनों के बारे में पूछ रहा हूं जो तथ्यों को 'समझ' सकती हैं और फिर इस तथ्य के खिलाफ एक झूठ का निर्माण कर सकती हैं, शायद अन्य तथ्यों का उपयोग करके झूठ के हिस्से के रूप में एक विश्वसनीय 'कवर-अप' का निर्माण किया जाए।

जी हां, ऐसा हुआ है। इसे मालवेयर कहते हैं। कुछ उन्नत मैलवेयर आपसे तकनीकी सहायता का बहाना करके बात करेंगे और आम मानवीय प्रतिक्रियाओं का जवाब देंगे। लेकिन आप कह सकते हैं "अच्छी तरह से यह वास्तव में 'समझ' नहीं है"। लेकिन यह आसान होगा। तंत्रिका जाल + अधिक सीपीयू ग्रह पर मौजूद है (यह कुछ वर्षों में मौजूद होगा, और सस्ती होगा) + कुछ उदाहरण प्रतिक्रियाएं = तंत्रिका नेटवर्क एआई (यो नोगिन में एक ही चीज) जो समझता है और प्रतिक्रिया करता है।

लेकिन यह आवश्यक नहीं है। केवल कुछ सुपर कंप्यूटरों के साथ एक अपेक्षाकृत `सरल तंत्रिका जाल जो एक कमरे में फिट हो सकता है एक मानव को मना सकता है। यह समझ में नहीं आता है।

तो, यह वास्तव में है ...

तकनीकी रूप से, नहीं, लेकिन यह संभव है और यदि आप नियमों को हां में बढ़ाते हैं।

* या और भी सरल:

print("1+1=3")

प्रत्यायन: मैं एक प्रोग्रामर हूं (मेरे स्टैक ओवरफ्लो खाते को देखो) जो एआई के बारे में थोड़ा जानता है।

Comments

यह बिल्कुल नहीं है कि मैं किस बारे में बात कर रहा था। ये ऐसे प्रोग्राम हैं जो स्पष्ट रूप से कोडित, पूर्व निर्धारित व्यवहार करते हैं, और कृत्रिम बुद्धिमत्ता को शामिल नहीं करते हैं। एक प्रोग्रामर एआई को उपकरण दे सकता है और उसे झूठ बोलना सिखा सकता है।

— अविक मोहन

@ uo thinkP uzɐɹC "AI सोच भी नहीं सकता"? आप वर्तमान में मतलब है? निश्चित रूप से यह एजीआई का लक्ष्य है कि हम अविभाज्य के रूप में अनुकरण करें या हम जो कुछ भी "सोच" के रूप में परिभाषित करें, उसमें सुधार करें? मैं इस बात से सहमत हूँ कि नियतात्मक एल्गोरिदम सोच भी नहीं सकते।

— dynrepsys

@ अचिमोहन क्या फर्क पड़ता है? एक AI को BEHAVIOR द्वारा आंका जाता है कि यह कैसे बनाया गया।

— no --zɐɹƆ

@dynrepsys आप कैसे जानते हैं कि ये सभी एल्गोरिदम नियतात्मक हैं? आप कैसे जानते हैं कि आप निर्धारक नहीं हैं? तंत्रिका नेटवर्क नियतात्मक नहीं हैं और आपके नोगिन में समान चीजें हैं।

— no --zɐɹƆ

यहाँ व्यवहार स्पष्ट और अस्पष्ट है, और 'आलसी' / 'लालची' दृष्टिकोण है। मैं व्यवहार के बारे में भी बात कर रहा हूं, लेकिन सिर्फ 'बुद्धिमान' किस्म का।

— अविक मोहन

Answer 5

हाँ।

1. हर शतरंज का खेल ... हर पोकर का खेल। हर खेल में।
2. हर अधिक बुद्धिमान स्पैम सॉफ्टवेयर्स या स्पैम्बोट्स। यद्यपि उनका प्राथमिक लक्ष्य कंप्यूटर सिस्टम (फे स्पैमफ़िल्टर पॉइज़निंग) से झूठ बोलना है, लेकिन उनका द्वितीयक लक्ष्य उनके पीछे मानव से झूठ बोलना है।