रोबोट बीटिंग अप रोबोट का लेख न्यू एस्केप मेन्यूएवर सिस्टम एक जापानी मॉल में एक प्रयोग के बारे में दो शोध पत्रों पर आधारित है, जिसके कारण असुरक्षित बच्चों ने रोबोट पर हमला किया। आप जिस शोध पत्र में रुचि रखते हैं, वह सामाजिक रोबोटों के बच्चों के दुरुपयोग से बचना है ।
उस शोध पत्र में, शोधकर्ता बच्चों द्वारा दुरुपयोग की संभावना को कम करने के लिए एक योजना सिमुलेशन का पालन करने के लिए रोबोटों को प्रोग्राम करने में सक्षम थे। यदि यह बच्चों का पता लगाता है, तो रोबोट को वयस्कों की भीड़ में पीछे हटने के लिए प्रोग्राम किया जाता है (जो जरूरत पड़ने पर बच्चों को अनुशासित कर सकते हैं)। ऐसा इसलिए हुआ क्योंकि शोधकर्ताओं ने देखा कि यह केवल बच्चे थे जो कि मॉल में रोबोटों की पिटाई कर रहे थे।
वे अन्य विकल्पों की कोशिश करने पर चर्चा करते हैं:
इस काम में दुरुपयोग को रोकने के लिए रोबोट की रणनीति "भागने" की थी, यानी एक ऐसे स्थान पर ले जाना जहां कम होने की संभावना है दुरुपयोग होगा। कोई पूछ सकता है कि रोबोट दुरुपयोग को दूर क्यों नहीं कर सकता है। हमारे प्रारंभिक परीक्षणों में हमने कई तरीकों की कोशिश की है, लेकिन हमने पाया कि रोबोट के लिए बच्चों को इसका दुरुपयोग न करने के लिए राजी करना बहुत मुश्किल है। उदाहरण के लिए, हमने मजबूत शब्दों, भावनात्मक या विनम्र भावों का उपयोग करते हुए रोबोट के शब्दों को कई तरीकों से बदल दिया, लेकिन उनमें से कोई भी सफल नहीं था। एक आंशिक रूप से सफल रणनीति थी रोबोट 'शारीरिक रूप से' बच्चों को आगे बढ़ाना। जब इसका रास्ता अवरुद्ध हो गया था, तो यह बस चलते रहने और व्यवहार करने की कोशिश करेगा जैसे कि यह बच्चों में टकराएगा और (मानव ऑपरेटर से सावधानीपूर्वक निगरानी के तहत) इसके माध्यम से अपना रास्ता मजबूर करेगा। हमने देखा कि बच्चों ने पहले रोबोट के अनुरोधों को स्वीकार किया और उनकी बात मानी; परंतु, बहुत जल्द ही उन्हें पता चला कि वे रोबोट से अधिक मजबूत हैं, इसलिए यदि वे धक्का देते हैं तो वे जीत सकते हैं, और यह भी कि वे बम्पर स्विच को धक्का देकर रोक सकते हैं (सुरक्षा के लिए रोबोट पर संलग्न)। यह महसूस करने के बाद, वे सिर्फ अपमानजनक व्यवहार जारी रखते थे। जाहिर है कि एक मजबूत रोबोट सुरक्षा और सामाजिक स्वीकृति के लिए एक समस्या पेश करेगा इसलिए ऐसी अपमानजनक स्थितियों से निपटना मुश्किल है।
लेकिन आपके प्रश्न को और आगे बढ़ाते हैं:
यदि होश में AI संभव है और व्यापक फैलाव है, तो क्या यह आसान नहीं होगा कि जो कोई जानता है कि वे AI को सताने के लिए क्या कर रहे हैं?
आप ऐसी यातना को गलत क्यों मानेंगे ? आखिरकार, कोई यह तर्क दे सकता है कि मशीन वास्तव में दर्द का अनुभव नहीं करेगी यदि आप इसे यातना देते हैं ... तो मशीन को यातना देने के लिए नैतिक रूप से ठीक होना चाहिए। इसका जवाब ऐसा हो सकता है जैसे कि यह दर्द में है, लेकिन यह संदिग्ध है कि क्या भावनात्मक स्थिति जैसे "दर्द में होना" का अनुकरण करने की क्षमता वास्तव में उस भावनात्मक स्थिति में होने के बराबर है । प्रश्न देखें क्या भावनात्मक राज्यों का अनुकरण वास्तव में भावना का अनुभव करने के बराबर है? इस विषय पर अधिक चर्चा के लिए।
आप इस तरह का तर्क दे सकते हैं, लेकिन यह वास्तव में भावनात्मक स्तर पर काम नहीं करेगा क्योंकि अधिकांश मनुष्य मशीन के प्रति सहानुभूति महसूस करेंगे । तार्किक रूप से इसे सही ठहराना कठिन हो सकता है (और यह मानव की मानवशास्त्र में संलग्न होने की प्रवृत्ति पर आधारित हो सकता है ), लेकिन हमें यह सहानुभूति महसूस होती है। यह वह सहानुभूति है जिसके कारण आपको यह सवाल पहली बार में आया था, जिससे शोधकर्ताओं को पता चला कि रोबोट को पीटने से कैसे बचाया जाए, पुलिस अधिकारियों को एक सॉफ्टबैंक रोबोट की पिटाई के लिए एक शराबी जापानी आदमी को गिरफ्तार करने में सक्षम बनाया, और कई लोगों को बनाया hitchBOT के विनाश से परेशान । और वह हैकैसे एआई के दुरुपयोग से बचा जाएगा - मानव सहानुभूति। यदि अधिकांश मनुष्य मशीनों के कल्याण के बारे में परवाह करते हैं, तो वे उन कुछ मनुष्यों को रोकने के लिए प्राथमिकता देंगे जो मशीनों का दुरुपयोग करने में सक्षम और तैयार हैं।
EDIT: ओपी ने अपने प्रश्न को स्पष्ट करने के लिए संपादित किया है कि वह सॉफ्टवेयर के बारे में बात कर रहा है , न कि रोबोट के बारे में। रोबोट के लिए, आप सहानुभूति के कुछ स्तर का उत्पादन करने के लिए नृविज्ञान पर भरोसा कर सकते हैं, लेकिन कोड की कच्ची रेखाओं के साथ सहानुभूति करना कठिन है।
आप एल्गोरिदम का दुरुपयोग रोकने के लिए नहीं जा रहे हैं। इसे स्पष्ट रूप से कहें, चूंकि एल्गोरिदम हमारे जैसे नहीं हैं, हम समान समान सहानुभूति का विस्तार नहीं करने जा रहे हैं जो हम रोबोटों को देंगे। यहां तक कि चैटबॉट्स थोड़े iffy हैं। यदि आप लोगों को कोड की पंक्तियों के साथ सहानुभूति प्राप्त कर सकते हैं, हालांकि (संभवतः भावना और sapience का एक ठोस अनुकार बनाकर), तो उपरोक्त उत्तर लागू होता है - मानव मशीन को एन्थ्रोपोमोर्फ करता है और काउंटरमेशर्स के साथ आएगा। हम अभी तक उस स्तर पर नहीं हैं, इसलिए "एआई के दुरुपयोग को रोकना" कम प्राथमिकता होगी।
फिर भी, कुछ असफलताओं को दुर्व्यवहार के नुकसान को सीमित करने के लिए प्रोग्राम किया जा सकता है, जैसा कि चैटबॉट दुर्व्यवहार पर इस धागे में विस्तृत है - बॉट का जवाब उबाऊ तरीके से उबाऊ महसूस करने के लिए उबाऊ तरीके से बनाना और अगले लक्ष्य पर वापस जाना, गाली देने वाले का जवाब देना। "दांव की लड़ाई" में, या यहां तक कि सेवा का उपयोग करने से केवल दुर्व्यवहार करने वालों को रोकना।
ये विफलताओं उन लोगों के लिए ठंडे आराम हैं जो दुरुपयोग को रोकना चाहते हैं , इसका जवाब नहीं।
इसके अलावा ... एक नशेड़ी खुशी से सीख सकता है कि एआई को उसके दिल की सामग्री का दुरुपयोग करने के लिए एक एआई प्रोग्राम कैसे किया जाए। इसे रोकने के लिए कुछ भी नहीं किया जा सकता है, और दुरुपयोग को रोकने के किसी भी संभावित उपाय (जैसे कि प्रत्येक मानव की निगरानी करना सुनिश्चित करें कि वे एआई को दुरुपयोग करने के लिए प्रोग्राम नहीं करते हैं) संभवतः इससे अधिक नुकसान का कारण होगा जो इसे हल करेगा।