यदि एआई को विकसित करने का मूल उद्देश्य कुछ कार्यों में मनुष्यों की मदद करना था और यह उद्देश्य अभी भी है, तो हमें इसकी व्याख्या के बारे में क्यों ध्यान रखना चाहिए? उदाहरण के लिए, गहरी शिक्षा में, जब तक बुद्धि हमें उनकी क्षमताओं में सर्वश्रेष्ठ बनाने में मदद करती है और सावधानीपूर्वक अपने निर्णयों पर पहुंचती है, तो हमें यह जानने की आवश्यकता होगी कि इसकी बुद्धि कैसे काम करती है?
15
क्या होता है जब एआई आपको एक अच्छा जवाब नहीं देता है? आप समस्या का पता कैसे लगाते हैं? यदि आप तर्क को नहीं समझते हैं, तो आप समाधान का सत्यापन कैसे करेंगे? आप यह कैसे सुनिश्चित करेंगे कि हम सब कागज के टुकड़ों में बदल न जाएँ? :)
—
लुआं
यह एक उत्तर के रूप में पोस्टिंग नहीं है क्योंकि मुझे संदेह है कि यह मानकों को पूरा नहीं करता है, लेकिन मान लीजिए कि हम एक एआई से पूछते हैं कि जलवायु मुद्दों को कैसे ठीक किया जाए और यह कहता है कि "महासागरों को प्रदूषित करें"। हो सकता है कि यह सही हो और इसमें कुछ ऐसे विवादित तरीके हों जो चीजों को ठीक कर दें। हो सकता है कि किसी डेवलपर ने कोई त्रुटि की हो और वास्तविक आउटपुट "महासागरों को अनपॉल्यूट" किया गया हो। यदि आप एआई के तर्क को बहुत कम करके नहीं देखते हैं, तो आप दोनों के बीच अंतर कैसे करेंगे?
—
फ्लाटर
क्या इस सवाल का कोई जवाब वास्तव में आवश्यक है, जो प्रतिकूल तकनीकों के अस्तित्व के सामान्य ज्ञान से परे है? अभी इनपुट डेटा में छोटे बदलाव करना संभव है जो आउटपुट में बड़े पैमाने पर असमान परिवर्तन पैदा करते हैं। वस्तुओं की दृश्य पहचान जैसे कार्यों में, जिसमें परिणामों को आसानी से एक वास्तविक बुद्धिमत्ता के खिलाफ जांचा जा सकता है, परिणाम निरर्थक और पागल प्रतीत होते हैं, और संकेत देते हैं कि एआई "देखना" जो हम देख रहे हैं उससे कुछ अलग है। । यदि एआई ऐसे मामलों में खुद को समझाने में असमर्थ है, तो इसकी उपयोगिता तेजी से गिरती है।
—
मेसन व्हीलर
जबकि आपका प्रश्न व्याख्यात्मक एआई की आवश्यकता पर आधारित है, मैं एक रीडिंग भी प्रस्तावित करना चाहूंगा जो इस दृष्टिकोण को चुनौती देता है - मुझे लगता है कि वहां बहुत अच्छे अंक हैं। अन्य बातों के अलावा, स्पष्टीकरण की आवश्यकता का एक कारण हमारे आस-पास की प्रणालियों की व्याख्या करने के लिए हमारी मानवीय आवश्यकता से जुड़ा हो सकता है, और फिर सिस्टम में हमारा उच्च विश्वास जिसे हम समझते हैं, भले ही ये सिस्टम दूसरों को कमतर आंकते हों, जो हमें समझ में नहीं आते हैं। उम्मीद है कि यह प्रतिबिंब के लिए कुछ सामग्री जोड़ता है - hackernoon.com/…
—
एलिसियो क्विंटिनो
यह एक दिलचस्प अतिरिक्त पुनरुत्थान हो सकता है। लोगों ने हस्की बनाम वुल्फ क्लासिफायर बनाने की कोशिश की, तब एहसास हुआ कि नेटवर्क जानवर पर केंद्रित नहीं था, लेकिन पृष्ठभूमि पर क्योंकि पृष्ठभूमि में बर्फ के साथ सभी चित्र भेड़ियों थे। दूसरे शब्दों में, यदि आप एक कार का पता लगाते हैं, तो आपको यह सुनिश्चित करने की आवश्यकता है कि छवि में कार के कारण है और छवि के किनारे पर स्टॉप साइन के कारण नहीं।
—
jaq
