आर्टिफिशियल इंटेलिजेंस: ए मॉडर्न एप्रोच (तीसरा संस्करण) पुस्तक के अध्याय 26 में , पाठ्यपुस्तक "तकनीकी विलक्षणता" पर चर्चा करती है। यह IJ गुड को उद्धृत करता है, जिसने 1965 में लिखा था:
एक अल्ट्रा-इंटेलिजेंट मशीन को एक ऐसी मशीन के रूप में परिभाषित किया जाना चाहिए जो किसी भी आदमी की सभी बौद्धिक गतिविधियों को पार कर सकती है, लेकिन यह बहुत ही चालाक है। चूंकि मशीनों का डिज़ाइन इन बौद्धिक गतिविधियों में से एक है, एक अति-बुद्धिमान मशीन और भी बेहतर मशीनों को डिजाइन कर सकती है; तब निर्विवाद रूप से एक "खुफिया विस्फोट" होगा, और मनुष्य की बुद्धि बहुत पीछे रह जाएगी। इस प्रकार पहली अल्ट्रा-इंटेलिजेंट मशीन अंतिम आविष्कार है जिसे मनुष्य को कभी भी बनाने की आवश्यकता है, बशर्ते कि मशीन हमें यह बताने के लिए पर्याप्त है कि इसे कैसे नियंत्रण में रखा जाए।
बाद में पाठ्यपुस्तक में, आपके पास यह प्रश्न है:
26.7 - IJ अच्छा दावा है कि खुफिया सबसे महत्वपूर्ण गुण है, और यह कि अल्ट्र-इंटेलिजेंट मशीनों के निर्माण से सब कुछ बदल जाएगा। एक भावुक चीता काउंटरर्स का कहना है कि "वास्तव में गति अधिक महत्वपूर्ण है; अगर हम अल्ट्राफास्ट मशीनें बना सकते हैं, जो कि सब कुछ बदल देगा" और एक भावुक हाथी का दावा है कि "आप दोनों गलत हैं; हमें जो ज़रूरत है वह है अल्ट्रास्ट्रॉन्ग मशीन," आप इनसे क्या समझते हैं तर्क?
ऐसा लगता है कि पाठ्यपुस्तक प्रश्न IJ गुड के खिलाफ एक अंतर्निहित तर्क है। अच्छाई बुद्धिमत्ता को मूल्यवान मान सकती है, बस इसलिए कि मनुष्य की ताकत "बुद्धि" नामक उस विशेषता में निहित है। लेकिन अन्य लक्षणों को इसके बजाय समान रूप से मूल्यवान (गति या ताकत) माना जा सकता है और भावुक प्राणी किसी मशीन या किसी अन्य द्वारा अपने पसंदीदा लक्षणों को "अधिकतम" होने के बारे में बेतहाशा अनुमान लगा सकते हैं।
यह मुझे आश्चर्यचकित करता है कि क्या एक विलक्षणता हो सकती है यदि हमने ऐसी मशीनों का निर्माण किया था जो बुद्धिमत्ता को अधिकतम नहीं कर रहे थे , बल्कि कुछ अन्य विशेषता (एक मशीन जो हमेशा अपनी ताकत बढ़ा रही है, या एक मशीन जो हमेशा अपनी गति बढ़ा रही है) को अधिकतम कर रही है। इस प्रकार की मशीनें केवल परिवर्तनकारी हो सकती हैं - अल्ट्राफास्ट मशीनें "ब्रूट फोर्स" के कारण समस्याओं को जल्दी से हल कर सकती हैं, और अल्ट्रास्ट्रॉन्ग मशीनें विभिन्न प्रकार के भौतिक कार्यों के लिए अपनी कच्ची शक्ति का उपयोग कर सकती हैं। शायद एक अल्ट्रा-एक्स मशीन दूसरी अल्ट्रा-एक्स मशीन का निर्माण नहीं कर सकती है (जैसा कि IJ Good ने मशीनों के डिजाइन को एक बौद्धिक गतिविधि के रूप में माना है), लेकिन एक निरंतर आत्म-सुधार मशीन अभी भी अपने रचनाकारों को बहुत पीछे छोड़ देगी और अपने रचनाकारों को होने के लिए मजबूर करेगी। उस पर निर्भर।
क्या तकनीकी विलक्षणताएं अल्ट्रा-इंटेलीजेंस तक सीमित हैं? या तकनीकी विलक्षणता उन मशीनों के कारण होती है जो "मजबूत एआई" नहीं हैं, लेकिन फिर भी "अल्ट्रा" -ओपिमाइज़र हैं?