पेपर द एडवांसरियल सेटिंग्स में डीप लर्निंग की सीमाएं यह पता लगाती हैं कि एक हमलावर द्वारा तंत्रिका नेटवर्क को कैसे भ्रष्ट किया जा सकता है जो उस डेटा सेट में हेरफेर कर सकता है जिसके साथ तंत्रिका नेटवर्क ट्रेन करता है। लेखक एक तंत्रिका नेटवर्क के साथ प्रयोग करते हैं, जो हस्तलिखित अंकों को पढ़ने के लिए होता है, हस्तलिखित अंकों के नमूनों को विकृत करके इसकी पढ़ने की क्षमता को कम करता है, जिसके साथ तंत्रिका नेटवर्क को प्रशिक्षित किया जाता है।
मुझे चिंता है कि दुर्भावनापूर्ण अभिनेता एआई को हैक करने की कोशिश कर सकते हैं। उदाहरण के लिए
- स्वायत्त वाहनों को गलत तरीके से रोकने के लिए संकेत बनाम गति सीमा को रोकना।
- चेहरे की पहचान को दरकिनार करना, जैसे कि एटीएम के लिए।
- स्पैम फिल्टर को दरकिनार।
- फिल्म समीक्षा, होटल इत्यादि का मूर्खतापूर्ण विश्लेषण
- विसंगति का पता लगाने वाले इंजनों को दरकिनार करना।
- फेकिंग वॉइस कमांड।
- मशीन-आधारित भविष्यवाणियों को सीखने की मशीन।
क्या प्रतिकूल प्रभाव दुनिया को बाधित कर सकता है? हम इसे कैसे रोक सकते हैं?
6
विचार करें कि मानव बुद्धि हैकिंग की चपेट में है
—
गयुस
दिलचस्प। क्या आप "प्रतिकूल सेटिंग जोखिम मॉडल" में रुचि रखते हैं या पारंपरिक साइबर सुरक्षा जवाब के करीब हैं, लेकिन फिर भी एआई के बारे में चौकोर है? शुभकामनाएँ।
—
तात्त्विक प्रकाशन
