एक DNN की वास्तविक दुनिया के उपयोग के लिए सफेद शोर कितनी समस्या है?

Question

मैंने पढ़ा है कि गहन तंत्रिका नेटवर्क सिंथेटिक / कृत्रिम छवियों की मान्यता में उच्च विश्वास देने के लिए अपेक्षाकृत आसानी से मूर्ख ( लिंक ) हो सकते हैं जो आत्मविश्वास विषय से पूरी तरह से (या कम से कम अधिकतर) हैं।

व्यक्तिगत रूप से, मैं वास्तव में उन सिंथेटिक / कृत्रिम छवियों को उच्च विश्वास देने वाले DNN के साथ एक बड़ी समस्या नहीं देखता हूं, लेकिन मुझे लगता है कि सफेद शोर ( लिंक ) के लिए उच्च आत्मविश्वास देना एक समस्या हो सकती है क्योंकि यह वास्तव में प्राकृतिक घटना है जो कैमरा देख सकता है वास्तविक दुनिया में।

एक DNN की वास्तविक दुनिया के उपयोग के लिए सफेद शोर कितनी समस्या है? क्या सादे झूठ से इस तरह की झूठी सकारात्मकता को रोका जा सकता है?

Answer 1

सफेद शोर जो DNNs को बेवकूफ बनाता है वास्तव में सफेद शोर नहीं है। इसे उसी तरह से बदल दिया गया है जैसे सिंथेटिक मिसकॉलिफाइड चित्रों को बदल दिया गया है। आपको कई इनपुट पिक्सेल को इस तरह से बदलना होगा, कि ये थोड़े से परिवर्तन भी बोधगम्य न हों, लेकिन नेटवर्क के माध्यम से प्रचारित होकर एक मिसकॉलिफिकेशन में जुड़ जाते हैं। संयोग से ऐसा होने वाला नहीं है।

Comments

ठीक है, इसलिए अगर मैं इसे सही ढंग से समझूं, तो इस तरह का गर्भपात प्राकृतिक शोर के साथ नहीं हो सकता ... यह एक अच्छी खबर है :)।

— कोज़ूच