बुनियादी मशीन सीखने में हमें "अंगूठे के नियम" सिखाए जाते हैं:
ए) आपके डेटा का आकार आपके परिकल्पना सेट के वीसी आयाम के कम से कम 10 गुना होना चाहिए।
बी) एन कनेक्शन के साथ एक तंत्रिका नेटवर्क में लगभग एन का कुलपति आयाम है।
इसलिए जब एक गहन शिक्षण तंत्रिका नेटवर्क ने कहा है, लाखों इकाइयाँ, तो क्या इसका मतलब है कि हमारे पास, अरबों डेटा बिंदु होने चाहिए? क्या आप कृपया इस पर कुछ प्रकाश डाल सकते हैं?
एक गहरी तंत्रिका नेटवर्क में लाखों इकाइयाँ नहीं होंगी जैसा कि आप बताते हैं। हालांकि, इसके लाखों कनेक्शन होंगे। मैं मानूंगा कि आपके अंगूठे का दूसरा नियम इन नेटवर्कों के लिए नहीं है, मुख्य रूप से उनके नियमित स्वभाव के कारण (जैसे ड्रॉपआउट के साथ सीएनएन)।
—
पीर
मुझे लगता है कि यह महत्वपूर्ण है कि वीसी बाउंड अनंत नहीं है। यदि यह परिमित है, तो पीएसी सिद्धांत हमें बताता है कि सीखना संभव है। कितना डेटा, यह एक और सवाल है।
—
व्लादिस्लाव डोभालगसेप्स