अज्ञेय पीएसी नमूना निचली सीमा

यह सर्वविदित है कि शास्त्रीय पीएसी अधिगम के लिए, v (ओरेप्सिलॉन उदाहरणों के लिए आवश्यक है ताकि वर्सेप्लॉन अवधारणा के वर्ग-आयाम के लिए whp से जुड़ी एक त्रुटि को प्राप्त किया जा सके । $\Omega(d/\varepsilon)$ $\varepsilon$ $d$

क्या यह ज्ञात है कि अज्ञेय मामले में उदाहरणों की आवश्यकता है? $\Omega(d/\varepsilon^2)$

lg.learning machine-learning

— Aryeh
स्रोत

मुझे यकीन नहीं है कि निचली सीमा क्या दिखती है, अगर कोई होफिंग बाउंड तंग है (और मुझे लगता है कि यह है) मौजूद होना चाहिए। इस बाध्य कहा गया है कि 1 fn के लिए, यदि त्रुटि की संभावना पी है, तो आप ज्यादा से ज्यादा जरूरत

नमूने के लिए त्रुटि के भीतर + पी अनुमान लगाने के लिए -

whp तो 2 अवधारणाओं के साथ किसी भी अवधारणा वर्ग पर विचार करें,

और

और वीसी-आयाम 2. उदाहरणों पर एक वितरण लें ताकि

(या इसके विपरीत) - यह संभव है क्योंकि वीसी-आयाम 2 है। ऐसा लगता है कि एक एल्गोरिथ्म केवल

का उपयोग कर रहा है

m = O (1 / ϵ^{2})

$m = O(1/\epsilon^2)$

ϵ

$\epsilon$

f_{1}

$f_1$

f_{2}

$f_2$

p_{1} = p_{2} + ϵ

$p_1 = p_2 + \epsilon$

उदाहरण अर्थ होगा एक बेहतर Hoefding बाध्य।

O (1 / ϵ)

$O(1/\epsilon)$

— एरोन रोथ

अर्थात्, मैं Hoeffding बाध्य तंग पर लगता है

के लिए

। मुझे लगता है कि ऊपर के तर्क आम तौर पर जाना जाता है ...

p = 1 / 2

$p=1/2$

O (1 / ϵ^{2})

$O(1/\epsilon^2)$

— लेव Reyzin

ठीक है - ऐसा लगता है कि मैंने खुद को एमएल कोर्स के लिए एक और अभ्यास कर लिया है ... :) इनपुट के लिए धन्यवाद, हारून और लेव!

— आर्येह

@ ऐरन, शायद यह एक उत्तर होना चाहिए था।

— सुरेश वेंकट

मुझे अब एहसास हुआ कि एंथनी और बार्टलेट द्वारा एक निचली सीमा वास्तव में स्थापित की गई है ( यहां प्रस्तुति देखें )।

24-Sep-2018 संपादित करें। इस सवाल ने मुझे इन सभी वर्षों में कब्जा कर रखा है, और हाल ही में, आई। पिनेलिस और मैंने एनेस्टिक पीएसी लोअर एन में दिखाई देने के लिए सटीक इष्टतम स्थिरांक प्राप्त किया है । मूर्ति ।

— Aryeh
स्रोत

अपने पेपर में आप इस काम का हवाला नहीं देते हैं ( jmlr.org/papers/volume17/15-389/15-389.pdf )। क्या आपके काम के किसी भी कनेक्शन के मामले में इष्टतम नमूना जटिलता ऊपरी सीमा नहीं है? अज्ञेय मामले के लिए क्या ये संगत इष्टतम नमूना जटिलता अपरबाउंड हैं?

— क्रमिक

मुझे नहीं लगता कि असली मामला इससे संबंधित है। वसूली योग्य मामले में, ईआरएम इष्टतम दरों की गारंटी नहीं देता है - इसलिए लॉग कारक को हटाने के लिए सभी कड़ी मेहनत हेंके और अन्य को खर्च करना पड़ा, और यह अभी भी अज्ञात है कि क्या एक उचित शिक्षार्थी इष्टतम दर प्राप्त कर सकता है। कंट्रोवर्सी, अज्ञेय मामले में, यह लंबे समय से ज्ञात है कि ईआरएम इष्टतम दर प्राप्त करता है।

— आर्येह