सांख्यिकीय क्वेरी मॉडल एल्गोरिदम?

Question

मैंने क्रास ए और ए में यह प्रश्न पूछा था लेकिन ऐसा लगता है कि यह सांख्यिकी से कहीं अधिक सीएस से संबंधित है।

क्या आप मुझे मशीन लर्निंग एल्गोरिदम के उदाहरण दे सकते हैं, जो कि डेटासेट के सांख्यिकीय गुणों से सीखते हैं न कि व्यक्तिगत टिप्पणियों को स्वयं अर्थात सांख्यिकीय क्वेरी मॉडल को नियोजित करते हैं ?

Comments

सांख्यिकीय क्वेरी मॉडल क्या है?

— सुरेश वेंकट

Kearns paper portal.acm.org/citation.cfm?doid=293347.293351 : "इस मॉडल में एक लर्निंग एल्गोरिथ्म को अज्ञात लक्ष्य फ़ंक्शन के अलग-अलग उदाहरणों की जांच करने के लिए मना किया गया है, लेकिन नमूना पर संभावनाओं का अनुमान प्रदान करने वाले एक दाना को acess दिया जाता है। यादृच्छिक उदाहरण का स्थान। " क्षमा करें, अगर यह स्पष्ट नहीं है, तो मैंने अपना प्रश्न पत्र के लिंक के साथ अद्यतन किया है

— डेया

Answer 1

लगभग हर एल्गोरिथ्म जो पीएसी मॉडल में काम करता है (समता सीखने के एल्गोरिदम को छोड़कर) एसक्यू मॉडल में काम करने के लिए बनाया जा सकता है। उदाहरण के लिए ब्लम एट अल का यह पेपर देखें। जिसमें कई लोकप्रिय एल्गोरिदम उनके SQ समकक्ष ( व्यावहारिक गोपनीयता: SuLQ ढांचे ) में अनुवादित हैं । पेपर सिद्धांत रूप में "गोपनीयता" से संबंधित है, लेकिन आप इसे अनदेखा कर सकते हैं - यह वास्तव में एसक्यूए प्रश्नों के साथ एल्गोरिदम को लागू कर रहा है।

दूसरी ओर, अज्ञेय शिक्षण, SQ मॉडल में बहुत कठिन है: कम्प्यूटेशनल मुद्दों को एक तरफ (हालांकि ये महत्वपूर्ण हैं), अज्ञेय सीखने के लिए आवश्यक नमूना जटिलता लगभग उतनी ही है जितनी सटीक सीखने के लिए आवश्यक है, यदि आप वास्तव में उपयोग करते हैं डेटा बिंदु। दूसरी ओर, एसक्यू मॉडल में अज्ञेय अधिगम बहुत कठिन हो जाता है - आपको आमतौर पर मोनोपोन डिस्जंक्शन के रूप में कक्षाओं के लिए भी सुपरपोलिनोमियाली कई प्रश्न बनाने होंगे। फेल्डमैन द्वारा इस पत्र को देखें ( evolvability के लिए अनुप्रयोगों के साथ सीखने की सांख्यिकीय क्वेरी का एक पूर्ण लक्षण वर्णन ) या बिज़ अल अल द्वारा यह हालिया पेपर। ( निजी तौर पर विमोचन संबंध और सांख्यिकीय क्वेरी बैरियर )

Comments

वास्तव में अच्छा जवाब हारून :) बहुत धन्यवाद :)

— डेय्या

Answer 2

SQ मॉडल शोर सहिष्णु सीखने का विश्लेषण करने के लिए बनाया गया था - अर्थात् एक एल्गोरिथ्म जो सांख्यिकीय प्रश्न बनाकर काम करता है, वर्गीकरण शोर के तहत काम करेगा। जैसा कि आरोन ने कहा, अधिकांश पीएसी एल्गोरिदम जो हमने बाहर किए हैं, वे एसक्यू मॉडल में समकक्ष हैं। एक अपवाद गॉसियन उन्मूलन है, जिसका उपयोग सीखने की समानता में किया जाता है (कोई इसका एक चतुर अनुप्रयोग भी उपयोग कर सकता हैto log (n) वर्गीकरण शोर मॉडल में loglog (n) आकार समानताएं सीखना। हम यह भी जानते हैं कि समता को सांख्यिकीय प्रश्नों के साथ नहीं सीखा जा सकता है, और यह सबसे दिलचस्प कक्षाएं निकलता है जैसे निर्णय वृक्ष समानता कार्यों को अनुकरण कर सकते हैं। इसलिए, कई दिलचस्प वर्गों (जैसे निर्णय पेड़, डीएनएफ, आदि) के लिए पीएसी लर्निंग एल्गोरिदम प्राप्त करने की हमारी खोज में, हम जानते हैं कि हमें मौलिक रूप से नए शिक्षण एल्गोरिदम की आवश्यकता है जो सांख्यिकीय क्वेरी मॉडल में काम नहीं करते हैं।

Comments

दिलचस्प। क्या आपके पास एक संदर्भ है कि समानताएं SQ मॉडल में नहीं सीखी जा सकती हैं?

— एम। अलागन

यह उनके मूल पेपर में केर्न्स द्वारा मॉडल को परिभाषित करते हुए सिद्ध किया गया था: portal.acm.org/citation.cfm?doid=293347.293351 और फिर ब्लम एट अल द्वारा दिखाया गया जहां उन्होंने एक वर्ग portal.acm.org/citation के SQ आयाम को परिभाषित किया .cfm? id = १,९५,०५८.१,९५,१४७ । असल में, तर्क इस प्रकार है: parities हैं "स्वतंत्र जोड़ो में" समान वितरण wrt है, तो आप काफी सही समता लगता है के लिए कुछ भी जानने के लिए, और वहाँ संभव parities का एक बहुत ...

— लेव Reyzin

Answer 3

मैं हारून की प्रतिक्रिया को थोड़ा स्पष्ट करना चाहूंगा। SQ मॉडल में काम करने के लिए लगभग हर अज्ञेयवादी एल्गोरिदम (एक बार फिर, गौसियन उन्मूलन का उपयोग करने वाली किसी चीज को छोड़कर) बनाया जा सकता है। स्वाभाविक रूप से, अज्ञेय सीखना गैर-अज्ञेयवादी शिक्षण से कठिन है, लेकिन यह एक स्वतंत्र प्रश्न है।

Comments

$/\epsilon^2$