Optunity के प्रमुख डेवलपर के रूप में मैं अपने दो सेंट जोड़ूंगा।
हमने वास्तविक दुनिया की समस्याओं पर सबसे लोकप्रिय बायेसियन सॉल्वर्स (जैसे, हाइपरटॉप, एसएमएसी, बायसेप्ट) के साथ ऑप्ट्यूनिटी की तुलना करने वाले व्यापक बेंचमार्क किए हैं, और परिणाम बताते हैं कि पीएसओ वास्तव में कई व्यावहारिक मामलों में कम कुशल नहीं है। हमारे बेंचमार्क में, जिसमें विभिन्न डेटासेट पर एसवीएम क्लासिफायर ट्यूनिंग शामिल हैं, ऑप्ट्यूनिटी वास्तव में हाइपरॉप्ट और एसएमएसी की तुलना में अधिक कुशल है, लेकिन बेयसॉप्ट की तुलना में थोड़ा कम कुशल है। मैं यहां परिणाम साझा करना पसंद करूंगा, लेकिन मैं तब तक इंतजार करता रहूंगा जब तक Optunity आखिरकार JMLR में प्रकाशित नहीं हो जाती (एक वर्ष से अधिक समय तक समीक्षा के तहत, इसलिए अपनी सांस को रोककर न रखें ...)।
जैसा कि आप इंगित करते हैं, बढ़ी हुई दक्षता बेयसियन अनुकूलन के लिए आमतौर पर इस्तेमाल किया जाने वाला विक्रय बिंदु है, लेकिन व्यवहार में यह केवल पानी रखता है यदि अंतर्निहित सरोगेट मॉडल की धारणाएं पकड़ती हैं, जो तुच्छ से दूर है। हमारे प्रयोगों में, Optunity का बहुत ही सरल PSO सॉल्वर अक्सर फ़ंक्शन मूल्यांकन की संख्या के संदर्भ में जटिल बेयसियन दृष्टिकोणों के साथ प्रतिस्पर्धी है। बेइज़ियन सॉल्वर्स अच्छे पुजारियों के साथ प्रदान किए जाने पर बहुत अच्छी तरह से काम करते हैं, लेकिन एक पूर्व सूचना के साथ दक्षता के मामले में पीएसओ जैसे मेटाएहिस्टिक तरीकों पर लगभग कोई संरचनात्मक लाभ नहीं है।
पीएसओ के लिए एक बड़ा विक्रय बिंदु यह तथ्य है कि यह समान रूप से समानांतर है। बायेसियन ऑप्टिमाइज़ेशन को समानांतर करना मुश्किल है, इसकी स्वाभाविक रूप से अनुक्रमिक प्रकृति के कारण (हाइपरॉप्ट का कार्यान्वयन एकमात्र वास्तविक अपवाद है)। वितरित करने के अवसरों को देखते हुए, जो आदर्श बनता जा रहा है, Optunity जल्दी से अच्छे समाधान प्राप्त करने के लिए दीवार-घड़ी के समय में नेतृत्व करता है।
Optunity और सबसे अन्य समर्पित हाइपरपरेट ऑप्टिमाइज़ेशन लाइब्रेरी के बीच एक और महत्वपूर्ण अंतर है लक्षित दर्शक: Optunity में सबसे सरल इंटरफ़ेस है और इसे गैर-मशीन लर्निंग विशेषज्ञों की ओर लक्षित किया जाता है, जबकि अधिकांश अन्य पुस्तकालयों को प्रभावी ढंग से उपयोग करने के लिए बायेसियन ऑप्टिमाइज़ेशन की कुछ समझ की आवश्यकता होती है (अर्थात, वे हैं) विशेषज्ञों की ओर लक्षित)।
हमने लाइब्रेरी बनाने का कारण यह है कि इस तथ्य के बावजूद कि समर्पित हाइपरपरमेट ऑप्टिमाइज़ेशन विधियाँ मौजूद हैं, उनके पास अभ्यास में अपनाने की कमी है। अधिकांश लोग अभी भी या तो ट्यूनिंग नहीं कर रहे हैं, इसे मैन्युअल रूप से कर रहे हैं, या ग्रिड या यादृच्छिक खोज जैसे भोले दृष्टिकोणों के माध्यम से कर रहे हैं। हमारी राय में, इसका एक प्रमुख कारण यह तथ्य है कि Optunity को विकसित करने से पहले मौजूदा पुस्तकालयों को स्थापना, प्रलेखन, एपीआई के संदर्भ में उपयोग करना बहुत मुश्किल था और अक्सर एक ही वातावरण तक सीमित होता है।