ऑप्टिमाइज़ेशन विधि जो विभिन्न मापदंडों के लिए उद्देश्य फ़ंक्शन की समय लागत को अलग-अलग मानती है

Question

मैं कुछ जनसांख्यिकीय मॉडलिंग सॉफ्टवेयर की अनुकूलन प्रक्रिया में सुधार पर काम कर रहा हूं ताकि यह जनसांख्यिकीय मॉडल को डेटा में बेहतर रूप से फिट कर सके। हम अनुकूलन समय कम करना चाहते हैं।

हमारे उद्देश्य फ़ंक्शन का मूल्यांकन करने में लगने वाला समय इनपुट मूल्यों के आधार पर बहुत भिन्न होता है। उद्देश्य फ़ंक्शन और इनपुट का मूल्यांकन करने के लिए समय के बीच संबंध ज्ञात है। मैं सोच रहा हूं कि क्या कोई अनुकूलन विधियां हैं जो कि मूल्यांकन के बिंदुओं को चुनते समय उद्देश्य फ़ंक्शन की सापेक्ष समय लागत पर विचार करें।

धन्यवाद!

अपडेट करें:

जैसा कि पॉल ने अनुरोध किया, यहां इस विशेष उद्देश्य समारोह की कुछ मुख्य विशेषताएं हैं:

1. मापदंडों की संख्या मध्यम है (~ 12ish)
2. हमारी समस्या गैर-उत्तल है, या कम से कम उद्देश्य समारोह की सतह में संकीर्ण और सपाट "लकीरें" हैं। अभी हम विभिन्न बिंदुओं से कई अनुकूलन का उपयोग करके इससे निपट रहे हैं, लेकिन हम बेहतर करना पसंद करेंगे।
3. उद्देश्य फ़ंक्शन बहुत सुचारू है, हालांकि हम केवल डेरिवेटिव के लिए परिमित-अंतर सन्निकटन की गणना कर सकते हैं।
4. मूल्यांकन की लागत भी पैरामीटर मानों का एक चिकनी कार्य है, और यह काफी अनुमानित है। मोटे तौर पर प्रत्येक पैरामीटर के लिए, मूल्यांकन की लागत सीमा के एक छोर पर उच्च और दूसरे छोर पर कम होती है। इसलिए हमारे पास महंगे-से-मूल्यांकन पैरामीटर सेट के बड़े क्षेत्र हैं, लेकिन हम जानते हैं कि वे कहां हैं।

Comments

हाय केट, और Scicomp में आपका स्वागत है! क्या आप अपने उद्देश्य फ़ंक्शन की कुछ विशेषताओं को साझा कर सकते हैं? यह आपके मामले के लिए एक विशिष्ट विधि को इंगित करने में मदद कर सकता है।

— पॉल

मैंने कभी भी किसी भी एल्गोरिथ्म के बारे में नहीं सुना है जो उद्देश्य फ़ंक्शन (या किसी भी बाधा) के मूल्यांकन की लागत पर विचार करता है जब मूल्यांकन करने के लिए अंक चुनते हैं। हालाँकि, ऐसे व्युत्पन्न-मुक्त अनुकूलन एल्गोरिदम मौजूद हैं, जो आशावादी द्वारा मूल्यांकन किए जाने वाले अगले बिंदु को चतुराई से चुनने का प्रयास करते हैं। आधार यह है कि यदि फ़ंक्शन मूल्यांकन महंगे हैं, तो फ़ंक्शन मूल्यांकन की संख्या कम से कम होनी चाहिए। हालाँकि, मुझे यकीन नहीं है कि व्युत्पन्न-मुक्त एल्गोरिदम का उपयोग करने से आपके उपयोग के मामले में मदद मिलेगी।

— ज्योफ ऑक्सबेरी

हाय @Paul, स्वागत के लिए धन्यवाद! मैं इस समुदाय को पाकर उत्साहित हूं। मैंने विशेषताएँ जोड़ी हैं। मुझे बताएं कि क्या अन्य विशेषताएं हैं जो अधिक महत्वपूर्ण हैं।

— नोवा

क्या मुझे आपके # 2 से यह अनुमान लगाने का अधिकार है कि आप एक वैश्विक न्यूनतम में रुचि रखते हैं ? या क्या आप "पर्याप्त" कमी से संतुष्ट हैं? वैश्विक अनुकूलन अपने आप में एक क्षेत्र है और वैश्विक समाधान प्राप्त करने का प्रश्न (यदि वहाँ मौजूद है) महंगे परीक्षण बिंदुओं से बचने से पूरी तरह से अलग हो सकता है।

— डोमिनिक

डोमिनिक, हमने मान लिया था कि एक वैश्विक आशावादी हमारी समस्या के लिए बहुत धीमा होगा, इसलिए हम स्थानीय आशावादियों से संतुष्ट थे। ग्लोबल ऑप्टिमाइज़र कुछ ऐसी चीजें हैं जिन्हें हम भविष्य में देखने की योजना बनाते हैं।

— नोवा

Answer 1

महंगे वस्तुनिष्ठ कार्यों से निपटने के लिए एक सामान्य दृष्टिकोण है (उदाहरण के लिए प्रतिगमन मॉडलिंग द्वारा) एक "प्रतिक्रिया सतह मॉडल" जो मूल उद्देश्य फ़ंक्शन का अनुमान लगाता है, और फिर मूल फ़ंक्शन के साथ काम करने के बजाय उस प्रतिक्रिया सतह पर अनुकूलन करता है। व्यवहार में प्रतिसाद सतहें आमतौर पर प्रतिगमन द्वारा केवल द्विघात मॉडल फिटिंग होती हैं, इसलिए प्रतिक्रिया सतह का न्यूनतम पता लगाना एक बहुत आसान अनुकूलन समस्या बन जाती है।

आपने अपने उद्देश्य फ़ंक्शन की चिकनाई या उत्तलता के बारे में कुछ नहीं कहा है। यदि समारोह निरर्थक या गैर-संवेदी है, तो यह स्पष्ट रूप से बहुत, बहुत कठिन हो जाता है।

आपने अपने पैरामीटर स्थान में महंगे बिंदुओं के बारे में भी कुछ नहीं कहा है। यदि उन्हें अनियमित रूप से पूरे पैरामीटर स्पेस में वितरित किया जाता है, तो आप महंगी बिंदुओं से बचते हुए अपनी प्रतिक्रिया सतह मॉडल बनाने के लिए प्रयोग तकनीकों के डिजाइन का उपयोग कर सकते हैं। यदि पैरामीटर स्पेस के बड़े क्षेत्र हैं जहां मूल्यांकन महंगे हैं, तो आप उन क्षेत्रों में अंकों की संख्या को कम करने की कोशिश कर सकते हैं जो आप प्रतिक्रिया सतह मॉडल के निर्माण में उपयोग करते हैं। बेशक, यदि आपका इष्टतम इस तरह के क्षेत्र के बीच में स्थित है, तो आप महंगे क्षेत्र में कार्यों का मूल्यांकन करने के लिए बर्बाद होने जा रहे हैं।

Answer 2

मुझे ऐसे तरीकों के बारे में नहीं पता है जो विशेष रूप से विभिन्न परीक्षण बिंदुओं पर उद्देश्य के मूल्यांकन की सापेक्ष लागतों को मापते हैं, लेकिन यदि आप अपेक्षाकृत मज़बूती से अनुमान लगाने में सक्षम हैं कि क्या कोई उम्मीदवार मूल्यांकन करने के लिए महंगा होगा या नहीं, तो मैं एक कोशिश देने का सुझाव दे सकता हूं सीधा तरीका । प्रत्यक्ष तरीके व्युत्पन्न-मुक्त तरीकों के परिवार में फिट होते हैं। जरूरी नहीं कि उनका उपयोग करना कोई बुरी बात हो, भले ही आपको संदेह हो कि आपकी समस्या काफी सुगम है, क्योंकि वे कुछ हद तक लचीलापन प्रदान कर सकते हैं, जो अनुकूलन के लिए तरीके नहीं दे सकते।

विचार यह है कि प्रत्यक्ष विधियाँ वर्तमान पुनरावृति और (पुनरावृत्ति-निर्भर) मेष "चरण" के बारे में (पुनरावृत्ति-निर्भर) मेष को परिभाषित करती हैं। इस मेष चरण के आधार पर, विधि मेष पर परीक्षण बिंदुओं को निर्धारित करती है जो वर्तमान पुनरावृति के पड़ोसी हैं (वे जाल पर झूठ बोलते हैं और मेष चरण द्वारा परिभाषित दूरी पर हैं)। यह तब पड़ोसियों के उद्देश्य का मूल्यांकन करने के लिए आगे बढ़ेगा। जैसे ही एक बेहतर उम्मीदवार मिल जाता है, यह नया वर्तमान पुनरावृति बन जाता है। अपने विकल्प पर, आप सभी पड़ोसियों का मूल्यांकन भी कर सकते हैं और सर्वश्रेष्ठ चुन सकते हैं।

आपके मामले में, वहाँ के उद्देश्य का मूल्यांकन करने की लागत के आपके अनुमान के आधार पर पड़ोसियों को आदेश देना एक अच्छा विचार हो सकता है। इस क्रम में उनका मूल्यांकन करें और अगली पुनरावृति के रूप में पहली सफलता चुनें। सहज रूप से, आप सस्ते उम्मीदवारों का पक्ष ले रहे हैं। प्रत्यक्ष तरीकों में, इस तरह के आदेश इसे सरोगेट मॉडल की श्रेणी में फिट करते हैं , एक अवधारणा जो ब्रायन द्वारा उल्लिखित प्रतिक्रिया सतह मॉडल का सामान्यीकरण करती है ।

यहाँ एक प्रत्यक्ष विधि का उत्कृष्ट कार्यान्वयन है (C ++ में): http://www.gerad.ca/nomad/Project/Home.html

यदि यह आशाजनक परिणाम दे रहा है, तो कृपया मुझे वापस पाने के लिए स्वतंत्र महसूस करें और मैं अन्य सुधारों का सुझाव देने में सक्षम हो सकता हूं।

मेरा मानना ​​है कि NOMAD में वैरिएबल पड़ोसन खोज की अवधारणा के आधार पर वैश्विक अनुकूलन (जैसे कि बहु-शुरुआत आप वर्तमान में लागू कर रहे हैं) की विशेषताएं हैं ।