स्टोकेस्टिक कंप्यूटर मॉडल का अनुकूलन

Question

यह शब्द अपने आप को Google के लिए एक कठिन विषय है क्योंकि एक खोज में शब्द अनुकूलन और स्टोकेस्टिक एक होने के कारण लगभग स्वचालित रूप से स्टोचस्टिक ऑप्टिमाइज़ेशन की खोज में चूक करते हैं। लेकिन मैं वास्तव में जानना चाहता हूं कि कंप्यूटर मॉडल के अनुकूलन के लिए क्या तरीके मौजूद हैं जब कंप्यूटर मॉडल आउटपुट स्टोचस्टिक है, अर्थात, नियतात्मक नहीं?

उदाहरण के लिए, यदि आप एक कंप्यूटर मॉडल पर विचार करते हैं, जहां कुछ अज्ञात फ़ंक्शन $f(x)$ जो कंप्यूटर मॉडल के आउटपुट का प्रतिनिधित्व करता है, तो समस्याओं को हल करने के लिए कई सांख्यिकीय तरीके मौजूद हैं

$$\begin{align*} \min&\,\,\,\, f(x)\\ x&\in\mathcal{X} \end{align*}$$

जब नियतात्मक हो। लेकिन क्या होता है जब स्टोचस्टिक होता है? क्या समस्या का कोई हल है, या सबसे अच्छा हम केवल हल कर सकते हैंf ( x $f(x)$$f(x)$

$$\begin{align*} \min&\,\,\,\, \mathbb{E}[f(x)]\\ x&\in\mathcal{X} \end{align*}$$

जहां सामान्य अपेक्षा ऑपरेटर है।$\mathbb{E}(\cdot)$

Comments

यह एक बहुत ही दिलचस्प सवाल है। का अनुकूलन एकमात्र ऐसी चीज है जो वास्तव में संभव है। इस प्रश्न से संबंधित एक सांख्यिकीय अनुप्रयोग MCEM एल्गोरिथ्म है, जहां पूर्ण संभावना समारोह केवल MCMC त्रुटि के साथ देखने योग्य है। इसी तरह, MCMC कण फिल्टर एल्गोरिदम में भी यही समस्या है। मैंने यह जानने के लिए कि साहित्य के अत्याधुनिक तरीके क्या हैं, यह जानने के लिए या तो साहित्य पर पर्याप्त नहीं पढ़ा है। $E[f(x)]$

— क्लिफ एबी

यह आपके लक्ष्य पर निर्भर करता है। कई संभावित विकल्पों में से केवल एक है। कुछ अनुप्रयोगों में आप एक "विश्वसनीय" समाधान चाहते हो सकते हैं, न कि केवल एक जो "औसत पर अच्छा" है। इस परिदृश्य में आप के वितरण के कुछ मात्रा को wrt अनुकूलित करेंगे । बायेसियन अनुकूलन महंगा मूल्यांकन (और कभी-कभी शोर) फ़ंक्शन के मूल्यांकन से संबंधित है। उदाहरण के लिए इस प्रश्न की जाँच करें । एफ ( एक्स $\mathbb{E}[f(x)]$$f(x)$

— लैकरबी

@lacerbi उन उदाहरणों में से कोई शोर है? मुझे लगता है कि वे केवल नियतात्मक हैं।

— रस्टीस्टिस्टिस्टियन

@RustyStatistician: आप सही हैं, अधिकांश उदाहरण नियतात्मक हैं या सामान्य रूप से बायेसियन अनुकूलन के बारे में बात करते हैं। "शोर" भाग पर अधिक ध्यान केंद्रित किए गए संदर्भों के लिए नीचे देखें।

— लार्बी

क्या आप कंप्यूटर प्रोग्राम तक पहुँच प्राप्त करते हैं ताकि आप इसे चुना इनपुट लिए स्वयं चला सकें ? फिर प्रयोग के लिए प्रयोगों के डिजाइन के तरीके उपलब्ध हो जाते हैं! इस साईट को खोजें। $x$

— kjetil b halvorsen

Answer 1

( उचित उत्तर के लिए मेरी टिप्पणी का विस्तार करना। )

जैसा कि मैंने उल्लेख किया है, यह आपके लक्ष्य पर निर्भर करता है।

अपेक्षित मान अनुकूलन लक्ष्य के लिए कई संभावित विकल्पों में से केवल एक है। उदाहरण के लिए, यह मानते हुए कि सामान्य रूप से वितरित किए जाते हैं, आप कर सकते हैं:एफ ( एक्स $\mathbb{E}[f(x)]$$f(x)$

κ∈आरκ>0κ

$$x^\text{opt} = \arg \min_x \left\{ \mathbb{E}[f(x)] + \kappa \sqrt{\mathbb{Var}[f(x)]} \right\}$$ लिए कुछ जो जोखिम-संवेदनशीलता में हेरफेर करता है। यदि आप एक मजबूत समाधान की तलाश कर रहे हैं जो सबसे अच्छा होने की संभावना है और बड़े सकारात्मक उतार-चढ़ाव को हतोत्साहित करता है। इसके विपरीत, एक नकारात्मक एक "आशावादी" अनुकूलन का पक्ष जो बड़े नकारात्मक उतार-चढ़ाव के लिए दिखता है (नकारात्मक तब से अच्छा है जब से हम कम कर रहे हैं)। आप सामान्य वितरण की मात्राओं के आधार पर चुन सकते हैं (नीचे संदर्भ 2 देखें)।$\kappa \in \mathbb{R}$$\kappa > 0$$\kappa$$\kappa$

सामान्य तौर पर, बायेसियन ऑप्टिमाइज़ेशन (बीओ, जो गॉसियन प्रक्रियाओं और क्रिंगिंग से संबंधित है ) महंगा और कभी-कभी शोर फ़ंक्शन के मूल्यांकन से संबंधित है; हालांकि साहित्य का अधिकांश ध्यान पूर्व भाग पर रहा है। आप इस सवाल पर बायेसियन अनुकूलन के लिए समीक्षा पा सकते हैं ।

कई लोगों ने शोर कार्यों के लिए BO को लागू किया है। विषय के लिए एक परिचय के रूप में, डेविड गिनसबॉगर ने ग्लोबल ऑप्टिमाइज़ेशन (शेफ़ील्ड, सेप्ट 17, 2015) के लिए गौसियन प्रोसेस्स पर कार्यशाला में "अपेक्षित सुधार पर विविधताएं" शीर्षक से एक अच्छी बात की। आप उनकी बात यहां देख सकते हैं , और इस पृष्ठ पर सभी वार्ताएं उपलब्ध हैं (मैं बीओ के लिए एक उत्कृष्ट परिचय के रूप में अन्य सभी वार्ताओं की भी सिफारिश करता हूं।)

संदर्भ के रूप में, मैं Ginsbourger और सहयोगियों, और ग्रामी और सहयोगियों द्वारा किए गए काम से शुरू करूंगा:

1. Picheny, V. और Ginsbourger, D., 2014. "शोर क्रिगिंग-आधारित अनुकूलन पद्धतियां: DiceOptim पैकेज के भीतर एक एकीकृत कार्यान्वयन"। कम्प्यूटेशनल सांख्यिकी और डेटा विश्लेषण , 71, पीपी .3535-1053। ( लिंक )

2. Picheny, V., Ginsbourger, D., Richet, Y. और Caplin, G., 2013। "ट्यून करने योग्य परिशुद्धता के साथ शोर कंप्यूटर प्रयोगों का मात्रात्मक-आधारित अनुकूलन"। टेक्नोमेट्रिक्स , 55 (1), पीपी .2-13। ( लिंक )

3. ग्रामेसी, आरबी और ली, एचके, 2012। "बायेसियन ने कंप्यूटर मॉडलिंग के लिए एक आवेदन के साथ गॉसियन प्रक्रिया मॉडल का निर्माण किया।" जर्नल ऑफ़ द अमेरिकन स्टेटिस्टिकल एसोसिएशन । ( लिंक )

4. ग्रामेसी, आरबी और एपली, डीडब्ल्यू, 2015 "बड़े कंप्यूटर प्रयोगों के लिए स्थानीय गॉसियन प्रक्रिया सन्निकटन"। कम्प्यूटेशनल और ग्राफिकल स्टैटिस्टिक्स जर्नल , 24 (2), पीपी.561-578। ( लिंक )

Ginsburger और Gramacy दोनों में R पैकेज हैं जो अपने बीओ तरीकों को लागू करते हैं, क्रमशः DiceOptim और tgp ।

Comments

कहां है अपने जवाब में, या आप क्या मतलब है κ ? $k$$\kappa$

— RustyStatistician

एक और एल्गोरिथ्म, जिसका मैंने उपयोग नहीं किया है * लेकिन मनोरंजक नाम विभाग में जीत, SNOBFIT है । (* लेखक है तथापि अनुकूलन समुदाय में उल्लेखनीय है, और सॉफ्टवेयर एक पर ठीक किया नियतात्मक बेंचमार्क तो सिफारिश नहीं है, बस शांत नाम के आधार पर!)

— GeoMatt22

Answer 2

वर्तमान उत्तर स्टोकेस्टिक अनुकूलन लक्ष्य की उचित (गणितीय) परिभाषा पर ध्यान केंद्रित करते हैं - मैं कुछ हद तक लागू दृष्टिकोण प्रदान करना चाहता हूं।

यह समस्या अक्सर तब होती है जब स्टोकेस्टिक मॉडल फिट करना, जैसे अनौपचारिक या सिंथेटिक संभावना का उपयोग करना। संदर्भ (1) आपको एक विकल्प की सूची प्रदान करता है जिसका उपयोग स्टोचस्टिक मॉडल और डेटा के बीच की दूरी को परिभाषित करने के लिए किया जा सकता है।

इस तरह से अपने लक्ष्य को परिभाषित करने के बाद, जो समस्या बनी हुई है वह शोर लक्ष्य के कुछ साधनों का इष्टतम ढूंढ रही है। जाने के लिए दो मार्ग हैं, ए) अनुकूलन, और बी) एमसीएमसी नमूना। आप विशेष रूप से अनुकूलन के बारे में पूछ रहे थे, लेकिन मैं एमसीएमसी में लाना चाहता हूं क्योंकि वे इस कार्य के लिए अक्सर बेहतर व्यवहार करते हैं।

क) यदि आप अनुकूलन के साथ रहते हैं, तो आपको यह सुनिश्चित करने की आवश्यकता है कि आप अटक न जाएं और आशावादी एक स्टोकेस्टिक लक्ष्य से निपट सकता है। Matteo Fasiolo की पीएचडी थीसिस में अध्याय 4 कुछ संकेत देता है, देखें (2)।

ख) जैसा कि हम (1) में नोट करते हैं, एमसीएमसी आमतौर पर एक स्टोकेस्टिक लक्ष्य के खिलाफ अधिक मजबूत होते हैं - शोर के वितरण के बारे में हल्के परिस्थितियों में, एमसीएमसी शोर को दूर कर देगा, और नमूना लक्ष्य एक गैर-शोर से अप्रभेद्य होगा शोर लक्ष्य के साथ लक्ष्य। हालांकि, मूल्यांकन के दौरान MCMCs भी फंस सकते हैं, जो विशेष रूप से अच्छा है। आप अभी क्या नहीं कर रहे हैं निम्नलिखित "स्पष्ट" विचार हो रहा है: बस प्रत्येक MCMC पुनरावृत्ति में वर्तमान और प्रस्तावित मूल्य दोनों की गणना करें। यहां देखने के लिए कीवर्ड "छद्म सीमांत" है, यहां और यहां भी देखें ।

1) हार्टिग, एफ।; कैलाबेरीज़, जेएम; रीइनकिंग, बी।; Wiegand, T. & Huth, A. (2011) स्टोकैस्टिक सिमुलेशन मॉडल के लिए सांख्यिकीय निष्कर्ष - सिद्धांत और अनुप्रयोग । Ecol। लेट।, 14, 816-827।

2) फैसिओलो, एम। (2016) जटिल जनसंख्या गतिशीलता के लिए सांख्यिकीय तरीके । बाथ विश्वविद्यालय

Answer 3

चलो कहते हैं कि हम तो यह है कि एक असतत संभावना अंतरिक्ष में हैं । सहज रूप से, आपको कुछ फ़ंक्शन की आवश्यकता है U : R n → R ताकि आप U ( f ( x ) ) को ऑप्टिमाइज़ कर सकें । आप केवल एक ही उद्देश्य का अनुकूलन कर सकते हैं!$f(x) \in \mathcal{R}^n$$U: \mathcal{R}^n \rightarrow \mathcal{R}$$U(f(x))$

एक एकल उद्देश्य समारोह का अनुकूलन काफी अड़चन लग सकता है , लेकिन ऐसा नहीं है ! बल्कि एक ही उद्देश्य अविश्वसनीय रूप से विविध प्राथमिकताओं का प्रतिनिधित्व कर सकता है जो आपके पास एक बेहतर या बदतर समाधान हो सकता है।

आगे छोड़ना, शुरू करने के लिए एक सरल स्थान एक यादृच्छिक चर चयन करना फिर हल करना हो सकता है :$\lambda$

यह रेखीय एक सरल है फिर से भार कीई[च(एक्स)]। वैसे भी, यहां एक उद्देश्य के लिए एक से अधिक उद्देश्यों को ढहाने का तर्क आम तौर पर ठीक है।

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{minimize (over $x$)} & E\left[\lambda f(x) \right] \\ \mbox{subject to} & x \in X \end{array}$$ $E[f(x)]$

बुनियादी ढांचा:

• आपके पास एक विकल्प चर और एक संभव सेट X है ।$x$$X$
• आपकी पसंद का सुराग एक यादृच्छिक परिणाम ~ y = च ( एक्स $x$$\tilde{y} = f(x)$
• $\prec$$\tilde{y}$

$x^*\in X$

$$\nexists_{x \in X} \quad f(x^*) \prec f(x)$$ $x^*$$x$$f(x^*)$

उपयोगिता को अधिकतम करने के लिए समानता (कुछ तकनीकी परिस्थितियों में)

$n$$\tilde{y}$$\mathbf{y} \in \mathcal{R}^n$

$U(\mathbf{y})$

यह तर्क किसी भी समस्या पर लागू होता है जहाँ आपकी पसंद कई परिणाम चर की ओर ले जाती है।

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{maximize (over $x$)} & U(f(x)) \\ \mbox{subject to} & x \in X \end{array}$$

$U$

$U$

$$U(\mathbf{y}) = E[u(y_i)] = \sum_i p_i u(y_i)$$ $p_i$$i$$u$$u$$U$

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{maximize (over $x$)} & \sum_i p_i u(y_i) \\ \mbox{subject to} & x \in X \\ & \mathbf{y} = f(x) \end{array}$$

$u(y_i) = y_i$

$\lambda$

$$\begin{array}{*2{>{\displaystyle}r}} \mbox{maximize (over $x$)} & \sum_i \lambda_i y_i \\ \mbox{subject to} & x \in X \\ & \mathbf{y} = f(x) \end{array}$$

$\lambda_i$$p_i$

$\boldsymbol{\lambda}$$U(f(x))$

Comments

लेकिन इस सेटअप में सभी उपयोगिता फ़ंक्शंस एक ही उत्तर को सही नहीं बनाते हैं?

— RustyStatistician

और उपयोगिता कार्यों के लिए विशिष्ट विकल्प हैं? मेरी समस्या एक स्टॉकेस्टिक कंप्यूटर सिम्युलेटर है, जो वास्तव में एक ब्लैकबॉक्स सिम्युलेटर है, इसलिए मुझे अंतर्निहित यांत्रिकी के बारे में कोई जानकारी नहीं है तो क्या मैं संभवतः इसे एक उपयोगिता फ़ंक्शन भी प्रदान कर सकता हूं?

— रस्टीस्टैटिस्टिशियन

आपको अपनी समस्या के तर्क के माध्यम से सोचने की ज़रूरत है कि एक अच्छा परिणाम क्या है, और फिर कुछ उद्देश्य फ़ंक्शन ढूंढें जो बेहतर परिणाम देता है एक उच्च संख्या। (या समतुल्य रूप से, आप इसे कम से कम समस्या के रूप में सेट कर सकते हैं और अधिक संख्या में खराब परिणाम प्रदान कर सकते हैं। उदा। चुकता त्रुटि आदि की कुछ धारणा को कम करें।)

— मैथ्यू गन