जब समीकरणों का एक सेट विश्लेषणात्मक रूप से हल नहीं किया जा सकता है, तो हम एक ढाल डिसेंट एल्गोरिथ्म का उपयोग कर सकते हैं। लेकिन ऐसा लगता है कि मोंटे कार्लो सिमुलेशन की विधि भी है जिसका उपयोग उन समस्याओं को हल करने के लिए किया जा सकता है जिनके विश्लेषणात्मक समाधान नहीं हैं।
कैसे बताएं कि ढाल वंश का उपयोग कब करना है और मोंटे कार्लो का उपयोग कब करना है? या मैं सिर्फ 'अनुकूलन' शब्द के साथ 'सिमुलेशन' को भ्रमित कर रहा हूं?
आपका बहुत बहुत धन्यवाद!
जवाबों:
ये तकनीकें अलग-अलग काम करती हैं।
ग्रेडिएंट वंश एक अनुकूलन तकनीक है, इसलिए यह किसी भी सांख्यिकीय पद्धति में आम है जिसे अधिकतम करने की आवश्यकता है (MLE, MAP)।
मोंटे कार्लो सिमुलेशन एक वितरण से नमूना द्वारा अभिन्न कंप्यूटिंग के लिए है और नमूनों पर कुछ फ़ंक्शन का मूल्यांकन करता है। इसलिए इसका उपयोग आमतौर पर ऐसी तकनीकों के साथ किया जाता है, जिनमें अपेक्षाओं की गणना की आवश्यकता होती है (बायेसियन इनविज़न, बायेसियन हाइपोथिसिस टेस्टिंग)।
ये दोनों एल्गोरिदम के विशाल परिवार हैं, इसलिए आपको सटीक उत्तर देना मुश्किल है, लेकिन ...
जब आप अधिकतम (या न्यूनतम) प्राप्त करना चाहते हैं, तो ग्रेडिएंट एसेंट (या डिसेंट) उपयोगी होता है। उदाहरण के लिए, आपको प्रायिकता वितरण, या कुछ हानि फ़ंक्शन को कम करने वाले मापदंडों का एक संयोजन मिल सकता है। इन एक्स्ट्रेमा को खोजने के लिए "पथ" आपको फ़ंक्शन के समग्र आकार के बारे में थोड़ा सा बता सकता है, लेकिन इसका इरादा नहीं है; वास्तव में, यह बेहतर काम करता है, कम आप सब कुछ के बारे में पता होगा, लेकिन extrema।
मोंटे कार्लो विधियों को मोंटे कार्लो कैसीनो के नाम पर रखा गया है क्योंकि वे कैसीनो की तरह यादृच्छिकरण पर निर्भर करते हैं। यह कई अलग-अलग तरीकों से इस्तेमाल किया जा सकता है, लेकिन इनमें से अधिकांश वितरण वितरण पर ध्यान केंद्रित करते हैं। मार्कोव चेन मोंटे कार्लो एल्गोरिदम, उदाहरण के लिए, जटिल संभावना वितरण से कुशलता से नमूना लेने के तरीके खोजते हैं। अन्य मोंटे कार्लो सिमुलेशन संभव परिणामों पर वितरण उत्पन्न कर सकते हैं।
जैसा कि दूसरों द्वारा समझाया गया है, ढाल वंश / चढ़ाई अनुकूलन करता है, यानी एक फ़ंक्शन का अधिकतम या न्यूनतम पाता है। मोंटे कार्लो स्टोचैस्टिक सिमुलेशन की एक विधि है, यानी बार-बार यादृच्छिक नमूने के माध्यम से संचयी वितरण फ़ंक्शन का अनुमान लगाया जाता है। इसे "मोंटे कार्लो एकीकरण" भी कहा जाता है क्योंकि निरंतर वितरण का cdf वास्तव में एक अभिन्न है।
ग्रेडिएंट डिसेंट और मोंटे कार्लो के बीच जो सामान्य है वह यह है कि वे दोनों विशेष रूप से उन समस्याओं में उपयोगी हैं जहां कोई बंद-रूप समाधान मौजूद नहीं है। जब भी कोई विश्लेषणात्मक समाधान संभव हो, तो आप किसी भी उत्तल फ़ंक्शन के अधिकतम या न्यूनतम बिंदु को खोजने के लिए सरल भेदभाव का उपयोग कर सकते हैं। जब ऐसा कोई समाधान मौजूद नहीं होता है, तो आपको क्रमिक वंश जैसे पुनरावृत्त विधि का उपयोग करने की आवश्यकता होती है। मोंटे कार्लो सिमुलेशन के लिए एक ही है; आप मूल रूप से किसी भी सीएफडी की गणना करने के लिए सादा एकीकरण का उपयोग कर सकते हैं लेकिन इस बात की कोई गारंटी नहीं है कि इस तरह का एक बंद फॉर्म समाधान हमेशा संभव होगा। मोंटे कार्लो सिमुलेशन के साथ समस्या फिर से हल हो जाती है।
क्या आप अनुकूलन के लिए ढाल और मोंटे कार्लो के लिए ढाल वंश का उपयोग कर सकते हैं? सीधा - सा जवाब है 'नहीं'। मोंटे कार्लो को नमूना से एक स्टोकेस्टिक तत्व (वितरण) की आवश्यकता होती है और धीरे-धीरे अवरोही सूचना समस्याओं से निपटने का कोई साधन नहीं है। हालाँकि, आप अधिक शक्तिशाली स्टोचस्टिक ऑप्टिमाइज़ेशन एल्गोरिदम का निर्माण करने के लिए अनुकूलन के साथ सिमुलेशन को जोड़ सकते हैं जो बहुत जटिल समस्याओं को हल करने में सक्षम हैं जो कि सरल ढाल मूल हल करने में असमर्थ हैं। इसका एक उदाहरण सिंपल एनालिंग मोंटे कार्लो होगा।
यह उत्तर आंशिक रूप से गलत है। आप वास्तव में क्रमिक वंश के साथ मोंटे कार्लो विधियों को जोड़ सकते हैं। आप एक नुकसान फ़ंक्शन के ग्रेडिएंट का अनुमान लगाने के लिए मोंटे कार्लो विधियों का उपयोग कर सकते हैं, जो तब मापदंडों को अपडेट करने के लिए ढाल वंश द्वारा उपयोग किया जाता है। ग्रैडिएंट का अनुमान लगाने के लिए एक लोकप्रिय मोंटे कार्लो स्कोर ग्रेडिएंट अनुमानक है , जिसका उपयोग सुदृढीकरण सीखने में किया जा सकता है। शाकिर मोहम्मद एट अल द्वारा मशीन लर्निंग (2019) में मोंटे कार्लो ग्रैडिएंट अनुमान देखें । अधिक जानकारी के लिए।