साधारण से साधारण वर्ग में क्या है?

Question

मेरे एक दोस्त ने हाल ही में पूछा कि साधारण क्या है, साधारण से कम वर्ग के बारे में। हमें चर्चा में कहीं भी नहीं मिला। हम दोनों सहमत थे कि ओएलएस रैखिक मॉडल का विशेष मामला है, इसके कई उपयोग हैं, अच्छी तरह से जानते हैं, और कई अन्य मॉडलों का एक विशेष मामला है। लेकिन क्या वाकई यह सब है?

इसलिए मैं जानना चाहूंगा:

• नाम वास्तव में कहां से आया?
• नाम का उपयोग करने वाला पहला व्यक्ति कौन था?

Comments

यह सामान्य है क्योंकि अब अन्य संस्करण हैं। भारित। मजबूत। अरेखीय। ... साधारण यह है कि आप इसे किसी और चीज़ के साथ भ्रमित होने से कैसे बचाते हैं।

— एंग्रीस्टूडेंट

एक अनुमान के रूप में ओएलएस की संभावना है कि पहला संख्यात्मक फिट एल्गोरिथ्म लगभग 1805 ईस्वी में विकसित हुआ । साधारण नाम संभवत: थीम पर बदलाव के बाद जोड़ा गया था।

— कार्ल

Answer 1

में कम से कम वर्ग $y$अक्सर इसे साधारण कम से कम वर्ग (OLS) कहा जाता है क्योंकि यह लगभग 1800 तक विकसित होने वाली पहली सांख्यिकीय प्रक्रिया थी , इतिहास देखें । यह न्यूनतम करने के बराबर है$L_2$ आदर्श, $||Y-f(X)||_2$। इसके बाद, भारित कम से कम वर्ग, अन्य मानदंडों को कम करना (जैसे,$L_1$), सामान्यीकृत कम से कम वर्ग , एम अनुमान , द्विभाजन न्यूनीकरण (जैसे, प्रतिगमन प्रतिगमन), गैर-पैरामीट्रिक प्रतिगमन, अधिकतम संभावना प्रतिगमन, नियमितीकरण (जैसे, तिखोनोव, रिज) और अन्य व्युत्क्रम समस्या तकनीक और कई अन्य उपकरण विकसित किए गए थे। अभी भी इस पर विवाद है कि इसे किसने पहली बार लागू किया, गॉस या लीजेंड्रे ( लिंक देखें )। शब्द "साधारण" (में आसक्त)$y$) स्पष्ट रूप से "कम से कम वर्गों" में इतने सारे वैकल्पिक तरीकों के बाद ही जोड़ा गया था कि (अभी भी सबसे लोकप्रिय) लोकप्रिय ओएलएस को उपलब्ध होने वाले अन्य न्यूनताओं के ढेर से अलग करने की आवश्यकता है। जब बिल्कुल साधारण जोड़ना$+$ऐसा होने के बाद से कम से कम वर्गों को ट्रैक करना मुश्किल होगा क्योंकि ऐसा होना स्वाभाविक या स्पष्ट है।

Comments

आप ओएलएस को डब्ल्यूएलएस, भारित कम से कम वर्गों के विपरीत भी कर सकते हैं, जो भारित वर्गों को कम करता है।

— एडम डे

इसका वास्तव में कुछ हद तक पहले से ही "अन्य" मानदंडों के तहत, उदाहरण के लिए, $||1-\frac{Y}{f(x)}||$भारित है।

— कार्ल

यह एक पुराना सवाल है, अगर मुझे सही ढंग से याद है कि मुझे वास्तव में दिलचस्पी थी (उस समय) यह पता लगाने के लिए कि पहले

— ओएलएस

मैंने कभी नहीं सुना है "कम से कम वर्ग" का उपयोग कम से कम वर्णन करने के लिए किया जाता है जो कि नहीं है $L_2$आदर्श। (ध्यान दें कि "ऊर्जा मानदंड" जैसे कि टिखोनोव नियमितीकरण में उपयोग किया जाता है बस एक हैं$L_2$एक परिवर्तित वेक्टर।) एक अधिक सामान्य शब्द सिर्फ "प्रतिगमन", या शायद " एम अनुमान " होगा।

— जियोमैट 22

मैं @ अदमो से सहमत हूँ कि साधारण बनाम भारित * के विपरीत संभावना लगती है। (* बल्कि, "सामान्यीकृत" । कम्प्यूटेशनल विज्ञान में मुझे लगता है कि यह अभी भी सिर्फ भारित कहा जाएगा? एक वजन मैट्रिक्स को विकर्ण क्यों करना होगा?)

— जियोमैट 22