3 आयामों में एकाधिक रैखिक प्रतिगमन सबसे अच्छा फिट का एक विमान या सबसे अच्छा फिट की एक पंक्ति है?

Question

हमारे प्रोफेसर गणित या कई रेखीय प्रतिगमन के ज्यामितीय प्रतिनिधित्व में नहीं मिल रहे हैं और इससे मुझे थोड़ा भ्रम हुआ है।

एक तरफ इसे अभी भी कई रैखिक प्रतिगमन कहा जाता है , यहां तक ​​कि उच्च आयामों में भी। दूसरी ओर, अगर हमारे पास उदाहरण के लिए और हम और लिए किसी भी मूल्य में प्लग कर सकते हैं , तो यह हमें संभावित समाधानों का एक विमान नहीं देगा। और एक पंक्ति नहीं है?एक्स1एक्स$\hat{Y} = b_0 + b_1 X_1 + b_2 X_2$$X_1$$X_2$

सामान्य तौर पर, भविष्यवाणी एक होने जा रहा के बारे में हमारी सतह नहीं है के लिए आयामी hyperplane स्वतंत्र चरों?$k$$k$

Answer 1

आप सही हैं, समाधान सतह सामान्य रूप से एक हाइपरप्लेन बनने जा रही है। यह सिर्फ इतना है कि हाइपरप्लेन शब्द एक माउथफुल है, प्लेन छोटा है और लाइन भी छोटी है। जैसा कि आप गणित में जारी रखते हैं, एक आयामी मामला कभी और कभी शायद ही कभी चर्चा करता है

Big words for high dimensional, Small words for small dimensional

, अच्छी तरह से, पीछे की ओर देखना शुरू कर देता है।

उदाहरण के लिए, जब मुझे जैसे समीकरण दिखाई देते हैं , जहां मैट्रिक्स है और वैक्टर हैं, तो मैं इसे रैखिक समीकरण कहता हूं । अपने जीवन के पहले भाग में, मैं इसे रेखीय समीकरणों की एक प्रणाली कहूंगा , जो एक आयामी मामले के लिए रैखिक समीकरणों को संग्रहीत करेगा । लेकिन फिर मुझे एक बिंदु मिला जहाँ एक आयामी मामला बहुत बार सामने नहीं आया, जबकि बहु-आयामी मामला हर जगह था।ए एक्स , $Ax = b$$A$$x, b$

यह भी संकेतन के साथ होता है। कभी किसी को लिखते देखा है

$$\frac{\partial f}{\partial x} = 2x$$

बाईं ओर का प्रतीक एक फ़ंक्शन का नाम है, इसलिए औपचारिक और बालिक होने के लिए, आपको लिखना चाहिए

$$\frac{\partial f}{\partial x}(x) = 2x$$

मल्टी-डिमनेस्ट्रेशन में यह खराब हो जाता है, जब व्युत्पन्न दो तर्क लेता है, एक वह है जहां आप व्युत्पन्न लेते हैं, और दूसरा वह है कि आप किस दिशा में व्युत्पन्न का मूल्यांकन करते हैं, जो दिखता है

$$\nabla_{x} f (v)$$

लेकिन लोग बहुत जल्दी आलसी हो जाते हैं, और एक या दूसरे तर्कों को छोड़ना शुरू करते हैं, उन्हें संदर्भ द्वारा समझा जाता है।

पेशेवर गणितज्ञ, गाल में दृढ़ता से जीभ, इस संकेतन का दुरुपयोग कहते हैं । ऐसे विषय हैं जिनमें यह अनिवार्य रूप से असंभव होगा कि बिना किसी अपशब्द के खुद को व्यक्त किया जाए, मेरी प्रिय अंतर ज्यामिति बिंदु में एक मामला है। महान निकोलस बॉर्बकी ने बहुत ही स्पष्ट रूप से इस बात को व्यक्त किया

जहां तक ​​संभव हो हमने पाठ में भाषा के दुरुपयोग पर ध्यान आकर्षित किया है, जिसके बिना कोई भी गणितीय पाठ पैदल चलने का जोखिम नहीं उठाता, अपठनीयता नहीं कहता।

- बोर्बाकी (1988)

आप यह भी टिप्पणी के दुरुपयोग पर टिप्पणी मैं ऊपर neven में यह खुद को देख के बिना गिर गया!

तकनीकी रूप से जब से आपने df / dx को एक आंशिक व्युत्पन्न के रूप में लिखा है, भले ही अन्य निहित चर स्थिर के रूप में आयोजित किए जाएंगे, लेकिन आंशिक व्युत्पन्न तकनीकी रूप से मूल फ़ंक्शन के सभी चर का एक फ़ंक्शन नहीं होगा, जैसा कि dx / dx ( x, y, ...)?

आप पूरी तरह से सही हैं, और इससे मुझे यहाँ जो कुछ भी मिल रहा है उसका एक अच्छा (अनजाना) चित्रण मिलता है।

मैं अपने दिन-प्रतिदिन के काम और अध्ययन में शायद ही कभी एक-चर के रूप में व्युत्पन्न का सामना करता हूं, कि मैं अनिवार्य रूप से भूल गया हूँ कि यहाँ सही अंकन है। मैं ऊपर एक एक चर समारोह के बारे में होना चाहता था, लेकिन अनजाने में मेरे उपयोग के द्वारा अन्यथा संकेत दिया गया ।$\frac{d f}{d x}$$\partial$

मुझे लगता है कि जब हम कहते हैं कि "अनंत राशि" के बजाय "एक राशि की सीमा के रूप में अनंतता के दृष्टिकोण की संख्या" के रूप में कहते हैं। जिस तरह से मुझे लगता है कि यह वैचारिक अंतर स्पष्ट है, तब तक ठीक है। इस मामले में (कई प्रतिगमन), मुझे वास्तव में यकीन नहीं था कि हम पहले स्थान पर क्या बात कर रहे थे।

याह, यह सोचने का एक सुसंगत तरीका है। एकमात्र वास्तविक अंतर यह है कि हमारे पास ऐसी सामान्य स्थिति है जिसे व्यक्त करने के लिए हमने अतिरिक्त (*) अंकन और शब्दावली ( और "अनंत राशि") का आविष्कार किया । अन्य मामलों में हम एक अवधारणा का सामान्यीकरण करते हैं, और फिर सामान्यीकृत अवधारणा इतनी सर्वव्यापी हो जाती है कि हम सामान्यीकृत अवधारणा के लिए पुरानी अधिसूचना या शब्दावली का पुन: उपयोग करते हैं।$\Sigma$

आलसी लोगों के रूप में हम आम मामलों में शब्दों का अर्थ करना चाहते हैं।

(*) ऐतिहासिक रूप से, यह नहीं है कि अनंत रकम कैसे विकसित हुई। आंशिक रकम परिभाषा की सीमा एक पोस्टवर्दी विकसित की गई थी जब गणितज्ञों ने ऐसी स्थितियों का सामना करना शुरू कर दिया था जहां यह बहुत ही सटीक कारण होना आवश्यक था।

Comments

यह मज़ेदार है कि आप आंशिक व्युत्पत्ति का उदाहरण देते हैं क्योंकि मैं हमेशा इस बारे में आश्चर्य करता था (आत्म-अध्ययन की खुशियाँ ...)। वैसे (असंबंधित और मुझे पांडित्य नहीं है, लेकिन सिर्फ यह सुनिश्चित करना चाहता हूं कि मैं जितना संभव हो उतना समझ सकता हूं) तकनीकी रूप से जब से आपने df / dx को एक आंशिक व्युत्पन्न के रूप में लिखा है, भले ही अन्य निहित चर निरंतर के रूप में आयोजित किए जाएंगे, नहीं। आंशिक व्युत्पन्न तकनीकी रूप से अभी भी मूल फ़ंक्शन के सभी चर का एक फ़ंक्शन है, जैसा कि df / dx (x, y, ...) में है? मुझे लगता है कि मेरा सवाल आंशिक व्युत्पन्न अभी भी सभी चर का एक समारोह नहीं है?

— जेरेमी रेडक्लिफ

इसके अलावा, सभी को समझाने के लिए धन्यवाद। मुझे लगता है कि मुझे ऐसा लगता है जब हम कहते हैं कि "अनंत राशि" के बजाय "राशि की सीमा के रूप में संख्या की संख्या अनंत तक पहुंचती है"। जिस तरह से मुझे लगता है कि यह वैचारिक अंतर स्पष्ट है, तब तक ठीक है। इस मामले में (कई प्रतिगमन), मुझे वास्तव में यकीन नहीं था कि हम पहले स्थान पर क्या बात कर रहे थे। मैंने 3 डी में एक पंक्ति की कल्पना करने की कोशिश की और तब एहसास हुआ कि अगर हम कई स्वतंत्र चर को स्वतंत्र रूप से अलग-अलग होने दें, तो मुझे यकीन नहीं है।

— जेरेमी रेडक्लिफ

+1 शानदार जवाब। कभी-कभी लोग आलसी होते हैं और बहुत भ्रम पैदा करेंगे। इसीलिए मैं इस पोस्ट में नोटेशन पूछने की कोशिश कर रहा था। आंकड़े.stackexchange.com/questions/216286/…

— Haitao Du

@jeremyradcliff मैंने कुछ टिप्पणी में संपादित किया।

— मैथ्यू

@MatthewDrury, मेरी टिप्पणियों को संबोधित करने के लिए समय निकालने के लिए धन्यवाद। यह मेरे लिए बहुत उपयोगी है क्योंकि मैं जो गणित जानता हूं, उसके अधिकांश हिस्से का स्वयं अध्ययन करता हूं, और आसपास के संस्कृति और गणितज्ञों की पहुंच स्टैकएक्सचेंज जैसी जगहों और आपके जैसे जवाबों को मेरे लिए अमूल्य बनाती है।

— जेरेमी रेडक्लिफ

Answer 2

"रेखीय" का अर्थ यह नहीं है कि आपको क्या लगता है कि वह इस संदर्भ में क्या करता है - यह थोड़ा अधिक सामान्य है

सबसे पहले, यह वास्तव में एक्स के लिए लेकिन मापदंडों के लिए रैखिकता का संदर्भ नहीं है * ("मापदंडों में रैखिक")।

रेखीय बीजगणित अर्थ में एक रेखीय कार्य अनिवार्य रूप से एक रेखीय मानचित्र है; में रैखिक कार्य है -अंतरिक्ष।$E(Y|X) = X\beta$$\beta$

तो सबसे अच्छा फिट का एक विमान (या अधिक सामान्यतः हाइपरप्लेन) अभी भी "रैखिक प्रतिगमन" है।

* हालांकि यह आपूर्ति की गई एक्स में रैखिक होगा यदि आप समन्वय-वेक्टोर के भाग के रूप में के निरंतर स्तंभ पर विचार करते हैं (या वैकल्पिक रूप से अतिरिक्त समन्वय के सामान्यीकरण के साथ समरूप निर्देशांक में इसके बारे में सोचते हैं)। या आप बस यह कह सकते हैं कि और दोनों में रैखिक हैएक्स β एक्स $1$$X\beta$$X$$\beta$