बहुपद प्रतिगमन को कई रेखीय प्रतिगमन का एक विशेष मामला क्यों माना जाता है?

Question

यदि बहुपद प्रतिगमन गैर-संबंध संबंध मॉडल करता है, तो इसे एकाधिक रैखिक प्रतिगमन का एक विशेष मामला कैसे माना जा सकता है?

विकिपीडिया नोट करता है कि "हालांकि बहुपद प्रतिगमन डेटा के लिए एक अरेखीय मॉडल फिट बैठता है, एक सांख्यिकीय अनुमान समस्या के रूप में यह रैखिक है, इस अर्थ में कि प्रतिगमन फ़ंक्शन अज्ञात मापदंडों में रैखिक है जो अनुमानित हैं। डेटा से। "$\mathbb{E}(y | x)$

अज्ञात पैरामीटर में बहुपद प्रतिगमन रैखिक कैसे होता है यदि पैरामीटर ऑर्डर 2 के साथ शर्तों के लिए गुणांक हैं ?$\ge$

Comments

मापदंडों अनुमान लगाया जा करने के लिए (बहु) रैखिक हैं। यदि आप घातांक के मूल्यों का अनुमान लगा रहे थे , तो अनुमान की समस्या रैखिक नहीं होगी; लेकिन एक भविष्यवक्ता चुकता करता है जो ठीक 2 पर प्रतिपादक को ठीक करता है

— मोनिका

मेरी समझ यह है कि @ user777 की टिप्पणी, साथ ही नीचे दिए गए उत्तर, न केवल बहुपद प्रतिगमन पर लागू होते हैं, बल्कि किसी भी प्रतिगमन पर भी होते हैं, जो भविष्यवक्ता चर के एक आक्षेप का उपयोग करता है । उदाहरण के लिए किसी भी प्रतिवर्ती फ़ंक्शन, जैसे , , आदि (साथ ही कुछ अन्य कार्य, जाहिर है, चूंकि 2nth शक्तियाँ विशेषण नहीं हैं)। e $log(x)$$e^x$

— n

सभी को धन्यवाद; सभी उत्तर और टिप्पणियाँ सहायक थे।

— गविंम

Answer 1

जब आप एक प्रतिगमन मॉडल फिट करते हैं जैसे कि , मॉडल और OLS आकलनकर्ता ' ' को नहीं जानते ' ' बस वर्ग है , यह सिर्फ 'सोचता है' यह एक और चर है। बेशक वहाँ कुछ मिलीभगत है, और जो फिट में शामिल हो जाता है (उदाहरण के लिए, मानक त्रुटियां वे जितना बड़ा हो सकता है अन्यथा), लेकिन बहुत से जोड़े के जोड़े कुछ हद तक एक दूसरे के एक समारोह में होने के बिना समेटे हुए हो सकते हैं। x 2 मैं एक्स$\hat y_i = \hat\beta_0 + \hat\beta_1x_i + \hat\beta_2x^2_i$$x^2_i$$x_i$

हम यह नहीं पहचानते हैं कि मॉडल में वास्तव में दो अलग-अलग चर हैं, क्योंकि हम जानते हैं कि अंततः जैसा ही चर है जिसे हमने और बीच एक संबंध को पकड़ने के लिए रूपांतरित और शामिल किया है । की वास्तविक प्रकृति का ज्ञान , हमारे विश्वास के साथ युग्मित है कि और बीच एक संबंध है जो कि हमारे लिए उस तरीके को समझना मुश्किल बना देता है जो मॉडल के दृष्टिकोण से अभी भी रैखिक है। इसके अलावा, हम और कल्पना x i x i y i x 2 i x i y i x i x 2 i x , $x^2_i$$x_i$$x_i$$y_i$$x^2_i$$x_i$$y_i$$x_i$$x^2_i$एक साथ 2 डी विमान पर 3 डी फ़ंक्शन के सीमांत प्रक्षेपण को देखकर । $x, y$

यदि आपके पास केवल और , तो आप उन्हें पूर्ण 3 डी स्थान में देखने की कोशिश कर सकते हैं (हालांकि यह अभी भी मुश्किल है कि वास्तव में क्या चल रहा है यह देखने के लिए)। यदि आप पूर्ण 3 डी स्थान में फिट किए गए फ़ंक्शन को देखते हैं, तो आप देखेंगे कि फिट किया गया फ़ंक्शन एक 2 डी विमान है, और इसके अलावा यह एक सपाट विमान है। जैसा कि मैं कहता हूं, यह अच्छी तरह से देखना मुश्किल है क्योंकि डेटा केवल उस 3 डी स्थान से गुजरने वाली एक घुमावदार रेखा के साथ मौजूद हैं (यह तथ्य उनकी की दृश्य अभिव्यक्ति है)। हम यहां ऐसा करने की कोशिश कर सकते हैं। कल्पना कीजिए कि यह फिट मॉडल है: x 2 i x i , x 2 $x_i$$x^2_i$$x_i, x^2_i$

x     = seq(from=0, to=10, by=.5)
x2    = x**2
y     = 3 + x - .05*x2
d.mat = data.frame(X1=x, X2=x2, Y=y)

# 2D plot
plot(x, y, pch=1, ylim=c(0,11), col="red", 
     main="Marginal projection onto the 2D X,Y plane")
lines(x, y, col="lightblue")

# 3D plot
library(scatterplot3d)
s = scatterplot3d(x=d.mat$X1, y=d.mat$X2, z=d.mat$Y, color="gray", pch=1, 
              xlab="X1", ylab="X2", zlab="Y", xlim=c(0, 11), ylim=c(0,101), 
              zlim=c(0, 11), type="h", main="In pseudo-3D space")
s$points(x=d.mat$X1, y=d.mat$X2, z=d.mat$Y, col="red", pch=1)
s$plane3d(Intercept=3, x.coef=1, y.coef=-.05, col="lightblue")

इन चित्रों में देखना आसान हो सकता है, जो rglपैकेज का उपयोग करके समान डेटा के साथ बनाए गए घुमाए गए 3 डी आंकड़े के स्क्रीनशॉट हैं ।

जब हम कहते हैं कि एक मॉडल जो "मापदंडों में रैखिक है" वास्तव में रैखिक है, यह सिर्फ कुछ गणितीय परिष्कार नहीं है। चरों के साथ , आप -d में एक हाइपरप्लेन को -dimensional हाइपरस्पेस (हमारे उदाहरण में 3 डी स्पेस में 2 डी प्लेन) में फिट कर रहे हैं । वह हाइपरप्लेन वास्तव में 'फ्लैट' / 'रैखिक' है; यह सिर्फ एक रूपक नहीं है। पी $p$$p$$p\!+\!1$

Answer 2

तो एक सामान्य रैखिक मॉडल फ़ंक्शन है जो अज्ञात मापदंडों में रैखिक है । एक बहुपद प्रतिगमन, उदाहरण के लिए कार्य के रूप में द्विघात है लेकिन गुणांक , और में रैखिक है । अधिक सामान्यतः, एक सामान्य रैखिक मॉडल को रूप में व्यक्त किया जा सकता है , जहां वेक्टर इनपुट्स मनमाने कार्य हैं - यह देखें कि अंतःक्रिया शब्दों को शामिल कर सकता है (बीच में) घटक ) और ऐसे।$y = a + bx + cx^2$$x$$a$$b$$c$$y = \sum_{i=0}^N a_i h_i(x)$$h_i$$x$$h_i$$x$

Answer 3

एक मॉडल पर विचार करें

$$y_i = b_0+b_1 x^{n_1}_i + \cdots+ b_px^{n_p}_i + \epsilon_i.$$

इसे फिर से लिखा जा सकता है

$$y = X b + \epsilon;\\ X= \begin{pmatrix} 1 & x_{1}^{n_1} & \cdots & x_{1}^{n_p} \\ 1 & x_{2}^{n_1} & \cdots & x_{2}^{n_p} \\ \vdots & \vdots & \ddots & \vdots \\ 1 & x_{n}^{n_1} & \cdots & x_{n}^{n_p} \\ \end{pmatrix}.$$