एक रैखिक प्रतिगमन में x- अवरोधन के विश्वास अंतराल की गणना कैसे करें?

चूंकि एक रैखिक प्रतिगमन की मानक त्रुटि आमतौर पर प्रतिक्रिया चर के लिए दी जाती है, मैं सोच रहा हूं कि अन्य दिशा में आत्मविश्वास अंतराल कैसे प्राप्त करें - जैसे कि एक्स-इंटरसेप्ट। मैं कल्पना कर सकता हूं कि यह क्या हो सकता है, लेकिन मुझे यकीन है कि ऐसा करने का एक सीधा तरीका होना चाहिए। नीचे इस बात की कल्पना करने के लिए आर में एक उदाहरण है:

set.seed(1)
x <- 1:10
a <- 20
b <- -2
y <- a + b*x + rnorm(length(x), mean=0, sd=1)

fit <- lm(y ~ x)
XINT <- -coef(fit)[1]/coef(fit)[2]

plot(y ~ x, xlim=c(0, XINT*1.1), ylim=c(-2,max(y)))
abline(h=0, lty=2, col=8); abline(fit, col=2)
points(XINT, 0, col=4, pch=4)
newdat <- data.frame(x=seq(-2,12,len=1000))

# CI
pred <- predict(fit, newdata=newdat, se.fit = TRUE) 
newdat$yplus <-pred$fit + 1.96*pred$se.fit 
newdat$yminus <-pred$fit - 1.96*pred$se.fit 
lines(yplus ~ x, newdat, col=2, lty=2)
lines(yminus ~ x, newdat, col=2, lty=2)

# approximate CI of XINT
lwr <- newdat$x[which.min((newdat$yminus-0)^2)]
upr <- newdat$x[which.min((newdat$yplus-0)^2)]
abline(v=c(lwr, upr), lty=3, col=4)

r regression confidence-interval bootstrap

— बॉक्स में निशान
स्रोत

आप इसे बूटस्ट्रैप कर सकते हैं

library(boot);  sims <- boot(data.frame(x, y), function(d, i) {   fit <- lm(y ~ x, data = d[i,])   -coef(fit)[1]/coef(fit)[2] }, R = 1e4);  points(quantile(sims$t, c(0.025, 0.975)), c(0, 0))

:। उलटा पूर्वानुमान अंतराल के chemCal:::inverse.predictलिए निम्नलिखित संदर्भ की मदद फ़ाइल देता है जो सीआई को प्राप्त करने में भी मदद कर सकती है: मासार्ट, एलएम, वांडेंगेंस्टे, बीजीएम, ब्यूडेन्स, एलएमसी, डी जोंग, एस, लेवी, पीजे, स्मियर्स-वेरबे, जे (1997) ) हैंडबुक ऑफ़ केमोमेट्रिक्स एंड क्वालिमिट्रिक्स: पार्ट ए, पी। 200

— रोलैंड

आप ग्राफ में जो दिखाते हैं वह इंटरसेप्ट के लिए CI नहीं है। आप उन बिंदुओं को दिखाते हैं जहां भविष्यवाणियों की निचली और ऊपरी विश्वास रेखाएं अक्ष को पार करती हैं।

— रोलैंड

अक्सर रैखिक प्रतिगमन में एक मॉडल होता है जो कुछ इस तरह कहता है:

Y_{i} = α + β x_{i} + ε_{i} where ε_{1}, \dots ε_{n} \sim i.i.d. N (0, σ^{2}),

$Y_i = \alpha + \beta x_i + \varepsilon_i \quad \text{where } \varepsilon_1,\ldots\varepsilon_n \sim \text{i.i.d. } N(0,\sigma^2),$ ताकि

Y

$Y$ s को यादृच्छिक और के रूप में माना जाता है

x

$x$ तय के अनुसार है। यह कहकर उचित ठहराया जा सकता है कि आप दिए गए सशर्त वितरण की तलाश कर रहे हैं

x

$x$ रों। व्यवहार में यदि आप एक नया नमूना लेते हैं, तो यह आमतौर पर न केवल होता है

Y

$Y$ s लेकिन यह भी

x

$x$ यह परिवर्तन, कुछ परिस्थितियों में सुझाव देते हुए उन्हें यादृच्छिक भी माना जाना चाहिए। मुझे आश्चर्य है कि अगर यह के स्वामित्व पर भालू

\dots

$\,\ldots\qquad$

— माइकल हार्डी

stats.stackexchange.com/search?q="inverse+regression "

— whuber

@ AdrienRenaud - यह मुझे प्रतीत होता है कि आपके उत्तर में सरलीकृत रूप से दिए गए असममित पहलुओं को देखते हुए इसका उत्तर बहुत सरल है, और बूटस्ट्रैपिंग अभ्यास द्वारा हाइलाइट किया गया है जो रोलैंड ने सचित्र किया था। यदि मैं बहुत अधिक नहीं पूछ रहा हूं, तो शायद आप उस संभावना दृष्टिकोण पर विस्तार कर सकते हैं जो आपने उल्लेख किया था।

— को बॉक्स में मार्क

जवाबों:

एक रैखिक प्रतिगमन में x- अवरोधन के विश्वास अंतराल की गणना कैसे करें?

Asumptions

सरल प्रतिगमन मॉडल का उपयोग करें $y_i = \alpha + \beta x_i + \varepsilon_i$ ।
रजिस्टरों पर त्रुटियों का वितरण सामान्य होता है $\epsilon | X \sim \mathcal{N}(0, \sigma^2 I_n)$
साधारण वर्ग का उपयोग करके फिट

एक्स-इंटरसेप्ट पर विश्वास अंतराल की गणना करने के लिए 3 प्रक्रियाएं

टेलर विस्तार (प्रयोग करने में आसान)
बॉक्स विधि में चिह्न (MIB)
CAPITANI-POLLASTRI ( https://boa.unimib.it/retrieve/handle/10281/43053/64388/DECAPITANI_Pollastri.pdf )

पहले आदेश टेलर विस्तार

आपका मॉडल है $Y=aX+b$ अनुमानित मानक विचलन के साथ $\sigma_a$ तथा $\sigma_b$ पर $a$ तथा $b$ मापदंडों और अनुमानित सहसंयोजक $\sigma_{ab}$ । तुम हल करो

a X + b = 0 \Leftrightarrow X = \frac{- b}{a} .

$aX+b=0 \Leftrightarrow X= \frac{-b} a.$

फिर मानक विचलन $\sigma_X$ पर $X$ द्वारा दिया गया है:

{(\frac{σ_{X}}{X})}^{2} = {(\frac{σ_{b}}{b})}^{2} + {(\frac{σ_{a}}{a})}^{2} - 2 \frac{σ_{a b}}{a b} .

$\left( \frac {\sigma_X} X \right)^2 = \left( \frac {\sigma_b} b \right)^2 + \left( \frac {\sigma_a} a \right)^2 - 2 \frac{\sigma_{ab}}{ab}.$

एमआईबी

एक रेखीय प्रतिगमन में x- अवरोधन के विश्वास अंतराल की गणना करने के लिए बॉक्स में मार्क से कोड देखें ? ।

Capitani-POLLASTRI

CAPITANI-POLLASTRI दो सहसंबद्ध सामान्य यादृच्छिक चर के अनुपात के लिए संचयी वितरण फ़ंक्शन और घनत्व फ़ंक्शन प्रदान करता है। इसका उपयोग रेखीय प्रतिगमन में एक्स-इंटरसेप्ट के विश्वास अंतराल की गणना करने के लिए किया जा सकता है। यह प्रक्रिया MIB के समान परिणाम देती है (लगभग)।

वास्तव में, सामान्य वर्ग का उपयोग करते हुए और त्रुटियों की सामान्यता का उपयोग करते हुए, $\hat\beta \sim \mathcal{N}(\beta, \sigma^2 (X^TX)^{-1})$ (सत्यापित) और $\hat{\beta}$ सहसंबद्ध (सत्यापित) हैं।

प्रक्रिया निम्नलिखित है:

के लिए OLS अनुमानक प्राप्त करें $a$ तथा $b$ ।
विचरण-सहसंयोजक मैट्रिक्स प्राप्त करें और निकालें, $\sigma_a, \sigma_b, \sigma_{ab}=\rho\sigma_a\sigma_b$ ।
मान लो की $a$ तथा $b$ Bivariate सहसंबद्ध सामान्य वितरण का पालन करें, $\mathcal{N}(a, b, \sigma_a, \sigma_b, \rho)$ । फिर घनत्व समारोह और संचयी वितरण समारोह $x_{intercept}= \frac{-b}{a}$ CAPITANI-POLLASTRI द्वारा दिए गए हैं।
के संचयी वितरण फ़ंक्शन का उपयोग करें $x_{intercept}= \frac{-b}{a}$ वांछित मात्राओं की गणना करने और एक कॉफिडेंस अंतराल सेट करने के लिए।

3 प्रक्रियाओं की तुलना

निम्न डेटा कॉन्फ़िगरेशन का उपयोग करके प्रक्रियाओं की तुलना की जाती है:

x <- 1:10
एक <- 20
b <- -2
y <- a + b * x + rnorm (लंबाई (x), माध्य = 0, sd = 1)

10000 अलग-अलग नमूने उत्पन्न होते हैं और 3 तरीकों का उपयोग करके विश्लेषण किया जाता है। उत्पन्न करने और विश्लेषण करने के लिए उपयोग किए जाने वाले कोड (R) पर पाया जा सकता है: https://github.com/adrienrenaud/stackExchange/blob/master/crossValidated/q221630/answer.ipynb

MIB और CAPITANI-POLLASTRI बराबर परिणाम देते हैं।
पहला आदेश टेलर विस्तार दो अन्य तरीकों से काफी भिन्न होता है।
MIB और CAPITANI-POLLASTRI अंडर-कवरेज से ग्रस्त हैं। 68% (95%) ci को उस समय का सही मान 63% (92%) पाया जाता है।
पहला आदेश टेलर विस्तार ओवर-कवरेज से ग्रस्त है। 68% (95%) ci में उस समय का सही मूल्य 87% (99%) पाया जाता है।

निष्कर्ष

एक्स-इंटरसेप्ट वितरण असममित है। यह एक असममित आत्मविश्वास अंतराल को सही ठहराता है। MIB और CAPITANI-POLLASTRI बराबर परिणाम देते हैं। CAPITANI-POLLASTRI का एक अच्छा सैद्धांतिक औचित्य है और यह MIB के लिए आधार देता है। MIB और CAPITANI-POLLASTRI मध्यम अंडर-कवरेज से ग्रस्त हैं और आत्मविश्वास अंतराल सेट करने के लिए उपयोग किया जा सकता है।

— एड्रिएन रेनॉड
स्रोत

इस अच्छे उत्तर के लिए धन्यवाद। क्या इस पद्धति का अर्थ है कि एक्स-इंटरसेप्ट की मानक त्रुटि सममित है? मेरे आंकड़े में भविष्यवाणी अंतराल का मतलब है कि यह मामला नहीं है, और मैंने इस जगह का संदर्भ देखा है।

— बॉक्स में मार्क

हाँ, यह एक सममित अंतराल करता है। यदि आप एक असममित चाहते हैं, तो आप अपने मॉडल मापदंडों को उपद्रव मापदंडों के रूप में मानते हुए एक प्रोफ़ाइल संभावना का उपयोग कर सकते हैं। लेकिन यह अधिक काम है :)

— एड्रियन रेनॉड

क्या आप इस बारे में अधिक विस्तार से बता सकते हैं कि आपको वह अभिव्यक्ति कैसे मिलती है

(σ_{X} / X)^{2}

$(\sigma_X/X)^2$ ?

@fcop यह एक टेलर विस्तार है। पर एक नज़र डालें en.wikipedia.org/wiki/Propagation_of_uncertainty

— एड्रियन रेनॉड

मैं अवशिष्ट को बूटस्ट्रैप करने की सलाह दूंगा:

library(boot)

set.seed(42)
sims <- boot(residuals(fit), function(r, i, d = data.frame(x, y), yhat = fitted(fit)) {

  d$y <- yhat + r[i]

  fitb <- lm(y ~ x, data = d)

  -coef(fitb)[1]/coef(fitb)[2]
}, R = 1e4)
lines(quantile(sims$t, c(0.025, 0.975)), c(0, 0), col = "blue")

आप ग्राफ में जो दर्शाते हैं, वे बिंदु हैं जहां भविष्यवाणियों के विश्वास बैंड की निचली / ऊपरी सीमा अक्ष को पार करती है। मुझे नहीं लगता कि ये इंटरसेप्ट की विश्वास सीमाएं हैं, लेकिन शायद ये एक मोटा अनुमान है।

— रोलाण्ड
स्रोत

महान - यह पहले से ही आपकी टिप्पणी से उदाहरण से अधिक उचित लगता है। एक बार फिर धन्यवाद।

— बॉक्स में मार्क