लमेर () मॉडल में यादृच्छिक प्रभावों के विचरण को समझना

मुझे अपने lmer()मॉडल के आउटपुट को समझने में परेशानी हो रही है । यह राज्य परिवर्तन / राज्य यादृच्छिक प्रभावों के साथ एक परिणाम चर (समर्थन) का एक सरल मॉडल है:

mlm1 <- lmer(Support ~ (1 | State))

के परिणाम summary(mlm1)हैं:

Linear mixed model fit by REML 
Formula: Support ~ (1 | State) 
   AIC   BIC logLik deviance REMLdev
 12088 12107  -6041    12076   12082
Random effects:
 Groups   Name        Variance  Std.Dev.
 State    (Intercept) 0.0063695 0.079809
 Residual             1.1114756 1.054265
Number of obs: 4097, groups: State, 48

Fixed effects:
            Estimate Std. Error t value
(Intercept)  0.13218    0.02159   6.123

मैं यह मानता हूं कि अलग-अलग अवस्थाओं का विचरण / यादृच्छिक प्रभाव होता है 0.0063695। लेकिन जब मैं इन राज्य यादृच्छिक प्रभावों के वेक्टर को निकालता हूं और विचरण की गणना करता हूं

var(ranef(mlm1)$State)

इसका परिणाम है: 0.001800869रिपोर्ट किए गए विचरण से काफी छोटा summary()।

जहां तक मैं इसे समझता हूं, मेरे द्वारा निर्दिष्ट मॉडल लिखा जा सकता है:

$y_i = \alpha_0 + \alpha_s + \epsilon_i, \text{ for } i = \{1, 2, ..., 4097\}$

$\alpha_s \sim N(0, \sigma^2_\alpha), \text{ for } s = \{1, 2, ..., 48\}$

यदि यह सही है, तो यादृच्छिक प्रभाव के विचरण ( ) होना चाहिए । फिर भी ये वास्तव में मेरे फिट के बराबर नहीं हैं । $\alpha_s$ $\sigma^2_\alpha$ lmer()

r mixed-model random-effects-model lme4-nlme

— nomad545
स्रोत

क्या आपके पास मापदंडों के साथ अनुमान लगाने के तरीके के बारे में कुछ ज्ञान है lmer()? ऐसा लगता है कि आप की मान्यता है कि

अनुमान यादृच्छिक प्रभाव के अनुभवजन्य विचरण का अनुमान है

। आपके मॉडल का विवरण स्पष्ट नहीं है (perharps

should be

)। क्या यह एक संतुलित डिजाइन है?

σ_{α}^{2}

$\sigma^2_\alpha$

{\hat{α}}_{s}

$\hat\alpha_s$

y_{i}

$y_i$

y_{i s}

$y_{is}$

— स्टीफन लॉरेंट

यहाँ एक बहुत ही समान प्रश्न है, किसी भी तरह से अलग जवाब के साथ

— Arne Jonas Warnke

यह एक क्लासिक एक तरीका है एनोवा। आपके प्रश्न का बहुत ही कम उत्तर यह है कि विचरण घटक दो शब्दों से बना है।

{\hat{σ}}_{α}^{2} = E [\frac{1}{48} \sum_{s = 1}^{48} α_{s}^{2}] = \frac{1}{48} \sum_{s = 1}^{48} {\hat{α}}_{s}^{2} + \frac{1}{48} \sum_{s = 1}^{48} v a r ({\hat{α}}_{s})

$\hat{\sigma}^2_{\alpha}=E\left[\frac{1}{48}\sum_{s=1}^{48} \alpha_s^2\right]= \frac{1}{48}\sum_{s=1}^{48}\hat{ \alpha }_s^2 +\frac{1}{48}\sum_{s=1}^{48}var(\hat{ \alpha }_s)$

So the term you computed is the first term on the rhs (as random effects have mean zero). The second term depends on whether REML of ML is used, and the the sum of squared standard errors of your random effects.

— probabilityislogic
स्रोत

OK, got it! So, the sum of the squared SEs of the REs -- 1/48 * sum((se.ranef(mlm1)$State)^2) -- is 0.004557198. The variance of the point estimates of the REs (obtained, as above, using var(ranef(mlm1)$State)) is 0.001800869. The sum is 0.006358067, which is the variance reported using summary() on the lmer() model above, to 4 or 5 digits at least. Many thanks @probability

— nomad545

For those looking to this answer and the comment for help, note that nomad545 has also made use of the arm R package for the se.ranef() function.

— ndoogan

@probabilityislogic: Can you provide some more detail how that equation was calculated? Specifically, how was the second equality achieved? Also, shoudn't there be a hat on the alpha after the first equality?

— user1357015

@user1357015 - one way to see this is to look at the gradient of the (marginal) log likelihood after integrating out the random effects. That is, differentiate the likelihood

Y \sim N o r m a l (1_{n} α_{0}, Σ)

$Y\sim Normal (1_n\alpha_0,\Sigma)$ where

Σ = I_{n} σ_{e}^{2} + σ_{α}^{2} Z Z^{T}

$\Sigma=I_n\sigma^2_e+\sigma^2_{\alpha} ZZ^T$ is the "unconditional" variance of Y. If you do this (plus using some manipulations) you get the above equality. The second equality follows because

E (α_{s}) = 0

$E (\alpha_s)=0$ (under the model) meaning

v a r (α_{s}) = E (α_{s}^{2})

$var (\alpha_s)=E (\alpha_s^2)$

— probabilityislogic