शून्य फुले हुए पॉइसन मॉडल के एक अव्यक्त चर सूत्रीकरण के लिए MLE की गणना करने के लिए आप EM एल्गोरिथ्म का उपयोग कैसे करते हैं?

शून्य फुलाया प्वासों प्रतिगमन मॉडल एक नमूने के लिए परिभाषित किया गया है द्वारा और यह मान लिया गया है कि पैरामीटर $(y_1,\ldots,y_n)$

Y_{i} = {\begin{cases} 0 & with probability p_{i} + (1 - p_{i}) e^{- λ_{i}} \\ k & with probability (1 - p_{i}) e^{- λ_{i}} λ_{i}^{k} / k! \end{cases}

$Y_i = \begin{cases} 0 & \text{with probability} \ p_i+(1-p_i)e^{-\lambda_i}\\ k & \text{with probability} \ (1-p_i)e^{-\lambda_i} \lambda_{i}^{k}/k! \end{cases}$

और

संतुष्ट करें

λ = (λ_{1}, \dots, λ_{n})

$\mathbf{\lambda} = (\lambda_1, \dots, \lambda_n)$

p = (p_{1}, \dots, p_{n})

$\textbf{p} = (p_1, \dots, p_n)$

\begin{aligned} \log (λ) & = B β \\ logit (p) & = \log (p / (1 - p)) = G γ . \end{aligned}

$\eqalign{ \log(\mathbf{\lambda}) &= \textbf{B} \beta \\ \text{logit}(\textbf{p}) &= \log(\textbf{p}/(1-\textbf{p})) = \textbf{G} \mathbf{\gamma}. }$

शून्य फुलाया प्वासों प्रतिगमन मॉडल के लिए इसी लॉग संभावना है

\begin{aligned} L (γ, β; y) & = \sum_{y_{i} = 0} \log (e^{G_{i} γ} + \exp (- e^{B_{i} β})) + \sum_{y_{i} > 0} (y_{i} B_{i} β - e^{B_{i} β}) \\ - \sum_{i = 1}^{n} \log (1 + e^{G_{i} γ}) - \sum_{y_{i} > 0} \log (y_{i}!) \end{aligned}

$\eqalign{ L(\gamma,\mathbf{\beta}; \mathbf{y}) &= \sum_{y_i=0} \log(e^{G_i \gamma}+\exp(-e^{\textbf{B}_i \mathbf{\beta}})) +\sum_{y_i >0} (y_i \textbf{B}_i \mathbf{\beta}-e^{\textbf{B}_i \mathbf{\beta}})\\ &\quad -\sum_{i=1}^{n} \log(1+e^{G_{i} \gamma})-\sum_{y_i >0} \log(y_{i}!)}$

यहाँ, और डिज़ाइन मैट्रिसेस हैं। ये मैट्रिसेस एक ही हो सकते हैं, जो कि दो उत्पन्न करने वाली प्रक्रियाओं के लिए उपयोग की जाने वाली इच्छाओं के आधार पर होता है। हालाँकि, उनके पास समान पंक्तियाँ हैं। $\mathrm{B}$ $\mathrm{G}$

$Z_i = 1$ $Y_i$ $Z_i = 0$ $Y_i$

L (γ, β; y, z) = \sum_{i = 1}^{n} \log (f (z_{i} | γ)) + \sum_{i = 1}^{n} \log (f (y_{i} | z_{i}, β))

$L(\gamma,\mathbf{\beta}; \mathbf{y}, \mathbf{z}) = \sum_{i=1}^{n} \log(f(z_i|\mathbf{\gamma}))+\sum_{i=1}^{n} \log(f(y_i|z_i, \mathbf{\beta}))$

= \sum_{i = 1}^{n} z_{i} (G_{i} γ - \log (1 + e^{G_{i} γ})) + - \sum_{i = 1}^{n} (1 - z_{i}) \log (1 + e^{G_{i} γ}) + \sum_{i = 1}^{n} (1 - z_{i}) [y_{i} B_{i} β - e^{B_{i} β} - \log (y_{i}!)]

$= \sum_{i=1}^{n} z_{i} (\textbf{G}_i \gamma-\log(1+e^{G_{i} \gamma}))+ -\sum_{i=1}^{n} (1-z_{i})\log(1+e^{G_{i} \gamma})+ \sum_{i=1}^{n} (1-z_i)[y_{i} \textbf{B}_i \beta-e^{\textbf{B}_i \beta} - \log(y_{i}!)]$

z_{i} = 0

$z_i=0$

z_{i} = 1

$z_i=1$

$Z_i = 0$ $Z_i = 1$

— डेमियन
स्रोत

f

$f$

f

$f$

आपको जो कठिनाई हो रही है उसका मूल वाक्य में निहित है:

फिर EM एल्गोरिथ्म का उपयोग करते हुए, हम दूसरे लॉग-लाइक को अधिकतम कर सकते हैं।

$z_i$

$k^{th}$ $z_i$ $(k-1)^{th}$

$\lambda$ $p$

# Generate data
# Lambda = 1,  p(zero) = 0.1
x <- rpois(10000,1)
x[1:1000] <- 0

# Sufficient statistic for the ZIP
sum.x <- sum(x)

# (Poor) starting values for parameter estimates
phat <- 0.5
lhat <- 2.0

zhat <- rep(0,length(x))
for (i in 1:100) {
  # zhat[x>0] <- 0 always, so no need to make the assignment at every iteration
  zhat[x==0] <- phat/(phat +  (1-phat)*exp(-lhat))

  lhat <- sum.x/sum(1-zhat) # in effect, removing E(# zeroes due to z=1)
  phat <- mean(zhat)   

  cat("Iteration: ",i, "  lhat: ",lhat, "  phat: ", phat,"\n")
}

Iteration:  1   lhat:  1.443948   phat:  0.3792712 
Iteration:  2   lhat:  1.300164   phat:  0.3106252 
Iteration:  3   lhat:  1.225007   phat:  0.268331 
...
Iteration:  99   lhat:  0.9883329   phat:  0.09311933 
Iteration:  100   lhat:  0.9883194   phat:  0.09310694

1-zhat $\beta$ $\lambda_i$

$\sum (\mathbb{E}z_i\log{p_i} + (1-\mathbb{E}z_i)\log{(1-p_i)})$

$\mathbf{G}$ $p_i$ $\mathbb{E}z_i = p_i/(p_i+(1-p_i)\exp{(-\lambda_i)})$

यदि आप वास्तविक डेटा के लिए ऐसा करना चाहते हैं, जैसा कि एल्गोरिथ्म को समझने के विपरीत, आर पैकेज पहले से मौजूद हैं; यहाँ एक उदाहरण http://www.ats.ucla.edu/stat/r/dae/zipoisson.htmpscl पुस्तकालय का उपयोग कर रहा है।

संपादित करें: मुझे इस बात पर जोर देना चाहिए कि हम जो कर रहे हैं वह पूर्ण-डेटा लॉग संभावना के अपेक्षित मूल्य को अधिकतम कर रहा है, लापता डेटा / अव्यक्त चर के अपेक्षित मानों के साथ पूर्ण-डेटा लॉग संभावना को अधिकतम नहीं करता। जैसा कि होता है, यदि ऐसा होता है। पूर्ण-डेटा लॉग संभावना गुम डेटा में रैखिक है, जैसा कि यहां है, दो दृष्टिकोण समान हैं, लेकिन अन्यथा, वे नहीं हैं।

— jbowman
स्रोत

@ चुटकुले, आपको इस जानकारी को अपने पूरक उत्तर के रूप में जोड़ना चाहिए, किसी मौजूदा उत्तर को नहीं बदलना चाहिए। यह संपादन स्वीकृत नहीं होना चाहिए था।

— गूँग - मोनिका