बूटस्ट्रैप फ़िल्टर / कण फ़िल्टर एल्गोरिथ्म (अंडरस्टैंडिंग)

Question

मेरे पास वास्तव में यह समझने की कमी है कि बूटस्ट्रैप फ़िल्टर कैसे काम करता है। मैं मोटे तौर पर अवधारणाओं को जानता हूं लेकिन मैं कुछ विवरणों को समझने में नाकाम रहता हूं। यह प्रश्न मेरे लिए अव्यवस्था को दूर करने के लिए है। यहाँ मैं doucet द्वारा एक संदर्भ से इस लोकप्रिय फ़िल्टर एल्गोरिथ्म का उपयोग करूँगा (अब तक मुझे लगता है कि यह सबसे आसान संदर्भ है)। पहले मैं आपको बता दूं कि मेरी समस्या यह है कि कौन से वितरण ज्ञात हैं और कौन से अज्ञात हैं।

ये मेरे सवाल हैं:

1. 2) में, वितरण क्या है? क्या यह वितरण ज्ञात है ? क्या हम सभी टी के लिए इस वितरण को जानते हैं ? यदि हां, लेकिन क्या होगा अगर हम इससे नमूना नहीं ले सकते? यह हास्यास्पद है कि वे इस महत्व के नमूने कदम को कहते हैं, लेकिन मुझे कोई प्रस्ताव वितरण नहीं दिखता है।$p(x_t|x^{(i)}_{t-1})$$t$
2. 2 में भी) है एक जाना जाता वितरण? "मानक के अनुसार महत्व बाट साधन करने के लिए डब्ल्यू ( मैं ) टी = ~ डब्ल्यू ( मैं ) $p(y_t|\tilde{x}^{(i)}_{t})$ ? एक्सऔरडब्ल्यूपर टिल्ड का क्याअर्थ है? क्या इसका मतलब क्रमशः अन-रेज़मैल्ड या अन-सामान्यीकृत की तरह है?$w^{(i)}_{t}=\frac{\tilde{w}^{(i)}_{t}}{\sum_{i=1}^{N}\tilde{w}^{(i)}_{t}}$$x$$w$
3. अगर कोई इस बूटस्ट्रैप फिल्टर का उपयोग करने के लिए प्रसिद्ध वितरण का उपयोग करके एक साधारण खिलौना उदाहरण दे सकता है, तो मैं सराहना करूंगा। बूटस्ट्रैप फ़िल्टर का अंतिम लक्ष्य मेरे लिए स्पष्ट नहीं है।

Answer 1

1. यह राज्य ( ) का संक्रमण घनत्व है , जो आपके मॉडल का हिस्सा है और इसलिए ज्ञात है। आपको बुनियादी एल्गोरिथ्म में इससे नमूना लेने की आवश्यकता है, लेकिन अनुमान संभव हैं। पी ( एक्स टी | एक्स टी - 1 ) है इस मामले में प्रस्ताव वितरण। इसका उपयोग इसलिए किया जाता है क्योंकि वितरण p ( x t | x 0 : t - 1 , y 1 : t ) आमतौर पर सुव्यवस्थित नहीं होता है।$x_t$$p(x_t|x_{t-1})$ $p(x_t|x_{0:t-1},y_{1:t})$

2. हां, यह अवलोकन घनत्व है, जो मॉडल का हिस्सा भी है, और इसलिए ज्ञात है। हां, यही सामान्यीकरण का मतलब है। टिल्ड की तरह कुछ सूचित करने के लिए प्रयोग किया जाता है "प्रारंभिक": है एक्स resampling से पहले, और ~ w है w renormalization से पहले। मुझे लगता है कि यह इस तरह से किया जाता है ताकि अंकन एल्गोरिथ्म के वेरिएंट के बीच मेल खाता हो, जिसमें एक रेज़मैप्लिंग चरण नहीं है (यानी x हमेशा अंतिम अनुमान है)।$\tilde{x}$$x$$\tilde{w}$$w$$x$

3. बूटस्ट्रैप फिल्टर का अंतिम लक्ष्य सशर्त वितरण के अनुक्रम अनुमान लगाने के लिए है (कम से सर्वनाश राज्य टी , जब तक सभी टिप्पणियों को देखते हुए टी )।$p(x_t|y_{1:t})$$t$$t$

सरल मॉडल पर विचार करें:

एक्स 0 ~ एन ( 0 , 1 ) वाई टी = एक्स टी + ε टी

$$X_t = X_{t-1} + \eta_t, \quad \eta_t \sim N(0,1)$$ $$X_0 \sim N(0,1)$$ $$Y_t = X_t + \varepsilon_t, \quad \varepsilon_t \sim N(0,1)$$

$Y$$X$$p(X_t|Y_1, ..., Y_t)$

$$X_t | X_{t-1} \sim N(X_{t-1},1)$$ $$X_0 \sim N(0,1)$$ $$Y_t | X_t \sim N(X_t,1)$$

एल्गोरिथ्म को लागू करना:

1. $N$$X_0^{(i)} \sim N(0,1)$

2. $X_1^{(i)} | X_0^{(i)} \sim N(X_0^{(i)},1)$$N$

   $\tilde{w}_t^{(i)} = \phi(y_t; x_t^{(i)},1)$$\phi(x; \mu, \sigma^2)$$\mu$$\sigma^2$$y_t$

3. $w_t$$x$$x_{0:t}^{(i)}$

जब तक हमने पूरी श्रृंखला को संसाधित नहीं किया है, तब तक कणों के पुनर्निर्मित संस्करण के साथ आगे बढ़ते हुए, चरण 2 पर वापस जाएं।

आर में एक कार्यान्वयन इस प्रकार है:

# Simulate some fake data
set.seed(123)

tau <- 100
x <- cumsum(rnorm(tau))
y <- x + rnorm(tau)

# Begin particle filter
N <- 1000
x.pf <- matrix(rep(NA,(tau+1)*N),nrow=tau+1)

# 1. Initialize
x.pf[1, ] <- rnorm(N)
m <- rep(NA,tau)
for (t in 2:(tau+1)) {
  # 2. Importance sampling step
  x.pf[t, ] <- x.pf[t-1,] + rnorm(N)

  #Likelihood
  w.tilde <- dnorm(y[t-1], mean=x.pf[t, ])

  #Normalize
  w <- w.tilde/sum(w.tilde)

  # NOTE: This step isn't part of your description of the algorithm, but I'm going to compute the mean
  # of the particle distribution here to compare with the Kalman filter later. Note that this is done BEFORE resampling
  m[t-1] <- sum(w*x.pf[t,])

  # 3. Resampling step
  s <- sample(1:N, size=N, replace=TRUE, prob=w)

  # Note: resample WHOLE path, not just x.pf[t, ]
  x.pf <- x.pf[, s]
}

plot(x)
lines(m,col="red")

# Let's do the Kalman filter to compare
library(dlm)
lines(dropFirst(dlmFilter(y, dlmModPoly(order=1))$m), col="blue")

legend("topleft", legend = c("Actual x", "Particle filter (mean)", "Kalman filter"), col=c("black","red","blue"), lwd=1)

परिणामी ग्राफ:

एक उपयोगी ट्यूटोरियल डकेट और जोहानसन द्वारा एक है, यहां देखें ।

Comments

$X_1^{(i)} | X_0^{(i)} \sim N(0,1)$$X_1^{(i)} | X_0^{(i)} \sim N(X_0^{(i)},1)$

यह सही है, मैंने

— टाइप

रास्तों को फिर से नमूना नहीं करना पड़ता है ?? अन्य साहित्य से, रास्तों का नमूना लेने की आवश्यकता नहीं है। मुझे बस हर समय कदम पर कणों का नमूना लेने की आवश्यकता है। मैं सोच रहा था कि क्या रास्तों को फिर से शुरू करने का कोई कारण है

— टिनटिन्थोंग