एक गाऊसी यादृच्छिक चर के अपेक्षित मूल्य एक लॉजिस्टिक फ़ंक्शन के साथ बदल दिया

Question

दोनों रसद समारोह और मानक विचलन आम तौर पर चिह्नित हैं $\sigma$ । मैं इस्तेमाल करेंगे $\sigma(x) = 1/(1+\exp(-x))$ और $s$ मानक विचलन के लिए।

मैं एक यादृच्छिक इनपुट जिसका मतलब के साथ एक रसद न्यूरॉन है और मानक विचलन रों मुझे पता है। मुझे उम्मीद है कि माध्य से अंतर को कुछ गॉसियन शोर द्वारा अच्छी तरह से अनुमानित किया जा सकता है। तो, अंकन के एक मामूली दुरुपयोग के साथ, मान लें यह पैदा करता है σ ( μ + एन ( 0 , एस 2 ) ) = σ ( एन ( μ , एस 2 ) ) । Σ ( N ( μ , s 2 ) ) का अपेक्षित मान क्या है ?$\mu$$s$$\sigma(\mu + N(0,s^2))=\sigma(N(\mu,s^2))$$\sigma(N(\mu,s^2))$मानक विचलन $s$ के साथ तुलना में बड़े या छोटे हो सकता है $\mu$ या $1$ । अपेक्षित मूल्य के लिए एक अच्छा बंद फॉर्म सन्निकटन लगभग एक बंद फॉर्म समाधान के रूप में अच्छा होगा।

मुझे नहीं लगता कि एक बंद फॉर्म समाधान मौजूद है। यह एक घुमाव के रूप में देखा जा सकता है, और रसद घनत्व के लिए विशेषता समारोह में जाना जाता है ( ), लेकिन मुझे यकीन है कि कितना मदद करता है नहीं कर रहा हूँ। उलटा प्रतीकात्मक कैलकुलेटर पर घनत्व पहचान करने में असमर्थ था 0 रसद वितरण के घनत्व के घुमाव के और एक मानक सामान्य वितरण, जिससे पता चलता है, लेकिन साबित नहीं होता है कोई साधारण प्राथमिक अभिन्न है कि वहाँ की। अधिक परिस्थितिजन्य साक्ष्य: लॉजिस्टिक न्यूरॉन्स के साथ तंत्रिका नेटवर्क में गॉसियन इनपुट शोर को जोड़ने पर कुछ कागजात में, कागजात बंद फॉर्म अभिव्यक्ति नहीं देते थे।$\pi t ~\text{csch} ~\pi t$$0$

यह प्रश्न बोल्ट्जमैन मशीनों में माध्य क्षेत्र सन्निकटन में त्रुटि को समझने की कोशिश में उत्पन्न हुआ।

Answer 1

निम्नलिखित है जो मैंने उपयोग किया है:

लिखें जहां एक्स ~ एन ( 0 , एस 2 ) । हम टेलर श्रृंखला विस्तार का उपयोग कर सकते हैं।$\sigma(N(\mu,s^2)) = \sigma(\mu + X)$$X \sim N(0,s^2)$

$\sigma(\mu + X) = \sigma(\mu) + X \sigma'(\mu) + \frac{X^2}{2} \sigma''(\mu)+ ... + \frac{X^n}{n!}\sigma^{(n)}(\mu) + ...$

$\begin{eqnarray} E[\sigma(\mu + X)] & =& E[\sigma(\mu)] + E[X \sigma'(\mu)] + E[\frac{X^2}{2} \sigma''(\mu)] + ... \newline & = & \sigma(\mu) + 0 + \frac{s^2}{2}\sigma''(\mu) + 0 + \frac{3s^4}{24}\sigma^{(4)}(\mu)+ ... + \frac{s^{2k}}{2^k k!}\sigma^{(2k)}(\mu) ... \end{eqnarray}$

अभिसरण मुद्दे हैं। लॉजिस्टिक फ़ंक्शन में एक खंभा होता है जहां , इसलिए , विषम पर। विचलन, उपसर्ग के बेकार होने के समान नहीं है, लेकिन यह श्रृंखला सन्निकटन अविश्वसनीय हो सकता है जब महत्वपूर्ण है।एक्स = कश्मीर π मैं k पी ( | एक्स | > $\exp(-x) = -1$$x = k \pi i$$k$$P(|X| \gt \sqrt{\mu^2 + \pi^2})$

चूंकि , हम व्युत्पन्न को polynomials in रूप में लिख सकते हैं । उदाहरण के लिए, और । गुणांक OEIS A028246 से संबंधित हैं ।σ ( x ) σ ( x ) σ " = σ - 3 σ 2 + 2 σ 3 σ ‴ = σ - 7 σ 2 + 12 σ 3 - 6 σ $\sigma'(x) = \sigma(x) (1-\sigma(x))$$\sigma(x)$$\sigma(x)$$\sigma'' = \sigma-3\sigma^2+2\sigma^3$$\sigma''' = \sigma - 7\sigma^2 + 12 \sigma^3 - 6\sigma^4$

Answer 2

आपके पास यहां एक यादृच्छिक चर है जो एक लॉग-सामान्य (या लॉजिस्टिक-सामान्य) वितरण ( विकिपीडिया देखें ), , अनुसरण करता है । लॉगिट-सामान्य वितरण के क्षणों में विश्लेषणात्मक समाधान नहीं होते हैं।$\mbox{logit}[x] \sim N(\mu, s^2)$

लेकिन निश्चित रूप से कोई उन्हें संख्यात्मक एकीकरण के माध्यम से प्राप्त कर सकता है। यदि आप R का उपयोग करते हैं, तो logitnorm पैकेज है जिसमें वह सब कुछ है जो आपको चाहिए। एक उदाहरण:

install.packages("logitnorm")
library(logitnorm)
momentsLogitnorm(mu=1, sigma=2)

यह प्रदान करता है:

> momentsLogitnorm(mu=1, sigma=2)
      mean        var 
0.64772644 0.08767866

तो, यहां तक ​​कि एक सुविधा फ़ंक्शन भी है जो आपको सीधे मतलब और विचरण देगा।