दिए गए माध्य और मानक विचलन के एक सकारात्मक निरंतर चर के लिए अधिकतम एन्ट्रापी संभावना घनत्व फ़ंक्शन क्या है?

13

एक सकारात्मक निरंतर चर के लिए अधिकतम एन्ट्रापी वितरण क्या है , इसके पहले और दूसरे क्षण को देखते हुए?

उदाहरण के लिए, एक गाऊसी वितरण एक अनबाउंड वैरिएबल के लिए अधिकतम एन्ट्रापी वितरण है, जिसका अर्थ और मानक विचलन है, और एक गामा वितरण एक सकारात्मक चर के लिए अधिकतम एन्ट्रापी वितरण है, इसका माध्य मान और इसके लघुगणक का माध्य मान दिया गया है।

— becko
स्रोत

13

एक बस बोल्ट्ज़मन के प्रमेय का उपयोग कर सकते हैं जो आपके द्वारा इंगित किए गए बहुत विकिपीडिया लेख में है ।

ध्यान दें कि माध्य और विचरण निर्दिष्ट करना पहले दो कच्चे पलों को निर्दिष्ट करने के बराबर है - प्रत्येक दूसरे को निर्धारित करता है (यह वास्तव में इसे लागू करने के लिए आवश्यक नहीं है, क्योंकि हम प्रमेय को सीधे माध्य और विचरण पर लागू कर सकते हैं, यह सिर्फ थोड़ा सरल तरीका है )।

प्रमेय तब स्थापित करता है कि घनत्व के रूप में होना चाहिए:

f (x) = c \exp (λ_{1} x + λ_{2} x^{2}) for all x \geq 0

$f(x)=c \exp\left(\lambda_1 x + \lambda_2 x^2 \right)\quad \mbox{ for all } x \geq 0$

$\lambda_2$ $\leq 0$ $\lambda$

मेरे आश्चर्य के लिए (क्योंकि मुझे उम्मीद नहीं थी कि जब मैंने यह उत्तर शुरू किया होगा), तो यह हमें एक विच्छिन्न सामान्य वितरण के साथ छोड़ देता है।

जैसा कि होता है, मुझे नहीं लगता कि मैंने पहले इस प्रमेय का उपयोग किया है, इसलिए आलोचना या किसी भी चीज पर उपयोगी सुझाव, जो मैंने नहीं माना है या बाहर छोड़ दिया है, का स्वागत किया जाएगा।

— Glen_b -Reinstate मोनिका
स्रोत

- \infty

$-\infty$

\infty

$\infty$

x

$x$

1 / x

$1/x$

इस आधार माप के साथ परिणामी वितरण आनुपातिक है

\frac{1}{x} \exp (- α x - β x^{2})

$\frac{1}{x}\exp(-\alpha x- \beta x^2)$

7

मैं @ Glen_b के उत्तर को अधिक स्पष्ट करना चाहता हूं, यहाँ एक अतिरिक्त उत्तर सिर्फ इसलिए है क्योंकि यह एक टिप्पणी के रूप में फिट नहीं होगा।

f (x) \propto N (x | - 1 / 2 λ_{1} / λ_{2}, - 1 / (2 λ_{2}))

$f(x) \propto \mathcal{N}(x | -1/2 \lambda_1/\lambda_2, -1/(2\lambda_2))$

λ_{1}

$\lambda_1$

λ_{2}

$\lambda_2$

a_{1}, a_{2}

$a_1, a_2$

a_{1} = μ, a_{2} = μ^{2} + σ^{2}

$a_1=\mu, a_2=\mu^2 + \sigma^2$

λ_{1} = μ / σ^{2}, λ_{2} = - 0.5 σ^{2}

$\lambda_1=\mu/\sigma^2, \lambda_2=-0.5 \sigma^2$

N (x | μ, σ^{2})

$\mathcal{N}(x|\mu, \sigma^2)$

$x>x_{min}$ $\lambda_{1,2}$ $1/c$ $\mu$ $\sigma^2$ $x_{min}=0$ $x_{min} \to -\infty$

$a_1, a_2$ $\lambda_{1,2}$ $\lambda_{1,2}$

यह प्रश्न /math/598608/what-is-the-maximum-entropy-distribution-for-a-continuous-random-variable-on-0 का डुप्लिकेट है।

— फ्रेड स्कोइन
स्रोत