क्या गॉसियन यादृच्छिक चर की एक जोड़ी होना संभव है जिसके लिए संयुक्त वितरण गॉसियन नहीं है?

एक नौकरी के साक्षात्कार में किसी ने मुझसे यह सवाल पूछा और मैंने जवाब दिया कि उनका संयुक्त वितरण हमेशा गौसियन है। मैंने सोचा था कि मैं हमेशा अपने माध्यमों और विचरण और सहसंयोजी के साथ एक बीवरिएट गौसियन लिख सकता हूं। मैं सोच रहा हूं कि क्या ऐसा कोई मामला हो सकता है जिसके लिए दो गॉसियंस की संयुक्त संभावना गॉसियन न हो?

— MarkSAlen
स्रोत

विकिपीडिया से एक और उदाहरण । बेशक, अगर चर स्वतंत्र और मामूली गौसियन हैं, तो वे संयुक्त रूप से गौसियन हैं।

यहाँ एक उदाहरण wu.ece.ufl.edu/books/math/probability/jointlygaussian.pdf

— स्टीफन लॉरेंट

जवाबों:

138

द्वैत सामान्य वितरण अपवाद है , नियम नहीं!

यह पहचान करने के लिए है कि "लगभग सभी" सामान्य marginals के साथ संयुक्त वितरण कर रहे हैं महत्वपूर्ण है नहीं द्विचर सामान्य वितरण। यही है, सामान्य दृष्टिकोण जो सामान्य मार्जिन के साथ संयुक्त वितरण होता है जो कि सामान्य रूप से द्विभाजित नहीं होते हैं, "रोगविज्ञानी" होते हैं, थोड़ा गुमराह होता है।

निश्चित रूप से, रैखिक परिवर्तन के तहत इसकी स्थिरता के कारण बहुभिन्नरूपी सामान्य अत्यंत महत्वपूर्ण है, और इसलिए अनुप्रयोगों में ध्यान का थोक प्राप्त होता है।

उदाहरण

कुछ उदाहरणों के साथ शुरू करना उपयोगी है। नीचे दिए गए आंकड़े में छह बीवरिएट वितरण के हीटमैप हैं, जिनमें से सभी मानक सामान्य मार्जिन हैं। शीर्ष पंक्ति में बाएं और मध्य वाले द्विभाजित मानदंड हैं, शेष वाले नहीं हैं (जैसा कि स्पष्ट होना चाहिए)। वे नीचे वर्णित हैं।

मानक सामान्य मार्जिन के साथ बीवरिएट वितरण के उदाहरण।

कोपलों की नंगी हड्डियाँ

निर्भरता के गुण अक्सर कुशलता का उपयोग कर विश्लेषण किया जाता है copulas । एक द्विभाजित कोपुला यूनिफॉर्म मार्जिन के साथ यूनिट स्क्वायर पर प्रायिकता वितरण के लिए सिर्फ एक फैंसी नाम है । $[0,1]^2$

मान लीजिए कि एक द्विभाजित कोप्युला है। फिर, ठीक उसके ऊपर से, हम जानते हैं कि , और , उदाहरण के लिए। $C(u,v)$ $C(u,v) \geq 0$ $C(u,1) = u$ $C(1,v) = v$

हम एक बाइवेरिएट कोप्युला के एक साधारण परिवर्तन द्वारा पूर्व निर्धारित सीमांतों के साथ यूक्लिडियन विमान पर द्विभाजित यादृच्छिक चर का निर्माण कर सकते हैं । चलो और यादृच्छिक चर का एक जोड़ी के लिए सीमांत वितरण निर्धारित किया जा । फिर, यदि एक द्विभाजित कोपुला है, $F_1$ $F_2$ $(X,Y)$ $C(u,v)$

F (x, y) = C (F_{1} (x), F_{2} (y))

$F(x,y) = C(F_1(x), F_2(y))$ marginals के साथ एक द्विचर वितरण समारोह है

और

। यह पिछले तथ्य देखने के लिए बस ध्यान दें कि

F_{1}

$F_1$

F_{2}

$F_2$

यही तर्क

लिए काम करता है।

P (X \leq x) = P (X \leq x, Y < \infty) = C (F_{1} (x), F_{2} (\infty)) = C (F_{1} (x), 1) = F_{1} (x) .

$\renewcommand{\Pr}{\mathbb P} \Pr(X \leq x) = \Pr(X \leq x, Y < \infty) = C(F_1(x), F_2(\infty)) = C(F_1(x),1) = F_1(x) \>.$

F_{2}

$F_2$

निरंतर और , Sklar का प्रमेय एक विशिष्ट विशिष्टता प्रदान करता है। यही है, निरंतर मार्जिन , साथ एक द्विभाजित वितरण दिया जाता है, संबंधित कोपुल अद्वितीय है (उपयुक्त रेंज स्पेस पर)। $F_1$ $F_2$ $F(x,y)$ $F_1$ $F_2$

बाइवरिएट सामान्य असाधारण है

Sklar की प्रमेय हमें (अनिवार्य रूप से) बताती है कि केवल एक ही कोप्युला है जो बाइवरिएट सामान्य वितरण का उत्पादन करता है। इसे उपयुक्त नाम दिया गया है, गॉसियन कोप्युला जिसका घनत्व $[0,1]^2$ जहां गणक सहसंबंध के साथ द्विचर सामान्य वितरण है पर मूल्यांकन किया जाता और ।

c_{ρ} (u, v) := \frac{\partial^{2}}{\partial u \partial v} C_{ρ} (u, v) = \frac{φ_{2, ρ} (Φ^{- 1} (u), Φ^{- 1} (v))}{φ (Φ^{- 1} (u)) φ (Φ^{- 1} (v))},

$c_\rho(u,v) := \frac{\partial^2}{\partial u \partial v} C_\rho(u,v) = \frac{\varphi_{2,\rho}(\Phi^{-1}(u),\Phi^{-1}(v))}{\varphi(\Phi^{-1}(u)) \varphi(\Phi^{-1}(v))} \>,$

ρ

$\rho$

Φ^{- 1} (u)

$\Phi^{-1}(u)$

Φ^{- 1} (v)

$\Phi^{-1}(v)$

लेकिन, कई अन्य सहसंयोजक हैं और उनमें से सभी सामान्य मार्जिन के साथ एक द्विभाजित वितरण देंगे जो पिछले अनुभाग में वर्णित परिवर्तन का उपयोग करके सामान्य नहीं है।

उदाहरणों पर कुछ विवरण

ध्यान दें कि यदि बजे है मनमाना घनत्व के साथ योजक , परिवर्तन के तहत मानक सामान्य marginals साथ इसी द्विचर घनत्व है $C(u,v)$ $c(u,v)$ $F(x,y) = C(\Phi(x),\Phi(y))$

f (x, y) = φ (x) φ (y) c (Φ (x), Φ (y)) .

$f(x,y) = \varphi(x) \varphi(y) c(\Phi(x), \Phi(y)) \> .$

ध्यान दें कि उपरोक्त समीकरण में गौसियन कोप्युला लगाने से, हम बाइवरिएट सामान्य घनत्व को पुनर्प्राप्त करते हैं। लेकिन, के किसी भी अन्य विकल्प के लिए , हम नहीं करेंगे। $c(u,v)$

आकृति में उदाहरण निम्नानुसार बनाए गए थे (प्रत्येक पंक्ति में एक समय में एक स्तंभ पर जाना):

स्वतंत्र घटकों के साथ सामान्य रूप से सक्रिय रहें।
Bρariate सामान्य के साथ । $\rho = -0.4$
$C(u,v)$ $c(u,v) = 2 (\mathbf 1_{(0 \leq u \leq 1/2, 0 \leq v \leq 1/2)} + \mathbf 1_{(1/2 < u \leq 1, 1/2 < v \leq 1)})$
$\theta = 2$
$\theta = 1$
$\theta = 3$

— कार्डिनल
स्रोत

+1 इस टिप्पणी के लिए कि द्विभाजित सामान्य घनत्व असाधारण मामला है!

— दिलीप सरवटे

X_{1}, X_{2} \sim N (0, 1)

$X_1, X_2\sim\mathcal N(0,1)$

(X_{1}, X_{2})

$(X_1, X_2)$

F (x_{1}, x_{2})

$F(x_1,x_2)$

X_{,} X_{2}

$X_, X_2$ हमने शुरुआत की, है ना?

— रैंडमग्यू

निचले दाएं पैनल में कैसे अनुकरण करें, इसका उदाहरण: library(copula) kcf <- khoudrajiCopula(copula2 = claytonCopula(6), shapes = fixParam(c(.4, 1), c(FALSE, TRUE))) # force normal margins evil <- mvdc(kcf, c("norm", "norm"), list(list(mean = 0, sd =1), list(mean = 0, sd = 1))) contour(evil, dMvdc, xlim = c(-3, 3), ylim=c(-3, 3))

— आधा

X_{1}, X_{2} \sim i n d e p e n d e n t N (0, 1)

$X_1, X_2 \sim independent N(0, 1)$

यह सच है कि एक बहुभिन्नरूपी सामान्य वेक्टर का प्रत्येक तत्व सामान्य रूप से वितरित किया जाता है, और आप उनके साधन और संस्करण निकाल सकते हैं। हालांकि, यह सच नहीं है कि किसी भी दो गुआसियन यादृच्छिक चर संयुक्त रूप से सामान्य रूप से वितरित किए जाते हैं। यहाँ एक उदाहरण है:

$\sigma^2=0$

$X \sim N(0,1)$ $Y = X \cdot (2B-1)$ $B$ ${\rm Bernoulli}(1/2)$ $Y = \pm X$ $1/2$

$Y$

पी (Y \leq y) = \frac{1}{2} (पी (Y \leq y | बी = 1) + पी (Y \leq y | बी = 0))

$P(Y \leq y) = \frac{1}{2} \Big( P(Y \leq y | B = 1) + P(Y \leq y | B = 0) \Big)$

आगे,

पी (Y \leq y | बी = 0) = पी (- एक्स \leq y) = 1 - पी (एक्स \leq - y) = 1 - Φ (- y) = Φ (y)

$P(Y \leq y | B = 0) = P(-X \leq y) = 1-P(X \leq -y) = 1-\Phi(-y) = \Phi(y)$

$\Phi$

पी (Y \leq y | बी = 1) = पी (एक्स \leq y) = Φ (y)

$P(Y \leq y | B = 1) = P(X \leq y) = \Phi(y)$

इसलिए,

P (Y \leq y) = \frac{1}{2} (Φ (y) + Φ (y)) = Φ (y)

$P(Y \leq y) = \frac{1}{2} \Big( \Phi(y) + \Phi(y) \Big) = \Phi(y)$

$Y$ $\Phi(\cdot)$ $Y \sim N(0,1)$

$X,Y$ $X,Y$

Y + X = {\begin{cases} 2 X & if B = 1 \\ 0 & if B = 0. \end{cases}

$Y+X = \begin{cases} 2X &\mbox{if } B = 1 \\ 0 & \mbox{if } B = 0. \end{cases}$

$Y+X$ $50/50$ $N(0,4)$

— मैक्रो
स्रोत

1

$1$

μ

$\mu$

(X, - X)

$(X, -X)$

@DilipSarwate, प्रश्न दो चर का एक उदाहरण (यदि मौजूद है) जो सामान्य रूप से वितरित किए गए हैं, लेकिन उनका संयुक्त वितरण बहुभिन्नरूपी सामान्य नहीं है। यह एक उदाहरण है। सामान्य वितरण की अधिकांश मानक परिभाषाएँ (जैसे कि विकिपीडिया en.wikipedia.org/wiki/Normal_distribution ) को विचरण को सख्ती से सकारात्मक बनाने की आवश्यकता होती है, इस प्रकार सामान्य वितरण के परिवार के हिस्से के रूप में एक बिंदु द्रव्यमान शामिल नहीं होता है।

— मैक्रो

X \in R^{n}

$X \in \mathbb R^{n}$

a^{T} X

$a^T X$

a \in R^{n}

$a \in \mathbb R^n$

Y \sim N (μ, σ^{2})

$Y \sim \mathcal N(\mu,\sigma^2)$

Y^{'} = (Y, - Y)

$\mathbf Y' = (Y, -Y)$

Y

$\mathbf Y$

चर्चा परिभाषाओं के बारे में है। स्पष्ट रूप से, यदि परिभाषा द्वारा सहसंयोजक मैट्रिक्स को गैर-विलक्षण होना आवश्यक है, तो मैक्रो एक उदाहरण प्रदान करता है, लेकिन यह अधिक उदार परिभाषा के अनुसार एक उदाहरण नहीं है जो @cardinal को भी संदर्भित करता है। अधिक उदार परिभाषा को पसंद करने का एक अच्छा कारण यह है कि तब सामान्य चर के सभी रैखिक परिवर्तन सामान्य होते हैं। विशेष रूप से, सामान्य त्रुटियों के साथ रैखिक प्रतिगमन में अवशिष्टों का एक संयुक्त सामान्य वितरण होता है लेकिन कोवरियन मैट्रिक्स विलक्षण होता है।

— एनआरएच

निम्नलिखित पोस्ट में मुख्य विचारों को देने और आपको आरंभ करने के लिए एक सबूत की रूपरेखा है।

दें $z = (Z_1, Z_2)$ $x = (X_1, X_2)$

x = (\begin{matrix} X_{1} \\ X_{2} \end{matrix}) = (\begin{matrix} α_{11} Z_{1} + α_{12} Z_{2} \\ α_{21} Z_{1} + α_{22} Z_{2} \end{matrix}) = (\begin{matrix} α_{11} & α_{12} \\ α_{21} & α_{22} \end{matrix}) (\begin{matrix} Z_{1} \\ Z_{2} \end{matrix}) = A z .

$x = \begin{pmatrix} X_1 \\ X_2 \end{pmatrix} = \begin{pmatrix} \alpha_{11} Z_1 + \alpha_{12} Z_2\\ \alpha_{21} Z_1 + \alpha_{22} Z_2 \end{pmatrix} = \begin{pmatrix} \alpha_{11} & \alpha_{12}\\ \alpha_{21} & \alpha_{22} \end{pmatrix} \begin{pmatrix} Z_1 \\ Z_2 \end{pmatrix} = A z.$

$X_i \sim N(\mu_i, \sigma_i^2)$

$x = (X_1, X_2)$ $x = Az$ $z = (Z_1, Z_2)$

$x = (X_1, X_2)$

सबूत । तुच्छ, किसी को अपमानित नहीं करने के लिए छोड़ दिया गया।

$X_1, X_2$

$X_1 | X_2$

$X_1, X_2$

$\mathbf S$ $X_2$ $X_1^{\mathbf S} = \frac{\rho \sigma_{X_1}}{\sigma_{X_2}} X_2$ $X_1^{\mathbf S^\perp} = X_1 - X_1^{\mathbf S}$

$X_1$ $X_2$ $z$ $X_2, X_1^{\mathbf S^\perp}$

X_{1} = X_{1}^{S} + X_{1}^{S^{⊥}}

$X_1 = X_1^{\mathbf S} + X_1^{\mathbf S^\perp}$

E [X_{1} | X_{2}] = \frac{ρ σ_{X_{1}}}{σ_{X_{2}}} X_{2} = X_{1}^{S}

$\mathbf{E}[X_1 | X_2] = \frac{\rho \sigma_{X_1}}{\sigma_{X_2}} X_2 = X_1^{\mathbf S}$

\begin{aligned} V [X_{1} | X_{2}] & = V [X_{1}^{S^{⊥}}] \\ = E {[X_{1} - \frac{ρ σ_{X_{1}}}{σ_{X_{2}}} X_{2}]}^{2} \\ = (1 - ρ)^{2} σ_{X_{1}}^{2} . \end{aligned}

$\begin{split} \mathbf{V}[X_1 | X_2] &= \mathbf{V}[X_1^{\mathbf S^\perp}] \\ &= \mathbf{E} \left[ X_1 - \frac{\rho \sigma_{X_1}}{\sigma_{X_2}} X_2 \right]^2 \\ &= (1 - \rho)^2 \sigma^2_{X_1}. \end{split}$

X_{1} | X_{2} \sim N (X_{1}^{S}, (1 - ρ)^{2} σ_{X_{1}}^{2}) .

$X_1 | X_2 \sim N\left( X_1^{\mathbf S}, (1 - \rho)^2 \sigma^2_{X_1} \right).$

$X, Y$ $X | Y$ $Y|X$

— अधीनस्थ
स्रोत

यह स्पष्ट नहीं है कि यह अवलोकन प्रश्न का उत्तर कैसे देता है। चूंकि उत्पाद नियम व्यावहारिक रूप से सशर्त वितरण की परिभाषा है, इसलिए यह असामान्य वितरण के लिए विशेष नहीं है। बाद का बयान "फिर क्रम में ..." कोई कारण नहीं बताता है: बिल्कुल सशर्त वितरण भी सामान्य क्यों होना चाहिए?

— whuber

व्हुबेर, मैं मुख्य प्रश्न का उत्तर दे रहा हूं: "मैं सोच रहा हूं कि क्या कोई ऐसा मामला हो सकता है जिसके लिए दो गौसियंस की संयुक्त संभावना गौसियन नहीं है?"। तो, जवाब है: जब सशर्त सामान्य नहीं है। - सहायक

— सहायक

क्या आप उस प्रदर्शन को पूरा कर सकते थे? अभी यह केवल आपकी ओर से एक प्रमाण है, जिसका कोई प्रमाण नहीं है। यह बिल्कुल स्पष्ट नहीं है कि यह सही है। यह भी अधूरा है, क्योंकि आप अस्तित्व स्थापित करने की आवश्यकता: अर्थात, आप यह वास्तव में है का प्रदर्शन करना संभव एक संयुक्त वितरण सामान्य marginals के लिए के लिए लेकिन जिसके लिए कम से कम एक सशर्त गैर सामान्य है। अब वास्तव में यह तुच्छ रूप से सत्य है, क्योंकि आप स्वतंत्र रूप से अपने अंतर को बदलने के बिना माप शून्य के एक सेट पर एक बायनेरिअल के प्रत्येक सशर्त वितरण को बदल सकते हैं - लेकिन यह संभावना आपके कथनों के विपरीत प्रतीत होगी।

— whuber

हाय @whuber, मुझे आशा है कि यह अधिक मदद करता है। क्या आपके पास कोई सुझाव या संपादन करने के लिए है? मैंने इसे बहुत जल्दी लिखा क्योंकि फिलहाल मुझे ज्यादा खाली समय नहीं मिला है। लेकिन मैं आपके किसी भी सुझाव या सुधार को महत्व देता हूं। सर्वश्रेष्ठ

— सहायक

(१) आप क्या साबित करने की कोशिश कर रहे हैं? (२) क्योंकि सवाल पूछता है कि जब गौसियन मार्जिन के साथ वितरण संयुक्त रूप से गौसियन नहीं है , तो मैं यह नहीं देखता कि यह तर्क किस तरह से प्रासंगिक है।

— whuber