आयामों में दो यादृच्छिक इकाई वैक्टर के स्केलर उत्पादों का वितरण

यदि और (इकाई क्षेत्र पर समान रूप से वितरित में दो स्वतंत्र यादृच्छिक इकाई वैक्टर हैं , तो उनके स्केलर उत्पाद (dot product) का वितरण क्या है ? $\mathbf{x}$ $\mathbf{y}$ $\mathbb{R}^D$ $\mathbf x \cdot \mathbf y$

मुझे लगता है कि के रूप में वितरण तेजी से बढ़ता है (?) के साथ शून्य मतलब और विचरण उच्च आयामों में कम हो रही सामान्य हो जाता है लेकिन वहाँ के लिए एक स्पष्ट सूत्र है ? $D$

\underset{डी \to \infty}{लिम} σ^{2} (डी) \to 0,

$\lim_{D\to\infty}\sigma^2(D) \to 0,$

σ^{2} (D)

$\sigma^2(D)$

अद्यतन करें

मैंने कुछ त्वरित सिमुलेशन चलाए। सबसे पहले, लिए रैंडम यूनिट वैक्टर के 10000 जोड़े पैदा $D=1000$ करना यह देखना आसान है कि उनके डॉट उत्पादों का वितरण पूरी तरह से गाऊसी है (वास्तव में यह लिए पहले से ही काफी गाऊसी है $D=100$ ), बाईं ओर सबप्लॉट देखें। दूसरा, प्रत्येक लिए $D$ 1 से 10000 तक (बढ़ते कदमों के साथ) मैंने 1000 जोड़े उत्पन्न किए और विचरण की गणना की। लॉग-लॉग प्लॉट दाईं ओर दिखाया गया है, और यह स्पष्ट है कि सूत्र द्वारा बहुत अच्छी तरह से अनुमानित है $1/D$ । ध्यान दें कि $D=1$ और $D=2$ यह सूत्र सटीक परिणाम भी देता है (लेकिन मुझे यकीन नहीं है कि बाद में क्या होता है)।

यादृच्छिक इकाई वैक्टर के बीच डॉट उत्पाद

mathematical-statistics linear-algebra beta-distribution

— अमीबा का कहना है कि मोनिका को बहाल करो
स्रोत

@ कर्लऑस्कर: धन्यवाद, यह लिंक बहुत ही प्रासंगिक है, और वास्तव में मेरे प्रश्न को लगभग एक डुप्लिकेट प्रस्तुत करता है, लेकिन काफी नहीं। तो लिए एक स्पष्ट सूत्र है जो डॉट उत्पादों का संचयी वितरण कार्य है। एक पीडीएफ लेने के लिए एक व्युत्पन्न ले सकता है और फिर सीमा का अध्ययन कर सकता है। हालाँकि, सूत्र बीटा फ़ंक्शंस और अधूरे बीटा फ़ंक्शंस के संदर्भ में दिया गया है, इसलिए गणना के खराब होने की संभावना है।

P {(x, y) > ϵ}

$P\{(\mathbf{x}, \mathbf{y})>\epsilon\}$

D \to \infty

$D\to \infty$

— अमीबा का कहना है कि मोनिका

@ कर्लऑस्कर: एक इकाई पर एक समान वितरण से । इस वितरण से एक यादृच्छिक वेक्टर उत्पन्न करने के लिए, एक गाऊसी से एक इकाई विचरण के साथ एक यादृच्छिक वेक्टर उत्पन्न कर सकता है, और फिर इसे सामान्य कर सकता है।

R^{D}

$\mathbb{R}^D$

— अमीबा का कहना है कि मोनिका

जवाबों:

क्योंकि ( जैसा कि सर्वविदित है ) इकाई के क्षेत्र पर एक समान वितरण एक ariate सामान्य वितरण को सामान्य करके प्राप्त किया जाता है और सामान्यीकृत वैक्टर के डॉट उत्पाद उनका सहसंबंध गुणांक है, तीनों के उत्तर प्रश्न हैं: $S^{D-1}$ $D$ $t$

$u= (t+1)/2$ में एक बीटा वितरण है। $((D-1)/2,(D-1)/2)$
का विचरण बराबर होता है (जैसा कि प्रश्न में अनुमान लगाया गया है)। $t$ $1/D$
का मानकीकृत वितरण दर से सामान्यता को प्राप्त करता है $t$ $O\left(\frac{1}{D}\right).$

तरीका

सटीक इकाई वैक्टर के डॉट उत्पाद के वितरण आसानी से ज्यामितीय प्राप्त किया जाता है , क्योंकि यह पहले की दिशा में दूसरा वेक्टर के घटक है। चूँकि दूसरा वेक्टर पहले से स्वतंत्र है और इकाई क्षेत्र पर समान रूप से वितरित किया गया है, पहली दिशा में इसके घटक को गोला के किसी भी समन्वय के समान वितरित किया जाता है। (ध्यान दें कि पहले वेक्टर का वितरण कोई फर्क नहीं पड़ता।)

घनत्व का पता लगाना

यह बताते हुए कि समन्वय अंतिम हो, पर घनत्व इसलिए इकाई क्षेत्र पर और बीच की ऊंचाई पर स्थित सतह क्षेत्र के आनुपातिक है । यह अनुपात ऊंचाई और त्रिज्या के एक बेल्ट के भीतर होता है जो अनिवार्य रूप से त्रिज्या से निर्मित एक शंक्वाकार फ्रुम है ऊंचाई , और ढलान । जिसकी संभावना आनुपातिक है $t \in [-1,1]$ $t$ $t+dt$ $dt$ $\sqrt{1-t^2},$ $S^{D-2}$ $\sqrt{1-t^2},$ $dt$ $1/\sqrt{1-t^2}$

\frac{{(\sqrt{1 - {टी}^{2}})}^{डी - 2}}{\sqrt{1 - {टी}^{2}}} घ टी = (1 - {टी}^{2})^{(डी - 3) / 2} घ टी ।

$\frac{\left(\sqrt{1 - t^2}\right)^{D-2}}{\sqrt{1 - t^2}}\,dt = (1 - t^2)^{(D-3)/2} dt.$

दे जरूरत पर जोर देता । पूर्ववर्ती में प्रतिस्थापित करने से प्रायिकता तत्व एक सामान्य स्थिरांक तक जाता है: $u=(t+1)/2 \in [0,1]$ $t = 2u-1$

च_{डी} (यू) घ यू α (1 - (2 यू - 1)^{2})^{(डी - 3) / 2} घ (2 यू - 1) = 2^{डी - 2} (यू - {यू}^{2})^{(डी - 3) / 2} घ यू ।

$f_D(u)du \; \propto \; (1 - (2u-1)^2)^{(D-3)/2} d(2u-1) = 2^{D-2}(u-u^2)^{(D-3)/2}du.$

यह तत्काल है कि में एक बीटा वितरण है, क्योंकि (परिभाषा के अनुसार) इसका घनत्व भी आनुपातिक है $u=(t+1)/2$ $((D-1)/2, (D-1)/2)$

{यू}^{(डी - 1) / 2 - 1} {(1 - यू)}^{(डी - 1) / 2 - 1} = (यू - {यू}^{2})^{(डी - 3) / 2} α च_{डी} (यू) ।

$u^{(D-1)/2-1}\left(1-u\right)^{(D-1)/2-1} = (u-u^2)^{(D-3)/2} \; \propto \; f_D(u).$

सीमा व्यवहार का निर्धारण

सीमित व्यवहार के बारे में जानकारी प्राथमिक तकनीकों का उपयोग करते हुए आसानी से इस प्रकार है: आनुपातिकता के निरंतरता प्राप्त करने के लिए एकीकृत किया जा सकता है ; एकीकृत किया जा सकता है (उदाहरण के लिए बीटा कार्यों के गुणों का उपयोग करके), क्षणों को प्राप्त करने के लिए, यह दर्शाते हुए कि विचरण और सिकुड़ जाता है (Chebyshev के प्रमेय द्वारा, संभावना पास केंद्रित हो रही ); और सीमित वितरण तब मानकीकृत वितरण के घनत्व, अनुपात के छोटे मूल्यों के लिए विचार करके पाया जाता है । $f_D$ $\frac{\Gamma \left(\frac{n}{2}\right)}{\sqrt{\pi } \Gamma \left(\frac{D-1}{2}\right)}$ $t^k f_D(t)$ $1/D$ $0$ $t=0$ $f_D(t/\sqrt{D}),$ $t$ :

\begin{aligned} लॉग (च_{डी} (टी / \sqrt{डी})) & = सी (डी) + \frac{डी - 3}{2} लॉग (1 - \frac{{टी}^{2}}{डी}) \\ = सी (डी) - (1 / 2 + \frac{3}{2 डी}) {टी}^{2} + हे (\frac{{टी}^{4}}{डी}) \\ \to सी - \frac{1}{2} {टी}^{2} \end{aligned}

$\eqalign{ \log(f_D(t/\sqrt{D})) &= C(D) + \frac{D-3}{2}\log\left(1 - \frac{t^2}{D}\right) \\ &=C(D) -\left(1/2 + \frac{3}{2D}\right)t^2 + O\left(\frac{t^4}{D}\right) \\ &\to C -\frac{1}{2}t^2 }$

जहां एकीकरण का (लॉग) स्थिरांक का प्रतिनिधित्व करता है। जाहिर है जिस दर पर यह सामान्य दृष्टिकोण (जिसके लिए लॉग घनत्व के बराबर होती है ) है $C$ $-\frac{1}{2}t^2$ $O\left(\frac{1}{D}\right).$

आकृति

यह प्लॉट के लिए डॉट उत्पाद की घनत्व को इकाई विचरण के मानकीकृत और उनके सीमित घनत्व के रूप में दिखाता है । पर मान साथ बढ़ता है (लाल, सोना, और फिर मानक सामान्य घनत्व के लिए हरे रंग से)। के लिए घनत्व इस प्रस्ताव पर सामान्य घनत्व से पृथक किया जाएगा। $D=4, 6, 10$ $0$ $D$ $D=1000$

— व्हीबर
स्रोत

(+1) बहुत बहुत धन्यवाद, @ शुभंकर, यह एक महान जवाब है! "फ्रुम" शब्द का उल्लेख करने के लिए विशेष धन्यवाद। ऐसा होता है कि मैंने आपका पोस्ट करने से कुछ मिनट पहले ही एक और उत्तर स्वीकार कर लिया है, और मैं इसे अभी स्वीकार नहीं करना चाहूंगा; उम्मीद है आप समझ गए होंगे। अफ़सोस कि दोनों को स्वीकार करना संभव नहीं है! वैसे, उस उत्तर से विचरण के लिए अभिव्यक्ति का एक बहुत ही सरल प्रमाण नोट करें : कोई इसे सीधे बीटा कार्यों के आसपास गड़बड़ किए बिना देख सकता है! डॉट उत्पाद की विविधता किसी भी क्षेत्र के समन्वय के विचरण के बराबर है (जैसा कि आपने लिखा), और उनमें से सभी का योग होना चाहिए , QED

1 / D

$1/D$

D

$D$

1

$1$

— अमीबा का कहना है कि मोनिका

यह भिन्नताओं के बारे में एक अच्छा अवलोकन है।

— whuber

@amoeba, हाल की गतिविधि ने मेरा ध्यान यहाँ फिर से लाया, और जितना मैंने सराहना की कि आपने मेरे उत्तर को स्वीकार कर लिया, यह बहुत अधिक पूर्ण है। अगर आप बदले तो मुझे बिल्कुल भी बुरा नहीं लगेगा।

— एकवैल

@ Student001: यह एक उचित और उदार टिप्पणी है। मैंने स्वीकृत उत्तर को बदल दिया। मैंने आपके लिए एक क्यू और एक ए भी पाया है जो इसे बनाने के लिए उगाता है :)

— अमीबा का कहना है कि मोनिका

@mat का वितरण । यह इसे एक बीटा वितरण बनाता है जिसे अंतराल से अंतराल में स्थानांतरित कर दिया गया है ।

t

$t$

2 U - 1

$2U-1$

[0, 1]

$[0,1]$

[- 1, 1]

$[-1,1]$

— whuber

आइए वितरण का पता लगाएं और फिर मानक परिणामों के अनुसार विचरण करते हैं। वेक्टर उत्पाद पर विचार करें और इसे cosine फॉर्म पर लिखें, अर्थात ध्यान दें कि हमारे पास जहां the और बीच का कोण है । अंतिम चरण में मैंने किसी भी घटना औरअब शब्द पर विचार करें । यह स्पष्ट है कि चूंकि गोलाकार सतह के संबंध में समान रूप से चुना गया है, इससे कोई फर्क नहीं पड़ता कि क्या

P (x^{'} y \leq t) = P (| x | | y | \cos θ \leq t) = P (\cos θ \leq t) = E P (\cos θ \leq t ∣ y),

$P(x'y\leq t)=P(|x||y|\cos\theta\leq t)=P(\cos\theta\leq t)=\mathbb{E}P(\cos\theta\leq t\mid y),$

θ

$\theta$

x

$x$

y

$y$

A

$A$

B

$B$

E P (A ∣ B) := E [E [χ_{A} ∣ B]] = E χ_{A} = P (A) .

$\mathbb EP(A\mid B):=\mathbb{E}[\mathbb{E}[\chi_A\mid B]]=\mathbb{E}\chi_A=P(A).$

P (\cos θ \leq t ∣ y)

$P(\cos\theta\leq t\mid y)$

x

$x$

y

$y$ वास्तव में, केवल और मामलों के बीच का कोण है। इस प्रकार, उम्मीद के अंदर की अवधि वास्तव में एक समारोह के रूप में स्थिर है और हम मान सकते हैं किफिर हमें वहलेकिन चूंकि में एक सामान्यीकृत गाऊसी सदिश का पहला समन्वय है हमारे पास है कि इस पेपर के एसिम्प्टोटिक परिणाम को लागू करके विचरण साथ गाऊसी है ।

x

$x$

y

$y$

y

$y$

y = [1, 0, 0, \dots]^{'} .

$y=[1,0,0,\dots ]'.$

P ({एक्स}^{'} y \leq टी) = पी ({एक्स}_{1} \leq टी) ।

$P(x'y\leq t)=P\left( x_1\leq t\right).$

x_{1}

$x_1$

R^{n},

$\mathbb{R}^n,$

x^{'} y

$x'y$

1 / n

$1/n$

विचरण के एक स्पष्ट परिणाम के लिए, इस तथ्य का उपयोग करें कि डॉट उत्पाद का मतलब स्वतंत्रता से शून्य है और, जैसा कि ऊपर दिखाया गया है, के पहले समन्वय की तरह वितरित किया गया है । इन परिणामों के द्वारा, खोजने के लिए राशियों का पता लगाना । अब, ध्यान दें कि प्रति निर्माण और इसलिए हम जहां अंतिम समानता इस प्रकार है कि के निर्देशांक समान रूप से वितरित किए जाते हैं। चीजों को एक साथ , हमने पाया है कि $x$ $\text{Var}(x'y)$ $\mathbb{E}x_1^2$ $x'x=1$

1 = ए {एक्स}^{'} एक्स = ए Σ_{मैं = 1}^{n} {एक्स}_{मैं}^{2} = Σ_{मैं = 1}^{n} ए {एक्स}_{मैं}^{2} = n ए {एक्स}_{1}^{2},

$1=\mathbb{E}x'x=\mathbb{E}\sum_{i=1}^nx_i^2=\sum_{i=1}^n\mathbb{E}x_i^2=n\mathbb{E}x_1^2,$

x

$x$

Var (x^{'} y) = E x_{1}^{2} = 1 / n

$\text{Var}(x'y)=\mathbb{E}x_1^2=1/n$

— ekvall
स्रोत

धन्यवाद, लेकिन मैं भ्रमित हूं: वास्तव में "वांछित परिणाम" क्या है और अंतिम समीकरण से इसका पालन कैसे होता है? अंतिम संभावना वितरण पर निर्भर होना चाहिए ।

D

$D$

— अमीबा का कहना है कि मोनिका

वास्तव में परिणाम आपके अंतिम समीकरण से कैसे होता है, यह गणित पर चर्चा की गई बात है । आपको जो धागा मिला है। इसमें बीटा डिस्ट्रिब्यूशन आदि शामिल हैं, और सीमित व्यवहार (मेरे लिए) स्पष्ट है। मुझे लगता है कि उस को देखने का एक सरल तरीका होना चाहिए ।

σ^{2} (D) \approx 1 / D

$\sigma^2(D) \approx 1/D$

— अमीबा का कहना है कि मोनिका

यह बाद से आयाम पर निर्भर करता है , जहां उत्पन्न गॉसियन वेक्टर है। मैं आज या कल बाद में जवाब अपडेट करूंगा।

x_{1} = z_{1} | z |^{- 1}

$x_1=z_1 |z|^{-1}$

z

$z$

— ekvall

वाह, महान, आपकी अंतिम कड़ी उस अभिव्यक्ति की सीमा प्रदान करती है जिसमें पृष्ठ पर तीसरे समीकरण में व्युत्क्रम बीटा फ़ंक्शंस (जिसे मैं गणना करने से डरता था) शामिल है। 1. इसलिए तर्क को पूरा करने के लिए: यदि क्षेत्र में त्रिज्या , तो उसके बाद (asymptotically) को रूप में वितरित किया जाता है । जिसका अर्थ है कि इकाई त्रिज्या विचरण के क्षेत्र के लिए है गुना छोटे, यानी । हालांकि, मुझे अभी भी एक चिंता है: मैंने 1 से 4 तक लिए जाँच की , और सटीक विचरण देता प्रतीत होता है, भले ही डी = 1 या डी = 2 के लिए वितरण सामान्य से बहुत दूर हैं। उसके पीछे एक गहरा कारण होना चाहिए।

\sqrt{D}

$\sqrt{D}$

x_{1}

$x_1$

N (0, 1)

$\mathcal{N}(0,1)$

D

$D$

1 / D

$1/D$

D

$D$

1 / D

$1/D$

— अमीबा का कहना है कि मोनिका

@amoeba हाँ, इसका एक प्रमाण के साथ अद्यतन किया गया।

— 19

अपने प्रश्न के पहले भाग का उत्तर देने के लिए, । परिभाषित करें का उत्पाद तत्व की और यहाँ निर्दिष्ट किया के संयुक्त वितरण के अनुसार वितरित किया जाएगा और । तो बाद से , $Z = \langle X,Y \rangle = \sum X_i Y_i$

च_{{जेड}_{मैं}} (z_{मैं}) = \int_{- \infty}^{\infty} च_{{जेड}_{1}, ..., {जेड}_{डी}} (z_{1}, ..., z_{डी}) घ z_{मैं}

$f_{Z_i}(z_i) = \int_{-\infty}^\infty f_{Z_1,\ldots,Z_D}(z_1,\ldots,z_D) \: d z_i$

i^{t h}

$i^{th}$

X

$X$

Y

$Y$

Z_{i}

$Z_i$

X_{i}

$X_i$

Y_{i}

$Y_i$

च_{{जेड}_{मैं}} (z_{मैं}) = \int_{- \infty}^{\infty} च_{{एक्स}_{मैं}, Y_{मैं}} (एक्स, \frac{z_{मैं}}{एक्स}) \frac{1}{| एक्स |} घ एक्स

$f_{Z_i}(z_i) = \int_{-\infty}^\infty f_{X_i,Y_i}(x,\frac{z_i}{x})\frac{1}{|x|}dx$

Z = \sum Z_{i}

$Z = \sum Z_i$

च_{जेड} (z) = \int_{- \infty}^{\infty} ... \int_{- \infty}^{\infty} च_{{जेड}_{1}, ..., {जेड}_{डी}} (z_{1}, ..., z_{घ}) δ (z - Σ z_{मैं}) घ z_{1} ... घ z_{घ}

$f_Z(z) = \int_{-\infty}^\infty \ldots \int_{-\infty}^\infty f_{Z_1,\ldots,Z_D} (z_1,\ldots,z_d) \: \delta(z - \sum z_i)\: dz_1\ldots d z_d$

दूसरे भाग के लिए, मुझे लगता है कि यदि आप के अस्वाभाविक व्यवहार के बारे में कुछ भी दिलचस्प कहना चाहते हैं, तो आपको कम से कम और की स्वतंत्रता , और फिर एक सीएलटी लागू करना होगा। $\sigma$ $X$ $Y$

उदाहरण के लिए यदि आप यह मानने के लिए तैयार थे कि iid with और आप कर सकते हैं उस और । $\{Z_1,\ldots,Z_D\}$ $\mathbb{E}[Z_i] = \mu$ $\mathbb{V}[Z_i] = \sigma^2$ $\sigma^2(D) = \frac{\sigma^2}{D}$ $\lim_{D\to\infty} \sigma^2(D) = 0$

— टॉम
स्रोत

धन्यवाद, लेकिन मैं दूसरे भाग के बारे में उलझन में हूं। और निश्चित रूप से स्वतंत्र होने वाले हैं, मैं इसे प्रश्न में जोड़ दूंगा। आप कहते हैं कि , और यह उचित लगता है, लेकिन व्यवहार क्या है ? मुझे लगता है कि मैं जो अभिव्यक्ति खोज रहा हूं वह केवल पर निर्भर होना चाहिए । जिस तरह से 2D अगर मैं गलत नहीं हूँ, तो मुझे आश्चर्य है कि अगर यह उच्च आयामों में सही रहता है ...

X

$X$

Y

$Y$

σ^{2} (D) = V a r (z_{i}) / D

$\sigma^2(D) = \mathrm{Var}(z_i)/D$

V a r (z_{i})

$\mathrm{Var}(z_i)$

D

$D$

V a r (z_{i}) = 1 / 2

$\mathrm{Var}(z_i)=1/2$

— अमीबा ने कहा मोनिका

क्या लिए वास्तव में संभव है कि स्वतंत्र होने की आवश्यकता को देखते हुए कि और इकाई की लंबाई के हों?

z_{i}

$z_i$

X

$X$

Y

$Y$

— ekvall

@tom: वैसे, मैं था गलत: 2 डी में 1 है, यह है वह यह है कि बराबर 1/2। मैंने कुछ सिमुलेशन परिणामों के साथ अपने प्रश्न को अपडेट किया है। सही सूत्र की तरह लगता है ।

V a r (z_{i})

$\mathrm{Var}(z_i)$

V a r (z)

$\mathrm{Var}(z)$

1 / D

$1/D$

— अमीबा का कहना है कि मोनिका