स्वतंत्र घातीय यादृच्छिक चर के योग

क्या हम स्वतंत्र घातीय यादृच्छिक चर के योग पर एक तीक्ष्ण सांद्रता परिणाम साबित कर सकते हैं, अर्थात $X_1, \ldots X_r$ स्वतंत्र यादृच्छिक चर हो सकते हैं जैसे $Pr(X_i < x) = 1 - e^{-x/\lambda_i}$ । चलो $Z = \sum X_i$ । क्या हम फॉर्म सीमा सिद्ध कर सकते हैं $Pr(|Z-\mu_Z|>t) < e^{-t^2/\sum (\lambda_i)^2}$ । यह सीधे तौर पर इस प्रकार है अगर हम चेरनॉफ सीमा के विचरण रूप का उपयोग करते हैं और इसलिए मेरा मानना है कि यह सच है, लेकिन मैंने जो सीमाएं पढ़ी हैं उन्हें बाउंडेड-नेस की आवश्यकता होती है या चर के नेस्ड-नेस पर कुछ निर्भरता होती है। क्या कोई मुझे ऊपर के प्रमाण की ओर संकेत कर सकता है?

pr.probability randomness chernoff-bound

— गुनगुन
स्रोत

बस चर्नॉफ के प्रमाण का पालन करें: घातीय यादृच्छिक चर के घातीय क्षण को बांधना आसान है।

— साशो निकोलेव

मैंने चेरनॉफ के प्रमाण को दोहराने की कोशिश की है। मैंने इसे सरल मामले के लिए किया था जब सभी

λ_{i} = λ

$\lambda_i = \lambda$ । मैं उस तरह के संबंध प्राप्त कर सकता हूं जो मैं

की एक हल्की स्थिति के तहत देख रहा हूं

t < n λ

$t < n\lambda$ । क्या इस तरह की स्थिति स्वाभाविक रूप से उत्पन्न होती है या यह मेरे इतने अच्छे समाधान के कारण नहीं है?

— एनएजी

लेम्मा 2.8 यहाँ देखें eprint.iacr.org/2010/076.pdf

— Sasho निकोलोव

हाँ, यह समझ में आता है। यहाँ तक कि उनके लेम्मा में वे पर एक शर्त है

जा रहा है, इतने छोटे। ठीक है तो मेरा समाधान सही लगता है। लिंक और सुझाव के लिए बहुत बहुत धन्यवाद।

t

$t$

— नायग

Pr [X_{i} < x] = e^{- λ_{i} x}

$\Pr[X_i < x] = e^{-\lambda_i x}$

x

$x$

Pr [X_{i} < x] = 1 - e^{- λ_{i} x}

$\Pr[X_i < x] = 1-e^{-\lambda_i x}$

λ_{i}^{- 2}

$\lambda_i^{-2}$

जवाबों:

लिए, यह कहें कि rv का pdf है $X_i$

p (X_{i} = x) = \frac{1}{2} λ_{i} e^{- λ_{i} | x |} .

$p(X_i = x) = \frac{1}{2} \lambda_i e^{-\lambda_i|x|}.$

यह लाप्लास वितरण, या डबल घातीय वितरण है। इसका विचरण । सीएफडी है $\frac{2}{\lambda_i^2}$

Pr [X_{i} \leq x] = 1 - \frac{1}{2} e^{- λ_{i} x}

$\Pr[X_i \leq x] = 1 - \frac{1}{2}e^{-\lambda_i x}$

लिए ।

x \geq 0

$x \geq 0$

का क्षण उत्पन्न करने वाला कार्य है $X_i$

E e^{u X_{i}} = \frac{1}{1 - u^{2} / λ_{i}^{2}},

$\mathbf{E}\ e^{uX_i} = \frac{1}{1 - u^2/\lambda_i^2},$ लिए । इस तथ्य और घातीय क्षण विधि का उपयोग करना जो कि सीमा के प्रमाण में मानक है, आपको यह मिलता है कि और , निम्न असमानता है।

| u | < λ_{i}

$|u| < \lambda_i$

X = \sum_{i} X_{i}

$X = \sum_i X_i$

σ^{2} = 2 \sum_{i} λ_{i}^{- 2}

$\sigma^2 = 2\sum_i \lambda_i^{-2}$

Pr [X > t σ] < e^{- t^{2} / 4},

$\Pr[X > t\sigma] < e^{-t^2/4},$

जब तक । आप इस पत्र के लेम्मा 2.8 के प्रमाण में एक विस्तृत व्युत्पत्ति पा सकते हैं ।

t \leq 2 σ min_{i} λ_{i}

$t \leq 2\sigma \min_{i}{\lambda_i}$

— साशो निकोलोव
स्रोत

उत्तर के लिए बहुत बहुत धन्यवाद। हालाँकि मेरे आवेदन में यह आवश्यक नहीं है कि । हालाँकि किसी को भी मामले में और भी अधिक एकाग्रता की उम्मीद होगी । हम ऐसा परिणाम प्राप्त कर सकते हैं यदि हम के सन्निकटन का उपयोग नहीं करते हैं जो प्रमाण में की सीमा को प्रतिबंधित करता है लेकिन इसका विश्लेषण अलग-अलग के मामले में असहनीय हो जाता है । उस मोर्चे पर कोई सुझाव?

t \leq \sqrt{2} σ m i n_{i} λ_{i}

$t \leq \sqrt{2} \sigma min_i \lambda _i$

t > \sqrt{2} σ m i n_{i} λ_{i}

$t > \sqrt{2} \sigma min_i \lambda _i$

1 / (1 - x) \leq e^{c x}

$1/(1-x) \leq e^{cx}$

t

$t$

λ_{i}^{'} s

$\lambda _i 's$

— नाग

यह कुछ जोरदार हाथ से लहराता है, लेकिन मुझे उम्मीद है कि इतने बड़े मूल्य सबसे अधिक होने की संभावना है जब केवल की एक छोटी संख्या औसत से अधिक होबहुत से। लेकिन डबल घातीय चर में गाऊसी की तुलना में भारी पूंछ होती है, और उनमें से एक छोटी संख्या उस पर ध्यान केंद्रित नहीं कर सकती है

X

$X$

X_{i}

$X_i$

| X_{i} |

$|X_i|$

— साशो निकोलेव जूल

मुझे एहसास हो रहा है कि मैंने जो ऊपर लिखा है वह स्पष्ट नहीं है: मुझे उम्मीद है कि पूंछ में बाहर निकलने का तरीका की तरह दिखता है एक और आरवी जो कि डबल एक्सपोनेंशियल आरवी की एक छोटी संख्या का योग है, ऐसे की पूंछ नहीं होनी चाहिए। उप गाऊसी।

X

$X$

X^{'}

$X'$

X^{'}

$X'$

— साशो निकोलेव

लाप्लास वितरण के लिए, यदि आप बर्नौली बाउंड का उपयोग करते हैं तो आप लिख सकते हैं

E e^{u \sum_{i} X_{i}} = \prod_{i} \frac{1}{1 - u^{2} / λ_{i}^{2}} \leq \frac{1}{1 - u^{2} σ^{2} / 2},

$Ee^{u\sum_i X_i} = \prod_i \frac1{1-u^2/\lambda_i^2} \le \frac1{1-u^2\sigma^2/2},$ जहां । तब शास्त्रीय चेरनॉफ विधि देता है

σ^{2} = 2 \sum_{i} λ_{i}^{- 2}

$\sigma^2=2\sum_i\lambda_i^{-2}$

Pr [\sum_{i} X_{i} \geq t σ] \leq \frac{1 + \sqrt{1 + 2 t^{2}}}{2} e^{1 - \sqrt{1 + 2 t^{2}}} \leq {\begin{cases} (e t / \sqrt{2} + 1) e^{- \sqrt{2} t} \\ e^{- t^{2} / 2 + t^{4} / 8} \end{cases} .

$\Pr[\sum_i X_i \ge t\sigma]\le \tfrac{1+\sqrt{1+2t^2}}{2} e^{1-\sqrt{1+2t^2}} \le\cases{ (et/\sqrt2+1) e^{-\sqrt{2}t} \\ e^{-t^2/2 + t^4/8}} .$

ध्यान दें कि ये सीमाएँ और अप्रतिबंधित मानों के लिए हैं । दाईं ओर की सीमाएं दो संभावित शासन दिखाती हैं। के छोटे मानों के लिए हमें `सामान्य 'संकेंद्रण , जबकि बड़े मानों के लिए हमें , जो कि CDF भी है एकल लाप्लास चर वितरित किया गया। $t$ $\lambda_i$ $t$ $e^{-t^2/2}$ $t$ $\approx e^{-\sqrt{2}t}$

बाध्य आप दो स्थितियों के बीच अंतर्वेशन के लिए अनुमति देता है, लेकिन मुझे लगता है कि लगभग सभी मामलों में एक या तो बड़े में मजबूती से हो जाएगा या छोटे शिविर। $1-\sqrt{1+2t^2}$ $t$ $t$

घातीय वितरण के लिए समान तकनीकें हमें जहां । इसलिए तो आप अभी भी कुछ सामान्य दिख रहे हैं, लेकिन बजाय साथ जैसा कि हम उम्मीद कर सकते हैं। मुझे नहीं पता कि विचरण के संदर्भ में कोई बराबरी संभव है या नहीं। आप का अध्ययन करने का प्रयास कर सकते हैं , लेकिन इसके साथ काम करना आसान नहीं लगता। $Ee^{u\sum_iX_i}\le\frac{1}{1-u\mu}$ $\mu=\sum_i 1/\lambda_i$

Pr [(\sum_{i} X_{i}) - μ \geq t μ] \leq (t + 1) e^{- t} \leq e^{- t^{2} / 2 + t^{3} / 3} .

$\Pr[(\sum_i X_i)-\mu \ge t\mu]\le (t+1) e^{-t} \le e^{-t^2/2+t^3/3}.$

t μ

$t\mu$

t σ

$t\sigma$

E e^{u (\sum X_{i} - μ)^{2}}

$Ee^{u(\sum X_i-\mu)^2}$

— थॉमस अहले
स्रोत

मेरे पास विवरणों को काम करने का समय नहीं है, लेकिन मुझे 99.9% यकीन है कि कोई भी तेजी से वितरित यादृच्छिक चर के लिए बाध्य हो सकता है जो कि विचरण पर निर्भर करता है। पल उत्पन्न करने वाले फ़ंक्शन पर आपकी सीमा अत्यधिक ढीली दिखती है।

— वारेन शूडी

@Arren Schudy, आपका दृष्टिकोण क्या होगा?

— थॉमस अहले

दो स्पष्ट दृष्टिकोण जो मैं देख रहा हूं: 1. en.wikipedia.org/wiki/… पर सूचीबद्ध दूसरा बाउंड ऐसा लगता है कि इसे काम करना चाहिए। 2. पल उत्पन्न करने वाले फ़ंक्शन पर बंधे हुए एक टीयर का पता लगाएं।

— वारेन शूडी

@ArrenSchudy बर्नस्टीन बाउंड , लेकिन केवल । मुझे लगता है कि यह सैशो के जवाब के समान है।

Pr [\sum_{i} X_{i} \geq t σ] \leq e^{- t^{2} / 2}

$\Pr[\sum_iX_i\ge t\sigma]\le e^{-t^2/2}$

t \leq σ min_{i} λ_{i} / 2

$t\le\sigma\min_i\lambda_i/2$

— थॉमस अहले

यह अवश्यंभावी है कि गौसियन-शैली की सीमाएँ किसी बिंदु पर रुकेंगी। यहां तक कि एकल घातीय रूप से वितरित यादृच्छिक चर में अंततः किसी भी गाऊसी की तुलना में मोटी पूंछ होती है।

— वारेन शूडी