समझ माप एकाग्रता असमानताओं

इस प्रश्न की भावना में होफेडिंग असमानता में प्रयुक्त एक लेम्मा के सबूत को समझना , मैं उन चरणों को समझने की कोशिश कर रहा हूं जो हॉफिंग की असमानता की ओर ले जाते हैं।

प्रमाण में मेरे लिए जो सबसे अधिक रहस्य रखता है वह वह हिस्सा है जहां घातीय क्षणों की गणना आईआईडी चर की राशि के लिए की जाती है, जिसके बाद मार्कोव की असमानता को लागू किया जाता है।

मेरा लक्ष्य यह समझना है: यह तकनीक एक तंग असमानता क्यों देती है, और क्या यह सबसे कठिन है जिसे हम प्राप्त कर सकते हैं? एक सामान्य स्पष्टीकरण, प्रतिपादक के उत्पन्न करने वाले गुणों को संदर्भित करता है। फिर भी, मुझे यह बहुत अस्पष्ट लगता है।

ताओ के ब्लॉग में एक पोस्ट, http://terrytao.wordpress.com/2010/01/03/254a-notes-1-concentration-of-measure/#hoeff , कुछ जवाब दे सकता है।

इस लक्ष्य को ध्यान में रखते हुए, मेरा प्रश्न ताओ की पोस्ट के तीन बिंदुओं के बारे में है, जिन पर मैं अटक गया हूं और जो मुझे उम्मीद है कि एक बार समझाने के बाद अंतर्दृष्टि दे सकते हैं।

ताओ के-वें पल का उपयोग करके निम्न असमानता को प्राप्त यदि यह किसी भी k के लिए सच है, तो वह एक घातीय बाध्यता समाप्त करता है। यह वह जगह है जहां मैं हार गया हूं।
$P (| S_{n} | \geq λ \sqrt{n}) \leq 2 (\frac{\sqrt{e k / 2}}{λ})^{k} . (7)$ $\displaystyle {\bf P}( |S_n| \geq \lambda \sqrt{n} ) \leq 2 (\frac{\sqrt{ek/2}}{\lambda})^k. \ \ \ \ \ (7)$ $P (| S_{n} | \geq λ \sqrt{n}) \leq C \exp (- c λ^{2}) (8)$ $\displaystyle {\bf P}( |S_n| \geq \lambda \sqrt{n} ) \leq C \exp( - c \lambda^2 ) \ \ \ \ \ (8)$
हॉफिंग का लेम्मा प्रस्तुत किया गया है: लेम्मा 1 (हॉफिंग का लेम्मा) Let एक स्केलर वैरिएबल है जो एक अंतराल में मान लेता है । फिर किसी , विशेष रूप से Lemma 1 का प्रमाण टेलर विस्तार पर अपेक्षा से शुरू होता है .क्या विस्तार उस द्विघात अवधि से हो सकता है? और समीकरण 10 कैसे अनुसरण करता है? ${X}$ ${[a,b]}$ ${t>0}$
$E e^{t X} \leq e^{t E X} (1 + O (t^{2} V a r (X) \exp (O (t (b - a)))) . (9)$ $\displaystyle {\bf E} e^{tX} \leq e^{t {\bf E} X} (1 + O( t^2 {\bf Var}(X) \exp( O( t (b-a) ) ) ). \ \ \ \ \ (9)$ $E e^{t X} \leq e^{t E X} \exp (O (t^{2} (b - a)^{2})) . (10)$ $\displaystyle {\bf E} e^{tX} \leq e^{t {\bf E} X} \exp( O( t^2 (b-a)^2 ) ). \ \ \ \ \ (10)$ $\displaystyle e^{tX} = 1 + tX + O( t^2 X^2 \exp( O(t) ) )$
अंत में, एक व्यायाम दिया जाता है:
व्यायाम 1 दिखाएँ कि कारक (10) को बदला जा सकता है , और यह कि तेज है। यह Hoeffding असमानता में इस्तेमाल किए गए एक लेम्मा के अंडरस्टैंडिंग सबूत की तुलना में बहुत कम प्रमाण प्रदान करेगा , लेकिन मुझे नहीं पता कि इसे कैसे हल किया जाए। ${O(t^2(b-a)^2)}$ ${t^2 (b-a)^2/8}$

असमानता के प्रमाण के बारे में किसी भी अन्य अंतर्ज्ञान \ स्पष्टीकरण या कारण हम एक तंग बाध्य नहीं कर सकते हैं निश्चित रूप से स्वागत है।

probability probability-inequalities

— सिंह
स्रोत

क्या आपने मूल हॉफिंग पेपर पढ़ा है?

— एलेकोस पापाडोपोलोस

@AlecosPapadopoulos मैं वास्तव में नहीं है। मैं इस धारणा के तहत हूं कि गणित के पाठ्यक्रमों में आम तौर पर पढ़ाए जाने वाले बीजीय चरणों की व्युत्पत्ति होती है, जिसमें मेरे द्वारा खोजे जा रहे स्पष्टीकरण का अभाव होता है। क्या आप अन्यथा कह सकते हैं?

— सिंह

मेरा सुझाव है कि आप इसे पढ़ें। JSTOR में स्थिर यूआरएल है jstor.org/stable/2282952 । "आपके लिए सबसे अधिक रहस्य" क्या है, कागज के सिद्धांत 1, 2 और 3 हैं, जिसके प्रमाण कागज के खंड 4 में हैं (अंत में नहीं), और वे मुझे बहुत स्पष्ट लगते हैं। मुझे नहीं पता कि आप कुछ "गैर-गणितीय" अंतर्ज्ञान खोज रहे हैं-हां, यह हमेशा मौजूद नहीं होता है।

— एलेकोस पापाडोपोलस

घातीय क्षणों का उपयोग माप की असमानताओं की सांद्रता साबित करने की प्रक्रिया में एक सामान्य कदम है। मेरी समझ के रूप में है का उपयोग करके 1 इस प्रकार है) के बजाय , एक कैप्चर की सभी क्षणों सिर्फ पहली पल के बजाय। इसलिए, यह हमेशा के लिए बाध्य फायदेमंद है , बल्कि बाध्य से , के रूप में वहाँ में अधिक जानकारी है । क्यों में अधिक जानकारी है? एक अनौपचारिक स्पष्टीकरण इस तथ्य से दिया जाता है कि एक टेलर विस्तार । जैसा कि आप की सभी शक्तियों को देख सकते हैं $\mathbb{E}e^X$ $\mathbb{E} X$ $X$ $\mathbb{E} e^X$ $\mathbb{E}X$ $\mathbb{E} e^X$ $\mathbb{E} e^X$ $e^{X}=1+X+\frac{X^2}{2}+\frac{X^3}{6}+\ldots$ $X$ लिप्त हैं। इसलिए, जब आप लेते हैं , तो आप अनिवार्य रूप से सभी क्षणों को समाप्त कर देते हैं । $\mathbb{E}X$ $X$

— gmravi2003
स्रोत

परिभाषा के अनुसार, पड़ोस में किसी भी विश्लेषणात्मक कार्य में एक पूरी तरह से अभिसरण टेलर श्रृंखला है। आपके तर्क से पता चलता है कि घातांक को केवल द्वारा प्रतिस्थापित किया जा सकता है । क्या घातीय के बारे में कुछ खास नहीं है?

f

$f$

0

$0$

e^{X}

$e^X$

f (X)

$f(X)$

— whuber

मैंने सामान्य विश्लेषणात्मक फ़ंक्शन के साथ को प्रतिस्थापित करने के बारे में नहीं सोचा था । लेकिन अब जब आपने इसका उल्लेख किया है, तो मुझे लगता है कि एक "उपयुक्त" फ़ंक्शन ऐसा हो सकता है जो , ताकि मार्कोव की असमानता को लागू किया जा सके, और जिनके टेलर विस्तार में की सभी शक्तियां हैं , ताकि सभी क्षण हों पकड़े। मुझे लगता है कि फिर सबसे सरल और सबसे प्राकृतिक विकल्प है।

f

$f$

f (x) > 0

$f(x) >0$

X

$X$

e^{X}

$e^X$

— gmravi2003

मैंने इस पर ध्यान नहीं दिया है, लेकिन मुझे संदेह है कि घातीय कुछ विशेष गुणों का आनंद लेते हैं, जिनमें आप नाम भी शामिल हैं, जो महत्वपूर्ण हैं: सभी गुणांक सख्ती से सकारात्मक होना चाहिए और यह आसान है कि यह हर जगह पूरी तरह से परिवर्तित हो। लेकिन मेरा मानना है कि गहरे कारण हैं कि यह कार्य क्यों आवश्यक है, फूरियर और लाप्लास के गुणों से संबंधित है। यह माप असमानताओं की व्युत्पत्तियों का पता लगाने के लिए रोशन हो सकता है यह देखने के लिए कि घातीय के गुणों का वास्तव में क्या उपयोग किया जाता है! (+1)

— whuber

@ जो एक अच्छा अवलोकन है। मैं वर्तमान में इस क्षण की कमी को ढूंढता हूं। हालांकि मुझे समझाने की क्या ज़रूरत है कि घातांक फ़ंक्शन के ऊपरी बाध्य और पृथक्करण गुण हैं। अर्थात्, । इसलिए यदि , जितना अधिक iid वैरिएबल हम औसत रखते हैं, उतनी ही बड़ी शक्ति इस पद पर कार्य करती है। इस प्रकार एक घातांक बाध्य कर रहा है।

P {x 1 + x 2 > 0} = E {1 [x 1 + x 2 > 0]} \leq E {e x p (t * x 1)} E {e x p (t * x 2)}

$P\{x1+x2>0\}=E\{1[x1+x2>0]\} \leq E\{exp(t*x1)\}E\{exp(t*x2)\}$

E {e x p (t * x 1)} < 1

$E\{exp(t*x1)\}<1$

— सिंह

मैं आपको इस बाउंड की तंगी के बारे में एक सवाल में दिलचस्पी लेना चाहता हूं: आंकड़े.stackexchange.com/questions/77019/…

— सिंह