3 परिणामों के साथ यादृच्छिक चर के लिए चेरनॉफ़-प्रकार की असमानता

Question

मान लीजिए कि हमारे पास एक यादृच्छिक चर है जो गैर-संख्यात्मक मान लेता है a, b, c और यह निर्धारित करना चाहता है कि कैसे का अनुभवजन्य वितरण $n$इस चर के नमूने सच्चे वितरण से विचलित होते हैं। इस मामले में निम्नलिखित असमानता ( कवर एंड थॉमस से ) लागू होती है।

प्रमेय 12.4.1 (सानोव की प्रमेय): चलो $X_1, X_2, \ldots, X_n$ ईद हो $\sim Q(x)$।
चलो$E \subseteq \mathscr{P}$संभावना वितरण का एक सेट हो। फिर

$$Q^n(E) = Q^n(E \cap \mathscr{P}_n) \leq (n+1)^{|\mathcal{X}|}2^{-nD(P^*||Q)},$$ कहाँ पे $$P^* = \arg\min_{P \in E} D(P||Q),$$ में वितरण है कि रिश्तेदार एन्ट्रापी में सबसे करीब है ।$E$$Q$

यह असमानता छोटे लिए काफी ढीली है । बाइनरी परिणामों के लिए, , और चेरनॉफ़-होफिंग बाउंड बहुत तंग है।$n$$|\mathcal{X}|=2$

तंग के लिए के लिए बाध्य वहाँ एक इसी तरह है ?$|\mathcal{X}|=3$

Comments

मेरा मानना ​​है कि आप बदल सकते हैं | X | | X | -1, क्योंकि विधियों और प्रकारों में "अंतिम प्रकार", एक बार बाकी जानने के बाद दिया जाता है।

— थॉमस अहले

Answer 1

आप यादृच्छिक चर पर विचार करके काफी अच्छे सीमा प्राप्त कर सकते हैं जो 1 है यदि और शून्य अन्यथा ( से अधिक परीक्षणों पर और श्रेणियों से अधिक)। किसी भी निश्चित लिए स्वतंत्र हैं और इसलिए सीमा का उपयोग करके का विश्लेषण किया जा सकता है। फिर पर बंधे हुए एक संघ को करें ।$Y_{ij}$$X_i = j$$1 \le i \le n$$1 \le j \le 3$$j$$Y_{ij}$$\sum_i Y_{ij}$$j$

यदि उपर्युक्त पर्याप्त नहीं है, तो मेरा सुझाव है कि आप गेंदों और डिब्बे के मॉडल को देखें जैसे कि उपफेल और मिटज़ेनमाकर की पाठ्यपुस्तक में। वह मॉडल भी आपके जैसा ही है, सिवाय इसके कि आपके कुछ डिब्बे दूसरों की तुलना में उन लोगों की तुलना में अधिक होने की संभावना हो सकती है, जिनमें सही है? उस मॉडल में पॉइसन सन्निकटन से जुड़ी कुछ और परिष्कृत तकनीकें हैं जो संभवतः गैर-समान बिन संभावनाओं के साथ आपकी सेटिंग के लिए विस्तार योग्य होंगी।

Answer 2

चेरनॉफ़ होफडिंग सीमा के बारे में कुछ भी नहीं है जो बूलियन चर के लिए विशिष्ट है। यदि साथ iid वास्तविक मूल्यवान यादृच्छिक चर हैं तो आप बाउंड लागू कर सकते हैं। एक अच्छा संदर्भ "रैंडमाइज्ड एल्गोरिदम के विश्लेषण के लिए माप का एकाग्रता" ( http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.120.2561&rep1-rep1&type=pdf ) है।$X_1,\ldots,X_n$$0 \leq X_i \leq 1$

Comments

मैं वास्तविक-मूल्यवान चरों की तुलना में स्पष्टवादिता में दिलचस्पी रखता हूं, एक स्पष्टीकरण जोड़ा

— यारोस्लाव बुलटोव