पर सीमा

अगर $f$ एक उत्तल समारोह तो जेन्सेन की असमानता कहा गया है कि है $f(\textbf{E}[x]) \le \textbf{E}[f(x)]$ , और यथोचित सहित जब $f$ अवतल है। स्पष्ट रूप से सबसे खराब स्थिति में आप उत्तल लिए के संदर्भ में ऊपरी बाउंड नहीं कर सकते , लेकिन क्या कोई बाउंड है जो इस दिशा में जाता है यदि $\textbf{E}[f(x)]$ $f(\textbf{E}[x])$ $f$ $f$ उत्तल है, लेकिन "भी उत्तल नहीं है"? क्या कुछ मानक बाध्य है जो उत्तल फ़ंक्शन पर स्थिति देता है $f$ (और संभवतः वितरण के रूप में अच्छी तरह से, यदि आवश्यक हो) आप समाप्त करने के लिए अनुमति होगी कि $\textbf{E}[f(x)] \le \varphi(f)f(\textbf{E}[x])$ , जहां $\varphi(f)$ के उत्तलता की वक्रता / डिग्री के कुछ कार्य है $f$ ? कुछ Lipschitz स्थिति के समान है, शायद?

randomness pr.probability randomized-algorithms

— इयान
स्रोत

ऑफ-टॉपिक के रूप में बंद करने के लिए मतदान। math.stackexchange.com शायद?

— आर्यभट्ट

मुझे लगता है कि यह सवाल खुला रहना चाहिए; यह असमानता की तरह है कि कई कामकाजी सिद्धांतकारों को नियमित आधार पर उपयोगी मिलेगा।

— हारून रोथ

मुझे पता है कि यह अब तक पोस्ट किए गए अधिकांश सवालों की तुलना में शुद्ध गणित के करीब है, लेकिन मैं तर्क दूंगा कि यह ऑन-टॉपिक है क्योंकि यादृच्छिक एल्गोरिदम के विश्लेषण में इस तरह की बात बार-बार सामने आती है (जो कि मेरे पास मौजूद एप्लिकेशन है) मन)। मुझे लगता है कि कंप्यूटर विज्ञान में भारी गणित का उपयोग प्रश्नों के लिए उचित खेल माना जाना चाहिए।

— इयान

खुला रखने के लिए मतदान करें। निश्चित रूप से विषय पर

— सुरेश वेंकट

मैं भी खुला रखने के लिए वोट देता हूं।

— जेफ

संपादित करें: मूल संस्करण एक पूर्ण मूल्य से चूक गया। माफ़ कीजिये!!

हाय इयान। मैं संक्षेप में दो नमूना असमानताओं को रेखांकित करूंगा, एक Lipschitz बाउंड का उपयोग करके, दूसरा दूसरे व्युत्पन्न पर एक बाउंड का उपयोग करके, और फिर इस समस्या में कुछ कठिनाइयों पर चर्चा करता हूं। हालाँकि मैं बेमानी हो रहा हूं, क्योंकि एक व्युत्पत्ति का उपयोग करने वाला दृष्टिकोण बताता है कि अधिक व्युत्पन्न (टेलर के माध्यम से) क्या होता है, यह पता चला है कि दूसरा व्युत्पन्न संस्करण काफी अच्छा है।

सबसे पहले, एक Lipschitz बाध्य के साथ: बस मानक जेन्सेन असमानता को फिर से काम करें। एक ही चाल लागू होती है: अपेक्षित मूल्य पर टेलर विस्तार की गणना करें।

विशेष रूप से, Let में संबंधित नाप , और सेट । यदि में Lipschitz निरंतर , तो टेलर के प्रमेय द्वारा $X$ $\mu$ $m := \textrm E(x)$ $f$ $L$

f (x) = f (m) + f^{'} (z) (x - m) \leq f (m) + L | x - m |,

$f(x) = f(m) + f'(z)(x-m) \leq f(m) + L|x-m|,$

जहां (ध्यान दें कि और संभव हो रहे हैं)। इसका उपयोग करना और जेन्सेन प्रूफ को फिर से काम करना (मैं पागल हूँ और जाँच की है कि मानक वास्तव में विकिपीडिया पर है), $z \in [m, x]$ $x\leq m$ $x> m$

\begin{aligned} E (f (X)) & = \int f (x) d μ (x) \leq f (m) \int d μ (x) + L \int | x - m | d μ (x) \\ = f (E (X)) + L E (| X - E (X) |) . \end{aligned}

$\begin{align} \operatorname{E}(f(X)) & = \int f(x) \, d\mu(x) \leq f(m) \int d\mu(x) + L\int |x-m| \, d\mu(x) \\[6pt] & = f(\operatorname{E}(X)) + L \operatorname{E} (|X-\operatorname{E}(X)|). \end{align}$

अब, मान लीजिए । इस मामले में, $|f''(x)| \leq \lambda$

\begin{aligned} f (x) & = f (m) + f^{'} (m) (x - m) + f^{″} (z) \frac{(x - m)^{2}}{2} \\ \leq f (m) + f^{'} (m) (x - m) + λ \frac{(x - m)^{2}}{2}, \end{aligned}

$\begin{align} f(x) & = f(m) + f'(m)(x-m) + f''(z) \frac{(x-m)^2} 2 \\[6pt] & \leq f(m) + f'(m)(x-m) + \lambda \frac{(x-m)^2} 2, \end{align}$

इसलिए

\begin{aligned} E (f (X)) & \leq f (m) + f^{'} (m) (E (X) - m) + \frac{λ E ((X - m)^{2})}{2} \\ = f (E (X)) + \frac{λ Var (X)}{2} . \end{aligned}

$\begin{align} \operatorname{E}(f(X)) & \leq f(m) + f'(m)(\operatorname{E}(X) - m) + \frac {\lambda \operatorname{E}((X-m)^2)}{2} \\[6pt] & = f(\operatorname{E}(X)) + \frac {\lambda \operatorname{Var}(X)}2. \end{align}$

मैं कुछ बातों का संक्षेप में उल्लेख करना चाहता हूं। क्षमा करें यदि वे स्पष्ट हैं।

एक यह है कि, आप वितरण को स्थानांतरित करके केवल "wlog " नहीं कह सकते , क्योंकि आप और बीच संबंध बदल रहे हैं । $\operatorname{E}(X) = 0$ $f$ $\mu$

अगला यह है कि बाउंड को किसी तरह वितरण पर निर्भर होना चाहिए । इस देखने के लिए, मान लीजिए कि और । जो कुछ भी का मूल्य , आप अभी भी मिल । दूसरी ओर, $X \sim \textrm{Gaussian}(0, \sigma^2)$ $f(x) = x^2$ $\sigma$ $f(\operatorname{E}(X)) = f(0) = 0$ । इस प्रकार, बदलकर , आप अंतराल के बीच दो मात्राओं मनमाने ढंग से कर सकते हैं! सहज रूप से, अधिक द्रव्यमान माध्य से दूर धकेल दिया जाता है, और इस प्रकार, किसी भी सख्ती से उत्तल कार्य के लिए, बढ़ जाएगा। $\operatorname{E}(f(X)) = \operatorname{E}(X^2) = \sigma^2$ $\sigma$ $\operatorname{E} (f(X))$

अंत में, मैं यह नहीं देखता कि आप जैसा सुझाव देते हैं, वैसा ही एक गुणात्मक बाउंड कैसे प्राप्त करें। इस पोस्ट में मैंने जो कुछ भी उपयोग किया है वह मानक है: टेलर की प्रमेय और व्युत्पन्न सीमाएं सांख्यिकी सीमा में रोटी और मक्खन हैं, और वे स्वचालित रूप से योजक देते हैं, न कि गुणात्मक त्रुटियां।

मैं हालांकि इसके बारे में सोचूंगा, और कुछ पोस्ट करूंगा। अस्पष्ट अंतर्ज्ञान यह फ़ंक्शन और वितरण दोनों पर बहुत कड़ी परिस्थितियों की आवश्यकता होगी, और यह है कि योजक सीमा वास्तव में इसके दिल में है।

— Matus
स्रोत

हर बार जब मैं संपादित करता हूं, तो उत्तर टकरा जाता है। तो मैं इंगित करता हूं: मेरे द्वारा दिए गए उदाहरण के लिए दूसरी व्युत्पन्न सीमा तंग है।

— 21

मुझे लगता है कि आप उस योग्‍य सीमा में सही हैं जो फ़ंक्शन पर बहुत मजबूत स्थितियों के बिना संभव है।

— इयान

प्रिय इयान, मैंने इस समस्या के बारे में बहुत अधिक सोचा, लेकिन मेरे दिमाग में मुख्य कठिनाई मेरे द्वारा दिए गए उदाहरण से संकेतित है, जहाँ

, लेकिन

। आप दोनों फ़ंक्शन परिवार (बंधे, बंधे हुए व्युत्पन्न, पूर्णांक) और वितरण (चिकनी, बंधे, बंधे हुए लम्हें) को संकुचित कर सकते हैं, और आपके पास अभी भी ये उदाहरण हैं। यह वितरण के माध्य से शून्य के बराबर एक सममित, नॉनगेटिव फंक्शन होने का अनुमान लगाता है। उस ने कहा, सब कुछ आपकी सटीक समस्या में बाधाओं पर निर्भर करता है। सामान्य मामले में, मुझे लगता है कि योगात्मक प्रकृति मौलिक है।

f (E (X)) = 0

$f(\textrm E(X))= 0$

E (f (X)) > 0

$\textrm E (f(X)) > 0$

— मटका

@ इयान: चेर्नॉफ और अज़ुमा-होफिंग असमानताओं के प्रमाण इस बात की याद दिलाते हैं, ताकि आप प्रेरणा के लिए इन्हें पढ़ सकें। कंप्यूटिंग में रैंडमाइजेशन पर उदाहरण जैसे मिटज़ेनमाकर और उपफ़ल की किताब देखें।

— वॉरेन शूडी

अंतर्दृष्टि के लिए, दो मूल्यों पर केंद्रित वितरण पर विचार करें; 1/2 की समान संभावनाओं के साथ, यह 1 या 3 के बराबर है, जहां । लो और । कार्यों पर विचार करें जिसके लिए और । बना कर $\textbf{E}[x] = 2$ $N >> 0$ $\epsilon > 0$ $f$ $f(1) = f(3)= N\epsilon$ $f(\textbf{E}[x]) = f(2) = \epsilon$ $\epsilon$ $f$ $f$

$\textbf{E}[f(x)] = N\epsilon$ , yet

$N = N\epsilon / \epsilon = \textbf{E}[f(x)] / f(\textbf{E}[x]) \le \varphi(f)$ .

This shows $\varphi(f)$ must be arbitrarily large.

— whuber
स्रोत