मानदंड में परीक्षण निकटता के लिए कम बाध्य ?

11

मैं सोच रहा था कि निम्न समस्या के लिए ज्ञात कोई निम्न बाध्य (नमूना जटिलता के संदर्भ में) है:

दो अज्ञात वितरण $D_1$ , $D_2$ पर $\{1,\dots,n\}$ , परीक्षण (whp) पर नमूना ओरेकल पहुंच को देखते हुए:

$D_1=D_2$
या $\operatorname{d_2}(D_1,D_2)=\lVert D_1-D_2\rVert_2 = \sqrt{\sum_{i=1}^n\left(D_1(i)-D_2(i)\right)^2} \geq \epsilon$

बाटू एट अल। [BFR + 00] से पता चला कि $O\left(\frac{1}{\epsilon^4}\right)$ नमूने पर्याप्त थे, लेकिन मुझे कम बाउंड का कोई उल्लेख नहीं मिला है?

मुझे लगता है कि एक व्यक्ति हमेशा एक $\Omega(\frac{1}{\epsilon^2})$ को दिखा सकता है, इस समस्या के लिए एक निष्पक्ष बनाम $\epsilon$ -biased सिक्के को भेद करने के कार्य को कम करके और केवल दो पर समर्थित वितरण का अनुकरण कर सकता है अंक, परीक्षक और iid सिक्का के अनुसार परीक्षक के प्रश्नों का उत्तर देना), लेकिन यह अभी भी एक द्विघात प्रभाव छोड़ता है ...

(एक अन्य बिंदु जिसमें मुझे दिलचस्पी होगी, एक अनुमानित सीमा तक है (एक additive $\epsilon$ ) इस $L_2$ दूरी - फिर से, मुझे साहित्य में इस तरह के परिणाम का कोई संदर्भ नहीं मिला है)

आपकी सहायता के लिए धन्यवाद,

— क्लेमेंट सी।
स्रोत

यह वादा समस्या सहाय और वधान द्वारा सांख्यिकीय अंतर के समान प्रतीत होती है, जो वर्ग SZK (सांख्यिकीय शून्य ज्ञान) के लिए एक पूर्ण समस्या है; हालाँकि, वे दूरी का उपयोग करते हैं । cs.ucla.edu/~sahai/work/web/2003%20Publications/J.ACM2003.pdf । (संपादित करें: मुझे भी लगता है कि वे मान रहे हैं कि आपके पास वितरणों की गणना करने वाला एक सर्किट है, न कि ऑरेकल एक्सेस।)

L_{1}

$L_1$

— usul

हाय, जैसा कि एक अन्य टिप्पणी में उल्लेख किया गया है, और मानदंड के बीच का अंतर वास्तव में यहाँ महत्वपूर्ण है - आगे, कागज में, उन्होंने एक स्पष्ट (और मनमाना नहीं) थ्रेशोल्ड (टिप्पणी में से एक में) सेट किया, वे बताते हैं कि इस सीमा को कुछ विशेष बाधाओं को पूरा करने की आवश्यकता है); और बनाम को भेद करना चाहते हैं (जो किसी भी तरह "सामान्य परीक्षण" की तुलना में सहिष्णु परीक्षण / दूरी के आकलन के करीब है, जहां आप बनाम का परीक्षण करना चाहते हैं) (लेकिन किसी भी निश्चित )।

L_{2}

$L_2$

L_{1}

$L_1$

τ = 1 / 3

$\tau=1/3$

d_{1} \leq τ

$d_1 \leq \tau$

d_{2} \geq 1 - τ

$d_2 \geq 1-\tau$

d_{2} = 0

$d_2=0$

d_{2} \geq ϵ

$d_2 \geq \epsilon$

ϵ

$\epsilon$

— क्लेमेंट सी।

6

ऐसा प्रतीत होता है कि नमूने - जैसा कि नीचे दिखाया गया है - परीक्षण के लिए पर्याप्त है, ताकि नमूना जटिलता बिल्कुल ; वास्तव में, यह नमूनों की इस संख्या से हमें पता चलता है कि एक additive wrt मानक तक सीखने के लिए पर्याप्त है। $O(1/\epsilon^2)$ $\Theta(1/\epsilon^2)$ $D$ $\epsilon$ $L_2$

Let iid नमूने और सेटिंग द्वारा ड्राइंग द्वारा प्राप्त आनुभविक घनत्व फ़ंक्शन हो। तब जहां । $\hat{D}$ $m$ $s_1,\dots, s_m\sim D$

\hat{D} (k) \overset{d e f}{=} \frac{1}{m} \sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}}, k \in [n]

$\hat{D}(k) \stackrel{\rm{}def}{=} \frac{1}{m}\sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}},\qquad k\in[n]$

\begin{aligned} ‖ D - \hat{D} ‖_{2}^{2} & = \sum_{k = 1}^{n} {(\frac{1}{m} \sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}} - D (k))}^{2} = \frac{1}{m^{2}} \sum_{k = 1}^{n} {(\sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}} - m D (k))}^{2} \\ = \frac{1}{m^{2}} \sum_{k = 1}^{n} {(X_{k} - E X_{k})}^{2} \end{aligned}

$\begin{align*} \lVert D - \hat{D} \rVert_2^2 &= \sum_{k=1}^n \left( \frac{1}{m}\sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}} - D(k) \right)^2 = \frac{1}{m^2}\sum_{k=1}^n \left( \sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}} - mD(k) \right)^2 \\ &= \frac{1}{m^2}\sum_{k=1}^n \left( X_k - \mathbb{E} X_k \right)^2 \end{align*}$

X_{k} \overset{d e f}{=} \sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}} \sim Bin (m, D (k))

$X_k\stackrel{\rm{}def}{=} \sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}}\sim\operatorname{Bin}( m, D(k) )$

X_{k}

$X_k$ 's ( ) स्वतंत्र नहीं हैं, लेकिन हम लिख सकते हैं ताकि के लिए , और मार्कोव की असमानता को लागू करने के

k \in [n]

$k\in[n]$

\begin{aligned} E ‖ D - \hat{D} ‖_{2}^{2} & = \frac{1}{m^{2}} \sum_{k = 1}^{n} E [{(X_{k} - E X_{k})}^{2}] = \frac{1}{m^{2}} \sum_{k = 1}^{n} Var X_{k} \\ = \frac{1}{m^{2}} \sum_{k = 1}^{n} m D (k) (1 - D (k)) \leq \frac{1}{m} \sum_{k = 1}^{n} D (k) \\ = \frac{1}{m} \end{aligned}

$\begin{align*} \mathbb{E}\lVert D - \hat{D} \rVert_2^2 &= \frac{1}{m^2}\sum_{k=1}^n \mathbb{E}\left[ \left( X_k - \mathbb{E} X_k \right)^2 \right] = \frac{1}{m^2}\sum_{k=1}^n \operatorname{Var} X_k \\ &= \frac{1}{m^2}\sum_{k=1}^n mD(k)\left( 1- D(k) \right) \leq \frac{1}{m}\sum_{k=1}^n D(k) \\ &= \frac{1}{m} \end{align*}$

m \geq \frac{3}{ϵ^{2}}

$m\geq \frac{3}{\epsilon^2}$

E ‖ D - \hat{D} ‖_{2}^{2} \leq \frac{ϵ^{2}}{3}

$\begin{equation} \mathbb{E}\lVert D - \hat{D} \rVert_2^2 \leq \frac{\epsilon^2}{3} \end{equation}$

P {‖ D - \hat{D} ‖_{2} \geq ϵ} \leq \frac{1}{3} .

$\begin{equation} \mathbb{P}\left\{ \lVert D - \hat{D} \rVert_2 \geq \epsilon \right\} \leq \frac{1}{3}. \end{equation}$

— क्लेमेंट सी।
स्रोत

(मैं usul के उत्तर का उल्लेख कर रहा था, "मैं अपनी पिछली त्रुटि के लिए प्रायश्चित करने का प्रयास करूंगा कि कुछ विपरीत दिखा [...]" - जो वास्तव में इस एक से ऊपर है। मुझे यह उम्मीद नहीं थी :)) सीखने के लिए। ऊपरी बाध्य, यह दिखाया जा सकता है कि सबसे भोली एल्गोरिथ्म (यानी, वह है जो नमूने खींचता है , और इस परिभाषित करने वाले अनुभवजन्य घनत्व को आउटपुट करता है) एक वितरण करता है लगातार संभावना के साथ, दूरी में से है ।

m = O (1 / ϵ^{2})

$m=O(1/\epsilon^2)$

\hat{D}

$\hat{D}$

ϵ

$\epsilon$

D

$D$

L_{2}

$L_2$

— क्लेमेंट सी।

@DW मैंने अभी अपना उत्तर संपादित किया है।

— क्लेमेंट सी।

3

मैं अपनी पिछली त्रुटि के लिए कुछ विपरीत दिखा कर प्रायश्चित करने का प्रयास करूंगा - वह नमूने पर्याप्त हैं ( का निचला भाग) लगभग तंग है)! देखिये आपको क्या लगता है…। $\tilde{\Theta}\left(\frac{1}{\epsilon^2}\right)$ $1/\epsilon^2$

मुख्य अंतर्ज्ञान दो अवलोकनों से शुरू होता है। सबसे पहले, वितरण के लिए की दूरी होने के लिए , उच्च संभावना ( ) के साथ अंक होने चाहिए । उदाहरण के लिए, यदि हमारे पास अंक, प्रायिकता अंक हैं , तो हमारे पास । $L_2$ $\epsilon$ $\Omega(\epsilon^2)$ $1/\epsilon^3$ $\epsilon^3$ $\|D_1 - D_2\|_2 \leq \sqrt{\frac{1}{\epsilon^3} (\epsilon^3)^2} = \epsilon^{3/2} < \epsilon$

दूसरा, की दूरी के साथ समान वितरण पर विचार करें । यदि हमारे पास प्रायिकता अंक होते हैं, तो वे और नमूने द्वारा भिन्न होंगे। दूसरी ओर, यदि हमारे पास अंक हैं, तो उन्हें प्रत्येक को और फिर नमूने (एक स्थिर संख्या) प्रति भिन्न करने की आवश्यकता होगी। बिंदु) पर्याप्त है। तो हम उम्मीद कर सकते हैं कि, पहले उल्लेख किए गए उच्च-संभावना वाले बिंदुओं के बीच, हमेशा कुछ बिंदु "पर्याप्त" होता है जो ड्रॉ करता है। $L_2$ $\epsilon$ $O(1)$ $O(1)$ $O(\epsilon)$ $1/\epsilon^2$ $O(1/\epsilon^2)$ $O(\epsilon^2)$ $O(1/\epsilon^2)$ $O(1/\epsilon^2)$

कलन विधि। दिए गए और एक आत्मविश्वास पैरामीटर , । प्रत्येक वितरण से नमूने ड्रा करें । आइए बिंदु लिए संबंधित उच्चतर, निम्न संख्या के नमूने हैं । अगर कोई बिंदु है जिसके लिए और , की घोषणा करें वितरण अलग। अन्यथा, उन्हें वही घोषित करें। $\epsilon$ $M$ $X = M \log(1/\epsilon^2)$ $\frac{X}{\epsilon^2}$ $a_i,b_i$ $i$ $i \in [n]$ $a_i \geq \frac{X}{8}$ $a_i-b_i \geq \sqrt{a_i} \frac{\sqrt{X}}{4}$

शुद्धता और आत्मविश्वास की सीमा ( ) निम्नलिखित लेम्मा पर निर्भर करती है जो कहती है कि डिस्टेंस में विचलन उन सभी बिंदुओं से आता है जिनकी संभावनाएँ भिन्न होती हैं । $1-e^{-\Omega(M)}$ $L_2$ $\Omega(\epsilon^2)$

दावा। मान लीजिए । Let। आज्ञा देना । उसके बाद $\|D_1 - D_2\|_2 \geq \epsilon$ $\delta_i = |D_1(i) - D_2(i)|$ $S_k = \{i : \delta_i > \frac{\epsilon^2}{k}\}$
$\sum_{i \in S_{k}} δ_{i}^{2} \geq ϵ^{2} (1 - \frac{2}{k}) .$ $\sum_{i \in S_k} \delta_i^2 \geq \epsilon^2\left(1-\frac{2}{k}\right).$

सबूत । हमारे पास हमें दूसरी राशि के लिए बाध्य करते हैं; हम को । समारोह के बाद से सख्ती से उत्तल और बढ़ती, हम किसी भी लेने से उद्देश्य को बढ़ा सकते हैं है और बढ़ती द्वारा , जबकि कम हो रही द्वारा । इस प्रकार, उनके अधिकतम मूल्यों पर उद्देश्य को अधिकतम शर्तों के साथ अधिकतम किया जाएगा, और बाकी को

\sum_{i \in S_{k}} δ_{i}^{2} + \sum_{i \notin S_{k}} δ_{i}^{2} \geq ϵ^{2} .

$\sum_{i \in S_k} \delta_i^2 ~ + ~ \sum_{i \not\in S_k} \delta_i^2 \geq \epsilon^2.$

\sum_{i \notin S_{k}} δ_{i}^{2}

$\sum_{i \not\in S_k} \delta_i^2$

\sum_{i \notin S_{k}} δ_{i} \leq 2

$\sum_{i \not\in S_k} \delta_i \leq 2$

x \mapsto x^{2}

$x \mapsto x^2$

δ_{i} \geq δ_{j}

$\delta_i \geq \delta_j$

δ_{i}

$\delta_i$

γ

$\gamma$

δ_{j}

$\delta_j$

γ

$\gamma$

0

$0$ । प्रत्येक पद का अधिकतम मान , और इस मूल्य के अधिकांश शब्द हैं (क्योंकि वे अधिकतम )। तो

\frac{ϵ^{2}}{k}

$\frac{\epsilon^2}{k}$

\frac{2 k}{ϵ^{2}}

$\frac{2k}{\epsilon^2}$

2

$2$

\sum_{i \notin S_{k}} δ_{i}^{2} \leq \frac{2 k}{ϵ^{2}} {(\frac{ϵ^{2}}{k})}^{2} = \frac{2 ϵ^{2}}{k} . ◻

$\sum_{i \not\in S_k} \delta_i^2 \leq \frac{2k}{\epsilon^2}\left(\frac{\epsilon^2}{k}\right)^2 = \frac{2\epsilon^2}{k} . ~~~~ \square$

दावा करते हैं । आज्ञा देना । अगर , और साथ कम से कम एक बिंदु मौजूद है। । $p_i = \max\{D_1(i),D_2(i)\}$ $\|D_1 - D_2\|_2 \geq \epsilon$ $i \in [n]$ $p_i > \frac{\epsilon^2}{4}$ $\delta_i \geq \frac{\epsilon \sqrt{p_i}}{2}$

सबूत । सबसे पहले, सभी बिंदुओं Have परिभाषा के द्वारा (और नहीं करने के लिए खाली हो सकता है पिछला दावा द्वारा)। $S_k$ $p_i \geq \delta_i > \frac{\epsilon^2}{k}$ $S_k$ $k > 2$

दूसरा, क्योंकि , हमारे पास या, उलटफेर, इसलिए असमानता में कम से कम एक बिंदु । अब । $\sum_i p_i \leq 2$

\sum_{i \in S_{k}} δ_{i}^{2} \geq ϵ^{2} (\frac{1}{2} - \frac{1}{k}) \sum_{i \in S_{k}} p_{i},

$\sum_{i \in S_k} \delta_i^2 \geq \epsilon^2 \left(\frac{1}{2} - \frac{1}{k}\right) \sum_{i \in S_k} p_i,$

\sum_{i \in S_{k}} (δ_{i}^{2} - p_{i} ϵ^{2} (\frac{1}{2} - \frac{1}{k})) \geq 0,

$\sum_{i \in S_k} \left( \delta_i^2 - p_i \epsilon^2 \left(\frac{1}{2} - \frac{1}{k}\right)\right) \geq 0 ,$

δ_{i}^{2} \geq p_{i} ϵ^{2} (\frac{1}{2} - \frac{1}{k})

$\delta_i^2 \geq p_i \epsilon^2 \left(\frac{1}{2} - \frac{1}{k}\right)$

S_{k}

$S_k$

k = 4

$k=4$

◻

$\square$

दावा (झूठी सकारात्मक) । यदि , हमारे एल्गोरिथ्म उन्हें प्रायिकता के साथ अलग-अलग तरीके से घोषित करता है, तो । $D_1 = D_2$ $e^{-\Omega(M)}$

स्केच । दो मामलों पर विचार करें: और । पहले मामले में, के नमूनों की संख्या या तो वितरण से से अधिक नहीं होगी : नमूनों की औसत संख्या और एक पूंछ बाध्य कहती है कि संभावना के साथ , के नमूने एक additive से उनके मतलब से अधिक नहीं है ; अगर हम पूंछ में बंधे मान को रखने के लिए सावधान हैं , तो हम उन पर बाध्य कर सकते हैं, चाहे कितने भी ऐसे बिंदु हों (सहज रूप से, संभव बिंदुओं की संख्या में सीमा तेजी से घट जाती है)। $p_i < \epsilon^2/16$ $p_i \geq \epsilon^2/16$ $i$ $X/8$ $< X/16$ $e^{-\Omega(X/p_i)} = \epsilon^2 e^{-\Omega(M/p_i)}$ $i$ $X/16$ $p_i$

मामले में , हम उपयोग कर सकते हैं एक Chernoff बाध्य: ऐसा नहीं है कि कहते हैं, जब हम ले के नमूने और एक बिंदु संभावना के साथ तैयार की है , अपने मतलब से अलग करने की संभावना से सबसे अधिक । यहाँ, , इसलिए प्रायिकता । $p_i \geq \epsilon^2/16$ $m$ $p$ $pm$ $c \sqrt{pm}$ $e^{-\Omega((c\sqrt{pm})^2/pm)} = e^{-\Omega(c^2)}$ $c = \frac{\sqrt{X}}{16}$ $e^{-\Omega(X)} = \epsilon^2 e^{-\Omega(M)}$

तो संभावना के साथ , (दोनों वितरण के लिए) के नमूनों की संख्या भीतर है इसके माध्य । इस प्रकार, हमारे परीक्षण इन बिंदुओं को नहीं पकड़ेंगे (वे एक-दूसरे के बहुत करीब हैं), और हम उनमें से सभी पर बंधे हो सकते हैं। $1-\epsilon^2e^{-\Omega(M)}$ $i$ $\sqrt{p_i\frac{X}{\epsilon^2}}\frac{\sqrt{X}}{16}$ $p_i\frac{X}{\epsilon^2}$ $16/\epsilon^2$ $\square$

दावा (झूठे नकारात्मक) । अगर , हमारे एल्गोरिथ्म उन्हें प्रायिकता के साथ समान रूप से घोषित करता है, तो अधिकांश । $\|D_1 - D_2\|_2 \geq \epsilon$ $\epsilon^2 e^{-\Omega(M)}$

स्केच । कुछ बिंदु नहीं है के साथ और । पिछले दावे के अनुसार बाध्य वही चेर्नॉफ़ कहता है कि प्रायिकता के साथ , के नमूनों की संख्या इसके माध्य से अधिकांश से भिन्न होती है । वह (WLOG) वितरण जिसमें ; लेकिन वितरण से के नमूनों की संख्या की एक और भी कम संभावना है $i$ $p_i > \epsilon^2/4$ $\delta_i \geq \epsilon \sqrt{p_i}/2$ $1-\epsilon^2 e^{-\Omega(M)}$ $i$ $p_i m$ $\sqrt{p_i m} \frac{\sqrt{X}}{16}$ $1$ $p_i = D_1(i) = D_2(i) + \delta_i$ $i$ $2$ इस योजक राशि से इसके माध्य से भिन्नता (माध्य और विचरण कम है)।

इसलिए उच्च संभावना के साथ प्रत्येक वितरण से के नमूनों की संख्या के भीतर है; लेकिन उनकी संभावनाएँ भिन्न होती हैं , इसलिए उनके साधन अलग-अलग होते हैं $i$ $\sqrt{\frac{p_i X}{\epsilon^2}} \frac{\sqrt{X}}{16}$ $\delta_i$

\frac{X}{ϵ^{2}} δ_{i} \geq \frac{X \sqrt{p_{i}}}{2 ϵ} = \sqrt{\frac{p_{i} X}{ϵ^{2}}} \frac{\sqrt{X}}{2} .

$\frac{X}{\epsilon^2}\delta_i \geq \frac{X \sqrt{p_i}}{2\epsilon} = \sqrt{\frac{p_i X}{\epsilon^2}} \frac{\sqrt{X}}{2} .$

तो उच्च संभावना के साथ, बिंदु , नमूनों की संख्या कम से कम से भिन्न होती है । $i$ $\sqrt{\# samples(1)} \frac{\sqrt{X}}{4}$ $\square$

रेखाचित्रों को पूरा करने के लिए, हमें और अधिक कठोरता से यह दिखाने की आवश्यकता होगी कि काफी के लिए, के नमूनों की संख्या इसके अर्थ के काफी करीब है, जब एल्गोरिथ्म का उपयोग करता है बजाय , यह कुछ भी नहीं बदलता है (जो स्थिरांक में कुछ झालर कमरे को छोड़कर सीधा होना चाहिए)। $M$ $i$ $\sqrt{\# samples}$ $\sqrt{mean}$

— usul
स्रोत

नमस्ते, इसके लिए धन्यवाद - मेरे पास एल्गोरिदम और विश्लेषण के बारे में कुछ सवाल हैं (एक दो बिंदुओं के बारे में जो मुझे यकीन नहीं है): मैं मान रहा हूं कि मैं सफलता की निरंतर संभावना के अंत में चाहता हूं , इसका मतलब है कि स्थिर, अगर मैं सही ढंग से समझता हूं (जब तक मुझे वह नहीं मिला जो था)? तो इस स्थिति में, ओर मुड़ना : एल्गोरिथम के अनुसार, यह - क्या यह सही है?

2 / 3

$2/3$

M

$M$

M

$M$

X

$X$

Θ (\log \frac{1}{ϵ})

$\Theta(\log\frac{1}{\epsilon})$

— क्लेमेंट सी।

@ClementC। क्षमा करें, मैं बहुत स्पष्ट नहीं था! दावा यह है कि यदि हम नमूने खींचते हैं, तो गलत होने की संभावना , इसलिए गलत होने की लगातार संभावना, इसके नमूने।

\frac{1}{ϵ^{2}} M \log (1 / ϵ^{2})

$\frac{1}{\epsilon^2} M \log(1/\epsilon^2)$

O (e^{- M})

$O(e^{-M})$

O (\frac{1}{ϵ^{2}} \log (1 / ϵ^{2}))

$O\left(\frac{1}{\epsilon^2} \log(1/\epsilon^2)\right)$

— usul

ठीक है, यही मैं इकट्ठा हुआ। मैं इस बात को ध्यान में रखते हुए सबूत के माध्यम से जाऊँगा - आपके द्वारा इस पर खर्च किए गए समय के लिए फिर से धन्यवाद!

— क्लेमेंट सी।

1

आप इस मामले को हल करने की कोशिश करके शुरू कर सकते हैं । मुझे पूरा यकीन है कि उस मामले में नमूने आवश्यक और पर्याप्त होंगे। $n=2$ $\Theta(1/\epsilon^2)$

यह संभव है कि आप दूरी और दूरी (कुल भिन्नता दूरी) के बीच कनवर्ट करने में मददगार हों । $L_2$ $L_1$

यह ज्ञात है कि, एक नमूने के साथ, यदि वितरण ज्ञात हैं, तो कुल भिन्नता दूरी पूरी तरह से उस लाभ की विशेषता है जिसके साथ कोई को से अलग कर सकता है । इस प्रकार, यदि कुल भिन्नता दूरी बड़ी है और वितरण ज्ञात हैं, तो एक परीक्षण का निर्माण किया जा सकता है जो उच्च संभावना के साथ सही है; यदि कुल भिन्नता छोटी है, तो कोई नहीं कर सकता है। मैं नहीं जानता कि उस मामले के बारे में कोई क्या कह सकता है जहां कुल भिन्नता बड़ी है, लेकिन वितरण अज्ञात हैं। $D_1$ $D_2$
आगे आप उत्पाद वितरण, और । कुल भिन्नता दूरी (का उपयोग करते हुए दूरी), वहाँ किसी भी अच्छे सीमा कि संबंधित होने लगते नहीं है को । हालांकि, जब का उपयोग कर दूरी, मेरा मानना है की अच्छी अनुमान देखते हैं के एक समारोह के रूप में । (दुर्भाग्य से, मैं, उन अनुमानों / सीमा लिए एक विशिष्ट संदर्भ की खुदाई नहीं कर पा रहे तो मुझे आशा है कि मैं misremembering नहीं कर रहा हूँ।) वहाँ भी जाना जाता सीमा है कि आप का अनुमान लगाने देते के एक समारोह के रूप में दूरी दूरी । $D_1^n$ $D_2^n$ $L_1$ $||D_1^n - D_2^n||_1$ $||D_1 - D_2||_1$ $L_2$ $||D_1^n - D_2^n||_2$ $||D_1 - D_2||_2$ $L_1$ $L_2$
इसलिए, एक दृष्टिकोण आप की कोशिश कर सकते बाध्य होगा तो, से कि हो रही एक पर बाध्य । $||D_1^n - D_2^n||_2$ $||D_1^n - D_2^n||_1$

मुझे नहीं पता कि इससे कहीं अच्छा होगा या नहीं; यह सिर्फ एक विचार है। संभवतः आपके द्वारा उद्धृत पेपर के लेखक पहले से ही इस तरह की कोशिश कर चुके हैं या इस पर विचार कर चुके हैं।

संभवतः सहायक संदर्भ:

— DW
स्रोत

नमस्कार, आपके जवाब के लिए धन्यवाद! हालाँकि, मैं एक असममित निचली सीमा में रुचि रखता हूं, जब । विशेष रूप से, और मानदंडों के बीच संबंध में एक कारक शामिल है - जिसका अर्थ है कि वे वास्तव में स्थिरांक के बराबर हैं , लेकिन asymptotically बहुत भिन्न; प्रॉक्सी के रूप में dstance का उपयोग करना एक विकल्प नहीं है, जहां तक मैं बता सकता हूं (जैसा कि दूरी में निकटता का परीक्षण करने के लिए , सटीक जटिलता को [बीएफआर + १० , वैल ११ ]

n \to \infty

$n\to\infty$

L_{2}

$L_2$

L_{1}

$L_1$

\sqrt{n}

$\sqrt{n}$

n

$n$

L_{1}

$L_1$

L_{1}

$L_1$

Θ (n^{2 / 3} / p o l y (ϵ))

$\Theta(n^{2/3}/{\rm{}poly}(\epsilon))$

— क्लेमेंट सी।

0

संपादित करें: यह गलत है! टिप्पणियों में चर्चा देखें - मैं नीचे दिए गए दोष को इंगित करूंगा।

मुझे लगता है कि हम कह सकते हैं कि की आवश्यकता है। $\frac{1}{\epsilon^4}$

सेट । चलो समान वितरण हो (प्रत्येक बिंदु की संभावना ) और जाने एक additive राशि से वर्दी से अलग प्रत्येक बिंदु पर। जांचें कि दूरी । $n = \Theta\left(\frac{1}{\epsilon^2}\right)$ $D_1$ $= \Theta(\epsilon^2)$ $D_2$ $\pm \Theta\left(\epsilon^2\right)$ $L_2$ $\epsilon$

इसलिए हम एक अलग करने के लिए है एक से तरफा निष्पक्ष सिक्का पक्षीय -biased सिक्का। मुझे लगता है कि यह मुश्किल के रूप में कम से कम एक कह के रूप में होना चाहिए एक से तरफा निष्पक्ष सिक्का तरफा -biased सिक्का है, जो आवश्यकता होगी नमूने। संपादित करें: यह गलत है! सिक्का additively -biased है, लेकिन यह एक स्थिर कारक द्वारा गुणा किया जाता है। जैसा कि डीडब्ल्यू बताते हैं, इसका मतलब है कि प्रति बिंदु नमूनों की एक निरंतर संख्या को से अलग है । $n$ $n$ $\Theta(\epsilon^2)$ $2$ $2$ $\Theta(\epsilon^2)$ $\Theta\left(\frac{1}{(\epsilon^2)^2}\right) = \Theta\left(\frac{1}{\epsilon^4}\right)$ $\epsilon^2$ $D_1$ $D_2$

ध्यान दें कि जहाँ तक हम तर्क की इस पंक्ति को आगे बढ़ा सकते हैं। लगातार, मान लीजिए कि हमने को बढ़ाने की कोशिश की , कहते हैं, । समान वितरण में, प्रत्येक बिंदु में प्रायिकता । लेकिन , हमें प्रत्येक बिंदु के लिए वर्दी से से भिन्न करने की आवश्यकता होगी । बाद से यह संभव नहीं है । $\frac{1}{\epsilon^4}$ $n$ $\frac{1}{\epsilon^3}$ $\epsilon^3$ $D_2$ $\epsilon^{2.5}$ $\epsilon^{2.5} \gg \epsilon^3$

अधिक संक्षेप में, मान लें कि हम चाहते हैं कि प्रत्येक बिंदु वर्दी से से भिन्न हो । तब हम सबसे अधिक सेट कर सकते हैं । की दूरी पाने के लिए , हमें यह संतुष्ट करने की आवश्यकता है कि दूरियों के योग का वर्गमूल , इसलिए , so so , और हमें । $\epsilon^k$ $n$ $\frac{1}{\epsilon^k}$ $L_2$ $\epsilon$ $\epsilon$ $\sqrt{n(\epsilon^k)^2} = \epsilon$ $\epsilon^{k/2} = \epsilon$ $k = 2$ $n = \frac{1}{\epsilon^2}$

इसके अलावा, मुझे लगता है कि एक ही तर्क है कि कहते हैं, अगर हम में रुचि रखते हैं साथ दूरी , हम चाहते हैं , इसलिए हम चुनते थे , इसलिए नमूनों की संख्या । मुझे लगता है कि यह एक बाध्यता है जो से स्वतंत्र है । यह अनन्तता को पहुँचाता है । आप कम से दो वितरण भेद करने के लिए कोशिश कर रहे थे, तो की दूरी पर बाध्य नहीं के साथ , मैं होगा unboundedly बड़े और अंतर बाहर फैल मनमाने ढंग से पतली है, तो आप उन्हें अलग-अलग नहीं कर सकता था ( $L_p$ $p > 1$ $k = \frac{p}{p-1}$ $n = 1/\epsilon^{\frac{p}{p-1}}$ $1 / \epsilon^{2\frac{p}{p-1}}$ $n$ $p \to 1$ $L_1$ $\epsilon$ $n$ $n$ यानी सभी लिए नमूनों की कोई निश्चित संख्या पर्याप्त नहीं है )। यह भी को रूप में ; यह एक बाध्यता के रूप में समझ में आता है, क्योंकि मानदंड के लिए, हम सेट कर सकते हैं और हर बिंदु को ; हमें कुछ बिंदु का नमूना लेने की आवश्यकता है सुनिश्चित करें कि यह वर्दी से अलग है, जो नमूने लेगा । $n$ $\frac{1}{\epsilon^3}$ $p \to \infty$ $L_{\infty}$ $n = \frac{1}{\epsilon}$ $\Theta(\epsilon)$ $\frac{1}{\epsilon^2}$ $\frac{1}{\epsilon^3}$

— usul
स्रोत

1. क्या आपका वास्तव में मतलब है कि प्रत्येक बिंदु पर से वर्दी से अलग है ? मुझे संदेह है कि एक टाइपो है और आप मतलब है ।

D_{2}

$D_2$

\pm 1 / ϵ^{2}

$\pm 1/\epsilon^2$

\pm ϵ^{2}

$\pm \epsilon^2$

— DW

1

2. मैं से को अलग करने वाले नमूनों की आवश्यकता नहीं । मुझे लगता है जैसे नमूने पर्याप्त हैं। स्पष्टीकरण (अंतर्ज्ञान): मान लीजिए कि हम नमूने इकट्ठा करते हैं और गिनते हैं कि प्रत्येक संभावित समय कितनी बार होता है। यदि वे से , तो प्रत्येक को 100 बार (std dev 10 के साथ) होना चाहिए। यदि वे से , तो प्रत्येक को आधे के लिए 200 गुना (std dev 14), अन्य आधे के लिए / 0 गुना (std dev 0) होना चाहिए। यह आसानी से दोनों के बीच अंतर करने के लिए पर्याप्त है, अगर आपको पता है कि आप या साथ काम कर रहे हैं ।

D_{1}

$D_1$

D_{2}

$D_2$

1 / ϵ^{4}

$1/\epsilon^4$

Θ (1 / ϵ^{2})

$\Theta(1/\epsilon^2)$

m = 100 / ϵ^{2}

$m=100/\epsilon^2$

D_{1}

$D_1$

D_{2}

$D_2$

D_{1}

$D_1$

D_{2}

$D_2$

— डीडब्ल्यू

@DW (1) आप सही कह रहे हैं! फिक्स्ड। (२) जैसा कि आप इसे कहते हैं, मैं सहमत हूं, लेकिन मुझे लगता है कि विभिन्न विकल्पों के साथ यह कठिन है। मैं कुछ इस तरह का चित्रण कर रहा हूँ: , इसलिए प्रायिकता को प्रत्येक बिंदु पर रखता है । फिर प्रत्येक बिंदु पर भिन्न होता है (जाँच करें कि दूरी ), इसलिए यह प्रायिकता या को प्रत्येक बिंदु पर रखता है ।

n = 1 / 100 ϵ^{2}

$n = 1/100\epsilon^2$

D_{1}

$D_1$

100 ϵ^{2}

$100\epsilon^2$

D_{2}

$D_2$

10 ϵ^{2}

$10\epsilon^2$

L_{2}

$L_2$

ϵ

$\epsilon$

90 ϵ^{2}

$90\epsilon^2$

110 ϵ^{2}

$110\epsilon^2$

— usul

1

मुझे लगता है कि नमूने अभी भी पर्याप्त हैं। नमूने इकट्ठा करें , और कि प्रत्येक संभावित मूल्य कितनी बार होता है। के लिए , प्रत्येक 1,000,000 बार (एसटीडी देव होने चाहिए )। के लिए , प्रत्येक 900,000 बार (एसटीडी देव होने चाहिए ) या 1,100,000 बार (एसटीडी देव )। यह आसानी से दोनों के बीच अंतर करने के लिए पर्याप्त है, अगर हम जानते हैं कि हम या साथ काम कर रहे हैं , क्योंकि 1,000,000 और 1,100,000 के बीच का अंतर 100 मानक विचलन है, अर्थात, विशाल।

O (1 / ϵ^{2})

$O(1/\epsilon^2)$

m = 10^{6} n

$m=10^6n$

D_{1}

$D_1$

1000

$1000$

D_{2}

$D_2$

\approx 1000

$\approx 1000$

\approx 1000

$\approx 1000$

D_{1}

$D_1$

D_{2}

$D_2$

— DW

@ मैंने इसके बारे में और सोचा - आप सही हैं। यदि उनके साधन लगातार गुणक कारक से भिन्न होते हैं तो प्रति बिंदु नमूनों की एक निरंतर संख्या उन्हें भेद करना चाहिए। यह गुणात्मक नहीं additive कारक है जो मायने रखता है। यह दृष्टिकोण तब केवल का निचला भाग देता है ।

1 / ϵ^{2}

$1/\epsilon^2$

— यूएसएल