प्रायिकता उपायों के बीच रेडॉन-निकोडिम व्युत्पन्न की व्याख्या?

मैं कुछ बिंदुओं पर देखा है दूसरे के लिए सम्मान के साथ एक संभावना माप की रेडॉन-Nikodym व्युत्पन्न का उपयोग, सबसे विशेष रूप से Kullback-Leibler विचलन, जहां यह कुछ मनमाना पैरामीटर के लिए एक मॉडल की संभावना उपाय के व्युत्पन्न है में $\theta$ साथ असली पैरामीटर के संबंध में $\theta_0$ :

\frac{d P_{θ}}{d P_{θ_{0}}}

$\frac {dP_\theta}{dP_{\theta_0}}$

: जहां इन datapoints के स्थान पर दोनों संभावना उपायों एक पैरामीटर मान पर सशर्त हैं $P_\theta(D)=P(D|\theta)$ ।

कुल्लब-लिबलर विचलन में इस तरह के रैडॉन-निकोडियम व्युत्पन्न की व्याख्या, या दो प्रायिकता उपायों के बीच आमतौर पर क्या है?

— user56834
स्रोत

सबसे पहले, हम संभावना उपायों, बस की जरूरत नहीं है -finiteness। तो चलो एक औसत दर्जे का स्थान हो और जाने और हो पर -finite उपायों । $\sigma$ $\mathcal M = (\Omega, \mathscr F)$ $\mu$ $\nu$ $\sigma$ $\mathcal M$

रेडॉन-Nikodym प्रमेय कहा गया है कि अगर सभी के लिए , द्वारा सूचित किया जाता , तो एक गैर नकारात्मक बोरेल समारोह मौजूद है ऐसी है कि $\mu(A) = 0 \implies \nu(A) = 0$ $A \in \mathscr F$ $\mu \gg \nu$ $f$ सभी के लिए ।

ν (A) = \int_{A} f d μ

$\nu(A) = \int_A f \,\text d\mu$

A \in F

$A \in \mathscr F$

यहां बताया गया है कि मुझे यह कैसे पसंद है। सबसे पहले, पर किसी भी दो उपायों के लिए , चलो परिभाषित लिए मतलब $\mathcal M$ $\mu \sim \nu$ । यह एक वैध समानता संबंध है और हम कहते हैं कि और इस मामले मेंबराबरहैं। यह उपायों के लिए एक समझदार तुल्यता क्यों है? उपाय केवल कार्य हैं लेकिन उनके डोमेन कल्पना करने के लिए मुश्किल हैं। क्या होगा अगर दो सामान्य कार्य पास यह संपत्ति है, यानी $\mu(A) = 0 \iff \nu(A) = 0$ $\mu$ $\nu$ $f, g :\mathbb R \to \mathbb R$ ? ठीक है, को परिभाषित और ध्यान दें कि के समर्थन पर कहीं भी हमारे पास , और के समर्थन के बाहर (के बाद से $f(x) = 0 \iff g(x) = 0$

h (x) = {\begin{cases} f (x) / g (x) & g (x) \neq 0 \\ π^{e} & o.w. \end{cases}

$h(x) = \begin{cases} f(x) / g(x) & g(x) \neq 0 \\ \pi^e & \text{o.w.}\end{cases}$

g

$g$

g h = f

$gh = f$

g

$g$

g h = 0 \cdot π^{e} = 0 = f

$gh = 0 \cdot \pi^e = 0 = f$

f

$f$ और

शेयर सपोर्ट करता है) इसलिए

हमें

में rescale

देता है । @Whuber अंक बाहर के रूप में, यहाँ कुंजी विचार नहीं है कि

किसी भी तरह "सुरक्षित" करते हैं या अनदेखी करने के लिए है, बल्कि जब

तो यह बात नहीं क्या करता है

करता है तो हम बस इसे मनमाने ढंग से परिभाषित कर सकते हैं (जैसे होने के लिए

जो कोई विशेष महत्व यहाँ है) और चीजें अभी भी काम करते हैं। इसके अलावा इस मामले में हम अनुरूप समारोह को परिभाषित कर सकते

के साथ

ताकि

।

g

$g$

h

$h$

g

$g$

f

$f$

0 / 0

$0/0$

g = 0

$g = 0$

h

$h$

π^{e}

$\pi^e$

h^{'}

$h'$

g / f

$g / f$

f h^{'} = g

$fh' = g$

इसके बाद मान लीजिए कि , लेकिन दूसरी दिशा आवश्यक नहीं है। इस का मतलब है की हमारे पिछले परिभाषा यह है कि अभी भी काम करता है, लेकिन अब के बाद से यह द्वारा वास्तविक डिवीजनों होगा काम नहीं करता है । इस प्रकार हम rescale कर सकते हैं में के माध्यम से , लेकिन हम दूसरी दिशा नहीं जा सकते क्योंकि हम rescale कुछ नहीं करनी कुछ गैर शून्य में। $g(x) = 0 \implies f(x) = 0$ $h$ $h'$ $0$ $g$ $f$ $gh = f$ $0$

अब और लौटते हैं और अपने RND को दर्शाते हैं । तो , तो यह सहज अर्थ यह है कि एक दूसरे में विपरीत पुनः पैमाना किया जा सकता है, और इसके। लेकिन आम तौर पर हम केवल (एक और अधिक सार उपाय में यानी rescale एक अच्छा Lebesgue उपाय की तरह उपाय) इस के साथ एक ही दिशा में जाने के लिए इसलिए हम केवल जरूरत चाहते उपयोगी काम करने के लिए। यह rescaling RND का दिल है। $\mu$ $\nu$ $f$ $\mu \sim \nu$ $\mu \gg \nu$

टिप्पणी में @ whuber के दृष्टिकोण में लौटने के बाद वहाँ के लिए एक अतिरिक्त सूक्ष्मता है क्यों यह सुरक्षित है के मुद्दे की अनदेखी करने के । क्योंकि उपायों के साथ उस के हम केवल कभी चीजों को उपाय के सेट करने के लिए तय कर रहे हैं इसलिए किसी भी सेट पर साथ हम सिर्फ हमारे RND किसी भी मान ले कर सकते हैं, का कहना है कि । इसलिए यह नहीं है कि बल्कि कहीं भी है कि हम के लिए होता है आंतरिक रूप से सुरक्षित है, लेकिन उपाय का एक सेट है wrt $0/0$ $0$ $A$ $\mu(A) = 0$ $1$ $0/0$ $0/0$ $0$ $\mu$ इसलिए हम बस अपने आरएनडी को कुछ भी प्रभावित किए बिना वहां कुछ अच्छा होने के लिए परिभाषित कर सकते हैं।

उदाहरण के लिए, मान लीजिए कुछ के लिए । तब $k \cdot \mu = \nu$ $k > 0$ तो हमारे पास वह

ν (A) = \int_{A} d ν = \int_{A} k d μ

$\nu(A) = \int_A \,\text d\nu = \int_A k \,\text d \mu$

RND है (यह उपाय प्रमेय के परिवर्तन से अधिक औपचारिक रूप से उचित ठहराया जा सकता है)। यह अच्छा है क्योंकि हमने स्केलिंग कारक को ठीक से प्राप्त किया है।

f (x) = k = \frac{d ν}{d μ}

$f(x) = k = \frac{\text d\nu}{\text d\mu}$

यहाँ एक दूसरा उदाहरण दिया गया है कि कैसे माप सेट पर RND को बदलना उन्हें प्रभावित नहीं करता है। चलो , यानी यह मानक सामान्य पीडीएफ प्लस है यदि इनपुट तर्कसंगत है, और इस घनत्व के साथ एक आर.वी. हो। यह साधन $0$ $f(x) = \varphi(x) + 1_{\mathbb Q}(x)$ $1$ $X$

P (X \in A) = \int_{A} (φ + 1_{Q}) d λ

$P(X \in A) = \int_A \left(\varphi + 1_{\mathbb Q}\right) \,\text d\lambda$

तो वास्तव में

अभी भी एक मानक गाऊसी आर.वी. इसने

को

परबदलने के लिए किसी भी तरह से वितरण को प्रभावित नहीं किया हैक्योंकि यह माप

wrt

का एक सेट है।

= \int_{A} φ d λ + λ (Q) = \int_{A} φ d λ

$= \int_A \varphi \,\text d\lambda + \lambda\left(\mathbb Q \right) =\int_A \varphi \,\text d\lambda$

X

$X$

X

$X$

Q

$\mathbb Q$

0

$0$

λ

$\lambda$

$X \sim \text{Pois}(\eta)$ $Y \sim \text{Bin}(n, p)$ $P_X$ $P_Y$ $c$ $c$ $c(A) = 0 \iff A = \emptyset$

\frac{d P_{Y}}{d P_{X}} = \frac{d P_{Y} / d c}{d P_{X} / d c} = \frac{f_{Y}}{f_{X}}

$\frac{\text dP_Y}{\text dP_X} = \frac{\text dP_Y / \text dc}{\text dP_X / \text dc} = \frac{f_Y}{f_X}$

P_{Y} (A) = \int_{A} d P_{Y}

$P_Y(A) = \int_A \,\text dP_Y$

= \int_{ए} \frac{घ {पी}_{Y}}{घ {पी}_{एक्स}} घ {पी}_{एक्स} = \int_{ए} \frac{घ {पी}_{Y}}{घ {पी}_{एक्स}} \frac{घ {पी}_{एक्स}}{घ सी} घ सी

$= \int_A \frac{\text dP_Y}{\text dP_X}\,\text dP_X = \int_A \frac{\text dP_Y}{\text dP_X}\frac{\text dP_X}{\text dc}\,\text dc$

= \underset{y \in ए}{Σ} \frac{घ {पी}_{Y}}{घ {पी}_{एक्स}} (y) \frac{घ {पी}_{एक्स}}{घ सी} (y) = \underset{y \in ए}{Σ} \frac{च_{Y} (y)}{च_{एक्स} (y)} च_{एक्स} (y) = \underset{y \in ए}{Σ} च_{Y} (y) ।

$= \sum_{y \in A} \frac{\text dP_Y}{\text dP_X}(y)\frac{\text dP_X}{\text dc}(y) = \sum_{y \in A} \frac{f_Y(y)}{f_X(y)}f_X(y) = \sum_{y \in A} f_Y(y).$

$P(X = n) > 0$ $n$ $Y$

$P \ll Q$ $\mu$ $\frac{\text dP}{\text dQ} = \frac{\text dP / \text d\mu}{\text dQ / \text d\mu} := p / q$

— जेएलडी
स्रोत

0 / 0

$0/0$

0 / 0

$0/0$

@ टिप्पणी के लिए बहुत धन्यवाद, जो वास्तव में मदद करता है। मैं पता करने के लिए अद्यतन करने के लिए कोशिश की है कि

— जेएलडी