एक यादृच्छिक चर को अपने स्वयं के पीडीएफ या सीएफडी में प्लग करने के पीछे सहज अर्थ क्या है?

एक पीडीएफ आमतौर पर के रूप में लिखा है $f(x|\theta)$ , जहां लोअरकेस $x$ यादृच्छिक संस्करण के एक एहसास या परिणाम के रूप में माना जाता है $X$ जिसमें वह पीडीएफ है। इसी तरह, एक cdf के रूप में लिखा जाता है $F_X(x)$ , जिसका अर्थ है $P(X<x)$ । हालाँकि, कुछ परिस्थितियों में, जैसे कि फ़ंक्शन फ़ंक्शन की परिभाषा और यह व्युत्पन्न है कि cdf को समान रूप से वितरित किया गया है , यह प्रतीत होता है: यादृच्छिक चर $X$ अपने स्वयं के pdf / cdf में प्लग किया जा रहा है; ऐसा करने से, हमें एक नया यादृच्छिक चर मिलता है $Y=f(X|\theta)$ या $Z=F_X(X)$ । मुझे नहीं लगता कि हम इसे एक पीडीएफ या सीएफडी कह सकते हैं क्योंकि यह अब एक यादृच्छिक चर है, और बाद के मामले में, "नया शब्द" $F_X(X)=P(X<X)$ मुझे बकवास लगता है।

इसके अतिरिक्त, बाद के मामले में, मुझे यकीन नहीं है कि मैं इस बयान को समझता हूं "एक यादृच्छिक चर का cdf एक समान वितरण का अनुसरण करता है"। Cdf एक फंक्शन है, रैंडम वैरिएबल नहीं है और इसलिए इसमें डिस्ट्रीब्यूशन नहीं है । बल्कि, एक समान वितरण क्या होता है, फ़ंक्शन का उपयोग करके परिवर्तित किया गया यादृच्छिक चर है जो अपने स्वयं के cdf का प्रतिनिधित्व करता है, लेकिन मैं यह नहीं देखता कि यह परिवर्तन क्यों सार्थक है। वही स्कोर फ़ंक्शन के लिए जाता है, जहां हम फ़ंक्शन में एक यादृच्छिक चर को प्लग कर रहे हैं जो अपनी लॉग-लाइबिलिटी का प्रतिनिधित्व करता है।

मैं हफ्तों से अपने मस्तिष्क को इन परिवर्तनों के पीछे एक सहज अर्थ में लाने की कोशिश कर रहा हूं, लेकिन मैं फंस गया हूं। किसी भी जानकारी की काफी सराहना की जाएगी!

— mai
स्रोत

अंकन आपको भ्रमित कर सकता है। उदाहरण के लिए,

F_{X} (X)

$F_X(X)$ के रूप में किसी भी औसत दर्जे का कार्य को लागू करने के रूप में बिल्कुल सार्थक है

X

$X$ होने वाला। एक सही व्याख्या के लिए आपको एक यादृच्छिक चर के बारे में बहुत स्पष्ट होने की आवश्यकता होगी । किसी भी यादृच्छिक चर के लिए

X : Ω \to R,

$X:\Omega\to\mathbb{R},$ कार्यक्रम

Y : ω \to F_{X} (X (ω))

$Y:\omega\to F_X(X(\omega))$ के लिये

ω \in Ω

$\omega\in\Omega$ स्पष्ट रूप से एक यादृच्छिक चर है और इसलिए एक वितरण है

F_{Y} .

$F_Y.$ (प्रतीक के दो अलग-अलग अर्थों पर ध्यान दें)

X

$X$ "में"

F_{X} (X)

$F_X(X)$ । ")

F_{Y}

$F_Y$ समान है और यदि केवल

X

$X$ एक निरंतर वितरण है।

— whuber

यह वास्तव में एक माप-सिद्धांत का मुद्दा नहीं है: इसे समझने के लिए, आप "औसत दर्जे" के सभी संदर्भों को सुरक्षित रूप से अनदेखा कर सकते हैं। आप अपने स्नातक कैरियर में थोड़ा सेट सिद्धांत का अध्ययन करने से लाभान्वित हो सकते हैं: यही वह जगह है जहां ज्यादातर लोग सीखते हैं कि यह बुनियादी (और सर्वव्यापी) गणितीय शब्दावली और संकेतन वास्तव में क्या मतलब है, इसलिए इसे सीखना बंद नहीं करना सबसे अच्छा है।

— व्हिबर

हो सकता है कि एक शब्द इस तरह से एक पागल काम करना चाहिए: आरवी को अपने घनत्व में सम्मिलित करना !!? एक उदाहरण: कहते हैं कि आप X के घनत्व का अनुमान लगाना चाहते हैं, तब आप यह माप सकते हैं कि आप कितने अच्छे हैं

f (x) - f_{X} (x)

$f(x)-f_X(x)$ लेकिन यह "अनुचित" है: आप कभी भी अच्छा अनुमान प्राप्त नहीं करेंगे जब आपके पास बहुत अधिक डेटा उदाहरण नहीं होंगे (यानी असली घनत्व छोटा है)। इसलिए, एक "निष्पक्ष" मूल्यांकन वास्तविक घनत्व द्वारा शब्द का वजन होगा। यह कमोबेश आरवी को अपने स्वयं के घनत्व में सम्मिलित करने का प्रभाव है ...

— फैबियन वर्नर

आँकड़े

— फेबियन वर्नर

जवाबों:

जैसा कि आप कहते हैं, यादृच्छिक चर का कोई भी (औसत दर्जे का) कार्य अपने आप में एक यादृच्छिक चर है। यह सिर्फ सोचना आसान है $f(x)$ तथा $F(x)$ "किसी भी पुराने कार्य" के रूप में। वे सिर्फ कुछ अच्छे गुण होते हैं। उदाहरण के लिए, यदि $X$ एक मानक घातीय आरवी है, तो यादृच्छिक चर के बारे में विशेष रूप से अजीब कुछ भी नहीं है

Y = 1 - e^{- X}

$Y = 1 - e^{-X}$ ऐसा बस इतना ही होता है

Y = F_{X} (X)

$Y=F_X(X)$ । यह तथ्य कि

Y

$Y$ एक समान वितरण (जो दिया गया है

X

$X$ एक निरंतर आरवी है) के सीडीएफ को प्राप्त करके सामान्य मामले के लिए देखा जा सकता है

Y

$Y$ ।

\begin{aligned} F_{Y} (y) & = P (Y \leq y) \\ = P (F_{X} (X) \leq y) \\ = P (X \leq F_{X}^{- 1} (y)) \\ = F_{X} (F_{X}^{- 1} (y)) \\ = y \end{aligned}

$\begin{align*} F_Y(y) &= P(Y \leq y) \\ &= P(F_X(X) \leq y) \\ &= P(X \leq F^{-1}_X(y)) \\ &= F_X(F^{-1}_X(y)) \\ &= y \end{align*}$

जो स्पष्ट रूप से एक की सीडीएफ है $U(0,1)$ अनियमित चर। नोट: प्रमाण का यह संस्करण मानता है कि $F_X(x)$ कड़ाई से बढ़ रही है और निरंतर है, लेकिन अधिक सामान्य संस्करण दिखाने के लिए यह बहुत कठिन नहीं है।

— knrumsey
स्रोत

आपका निष्कर्ष सबसे सख्ती से बढ़ने के लिए गलत है

F_{X}

$F_X$ : आपने मान लिया है

F_{X} \circ F_{X}^{- 1}

$F_X\circ F_X^{-1}$ पहचान है - लेकिन यह हमेशा मामला नहीं है।

— whuber

हाँ धन्यवाद। यादृच्छिक चर

X

$X$ स्पष्ट रूप से निरंतर होना चाहिए। क्या मुझे अब कुछ याद आ रहा है?

— knrumsey

F_{X}

$F_X$ विशेषण होने की आवश्यकता नहीं है। उदाहरण के लिए, मामला जहां

X

$X$ अपने आप में एक समान वितरण है! की छवि का बंद होना

F_{X}

$F_X$ पूरे अंतराल की जरूरत है

[0, 1] .

$[0,1].$ यह अनिवार्य रूप से एक सतत वितरण की परिभाषा है।

— whuber

एक यादृच्छिक चर का रूपांतरण $X$ एक औसत दर्जे का कार्य द्वारा $T:\mathcal{X}\longrightarrow\mathcal{Y}$ एक और यादृच्छिक चर है $Y=T(X)$ कौन सा वितरण व्युत्क्रम प्रायिकता परिवर्तन द्वारा दिया गया है

P (Y \in A) = P (X \in {x; T (x) \in A}) \overset{def}{=} P (X \in T^{- 1} (A))

$\mathbb{P}(Y\in A) = \mathbb{P}(X\in\{x;\,T(x)\in A\})\stackrel{\text{def}}{=} \mathbb{P}(X\in T^{-1}(A))$ सभी सेटों के लिए

A

$A$ ऐसा है कि

{x; T (x) \in A}

$\{x;\,T(x)\in A\}$ के वितरण के तहत औसत दर्जे का है

X

$X$ ।

यह संपत्ति विशेष मामले पर लागू होती है जब $F_X:\mathcal{X}\longrightarrow[0,1]$ यादृच्छिक चर का cdf है $X$ : $Y=F_X(X)$ एक नया रैंडम वैरिएबल है जिसमें इसकी प्रतीतियों को लिया जा रहा है $[0,1]$ । जैसा होता है, $Y$ यूनिफ़ॉर्म के रूप में वितरित किया जाता है $\mathcal{U}([0,1])$ कब $F_X$ निरंतर है। (अगर $F_X$ बंद है, की सीमा है $Y=F_X(X)$ अब नहीं है $[0,1]$ । हमेशा ऐसा ही होता है $U$ एक समान है $\mathcal{U}([0,1])$ , फिर $F_X^{-}(U)$ के समान वितरण है $X$ , कहाँ पे $F_X^{-}$ के सामान्यीकृत व्युत्क्रम को दर्शाता है $F_X$ । जो एक औपचारिक तरीका है (ए) यादृच्छिक चर को मौलिक के औसत दर्जे का रूपांतर समझता है $\omega\in\Omega$ जबसे $X(\omega)=F_X^{-}(\omega)$ सीएफडी के साथ एक यादृच्छिक चर है $F_X$ और (बी) सीएफडी के साथ दिए गए वितरण से यादृच्छिक चर उत्पन्न करते हैं $F_X$ ।)

के विरोधाभास को समझने के लिए $\mathbb{P}(X\le X)$ , प्रतिनिधित्व ले लो

F_{X} (x) = P (X \leq x) = \int_{0}^{x} d F_{X} (x) = \int_{0}^{x} f_{X} (x) d λ (x)

$F_X(x)=\mathbb{P}(X\le x)=\int_0^x \text{d}F_X(x) = \int_0^x f_X(x)\,\text{d}\lambda(x)$ अगर

d λ

$\text{d}\lambda$ हावी उपाय है और

f_{X}

$f_X$ इसी घनत्व। फिर

F_{X} (X) = \int_{0}^{X} d F_{X} (x) = \int_{0}^{X} f_{X} (x) d λ (x)

$F_X(X)=\int_0^X \text{d}F_X(x) = \int_0^X f_X(x)\,\text{d}\lambda(x)$ इंटीग्रल की ऊपरी सीमा यादृच्छिक है क्योंकि एक यादृच्छिक चर है। (यह अभिव्यक्ति का एकमात्र यादृच्छिक हिस्सा है।) स्पष्ट विरोधाभास

P (X \leq X)

$\mathbb{P}(X\le X)$ संकेतन में भ्रम के कारण है। ठीक से परिभाषित होने के लिए, किसी को यादृच्छिक चर के दो स्वतंत्र संस्करणों की आवश्यकता होती है

X

$X$ ,

X_{1}

$X_1$ and

X_{2}

$X_2$ , in which case the random variable

F_{X} (X_{1})

$F_X(X_1)$ is defined by

F_{X} (X_{1}) = P^{X_{2}} (X_{2} \leq X_{1})

$F_X(X_1)=\mathbb{P}^{X_2}(X_2\le X_1)$ the probability being computed for the distribution of

X_{2}

$X_2$ .

The same remark applies to the transform by the density (pdf), $f_X(X)$ , which is a new random variable, except that it has no fixed distribution when $f_X$ varies. It is nonetheless useful for statistical purposes when considering for instance a likelihood ratio $f_X(X|\hat{\theta}(X))/f_X(X|\theta_0)$ which 2 x logarithm is approximately a $\chi^2$ random variable under some conditions.

And the same holds for the score function

\frac{\partial \log f_{X} (X | θ)}{\partial θ}

$\dfrac{\partial \log f_X(X|\theta)}{\partial \theta}$ which is a random variable such that its expectation is zero when taken at the true value of the parameter

θ

$\theta$ , i.e.,

E_{θ_{0}} [\frac{\partial \log f_{X} (X | θ_{0})}{\partial θ}] = \int \frac{\partial \log f_{X} (x | θ_{0})}{\partial θ} f_{X} (x | θ_{0}) d λ (x) = 0

$\mathbb{E}_{\theta_0}\left[ \dfrac{\partial \log f_X(X|\theta_0)}{\partial \theta}\right]=\int \dfrac{\partial \log f_X(x|\theta_0)}{\partial \theta}f_X(x|\theta_0)\,\text{d}\lambda(x)=0$

[Answer typed while @whuber and @knrumsey were typing their respective answers!]

— Xi'an
स्रोत

Could you explain in words what is the meaning/interpretation of the statement

F_{X} (X_{1}) = P (X_{2} \leq X_{1})

$F_X(X_1)=P(X_2 \leq X_1)$ ? It still seems to me that saying "the cdf of a r.v. has a uniform distribution" does not make any sense.

— mai

The cdf of a rv

F_{X}

$F_X$ is not the same thing as the transform of a rv

X

$X$ by the cdf of this rv, namely

F_{X} (X)

$F_X(X)$ .

— Xi'an

Yes, I agree that they are not the same thing. In the first instance it is not a r.v., while in the second case it is a r.v. Am I correct?

— mai

Yes, which relates to the different meanings of

X

$X$ in

F_{X} (X)

$F_X(X)$

— Xi'an

Could you explain what you mean by "expectation is zero when taken at the true value of the parameter

θ

$\theta$ ? It seems like

θ

$\theta$ is being treated as a variable here. What changes if

θ

$\theta$ is not at its "true value"?

— mai