क्या मैं नमूना आकार, और न्यूनतम और अधिकतम मूल्यों से एक सामान्य वितरण का पुनर्निर्माण कर सकता हूं? मैं मध्य-बिंदु का उपयोग प्रॉक्सी का मतलब करने के लिए कर सकता हूं

मुझे पता है कि यह थोड़ा रोपे हो सकता है, सांख्यिकीय रूप से, लेकिन यह मेरी समस्या है।

मेरे पास बहुत सी श्रेणी के डेटा हैं, जो एक चर का न्यूनतम, अधिकतम और नमूना आकार कहना है। इन आंकड़ों में से कुछ के लिए मेरे पास एक मतलब है, लेकिन बहुत से नहीं। मैं प्रत्येक श्रेणी की परिवर्तनशीलता को निर्धारित करने के लिए इन सीमाओं की एक दूसरे से तुलना करना चाहता हूं, और साधनों की तुलना करना भी चाहता हूं। मेरे पास यह मानने का एक अच्छा कारण है कि वितरण माध्य के चारों ओर सममित है, और यह कि डेटा का गौसियन वितरण होगा। इस कारण से मैं सोच रहा हूं कि वितरण के मध्य-बिंदु का उपयोग इस अर्थ के लिए एक प्रॉक्सी के रूप में कर सकता हूं, जब यह अनुपस्थित हो।

जो मैं करना चाहता हूं वह प्रत्येक श्रेणी के लिए एक वितरण का पुनर्निर्माण करना है, और फिर उस वितरण के लिए एक मानक विचलन या मानक त्रुटि प्रदान करने के लिए इसका उपयोग करें। मेरे पास एकमात्र जानकारी एक नमूना से अधिकतम और न्यूनतम देखी गई है, और मध्य बिंदु के लिए एक प्रॉक्सी के रूप में मतलब है।

इस प्रकार मैं आशा करता हूं कि प्रत्येक समूह के लिए भारित साधनों की गणना करने में सक्षम होने के लिए, और प्रत्येक समूह के लिए भिन्नता के गुणांक के रूप में अच्छी तरह से काम करने के लिए, मेरे पास डेटा और मेरी मान्यताओं (एक सममित और सामान्य वितरण) के आधार पर।

मुझे ऐसा करने के लिए R का उपयोग करने की योजना है, इसलिए किसी भी कोड की मदद की सराहना की जाएगी।

— green_thinlake
स्रोत

मैं सोच रहा था कि आप क्यों कहते हैं कि आपके पास न्यूनतम और अधिकतम और अधिकतम मूल्यों के लिए डेटा है; फिर बाद में आपको केवल अपेक्षित न्यूनतम और अधिकतम जानकारी है। यह कौन सा है - मनाया या अपेक्षित है?

— स्कॉर्टची - मोनिका को बहाल करना

क्षमा करें, यह मेरी गलती है। अधिकतम और न्यूनतम डेटा देखे जाते हैं (वास्तविक जीवन की वस्तुओं से मापा जाता है)। मैंने पद में संशोधन किया है।

— ग्रीन_थिनलेक

जवाबों:

एक नमूने के लिए न्यूनतम $x_{(1)}$ और अधिकतम $x_{(n)}$ लिए संयुक्त संचयी वितरण समारोह $n$ मतलब के साथ एक गाऊसी वितरण से $\mu$ और मानक विचलन $\sigma$ है

F (x_{(1)}, x_{(n)}; μ, σ) = Pr (X_{(1)} < x_{(1)}, X_{(n)} < x_{(n)}) = Pr (X_{(n)} < x_{(n)}) - Pr (X_{(1)} > x_{(1)}, X_{(n)} < x_{(n)} = Φ {(\frac{x_{(n)} - μ}{σ})}^{n} - {[Φ (\frac{x_{(n)} - μ}{σ}) - Φ (\frac{x_{(1)} - μ}{σ})]}^{n}

$F(x_{(1)},x_{(n)};\mu,\sigma) = \Pr(X_{(1)}<x_{(1)}, X_{(n)}<x_{(n)})\\ =\Pr( X_{(n)}<x_{(n)}) - \Pr(X_{(1)}>x_{(1)}, X_{(n)}<x_{(n)}\\ =\Phi\left(\tfrac{x_{(n)}-\mu}{\sigma}\right)^n - \left[\Phi\left(\tfrac{x_{(n)}-\mu}{\sigma}\right) -\Phi\left(\tfrac{x_{(1)}-\mu}{\sigma}\right)\right]^n$

जहां मानक गाऊसी CDF है। और संबंध में भेदभाव संयुक्त संभावना घनत्व फ़ंक्शन देता है $\Phi(\cdot)$ $x_{(1)}$ $x_{(n)}$

f (x_{(1)}, x_{(n)}; μ, σ) = n (n - 1) {[Φ (\frac{x_{(n)} - μ}{σ}) - Φ (\frac{x_{(1)} - μ}{σ})]}^{n - 2} \cdot ϕ (\frac{x_{(n)} - μ}{σ}) \cdot ϕ (\frac{x_{(1)} - μ}{σ}) \cdot \frac{1}{σ^{2}}

$f(x_{(1)},x_{(n)};\mu,\sigma) =\\ n(n-1)\left[\Phi\left(\tfrac{x_{(n)}-\mu}{\sigma}\right) - \Phi\left(\tfrac{x_{(1)}-\mu}{\sigma}\right)\right]^{n-2}\cdot\phi\left(\tfrac{x_{(n)}-\mu}{\sigma}\right)\cdot\phi\left(\tfrac{x_{(1)}-\mu}{\sigma}\right)\cdot\tfrac{1}{\sigma^2}$

कहाँ पे मानक गाऊसी पीडीएफ है। लॉग और ड्रॉपिंग शब्द जो पैरामीटर में नहीं हैं, लॉग-लाइबिलिटी फ़ंक्शन देता है $\phi(\cdot)$

ℓ (μ, σ; x_{(1)}, x_{(n)}) = (n - 2) \log [Φ (\frac{x_{(n)} - μ}{σ}) - Φ (\frac{x_{(1)} - μ}{σ})] + \log ϕ (\frac{x_{(n)} - μ}{σ}) + \log ϕ (\frac{x_{(1)} - μ}{σ}) - 2 \log σ

$\ell(\mu,\sigma;x_{(1)},x_{(n)}) =\\ (n-2)\log\left[\Phi\left(\tfrac{x_{(n)}-\mu}{\sigma}\right) - \Phi\left(\tfrac{x_{(1)}-\mu}{\sigma}\right)\right] + \log\phi\left(\tfrac{x_{(n)}-\mu}{\sigma}\right) + \log\phi\left(\tfrac{x_{(1)}-\mu}{\sigma}\right) - 2\log\sigma$

This doesn't look very tractable but it's easy to see that it's maximized whatever the value of $\sigma$ by setting $\mu=\hat\mu=\frac{x_{(n)}+x_{(1)}}{2}$ , i.e. the midpoint—the first term is maximized when the argument of one CDF is the negative of the argument of the other; the second & third terms represent the joint likelihood of two independent normal variates.

Substituting $\hat\mu$ into the log-likelihood & writing $r=x_{(n)}-x_{(1)}$ gives

ℓ (σ; x_{(1)}, x_{(n)}, \hat{μ}) = (n - 2) \log [1 - 2 Φ (\frac{- r}{2 σ})] - \frac{r^{2}}{4 σ^{2}} - 2 \log σ

$\ell(\sigma;x_{(1)},x_{(n)},\hat\mu)=(n-2)\log\left[1 - 2\Phi\left(\tfrac{-r}{2\sigma}\right)\right] - \frac{r^2}{4\sigma^2} -2\log{\sigma}$

This expression has to be maximized numerically (e.g. with optimize from R's stat package) to find $\hat\sigma$ . (It turns out that $\hat\sigma=k(n)\cdot r$ , where $k$ is a constant depending only on $n$ —perhaps someone more mathematically adroit than I could show why.)

Estimates are no use without an accompanying measure of precision. The observed Fisher information can be evaluated numerically (e.g. with hessian from R's numDeriv package) & used to calculate approximate standard errors:

I (μ) = - {\frac{\partial^{2} ℓ (μ; \hat{σ})}{(\partial μ)^{2}} |}_{μ = \hat{μ}}

$I(\mu)=-\left.\frac{\partial^2{\ell(\mu;\hat\sigma)}}{(\partial\mu)^2}\right|_{\mu=\hat\mu}$

I (σ) = - {\frac{\partial^{2} ℓ (σ; \hat{μ})}{(\partial σ)^{2}} |}_{σ = \hat{σ}}

$I(\sigma)=-\left.\frac{\partial^2{\ell(\sigma;\hat\mu)}}{(\partial\sigma)^2}\right|_{\sigma=\hat\sigma}$

It would be interesting to compare the likelihood & the method-of-moments estimates for $\sigma$ in terms of bias (is the MLE consistent?), variance, & mean-square error. There's also the issue of estimation for those groups where the sample mean is known in addition to the minimum & maximum.

— Scortchi - Reinstate Monica
स्रोत

+1. Adding the constant

2 \log (r)

$2\log(r)$ to the log-likelihood will not change the location of its maximum, but converts it into a function of

σ / r

$\sigma/r$ and

n

$n$ , whence the value of

σ / r

$\sigma/r$ that maximizes it is some function

n \to k (n)

$n\to k(n)$ . Equivalently,

\hat{σ} = k (n) r

$\hat\sigma=k(n)r$ as you claim. In other words, the relevant quantity to work with is the ratio of the standard deviation to the (observed) range, or equally well its reciprocal--which is closely related to the Studentized range.

— whuber

@whuber: Thanks! Seems obvious with hindsight. I'll incorporate that into the answer.

— Scortchi - Reinstate Monica

You need to relate the range to the standard deviation/variance.Let $\mu$ be the mean, $\sigma$ the standard deviation and $R=x_{(n)} - x_{(1)}$ be the range. Then for the normal distribution we have that $99.7$ % of probability mass lies within 3 standard deviations from the mean. This, as a practical rule means that with very high probability,

μ + 3 σ \approx x_{(n)}

$\mu + 3\sigma \approx x_{(n)}$ and

μ - 3 σ \approx x_{(1)}

$\mu - 3\sigma \approx x_{(1)}$

Subtracting the second from the first we obtain

6 σ \approx x_{(n)} - x_{(1)} = R

$6\sigma \approx x_{(n)} - x_{(1)}= R$ (this, by the way is whence the "six-sigma" quality assurance methodology in industry comes). Then you can obtain an estimate for the standard deviation by

\hat{σ} = \frac{1}{6} ({\bar{x}}_{(n)} - {\bar{x}}_{(1)})

$\hat \sigma = \frac 16 \Big(\bar x_{(n)} - \bar x_{(1)}\Big)$ where the bar denotes averages. This is when you assume that all sub-samples come from the same distribution (you wrote about having expected ranges). If each sample is a different normal, with different mean and variance, then you can use the formula for each sample, but the uncertainty / possible inaccuracy in the estimated value of the standard deviation will be much larger.

Having a value for the mean and for the standard deviation completely characterizes the normal distribution.

— Alecos Papadopoulos
स्रोत

That's neither a close approximation for small

n

$n$ nor an asymptotic result for large

n

$n$ .

— Scortchi - Reinstate Monica

@Stortchi Well, I didn't say that it is a good estimate -but I believe that it is always good to have easily implemented solutions, even very rough, in order to get a quantitative sense of the issue at hand, alongside the more sophisticated and efficient approaches like for example the one outlined in the other answer to this question.

— Alecos Papadopoulos

I wouldn't carp at "the expectation of the sample range turns out to be about 6 times the standard deviation for values of

n

$n$ from 200 to 1000". But am I missing something subtle in your derivation, or wouldn't it work just as well to justify dividing the range by any number?

— Scortchi - Reinstate Monica

@Scortchi Well, the spirit of the approach is "if we expect almost all realizations to fall within 6 sigmas, then it is reasonable to expect that the extreme realizations will be near the border" -that's all there is to it, really. Perhaps I am too used to operate under extremely incomplete information, and obliged to say something quantitative about it... :)

— Alecos Papadopoulos

I could reply that even more observations would fall within

10 σ

$10 \sigma$ of the mean, giving a better estimate

\hat{σ} = \frac{R}{10}

$\hat\sigma=\frac{R}{10}$ . I shan't because it's nonsense. Any number over

1.13

$1.13$ will be a rough estimate for some value of

n

$n$ .

— Scortchi - Reinstate Monica

It is straightforward to get the distribution function of the maximum of the normal distribution (see "P.max.norm" in code). From it (with some calculus) you can get the quantile function (see "Q.max.norm").

Using "Q.max.norm" and "Q.min.norm" you can get the median of the range that is related with N. Using the idea presented by Alecos Papadopoulos (in previous answer) you can calculate sd.

Try this:

N = 100000    # the size of the sample

# Probability function given q and N
P.max.norm <- function(q, N=1, mean=0, sd=1){
    pnorm(q,mean,sd)^N
} 
# Quantile functions given p and N
Q.max.norm <- function(p, N=1, mean=0, sd=1){
    qnorm(p^(1/N),mean,sd)
} 
Q.min.norm <- function(p, N=1, mean=0, sd=1){
    mean-(Q.max.norm(p, N=N, mean=mean, sd=sd)-mean)
} 

### lets test it (takes some time)
Q.max.norm(0.5, N=N)  # The median on the maximum
Q.min.norm(0.5, N=N)  # The median on the minimum

iter = 100
median(replicate(iter, max(rnorm(N))))
median(replicate(iter, min(rnorm(N))))
# it is quite OK

### Lets try to get estimations
true_mean = -3
true_sd = 2
N = 100000

x = rnorm(N, true_mean, true_sd)  # simulation
x.vec = range(x)                  # observations

# estimation
est_mean = mean(x.vec)
est_sd = diff(x.vec)/(Q.max.norm(0.5, N=N)-Q.min.norm(0.5, N=N))

c(true_mean, true_sd)
c(est_mean, est_sd)

# Quite good, but only for large N
# -3  2
# -3.252606  1.981593

— Vyga
स्रोत

Continuing this approach,

E (R) = σ \int_{- \infty}^{\infty} 1 - (1 - Φ (x))^{n} - Φ (x)^{n} d x = σ d_{2} (n)

$\operatorname{E} (R) = \sigma \int_{-\infty}^{\infty} 1-(1-\Phi(x))^n -\Phi(x)^n\, \mathrm{d} x = \sigma d_2(n)$ , where

R

$R$ is the range &

Φ (\cdot)

$\Phi(\cdot)$ the standard normal cumulative distribution function. You can find tabulated values of

d_{2}

$d_2$ for small

n

$n$ in the statistical process control literature, numerically evaluate the integral, or simulate for your

n

$n$ .

— Scortchi - Reinstate Monica