चरों के विभाजन के विचरण की गणना कैसे करें

Question

मैं एक प्रयोग चला रहा हूं जहां मैं (स्वतंत्र) नमूनों को इकट्ठा कर रहा हूं, मैं नमूनों के प्रत्येक समूह के विचरण की गणना करता हूं और अब मैं सभी नमूनों के कुल विचरण का पता लगाने के लिए संयोजन करना चाहता हूं।

मुझे इसके लिए व्युत्पत्ति प्राप्त करने में कठिन समय लग रहा है क्योंकि मुझे शब्दावली पर यकीन नहीं है। मैं इसे एक आरवी के विभाजन के रूप में सोचता हूं।

तो मैं पता लगाना चाहते हैं से वी एक आर ( एक्स 1 ) , वी एक आर ( एक्स 2 ) , ..., और वी एक आर ( एक्स एन ) है, जहां एक्स = [ एक्स 1 , एक्स 2 , … , एक्स एन ] ।$Var(X)$$Var(X_1)$$Var(X_2)$$Var(X_n)$$X$$[X_1, X_2, \dots, X_n]$

संपादित करें: विभाजन समान आकार / कार्डिनैलिटी नहीं हैं, लेकिन विभाजन के आकार कुल नमूने में नमूनों की संख्या के बराबर हैं।

EDIT 2: यहाँ एक समानांतर गणना के लिए एक सूत्र है , लेकिन यह केवल विभाजन के मामले को दो सेटों में शामिल करता है, सेटों को नहीं ।$n$

Comments

क्या यह यहाँ मेरे प्रश्न के समान है: mathoverflow.net/questions/64120/…

उस अंतिम ब्रैकेट का क्या अर्थ है? और "कुल विचरण" से आपका क्या अभिप्राय है? क्या यह संयुक्त डेटासेट के विचरण के अलावा कुछ है?

— whuber

@ जो आखिरी ब्रैकेट है? "कुल विचरण" का अर्थ है कुल डेटासेट का विचरण।

— गैलमाइन

अभिव्यक्ति का मतलब कई चीजें हो सकती हैं (हालांकि पारंपरिक रूप से यह एक वेक्टर होगा): मैं एक स्पष्टीकरण की तलाश में था। $[X_1, X_2, \dots, X_n]$

— whuber

Answer 1

यदि सभी उप-नमूने का नमूना आकार समान है, तो सूत्र काफी सीधा है। आप था आकार के उप नमूने कश्मीर (के लिए कुल छ k नमूने), तो संयुक्त नमूने के विचरण मतलब पर निर्भर करता है ई जे और विचरण वी जे प्रत्येक उप नमूने की: वी एक आर ( एक्स 1 , … , एक्स जी के ) = के - $g$$k$$gk$$E_j$$V_j$जहांVar(Ej) काअर्थ है नमूना का विचरण।

$$Var(X_1,\ldots,X_{gk}) = \frac{k-1}{gk-1}(\sum_{j=1}^g V_j + \frac{k(g-1)}{k-1} Var(E_j)),$$ $Var(E_j)$

आर में एक प्रदर्शन:

> x <- rnorm(100)
> g <- gl(10,10)
> mns <- tapply(x, g, mean)
> vs <- tapply(x, g, var)
> 9/99*(sum(vs) + 10*var(mns))
[1] 1.033749
> var(x)
[1] 1.033749

यदि नमूना आकार समान नहीं हैं, तो सूत्र इतना अच्छा नहीं है।

EDIT: असमान नमूना आकारों के लिए सूत्र

$g$$k_j, j=1,\ldots,g$$n=\sum{k_j}$

$$Var(X_1,\ldots,X_{n}) = \frac{1}{n-1}\left(\sum_{j=1}^g (k_j-1) V_j + \sum_{j=1}^g k_j (\bar{X}_j - \bar{X})^2\right),$$ $\bar{X} = (\sum_{j=1}^gk_j\bar{X}_j)/n$ is the weighted average of all the means (and equals to the mean of all values).

Again, a demonstration:

> k <- rpois(10, lambda=10)
> n <- sum(k)
> g <- factor(rep(1:10, k))
> x <- rnorm(n)
> mns <- tapply(x, g, mean)
> vs <- tapply(x, g, var)
> 1/(n-1)*(sum((k-1)*vs) + sum(k*(mns-weighted.mean(mns,k))^2))
[1] 1.108966
> var(x)
[1] 1.108966

By the way, these formulas are easy to derive by writing the desired variance as the scaled sum of $(X_{ji}-\bar{X})^2$, then introducing $\bar{X}_j$: $[(X_{ji}-\bar{X}_j)-(\bar{X}_j-\bar{X})]^2$, using the square of difference formula, and simplifying.

Comments

thanks. Unfortunately, I can't guarantee that my partitions are all the same size. I'm running a massively parallel process where I need to calculate the variances of each partition in parallel then combine in the end, but the results/samples from each parallel process are not equal (it's a Monte Carlo simulation of received photons).

— gallamine

I can't +1 this enough, super helpful formula for parallel computation in a data warehouse environment

— Noah Yetter

Answer 2

This is simply an add-on to the answer of aniko with a rough sketch of the derivation and some python code, so all credits go to aniko.

derivation

Let $X_j \in X = \{X_1, X_2, \ldots, X_g\}$ be one of $g$ parts of the data where the number of elements in each part is $k_j = |X_j|$. We define the mean and the variance of each part to be

$$\begin{align*} E_j & = \mathrm{E}\left[X_j\right] = \frac{1}{k_j} \sum_{i=1}^{k_j} X_{ji}\\ V_j & = \mathrm{Var}\left[X_j\right] = \frac{1}{k_j-1} \sum_{i=1}^{k_j} (X_{ji} - E_j)^2 \end{align*}$$ respectively. If we set $n = \sum_{j=1}^g k_j$, the variance of the total dataset is given by: $$\begin{align*} \mathrm{Var}\left[X\right] & = \frac{1}{n-1} \sum_{j=1}^{g} \sum_{i=1}^{k_j} (X_{ji} - \mathrm{E}\left[X\right])^2 \\ & = \frac{1}{n-1} \sum_{j=1}^{g} \sum_{i=1}^{k_j} \big((X_{ji} - E_j) - (\mathrm{E}\left[X\right] - E_j)\big)^2 \\ & = \frac{1}{n-1} \sum_{j=1}^{g} \sum_{i=1}^{k_j} (X_{ji} - E_j)^2 - 2(X_{ji} - E_j)(\mathrm{E}\left[X\right] - E_j) + (\mathrm{E}\left[X\right] - E_j)^2 \\ & = \frac{1}{n-1} \sum_{j=1}^{g} (k_j - 1) V_j + k_j (\mathrm{E}\left[X\right] - E_j)^2. \end{align*}$$ If we have the same size $k$ for each part, i.e. $\forall j: k_j = k$, above formula simplifies to $$\begin{align*} \mathrm{Var}\left[X\right] & = \frac{1}{n-1} \sum_{j=1}^g (k-1) V_j + k(g-1) \mathrm{Var}\left[E_j\right] \\ & = \frac{k-1}{n-1} \sum_{j=1}^g V_j + \frac{k(g-1)}{k-1} \mathrm{Var}\left[E_j\right] \end{align*}$$

python code

The following python function works for arrays that have been splitted along the first dimension and implements the "more complex" formula for differently sized parts.

import numpy as np

def combine(averages, variances, counts, size=None):
    """
    Combine averages and variances to one single average and variance.

    # Arguments
        averages: List of averages for each part.
        variances: List of variances for each part.
        counts: List of number of elements in each part.
        size: Total number of elements in all of the parts.
    # Returns
        average: Average over all parts.
        variance: Variance over all parts.
    """
    average = np.average(averages, weights=counts)

    # necessary for correct variance in case of multidimensional arrays
    if size is not None:
        counts = counts * size // np.sum(counts, dtype='int')

    squares = (counts - 1) * variances + counts * (averages - average)**2
    return average, np.sum(squares) / (size - 1)

It can be used as follows:

# sizes k_j and n
ks = np.random.poisson(10, 10)
n = np.sum(ks)

# create data
x = np.random.randn(n, 20)
parts = np.split(x, np.cumsum(ks[:-1]))

# compute statistics on parts
ms = [np.mean(p) for p in parts]
vs = [np.var(p, ddof=1) for p in parts]

# combine and compare
combined = combine(ms, vs, ks, x.size)
numpied = np.mean(x), np.var(x, ddof=1)
distance = np.abs(np.array(combined) - np.array(numpied))
print('combined --- mean:{: .9f} - var:{: .9f}'.format(*combined))
print('numpied  --- mean:{: .9f} - var:{: .9f}'.format(*numpied))
print('distance --- mean:{: .5e} - var:{: .5e}'.format(*distance))