中心极限定理

中心极限定理说明的是,当伯努利试验次数无限增多的时候,随机变量的分布以正态分布为极限(二项式分布以正态分布为极限)。或者独立的随机变量序列的和函数以正态分布为极限。一般的来中心极限定理说明的是,随机变量标准化以后(随机变量减去它的期望再除以它的标准差),以标准正态分布为极限。

笔记下载:中心极限定理

我们仅仅叙述这些定理而不作证明。

1,独立同分布的中心极限定理:若 \(X_1,X_2,\cdots,X_n,\cdots\) 为独立同分布的随机变量序列,\(E(X_i)=\mu, D(X_i)=\sigma^2, i=1,2,\cdots\),则

\[Y_n=\frac{\sum_{i=1}^nX_i-n\mu}{\sqrt{n}\sigma}\]

以标准正态分布为极限,即

\[\lim_{n\to\infty}P\left\{\frac{\sum_{i=1}^nX_i-n\mu}{\sqrt{n}\sigma}\le x\right\}=\Phi(x)\]

2,李雅普诺夫中心极限定理:设 \(X_1,X_2,\cdots,X_n,\cdots\) 为随机变量序列,各自具有期望 \(E(X_i)=\mu_i, D(X_i)=\sigma_i^2\),则

\[Y_n=\frac{\sum_{i=1}^nX_i-\sum_{i=1}^n\mu_i}{\sqrt{\sum_{i=1}^n\sigma_i^2}}\]

以正态分布为极限,即

\[\lim_{n\to\infty}P\left\{\frac{\sum_{i=1}^nX_i-\sum_{i=1}^n\mu_i}{\sqrt{\sum_{i=1}^n\sigma_i^2}}\le x\right\}=\Phi(x)\]

3,棣莫弗-拉普拉斯中心极限定理:设 \(X_n\) 为服从二项式分布 \(X\sim B(n,p)\) 的随机变量序列,则

\[Y_n=\frac{X_n-np}{\sqrt{np(1-p)}}\]

以正态分布为极限,即

\[\lim_{n\to\infty}P\left\{\frac{X_n-np}{\sqrt{np(1-p)}}\le x\right\}=\Phi(x)\]

这些定理的形式看起来都复杂,但是仔细观察,实际上就是将随机变量像一般正态分布标准化一样, \(Y=\frac{X-\mu}{\sigma}\sim N(0,1)\),那么它的极限就是标准正态分布,这就是中心极限定律的结论。

就像最后一个定理,\(X\sim B(n,p)\),它的期望就是 \(E(X)=np\),方差为 \(D(X)=np(1-p)\),标准差为 \(\sqrt{D(X)}=\sqrt{np(1-p)}\),像正态分布标准化一样,先减去它的期望,再除以标准差,就是标准正态分布

\[\frac{X_n-np}{\sqrt{np(1-p)}}\sim N(0,1), n\to \infty\]