矩与协方差矩阵

当随机变量的个数大于两个时,我们利用协方差矩阵来判定随机变量之间的相依关系。而矩是随机变量的各阶幂的期望,在以后统计部分的内容需要用到。

笔记下载:协方差矩阵

1,矩:

(1)原点矩:\(E(X^k)\) 称为 \(X\) 的 \(k\) 阶原点矩;

(2)中心矩: \(E\{(X-E(X))^k\}\) 称为 \(X\) 的 \(k\) 阶中心矩。

(3)混合原点矩:\(E(X^kY^l)\) 称为 \(X,Y\) 的 \(k+l\) 混合原点矩;

(4)混合中心矩:\(E\{(X-E(x))^k(Y-E(Y))^l\}\) 称为 \(X,Y\) 的 \(k+l\) 阶混合中心矩。

注意到:\(1\) 阶原点矩就是数学期望;\(2\) 阶中心矩就是方差,\(1+1\) 阶混合中心矩就是协方差。

2,协方差矩阵:设 \((X_1,X_2,\cdots,X_n)\) 为 \(n\) 维随机变量,

(1)二维情形:\(X_1,X_2\) 为二维随机变量,定义

\[c_{11}=E\{(X_1-E(X_1))\cdot (X_1-E(X_1))\}=D(X_1)\]

\[c_{12}=E\{(X_1-E(X_1))\cdot (X_2-E(X_2))\}=\text{Cov}(X_1,X_2)=c_{21}\]

\[c_{22}=E\{(X_2-E(X_2))\cdot (X_2-E(X_2))\}=D(X_2)\]

则 \(X_1,X_2\) 的协方差矩阵为

\[\begin{pmatrix}c_{11}&c_{12}\\ c_{21}&c_{22}\end{pmatrix}=\begin{pmatrix}D(X_1)&\text{Cov}(X_1,X_2)\\ \text{Cov}(X_1,X_2)&D(X_2)\end{pmatrix}\]

(2)\(n\) 维的协方差矩阵为

\[\begin{pmatrix}c_{11}&\cdots&c_{1n}\\ \vdots&&\vdots\\ c_{n1}&\cdots&c_{nn}\end{pmatrix}\]

其中

\[c_{ij}=E\{(X_i-E(X_i))\cdot(X_j-E(X_j))\}\]