协方差与相关系数

协方差 (Covariance)

$Cov(X,Y)=E\left[(X-E(X))(Y-E(Y))\right]$ 计算公式： $Cov(X,Y)=E(XY)-E(X)E(Y)$

性质

1. $Cov(X,Y)=Cov(Y,X)$
2. $Cov(aX,bY)=abCov(X,Y)$
3. $Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)$ （分配律）
4. $Cov(X,X)=D(X)$

相关系数 (Correlation Coefficient)

描述 $X,Y$ 之间线性相关程度的量纲一的量。 ${\rho }_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}$

性质与考点

1. 有界性：$|{\rho }_{XY}|\le 1$。
2. 线性关系：$|{\rho }_{XY}|=1⟺Y=aX+b$ (a \ne 0)。
3. 不相关：${\rho }_{XY}=0⟺Cov(X,Y)=0⟺E(XY)=E(X)E(Y)$。

“不相关” vs “独立”

• 独立 $\Rightarrow$ 不相关：总是成立。
• 不相关 $\nRightarrow$ 独立：一般情况推不出（可能有非线性关系，如 $Y=X^2$）。
• 特例：若 $(X,Y)$ 服从二维正态分布，则“独立”与“不相关”等价。