注:这里不特地注明诸如 $E(X)<+\infty$、$E(Y^2)<+\infty$ 这样的条件,即不严谨地默认随机变量的期望和方差是存在且有限的。 比如,若 $n$ 维随机变量 $X=(X_1,X_2,\cdots,X_n)$ 的每一个 $X_i$ 的二阶矩都存在($E(X_i^2)<+\infty$),我们才会考虑两两之间的关系(协方差矩阵)。

6. 多维随机变量的数值特征

6.1 多维随机变量函数的期望

期望和方差的性质

  1. 线性组合的期望等于期望的线性组合(不要求相互独立).(分解思想)
  2. 相互独立的随机变量乘积的期望等于各自期望值的乘积.
  3. $X_i$ 相互独立,有 $D(\sum\limits_i{c_iX_i})=\sum\limits_ic_i^2D(X_i)$.

“化整为零”分解思想:将 $E(X)$ 分解为 $\sum_i{E(X_i)}$ 进行计算

见教材、PPT 例题。

6.2 协方差与相关系数

协方差、相关性

有二维随机变量 $(X,Y)$,且 $E(X^2),E(Y^2)<+\infty$,则有 $X$ 与 $Y$ 的协方差 $\sigma_{XY}$:

$$ \mathrm{Cov}(X,Y):=E(\{Y-E(Y)\}\{X-E(X)\})=E(XY)-E(X)E(Y) $$

称 $X$ 和 $Y$ 正相关负相关不相关,分别对应 $\sigma_{XY}>0,\,\sigma_{XY}<0,\,\sigma_{XY}=0$.

<aside> ⚠️

相关性 ≠ 独立性

$X$ 与 $Y$ 独立 $\implies$ $X$ 与 $Y$ 不相关,反之未必.

e.g. 若 $f_X(x)=\frac{1}{2}\exp(-|x|)$,有 $\mathrm{Cov}(X,|X|)=0$,且 $X$ 与 $|X|$ 不独立.

e.g. 服从单位圆上均匀分布的 $(X,Y)$.

特别地,二维正态分布和两点分布中,该命题反之是成立的的.

</aside>

协方差的性质

  1. $\mathrm{Cov}(X,Y)=E(XY)-E(X)E(Y)$.
  2. $\mathrm{Cov}(X,X)=D(X)$.
  3. 双线性:$\mathrm{Cov}(\sum\limits_i a_iX_i,\sum\limits_j b_jY_j)

=

\sum\limits_i \sum\limits_j a_i b_j \mathrm{Cov}(X_i,Y_j)$. 1. 不一定相互独立的随机变量线性组合的方差计算:

    $$
    \\begin{aligned}
    
    D(\\sum\\limits_{i=1}^n a_i X_i)
    &=\\mathrm{Cov}(\\sum\\limits_{i=1}^n a_i X_i,\\sum\\limits_{i=1}^n a_i X_i)\\\\
    &=\\sum\\limits_{i=1}^n \\sum\\limits_{j=1}^n a_ia_j\\mathrm{Cov}(X_i,X_j)\\\\
    &=\\sum\\limits_{i=1}^n{a_i^2DX_i} + \\sum\\limits_{i\\ne j} a_i a_j\\mathrm{Cov}(X_i,X_j)
    \\end{aligned}
    $$
    
2. 特别地,$D(X+Y)=D(X)+D(Y)+2\\mathrm{Cov}(X,Y)$.