注:这里不特地注明诸如 $E(X)<+\infty$、$E(Y^2)<+\infty$ 这样的条件,即不严谨地默认随机变量的期望和方差是存在且有限的。 比如,若 $n$ 维随机变量 $X=(X_1,X_2,\cdots,X_n)$ 的每一个 $X_i$ 的二阶矩都存在($E(X_i^2)<+\infty$),我们才会考虑两两之间的关系(协方差矩阵)。
已知 $g(x_1,\cdots,x_n)$ 和 $X=(X_1,\cdots,X_n)$ 的联合分布函数 $F(x_1,\cdots,x_n)$,求 $E(Y)=E\left[g(x_1,\cdots,x_n)\right]$:
$$ \begin{aligned} E(Y):&=\int_{-\infty}^{+\infty}{yf_{Y}(y)\mathrm{d}y}\xlongequal[]{\text{Riemann-Stieltjes 积分}} \int_{-\infty}^{+\infty}{y\mathrm{d}F_Y(y)}\\ &= \left\{ \begin{array}{ll} \sum_{x_i}{g(x_1,\cdots,x_n)P(X_1=x_1,\cdots,X_n=x_n)}&,\text{ if }\text{离散型}\\ \int\cdots\int_{\mathbb R^n}{g(x_1,\cdots,x_n)f(x_1,\cdots,x_n)\mathrm{d}x_1\cdots\mathrm{d}x_n}&,\text{ if }\text{连续型} \end{array} \right. \end{aligned} $$
见教材、PPT 例题。
有二维随机变量 $(X,Y)$,且 $E(X^2),E(Y^2)<+\infty$,则有 $X$ 与 $Y$ 的协方差 $\sigma_{XY}$:
$$ \mathrm{Cov}(X,Y):=E(\{Y-E(Y)\}\{X-E(X)\})=E(XY)-E(X)E(Y) $$
称 $X$ 和 $Y$ 正相关、负相关、不相关,分别对应 $\sigma_{XY}>0,\,\sigma_{XY}<0,\,\sigma_{XY}=0$.
<aside> ⚠️
相关性 ≠ 独立性
$X$ 与 $Y$ 独立 $\implies$ $X$ 与 $Y$ 不相关,反之未必.
e.g. 若 $f_X(x)=\frac{1}{2}\exp(-|x|)$,有 $\mathrm{Cov}(X,|X|)=0$,且 $X$ 与 $|X|$ 不独立.
e.g. 服从单位圆上均匀分布的 $(X,Y)$.
特别地,二维正态分布和两点分布中,该命题反之是成立的的.
</aside>
=
\sum\limits_i \sum\limits_j a_i b_j \mathrm{Cov}(X_i,Y_j)$. 1. 不一定相互独立的随机变量线性组合的方差计算:
$$
\\begin{aligned}
D(\\sum\\limits_{i=1}^n a_i X_i)
&=\\mathrm{Cov}(\\sum\\limits_{i=1}^n a_i X_i,\\sum\\limits_{i=1}^n a_i X_i)\\\\
&=\\sum\\limits_{i=1}^n \\sum\\limits_{j=1}^n a_ia_j\\mathrm{Cov}(X_i,X_j)\\\\
&=\\sum\\limits_{i=1}^n{a_i^2DX_i} + \\sum\\limits_{i\\ne j} a_i a_j\\mathrm{Cov}(X_i,X_j)
\\end{aligned}
$$
2. 特别地,$D(X+Y)=D(X)+D(Y)+2\\mathrm{Cov}(X,Y)$.