Conditional Probability

Conditional Mean

这里我都把条件写作下标，即用 $\mathbb{E}_{X=x}[Y]$ 来表示 $\mathbb{E}[Y|X=x]$．看得更清楚一点．

条件期望的定义为

$$\mathbb{E}_{X=x}[Y]=\sum_{y\in S_Y}y\cdot \mathbb{P}_{X=x}(Y=y)$$

条件期望和条件方差也满足线性性质

$$\mathbb{E}_{X=x}[a+bY]=a+b\mathbb{E}_{X=x}[Y]$$

Conditional Variance

条件方差的定义为

$$\mathrm{Var}_{X=x}[Y]=\sum_{y\in S_Y} \Big( y - \mathbb{E}_{X=x}[Y] \Big)^2 \cdot \mathbb{P}_{X=x}(Y=y)$$

Linear Transformation

考虑 $W=aX+bY$，则有

$$\mathbb{E}[W]=a\mathbb{E}[X]+b\mathbb{E}[Y] \\ \mathrm{Var}[W]=a^2\sigma_X^2+b^2\sigma_Y^2+2ab\sigma_{XY}$$