前置
性质
- 设联合多元高斯分布的随机向量 ,其均值向量 ,协方差矩阵 。则在给定 的条件下, 的条件分布 仍然是高斯分布,其均值与协方差公式为:
- 条件均值:
- 条件协方差:
证明
命题
设联合多元高斯分布的随机向量 ,其均值向量 ,协方差矩阵 。则在给定 的条件下, 的条件分布 仍然是高斯分布,其均值与协方差公式为:
- 条件均值:
- 条件协方差:
证明:
将 分解为两部分:一部分与 线性相关,另一部分 与 完全独立(不相关)。
构造一个新变量:
我们要通过选择合适的矩阵 ,使得 和 的协方差为 0(对于高斯分布,不相关即意味着独立)。
计算 与 的协方差:
根据已知的联合协方差矩阵块:
代入上式并令其等于 0:
所以,我们成功构造了独立变量:
接下来计算 的均值与方差
由于 是高斯随机变量的线性组合,它本身也是高斯分布。我们直接计算其均值和方差:
- 均值:
- 方差:
展开后利用 ,可简化为:
根据构造,我们可以把 写回成:
当给定 的具体观测值时:
- 因为 与 独立,所以给定 不会改变 的分布。
- 此时公式中的 变成了一个常数。
因此,在给定 的条件下, 的均值和方差为:
- 条件均值:
- 条件协方差(常数不影响方差):
Q.E.D.