分布函数的类型及分解

前置

• 相互奇异与Lebesgue分解定理

${\mathbb{R}}^d$ 上Borel 测度的类型及分解

• 定义 8.29 设 $\mu$ 是 ${\mathbb{R}}^d$ 上的 Borel 测度.

  1. 称 $\mu$ 是离散型测度 (measure of discrete type), 如果存在至多可数集 $A=\{{\mathbf{x}}_1,{\mathbf{x}}_2,\cdots \}\subset {\mathbb{R}}^d$, 使得 $\mu (A)=\mu ({\mathbb{R}}^d)$;
  2. 称 $\mu$ 是奇异连续测度 (singular continuous measure), 如果 $\mu \{\mathbf{x}\}=0$ 对任意的 $\mathbf{x}\in {\mathbb{R}}^d$ 都成立, 且 $\mu \perp \lambda$;
  3. 称 $\mu$ 是绝对连续测度 (absolutely continuous measure), 如果 $\mu \ll \lambda$.

• 定义 8.31 设 $F$ 是 ${\mathbb{R}}^d$ 上的 d.f., $P_F$ 是 $\mathcal{B}({\mathbb{R}}^d)$ 上由 $F$ 诱导的概率测度.

  1. 称 $F$ 是离散型分布函数, 如果 $P_F$ 是离散型测度;
  2. 称 $F$ 是奇异连续分布函数, 如果 $P_F$ 是奇异连续测度;
  3. 称 $F$ 是绝对连续分布函数, 如果 $P_F$ 是绝对连续测度.

1. 定理 8.30 设 $\mu$ 是 ${\mathbb{R}}^d$ 上的有限 Borel 测度, 则存在离散型测度 ${\mu }_d$, 奇异连续测度 ${\mu }_{sc}$ 及绝对连续测度 ${\mu }_{ac}$, 使得
   $\mu ={\mu }_d+{\mu }_{sc}+{\mu }_{ac}$
   并且这种分解是唯一的.

离散型分布

1. 定理 8.32 $F$ 是 $d$ 维离散型分布函数，当且仅当存在至多可数集 $$E=\{{\mathbf{x}}_n:n\in I\}\subset {\mathbb{R}}^d$$ （其中各 ${\mathbf{x}}_n$ 两两不同）以及函数 $p:E\to [0,1]$，满足 $$\sum _{n\in I}p({\mathbf{x}}_n)=1,$$ 且对任意 $\mathbf{x}\in {\mathbb{R}}^d$， $$F(\mathbf{x})=\sum _{n\in I}p({\mathbf{x}}_n)I_{[{\mathbf{x}}_n,\infty )}(\mathbf{x}).\text{\hspace{1em}(8.24)}$$ 此时 $$p({\mathbf{x}}_n)=P_F(\{{\mathbf{x}}_n\}),$$ 称 $p$ 为 $F$ 的分布列（probability mass function）。

若随机向量 $\mathbf{X}$ 的分布函数 $F$ 是离散型的，则称
$\mathbf{X}$ 为离散型随机向量；当 $d=1$ 时，也称其为离散型随机变量。
由定义，存在至多可数集
$E=\{{\mathbf{x}}_n:n\in I\}\subseteq {\mathbb{R}}^d$，使得
$P\{\mathbf{X}\in E\}=1$。令

$$p({\mathbf{x}}_n)=P\{\mathbf{X}={\mathbf{x}}_n\},n\in I,$$

则称 $p$ 为 $\mathbf{X}$ 的（联合）分布列。此时 $\mathbf{X}$ 的分布
$P_{\mathbf{X}}=P\circ {\mathbf{X}}^{-1}$ 可写为

$$P_{\mathbf{X}}=\sum _{n\in I}p({\mathbf{x}}_n){\delta }_{{\mathbf{x}}_n}.$$

对任意 Borel 可测函数 $g:{\mathbb{R}}^d\to \mathbb{R}$，若
$g(\mathbf{X})$ 可积，则

$$E[g(\mathbf{X})]=\sum _{n\in I}g({\mathbf{x}}_n)p({\mathbf{x}}_n).$$

绝对连续分布

定理 8.33（绝对连续分布与密度）

设 $F$ 是 ${\mathbb{R}}^d$ 上的分布函数，$P_F$ 是由 $F$ 诱导的概率测度，
$\lambda$ 是 ${\mathbb{R}}^d$ 上的 Lebesgue 测度。则下列条件等价：

1. $F$ 是绝对连续分布函数，即 $P_F\ll \lambda$；

2. 存在非负的 Lebesgue 可积函数 $f$，使得对任意
   $\mathbf{x}\in {\mathbb{R}}^d$，

   $$F(\mathbf{x})={\int }_{(-\infty ,\mathbf{x}]}f(\mathbf{t})\mathrm{d}\mathbf{t}.\text{\hspace{1em}(8.25)}$$

这里

$$(-\infty ,\mathbf{x}]=\prod _{i=1}^d(-\infty ,x_i].$$

函数 $f$ 称为 $F$ 的密度函数（density function）。等价地，

$$P_F(A)={\int }_{A}f\mathrm{d}\lambda ,A\in \mathcal{B}({\mathbb{R}}^d),\text{\hspace{1em}(8.26)}$$

即

$$f=\frac{\mathrm{d}{P}_F}{\mathrm{d}\lambda }(\lambda \text{-a.e.}).$$

因此，密度函数本质上是概率测度 $P_F$ 关于 Lebesgue 测度的
Radon–Nikodým 导数。它满足

$$f⩾0(\lambda \text{-a.e.}),{\int }_{{\mathbb{R}}^d}f\mathrm{d}\lambda =1,$$

并且只在 $\lambda$-几乎处处相等的意义下唯一。

证明

由 Radon–Nikodým 定理，$P_F\ll \lambda$ 当且仅当存在非负可积函数
$f$，使得式 (8.26) 成立。取
$A=(-\infty ,\mathbf{x}]$，便有

$$F(\mathbf{x})=P_F((-\infty ,\mathbf{x}])={\int }_{(-\infty ,\mathbf{x}]}f(\mathbf{t})\mathrm{d}\mathbf{t},$$

即得式 (8.25)。反之，若式 (8.25) 成立，定义
$\nu (A)={\int }_{A}f\mathrm{d}\lambda$，则 $\nu$ 与 $P_F$ 在所有
左下矩形 $(-\infty ,\mathbf{x}]$ 上取值相同。
由有限 Borel 测度的唯一性，$\nu =P_F$，故 $P_F\ll \lambda$。$\square$

积分公式

由式 (8.26)，$P_F=f\cdot \lambda$。直接应用
定理 8.3 可得：对任意 Borel 可测函数 $g$，
只要相应积分有定义，就有

$${\int }_{A}g\mathrm{d}{P}_F={\int }_{A}gf\mathrm{d}\lambda ,A\in \mathcal{B}({\mathbb{R}}^d).$$

随机向量的期望公式

若随机向量 $\mathbf{X}:\Omega \to {\mathbb{R}}^d$ 的分布
$P_{\mathbf{X}}$ 绝对连续，则称 $\mathbf{X}$ 为绝对连续随机向量，
并称

$$f_{\mathbf{X}}=\frac{\mathrm{d}{P}_{\mathbf{X}}}{\mathrm{d}\lambda }$$

为 $\mathbf{X}$ 的（联合）密度函数。

设 $g:{\mathbb{R}}^d\to \overline{\mathbb{R}}$ 为 Borel 可测函数。若$g(\mathbf{X})$ 积分存在，则

$$\begin{array}{rl}E[g(\mathbf{X})]& ={\int }_{\Omega }g(\mathbf{X}(\omega ))\mathrm{d}P(\omega )\\ & ={\int }_{{\mathbb{R}}^d}g(\mathbf{x})\mathrm{d}{P}_{\mathbf{X}}(\mathbf{x})\\ & ={\int }_{{\mathbb{R}}^d}g(\mathbf{x})f_{\mathbf{X}}(\mathbf{x})\mathrm{d}\mathbf{x}.\end{array}$$

证明

定理 8.32

记

$$(-\infty ,\mathbf{x}]=\prod _{i=1}^d(-\infty ,x_i].$$

“$\Rightarrow$” 设 $F$ 为离散型分布函数。由定义，存在至多可数集
$E=\{{\mathbf{x}}_n:n\in I\}$ 使 $P_F(E)=1$。令

$$p({\mathbf{x}}_n)=P_F(\{{\mathbf{x}}_n\}).$$

由可列可加性，

$$\sum _{n\in I}p({\mathbf{x}}_n)=P_F(E)=1.$$

此外，对任意 $\mathbf{x}\in {\mathbb{R}}^d$，

$$\begin{array}{rl}F(\mathbf{x})& =P_F((-\infty ,\mathbf{x}])\\ & =P_F((-\infty ,\mathbf{x}]\cap E)\\ & =\sum _{n\in I}p({\mathbf{x}}_n)I_{[{\mathbf{x}}_n,\infty )}(\mathbf{x}),\end{array}$$

即 (8.24) 成立。

“$\Leftarrow$” 反之，设 $E$ 与 $p$ 满足定理中的条件。在
$({\mathbb{R}}^d,\mathcal{B}({\mathbb{R}}^d))$ 上定义

$$Q=\sum _{n\in I}p({\mathbf{x}}_n){\delta }_{{\mathbf{x}}_n},$$

其中 ${\delta }_{{\mathbf{x}}_n}$ 是 ${\mathbf{x}}_n$ 处的 Dirac 测度。因为
$p⩾0$ 且 ${\sum }_{n\in I}p({\mathbf{x}}_n)=1$，所以 $Q$ 是概率测度，并且

$$\begin{array}{rl}Q((-\infty ,\mathbf{x}])& =\sum _{n\in I}p({\mathbf{x}}_n){\delta }_{{\mathbf{x}}_n}((-\infty ,\mathbf{x}])\\ & =\sum _{n\in I}p({\mathbf{x}}_n)I_{[{\mathbf{x}}_n,\infty )}(\mathbf{x})\\ & =F(\mathbf{x}).\end{array}$$

因此 $Q$ 与 $P_F$ 有相同的分布函数。由于分布函数唯一确定
${\mathbb{R}}^d$ 上的 Borel 概率测度，故 $P_F=Q$。于是

$$P_F(E)=Q(E)=1,$$

所以 $F$ 是离散型分布函数；同时，对每个 $n\in I$，

$$P_F(\{{\mathbf{x}}_n\})=Q(\{{\mathbf{x}}_n\})=p({\mathbf{x}}_n).\square$$

分布列与 Radon-Nikodým 导数

严格地说，这里的“计数测度”应取为集中在 $E$ 上的计数测度

$${\nu }_E=\sum _{n\in I}{\delta }_{{\mathbf{x}}_n},{\nu }_E(A)=\#(A\cap E),A\in \mathcal{B}({\mathbb{R}}^d).$$

由于 $E$ 至多可数，${\nu }_E$ 是 $\sigma$-有限测度。将 $p$ 在
${\mathbb{R}}^d\setminus E$ 上补充定义为 $0$，则对任意
$A\in \mathcal{B}({\mathbb{R}}^d)$，

$$\begin{array}{rl}{P}_F(A)& =\sum _{{\mathbf{x}}_n\in A}p({\mathbf{x}}_n)\\ & ={\int }_{A}p(\mathbf{u})\mathrm{d}{\nu }_E(\mathbf{u}).\end{array}$$

因此 $P_F\ll {\nu }_E$，且

$$\frac{\mathrm{d}{P}_F}{\mathrm{d}{\nu }_E}=p{\nu }_E\text{-a.e.}$$

因此，分布列是离散概率测度关于计数测度的 Radon-Nikodým 导数。