2026-07-30 · 把随机变量压到可见信息

0. 导读与元结构 (Orientation & Meta-structure)

起点问题。 在概率空间 $(\mathrm{\Omega },\mathcal{F},\mathbb{P})$ 上，随机变量 $X$ 含有完整信息；但观察者只能区分某个子 $\sigma$-代数 $\mathcal{G}\subseteq \mathcal{F}$ 中的事件。我们要找的不是一个数，也不是逐点猜测 $X(\omega )$，而是一个 $\mathcal{G}$-可测随机变量 $Y$，使它对每个可观察事件 $A\in \mathcal{G}$ 都保留 $X$ 的总量：

$${\int }_{A}Yd\mathbb{P}={\int }_{A}Xd\mathbb{P}.$$

这是一种 partial-information compression（部分信息压缩）：删除 $\mathcal{G}$ 看不见的波动，同时保留所有能被 $\mathcal{G}$ 事件测试出来的平均值。

对象与量词有四层：

1. $(\mathrm{\Omega },\mathcal{F},\mathbb{P})$ 给出完整事件与概率；
2. $\mathcal{G}\subseteq \mathcal{F}$ 指定可见信息；
3. 输入 $X\in L^1(\mathrm{\Omega },\mathcal{F},\mathbb{P})$ 是完整信息上的可积随机变量；
4. 输出 $\mathbb{E}[X\mid \mathcal{G}]$ 是一个按几乎必然相等识别的 $\mathcal{G}$-可测随机变量类，并须同时通过全部 $A\in \mathcal{G}$ 的积分测试。

前置知识是子 $\sigma$-代数、可测性、Lebesgue 积分、正负部与前一期的 Radon–Nikodym 定理。主导 proof engines 是：把积分限制成 $\mathcal{G}$ 上的测度、以水平集证明几乎处处唯一、以简单函数逼近推出“已知因子可提出”，再由同一积分刻画推出塔式性质。

本期位于三日 anchor micro-arc“信息与密度”的第 2 日。第 1 日把集合函数变成密度；今天把密度限制到一层信息并解释为投影；第 3 日将让信息随时间增长，进入鞅 (martingale)。

1. 核心概念、定理与谱系 (Concept, Theorem & Lineage)

1.1 子 $\sigma$-代数就是可提问的信息层

若 $\mathcal{G}\subseteq \mathcal{F}$ 是子 $\sigma$-代数，那么观察者只允许询问“$\omega$ 是否属于 $A$？”这类 $A\in \mathcal{G}$ 的问题。随机变量 $Y:\mathrm{\Omega }\to \mathbb{R}$ 对这层信息可见，当且仅当

$$\mathrm{\forall }B\in \mathcal{B}(\mathbb{R}),Y^{-1}(B)\in \mathcal{G},$$

即 $Y$ 是 $\mathcal{G}$-可测的。$\mathcal{G}$ 越小，允许的 $Y$ 越粗；若 $\mathcal{G}=\{\varnothing ,\mathrm{\Omega }\}$，则实值 $\mathcal{G}$-可测随机变量几乎处处只能是常数。

1.2 定义与存在—唯一性

定义（conditional expectation，条件期望）。 设 $(\mathrm{\Omega },\mathcal{F},\mathbb{P})$ 是概率空间，$\mathcal{G}\subseteq \mathcal{F}$ 是子 $\sigma$-代数，且 $X\in L^1(\mathbb{P})$。随机变量 $Y$ 称为 $X$ 关于 $\mathcal{G}$ 的条件期望，当且仅当：

1. $Y$ 是 $\mathcal{G}$-可测的；

2. $Y\in L^1(\mathbb{P})$；

3. 对每个 $A\in \mathcal{G}$，

   $${\int }_{A}Yd\mathbb{P}={\int }_{A}Xd\mathbb{P}.$$

其几乎处处等价类记为 $Y=\mathbb{E}[X\mid \mathcal{G}]$。

定理（存在与几乎处处唯一）。 对每个概率空间 $(\mathrm{\Omega },\mathcal{F},\mathbb{P})$、每个子 $\sigma$-代数 $\mathcal{G}\subseteq \mathcal{F}$ 及每个 $X\in L^1(\mathbb{P})$，上述 $Y$ 存在，并且任意两个版本都在 $\mathbb{P}$-几乎处处相等。

存在性架构。 写 $X=X^{+}-X^{-}$。在 $(\mathrm{\Omega },\mathcal{G})$ 上定义两个有限非负测度

$${\nu }^{\pm }(A)={\int }_A{X}^{\pm }d\mathbb{P},A\in \mathcal{G}.$$

若 $\mathbb{P}(A)=0$，则 ${\nu }^{\pm }(A)=0$，故 ${\nu }^{\pm }\ll \mathbb{P}{|}_{\mathcal{G}}$。Radon–Nikodym 定理给出非负、$\mathcal{G}$-可测的 $Y^{\pm }$，使

$$\mathrm{\forall }A\in \mathcal{G},{\nu }^{\pm }(A)={\int }_A{Y}^{\pm }d\mathbb{P}.$$

取 $A=\mathrm{\Omega }$ 可得

$$\mathbb{E}{Y}^{+}+\mathbb{E}{Y}^{-}=\mathbb{E}{X}^{+}+\mathbb{E}{X}^{-}<\mathrm{\infty }.$$

所以 $Y=Y^{+}-Y^{-}$ 可积；两式相减便得到全部 $\mathcal{G}$ 事件上的积分刻画。这里前一期的“测度有密度”被精确改造成今天的“完整变量有可见代理”。

唯一性架构。 若 $Y,Z$ 都满足定义，令 $D=Y-Z$。则 $D$ 是 $\mathcal{G}$-可测的，且

$$\mathrm{\forall }A\in \mathcal{G},{\int }_{A}Dd\mathbb{P}=0.$$

对每个 $n\ge 1$，集合 $A_n=\{D\ge 1/n\}$ 属于 $\mathcal{G}$，于是

$$0={\int }_{A_n}Dd\mathbb{P}\ge \frac{1}{n}\mathbb{P}(A_n),$$

故 $\mathbb{P}(A_n)=0$。由 $\{D>0\}=\bigcup _{n\ge 1}{A}_n$ 得 $\mathbb{P}(D>0)=0$；交换 $Y,Z$ 同理得到 $\mathbb{P}(D<0)=0$。因此 $Y=Z$ 几乎必然成立。

1.3 有限信息的可执行公式

设 $A_1,\dots ,A_m$ 是 $\mathrm{\Omega }$ 的有限可测分割，且每个 $\mathbb{P}(A_i)>0$；令 $\mathcal{G}=\sigma (A_1,\dots ,A_m)$。任何 $\mathcal{G}$-可测实值函数都在每个原子 $A_i$ 上为常数，因此

$$\mathbb{E}[X\mid \mathcal{G}]=\sum _{i=1}^m\frac{\mathbb{E}[X{\mathbf{1}}_{A_i}]}{\mathbb{P}(A_i)}{\mathbf{1}}_{A_i}\mathbb{P}\text{-a.s.}$$

系数正是 $X$ 在该信息块上的平均值。若某个原子概率为零，则其上的代表值可以任取；条件期望仍只按几乎处处意义确定。

两个端点由同一公式统一：

$$\mathbb{E}[X\mid \{\varnothing ,\mathrm{\Omega }\}]=\mathbb{E}X,\mathbb{E}[X\mid \mathcal{F}]=X\mathbb{P}\text{-a.s.}$$

1.4 三个结构律

以下恒等式都按几乎处处意义理解。

线性。 对 $a,b\in \mathbb{R}$ 与 $X,W\in L^1$，

$$\mathbb{E}[aX+bW\mid \mathcal{G}]=a\mathbb{E}[X\mid \mathcal{G}]+b\mathbb{E}[W\mid \mathcal{G}].$$

右端的可测性与可积性直接成立；对所有 $A\in \mathcal{G}$ 比较积分，再用唯一性即可。

已知因子提出。 若 $Z$ 有界且 $\mathcal{G}$-可测，则

$$\mathbb{E}[ZX\mid \mathcal{G}]=Z\mathbb{E}[X\mid \mathcal{G}].$$

证明先取 $Z={\mathbf{1}}_B$，其中 $B\in \mathcal{G}$；对任意 $A\in \mathcal{G}$，把测试集合换成 $A\cap B$。再由线性推广到简单函数，最后用有界简单函数逐点逼近 $Z$ 与 dominated convergence（控制函数为常数倍的 $|X|+|\mathbb{E}[X\mid \mathcal{G}]|$）通过极限。

塔式性质 (tower property)。 若 $\mathcal{H}\subseteq \mathcal{G}\subseteq \mathcal{F}$，则

$$\mathbb{E}[\mathbb{E}[X\mid \mathcal{G}]\mid \mathcal{H}]=\mathbb{E}[X\mid \mathcal{H}].$$

因为对每个 $A\in \mathcal{H}$ 也有 $A\in \mathcal{G}$，两边都在 $A$ 上积分为 ${\int }_{A}Xd\mathbb{P}$；$\mathcal{H}$-可测性与唯一性完成证明。塔式性质不是“括号消去规则”，而是嵌套信息上的一致性：先压到较细信息，再压到较粗信息，等于直接压到较粗信息。

若 $\phi :\mathbb{R}\to \mathbb{R}$ 是有限凸函数，且 $\phi (X)\in L^1(\mathbb{P})$，则条件 Jensen 不等式给出

$$\phi (\mathbb{E}[X\mid \mathcal{G}])\le \mathbb{E}[\phi (X)\mid \mathcal{G}].$$

证明机制与普通 Jensen 相同：用仿射支撑函数从下方刻画凸函数，再利用线性与已知因子规则；条件化不会凭空恢复被粗粒化丢掉的非线性波动。

1.5 Graduate / modern extension：$L^2$ 正交投影

令

$$L^2(\mathcal{G})=\{Z\in L^2(\mathrm{\Omega },\mathcal{F},\mathbb{P}):Z\text{ 有一个 }\mathcal{G}\text{-可测版本}\}.$$

这是 $L^2(\mathcal{F})$ 的闭线性子空间。若 $X\in L^2$，取 $Y=\mathbb{E}[X\mid \mathcal{G}]$。由条件 Jensen 对 $t\mapsto t^2$ 的应用，$Y\in L^2(\mathcal{G})$ 且 $\parallel Y{\parallel }_2\le \parallel X{\parallel }_2$。对任意有界 $Z\in L^2(\mathcal{G})$，已知因子提出与全期望性质给出

$$\mathbb{E}[(X-Y)Z]=0.$$

对一般 $Z\in L^2(\mathcal{G})$，用截断 $Z_n=(-n)\vee (Z\wedge n)$ 逼近，再由 Cauchy–Schwarz 不等式通过极限。因此

$$X-Y\perp L^2(\mathcal{G}),$$

也就是说

$$\mathbb{E}[X\mid \mathcal{G}]=P_{L^2(\mathcal{G})}X.$$

于是对每个 $Z\in L^2(\mathcal{G})$，Pythagoras 恒等式给出

$$\parallel X-Z{\parallel }_2^2=\parallel X-Y{\parallel }_2^2+\parallel Y-Z{\parallel }_2^2\ge \parallel X-Y{\parallel }_2^2.$$

条件期望因而是全部 $\mathcal{G}$-可测平方可积预测量中的唯一最小均方误差预测。测度论定义与 Hilbert 空间几何在这里相遇。

2. 固定模板习题 (Template Exercise)

题目。 在公平六面骰子的概率空间 $\mathrm{\Omega }=\{1,2,3,4,5,6\}$ 上令 $X(\omega )=\omega$。设

$$A_1=\{1,2\},A_2=\{3,4,5\},A_3=\{6\},$$

并令 $\mathcal{G}=\sigma (A_1,A_2,A_3)$。求 $\mathbb{E}[X\mid \mathcal{G}]$，并直接验证它对每个 $A\in \mathcal{G}$ 满足条件期望的积分刻画。

模板识别。 看到“有限样本空间 + 信息由一个分割生成”，立即把条件期望识别为 blockwise averaging（分块平均）：输出必须在每个信息原子上为常数，常数由该原子上的总期望除以原子概率确定。不要逐个枚举整个 $\sigma$-代数；先在原子上验证，再用不交可加性推广到原子的任意并。

分级提示。

1. 任何 $\mathcal{G}$-可测随机变量在 $A_1,A_2,A_3$ 上分别取常数。
2. 对每个 $i$，在测试集合 $A_i$ 上使用 $c_i\mathbb{P}(A_i)=\mathbb{E}[X{\mathbf{1}}_{A_i}]$。
3. 分别计算三个块内的算术平均值。
4. 每个 $A\in \mathcal{G}$ 都是若干个 $A_i$ 的不交并；把原子上的等式相加。

3. 大家之言 (Mathematician in Their Own Words)

语境。 Luca Trevisan 在 2019 年 4 月 25 日的课程博文 “Online Optimization Post 2: Constructing Pseudorandom Sets” 中，用 online optimization 构造小支撑伪随机分布。算法每一步需要从大量字符串中确定性地选出一个损失不高于随机平均的字符串；他在讨论如何寻找该字符串时写道：

“we can find a no-worse-than-average $s_t$ using the method of conditional expectations.”

“我们可以用条件期望方法找到一个不劣于平均水平的 $s_t$。”（中译）

这句话指向一个可执行 proof pattern，而非口号。设尚未固定的随机串各比特依次揭示，并令 ${\mathcal{G}}_k$ 表示前 $k$ 个比特已经确定的信息。若最终损失为 $L$，则

$$M_k=\mathbb{E}[L\mid {\mathcal{G}}_k]$$

是当前前缀下的剩余平均损失。下一比特的两个候选条件值以相应概率加权后等于 $M_k$；所以至少有一个候选值不大于 $M_k$。每一步都选这个分支，最终的确定性损失便不超过初始期望。条件期望在这里不是被动的“平均数”，而是随信息揭示保持一致、把随机存在性逐步变成确定构造的 invariant（不变量）。

4. 反例与边界 (Counterexample & Boundary)

考虑两点概率空间

$$\mathrm{\Omega }=\{-1,1\},\mathbb{P}(\{-1\})=\mathbb{P}(\{1\})=\frac{1}{2},$$

令 $X(\omega )=\omega$，并取平凡信息 $\mathcal{G}=\{\varnothing ,\mathrm{\Omega }\}$。逐项检查：

1. $X$ 不是 $\mathcal{G}$-可测的，因为 $\{X=1\}=\{1\}\notin \mathcal{G}$；

2. 每个实值 $\mathcal{G}$-可测随机变量都是常数；

3. 在唯一非空测试事件 $\mathrm{\Omega }$ 上，条件期望的常数 $c$ 必须满足

   $$c=\mathbb{E}X=\frac{-1+1}{2}=0,$$

   因而 $\mathbb{E}[X\mid \mathcal{G}]=0$；

4. 但 $X^2=1$ 处处成立，所以

   $$\mathbb{E}[X^2\mid \mathcal{G}]=1,(\mathbb{E}[X\mid \mathcal{G}]{)}^2=0.$$

因此下列两个邻近命题都失败：

$$\mathbb{E}[X\mid \mathcal{G}]=X\text{unless }X\text{ is }\mathcal{G}\text{-measurable},$$

以及

$$\mathbb{E}[X^2\mid \mathcal{G}]=(\mathbb{E}[X\mid \mathcal{G}]{)}^2.$$

这个例子精确暴露了边界：条件期望是保线性的投影，却不是保乘法的代数同态。它保留可见事件上的一阶积分，不保留被隐藏符号抵消的二阶波动。相应地，条件 Jensen 不等式在这里严格成立：$0<1$。只有乘上的因子本身已由 $\mathcal{G}$ 知道时，才有“已知因子提出”。

5. 今日一问与数学地图 (Question & Map)

设

$${\mathcal{G}}_0\subseteq {\mathcal{G}}_1\subseteq \cdots \subseteq {\mathcal{G}}_n\subseteq \mathcal{F},X\in L^2(\mathbb{P}),$$

并定义

$$M_k=\mathbb{E}[X\mid {\mathcal{G}}_k],D_k=M_k-M_{k-1}(1\le k\le n).$$

今日一问。 只用条件期望的积分刻画、塔式性质与已知因子提出，能否证明不同时间的增量两两正交，并推出

$$\mathbb{E}[M_n^2]=\mathbb{E}[M_0^2]+\sum _{k=1}^n\mathbb{E}[D_k^2]？$$

方向提示。 先问 $i<j$ 时 $D_i$ 对哪一层信息可测，再把 $\mathbb{E}[D_i{D}_j]$ 中较晚的增量条件化到 ${\mathcal{G}}_{j-1}$。不要先展开所有平方；真正的机制是“新增信息的创新部分与过去可见量正交”。

数学地图。

$$\text{Radon--Nikodym 密度}⟶\text{子 }\sigma \text{-代数上的条件期望}⟶L^2\text{ 正交投影}⟶\text{过滤与 Doob 鞅}⟶\text{停止时、鞅收敛与一致可积性}.$$

另一条现代支线是

$$\text{条件期望}⟶\text{正则条件概率与 disintegration}⟶\text{随机核、Bayesian 更新与随机分析}.$$

附录 A：习题完整解答 (Full Solution)

展开完整解答

可复用模板：有限信息分割上的“原子内平均 + 原子验证 + 不交并推广”。

因为 $\mathcal{G}=\sigma (A_1,A_2,A_3)$，每个 $\mathcal{G}$-可测随机变量都在各 $A_i$ 上为常数。设

$$Y=c_1{\mathbf{1}}_{A_1}+c_2{\mathbf{1}}_{A_2}+c_3{\mathbf{1}}_{A_3}.$$

若 $Y=\mathbb{E}[X\mid \mathcal{G}]$，则在测试事件 $A_i$ 上必须有

$$c_i\mathbb{P}(A_i)=\mathbb{E}[X{\mathbf{1}}_{A_i}],$$

所以

$$c_i=\frac{\mathbb{E}[X{\mathbf{1}}_{A_i}]}{\mathbb{P}(A_i)}.$$

公平骰子上每个点的概率为 $1/6$。对第一个原子，

$$\mathbb{P}(A_1)=\frac{2}{6},\mathbb{E}[X{\mathbf{1}}_{A_1}]=\frac{1+2}{6},$$

故

$$c_1=\frac{(1+2)/6}{2/6}=\frac{3}{2}.$$

同理，

$$c_2=\frac{(3+4+5)/6}{3/6}=4,c_3=\frac{6/6}{1/6}=6.$$

因此

$$\boxed{{\displaystyle \mathbb{E}[X\mid \mathcal{G}]=\frac{3}{2}{\mathbf{1}}_{\{1,2\}}+4{\mathbf{1}}_{\{3,4,5\}}+6{\mathbf{1}}_{\{6\}}}}.$$

还须验证定义，而不只套用公式。所得 $Y$ 显然 $\mathcal{G}$-可测，且有限样本空间上自动可积。对每个原子 $A_i$，上述 $c_i$ 的定义已经给出

$${\int }_{A_i}Yd\mathbb{P}={\int }_{A_i}Xd\mathbb{P}.$$

任取 $A\in \mathcal{G}$，存在指标集 $I\subseteq \{1,2,3\}$ 使

$$A=\underset{i\in I}{⨆}{A}_i.$$

利用有限不交可加性，

$${\int }_{A}Yd\mathbb{P}=\sum _{i\in I}{\int }_{A_i}Yd\mathbb{P}=\sum _{i\in I}{\int }_{A_i}Xd\mathbb{P}={\int }_{A}Xd\mathbb{P}.$$

故 $Y$ 满足所有测试事件上的积分刻画，确为 $\mathbb{E}[X\mid \mathcal{G}]$。模板的关键不是“算平均”四字，而是先识别信息原子，再证明原子上的积分等式足以控制整个生成的有限 $\sigma$-代数。

资料与来源 (Sources)

1. N. G. Ushakov (originator), Encyclopedia of Mathematics, “Conditional mathematical expectation,” current entry revision dated 14 June 2017. 用于核对条件期望的对象、$\mathcal{G}$-可测性、对全部 $B\in \mathcal{G}$ 的积分刻画、几乎处处唯一性及 Jensen 等基本性质：https://encyclopediaofmath.org/wiki/Conditional_mathematical_expectation
2. Luca Trevisan, “Online Optimization Post 2: Constructing Pseudorandom Sets,” in theory, 25 April 2019. 本期“大家之言”的原始博文；引文位于以条件期望方法逐步选择不劣于平均字符串的段落：https://lucatrevisan.wordpress.com/2019/04/25/online-optimization-post-2-constructing-pseudorandom-sets/