2026-10-15 · 独立性可以退场,条件公平性不能
0. 导读与元结构 (Orientation & Meta-structure)
2026 年 10 月 15 日,星期四。 Develata,今天的起点是:独立和的指数尾界很好用,但逐步运行的算法、逐条揭示的图,其增量往往依赖过去。失去独立性以后,什么仍足以阻止偏差累积成线性规模?
答案不是“每一步平均为零”,而是“看见过去之后,每一步的条件平均仍为零”,再加上每步幅度的确定性限制。
对象分三层:概率空间与滤过记录信息;适应过程记录预测值;确定性常数 控制随机增量。结论对每个固定时域 、每个偏差阈值 成立,不能自动理解成对全部时间同时成立。
前置知识:条件期望、塔式性质、凸函数、Markov 不等式。证明引擎:凸性控制单步指数矩 → 条件化逐步消去依赖 → 优化指数参数。目的地是揭示鞅 (exposure martingale)、随机图集中,以及用实际条件方差替代最坏幅度的改进。
这是三日 anchor 微弧的第 1/3 日:今天建立有界鞅差的基础界;后续拟讨论坐标敏感度的精细版本,再进入方差敏感的界。相对 7 月 31 日 的鞅与可选停止,今天的数学增量是定量尾概率,不是期望保持或收敛定理。此前 anchor 占比为 ,本弧也自然补回主线。
1. 核心概念、定理与谱系 (Concept, Theorem & Lineage)
1.1 需要保留的不是独立,而是条件消去
在概率空间 上,固定 与滤过 。实值过程 是鞅 (martingale),指
令 ,则鞅条件恰为 。独立中心化增量是其特例,但并非唯一来源。例如取独立对称符号 ,令 、 平凡。任意 -可测的 都给出 的条件中心化;幅度选择可以依赖整个过去,所得增量也可以不独立。
1.2 单步引理:指数的弦,比指数本身容易平均
引理。 设 是子 -代数, 是实随机变量, 为确定性常数,满足 a.s. 及 。则
证明。 时显然。 时,对每个 ,凸性给出
条件平均消去线性项。又由 ,
每个假设都有明确岗位:有界性允许用一条固定弦;条件中心化消去弦的斜率项。
1.3 Azuma–Hoeffding 不等式
定理。 上述鞅满足 a.s.,且存在确定性 ,使
记 。若 ,则对每个 ,
若 ,则 a.s.,无需写含零分母的公式。[1, §1]
证明架构,保留关键等式。 对固定 ,因为 对 可测,
递推得 。这里没有把依赖增量的指数矩直接相乘;相乘的是每次条件估计产生的确定性上界。
对 ,Markov 不等式给出
取 ,得到单边界;再对 应用相同论证并取并集,即得双边界。
推论。 若全部 且 ,则对任意 ,
这说明线性偏差被指数压低;它只给出 量级的上侧控制,不证明真实涨落一定达到该尺度。
1.4 从独立坐标,制造并不独立的预测增量
为避免条件分布版本问题,先取有限非空集合 、独立随机变量 、函数 。假设存在确定性 ,使
令 、,并取 平凡。塔式性质给出鞅;,。
固定一个具有正概率的前缀 ,定义
独立性保证不同 使用同一未来分布。逐点坐标界经平均后给出 。而 、 是它对 的平均,故 。于是
此式用于 且 ;若全部 ,则 在乘积集合上为常数,偏差概率为零。这是一个有效但非最优常数的有界差分界 (bounded differences bound)。今天只用对称增量界推出它;不把它冒充精细的 McDiarmid 常数。[1, §2]
谱系与研究生延伸。 这里的逻辑链是独立和的指数矩方法 → 条件指数矩 → 揭示鞅 → 非线性随机函数集中,而非历史优先权断言。进一步,固定 ,
满足 ,即非负超鞅 (nonnegative supermartingale)。证明就是单步引理;这把指数尾界与停时方法接起来。若最坏幅度过于粗糙,下一步应考察 ,而不是把 误叫成实际方差。
2. 固定模板习题 (Template Exercise)
题目。 设实随机变量 可积,,且
不预先假设 ,证明它确实平方可积,并给出 。
模板识别。 已知的是所有阈值处的尾概率,要求的是矩。应寻找“把随机变量写成水平集示性函数的积分”,而非构造密度;本题也不假定 有密度。
分级提示。
- 对确定数 ,如何用 表示 ?
- 先对非负函数用 Tonelli 换序。为什么即使尚未知二阶矩有限,这一步仍合法?
- 代入尾界后,试作换元 。最后还需从中心化变量的平方可积推回 本身。
3. 大家之言 (Mathematician in Their Own Words)
语境。 Terence Tao 在个人网站 What's new 的职业建议文章 “Work hard” 中,以研究经历讨论大想法、细节证据与工作质量。本次读取的正文没有给出可确认的首发日期,故不补写日期。[2]
“One needs to do a serious amount of reading and writing, and not just thinking, in order to get anywhere serious in mathematics;”
译: 要在数学中取得扎实的进展,需要认真地大量阅读和写作,而不只是思考。
转述(非引文): Tao 随后要求以书面的证明草图、详细论证和已有文献支撑理解;他也区分努力工作与单纯堆积工作时长,强调准备充分、注意力完整的高质量工作时间。
本刊评论。 今天最值得写下来的细节,不是最终那个漂亮的指数,而是
只说“依赖情形也差不多”不能证明什么;把可测因子提出、指出条件中心化的使用处,才得到真正可迁移的理解。Tao 的话不替本期证明背书;它提醒我们,直觉应当能落实成可核查的动作。
4. 反例与边界 (Counterexample & Boundary)
待驳的邻近命题: 只要 各自均值为零且 ,和就应满足参数 的 Azuma 尾界。
取一个对称符号 ,,并令
逐项检查:
- 边际中心化成立: 对每个 ,。
- 幅度界成立: 每个 。
- 信息条件失败: 取 平凡、()。第一步已揭示符号,所以对 ,。
- 和不集中于平方根尺度: a.s.,且 ;共同符号让全部交叉协方差累加。
- 错误公式给出数值矛盾: 取 ,真实概率为 ,错误套用的右端却是 。此不等式由 即可严格确认,不依赖数值模拟。
暴露的边界不是“所有依赖都危险”,而是“依赖所带来的可预测漂移不能未加处理地累积”。Azuma 允许复杂依赖,但要求每一步相对于指定信息流保持条件公平。
5. 今日一问与数学地图 (Question & Map)
固定整数 。在顶点集 上,每条无向边独立以概率 出现,得到 。记 为最大割 (maximum cut) 的跨割边数。
今日一问: 逐条揭示 个边指示变量,能否仅凭“一条边的改变使任意固定割值改变至多一”证明
最需要论证的一步:最优割本身可能改变,为什么“取最大值”仍不放大这一个单位的敏感度?若 很小,这个完全不含 的界又遗漏了什么信息?请先分清集中于均值与算出均值是两项不同任务。
数学地图:
与随机图大偏差的接口在于:集中界先给出偏离均值的概率上界,即负对数概率的成本下界;它一般还没有辨认最可能的偏差结构,更不是已经求出了精确速率函数。
附录 A:习题完整解答 (Full Solution)
展开完整解答
模板:尾积分求矩 (tail integration for moments)。 记 ,因 可积,中心常数有限。逐点有
被积函数非负可测,Tonelli 定理允许在扩展非负实数中换序,无需先知道 :
用 、 得
由 , 平方可积;故方差有定义且 。
常数 是从这条双边尾界直接积分所得,并未声称最优。若回到本期的鞅本身,利用鞅差正交性还能得到 ;那利用了比题目所给尾界更多的结构。
资料与来源 (Sources)
- MIT OpenCourseWare, 6.265/15.070J Advanced Stochastic Processes, Fall 2013, Lecture 12, “Martingale Concentration Inequalities and Applications”, 2013-10-21,§1–2。大学课程原始讲义,本次已提取全文,用于核对 Azuma–Hoeffding 的假设、条件指数矩机制与揭示鞅应用。PDF 文本提取中的部分中间公式有缺符号现象,本期重新推导凸弦系数与条件平均,不照抄损坏公式;不援引讲义旧有开放问题表述作为当前研究状态。 https://ocw.mit.edu/courses/15-070j-advanced-stochastic-processes-fall-2013/4644bbdc15d6af2f574535aa5479ecba_MIT15_070JF13_Lec12.pdf
- Terence Tao, “Work hard”, What's new, “Career advice” 栏目,首发日期本次未确认。作者第一人称研究建议;上引英文已与本次取得的正文逐字核对,中文为本刊翻译。 https://terrytao.wordpress.com/career-advice/work-hard/
取材与查证范围。 截至 2026-10-15(Asia/Shanghai)。本期选择机制性教材与作者原文,不设发表时间回看门槛;当日 RSS 投影可用,但只是线索,本期未将其中任何条目直接当作引文依据。检索期间一个 Tao 鞅笔记候选 URL 返回 404,未列为来源,随后改用上列已成功打开的 MIT 讲义。第 4 节与习题解答为本刊逐步推导,不冒充计算机实验或文献原话。