一维雅可比密度变换公式(单调与分段单调)
当 单调递减时,,分布函数变为 ,求导产生的负号与 合并为绝对值 ()。
Lecture 10 · Functions of a Random Variable: Jacobian Formula, χ² / Gamma Family & Inverse Transform Sampling
从分布函数定义法推导一维雅可比导数绝对值 |g'(x)| 与无意识统计学家“Magic 公式”,精讲标准正态平方导出 χ²(1) 与 Gamma/Erlang 分布族,揭秘计算机伪随机数生成的逆变换采样定理与 Weibull 澡盆失效率模型。
本讲主线与问题意识 · LECTURE NARRATIVE ARC
本讲对应原课视频 P52–P56(总长约 100 分钟),是连接一维随机变量与多维随机向量变换的枢纽章节。在实际科学与工程系统中,我们观测到的往往不是原始随机变量 ,而是它经过放大器、平方律检波器或非线性映射后的输出 。张颢老师在课堂开篇就立下铁律:研究 的分布时,强烈不推荐死记硬背变换公式,一切都要从累积分布函数定义 出发! 沿着这条主线,本讲先后推演了单调与分段单调映射的一维雅可比变换公式(深刻阐明分母为何带有导数绝对值 )、无需先求 即可直接计算期望 的 “Magic 魔法公式”、由标准高斯平方 导出的卡方分布 与 Gamma / Erlang 分布大家族,以及支撑现代计算机蒙特卡罗仿真的逆变换采样定理 与刻画全生命周期“澡盆曲线”的 Weibull(威布尔)分布。
坚持张颢老师强调的分布函数定义法 ,推导单调上升、单调下降及分段单调可微映射的一维雅可比公式 ,从微元概率守恒 理解绝对值 的物理意义。
理解课堂讲授的 “Magic 公式”(无意识统计学家法则 LOTUS) 为何对任意复杂非单调可测函数 恒成立,并体会其在样本空间 上作抽象积分的本质。
完整复现黑板算例 标准正态平方 的密度推导,掌握欧拉 Gamma 函数 的阶乘延拓性质()以及 Gamma 分布族 如何将卡方分布 、指数分布与通信交换机 Erlang 分布统一在同一个桥梁下。
证明逆变换采样定理(若 则 ),了解线性同余伪随机数发生器 ,并推导指数分布幂变换生成的 Weibull 分布如何用单一参数 统一刻画澡盆曲线的三个阶段。
当 单调递减时,,分布函数变为 ,求导产生的负号与 合并为绝对值 ()。
张颢黑板命名 Magic():无论 多么复杂、甚至 根本写不出解析式,求 永远只需直接对 积分!
卡方分布 ;两个独立标准高斯平方和 ; 时为通信等待 次呼入的 Erlang 分布()。
用均匀伪随机数生成任意分布的通用法则();Weibull 失效率在 时分别对应澡盆曲线的早期失效、盆底恒定与老年耗损()。
已知随机变量 X 的分布,如何求确定性变换 Y = g(X) 的分布与密度?张颢老师反复告诫“千万不要死记硬背变换公式,一切从分布函数定义 FY(y) = P(g(X) ≤ y) 出发”,由此推导出单调与分段单调映射的雅可比导数绝对值 |g'(x)|,并给出无需先求 fY(y) 即可算 E[g(X)] 的“Magic 魔法公式”。
给定概率空间 上的随机变量 ,其分布函数 与概率密度 均已知。现在将 输入一个确定性函数 (注意 :函数 本身没有任何随机性),得到新的随机变量 。如何求 的分布函数 与概率密度 ?
在 与 17:19–17:42,张颢老师向全班发出了极为醒目的方法论警告:
“今天我们会推导出一些所谓的变换公式,但我严重不推荐大家去背、去套公式!第一它难记,正负号和逆函数极易代错;第二容易遗漏定义域与分段区间;第三套公式会让你的头脑不清醒。相反,永远从分布函数定义 出发,概念清晰、头脑清楚,考试时多花不了几秒钟,磨刀不误砍柴功!”
为了把未知的 转化为已知的 ,必须将 代入分布函数定义 并尝试把 “逆过去”。按 的单调性分为两种情形:
情形 ①: 严格单调上升(,) 此时反函数 存在,且两边作用 时不等号方向不变: 两边对 求导,由复合函数求导法则与反函数求导公式 立得:
情形 ②: 严格单调下降(,) 此时反函数依然存在,但当把 逆过去时,不等号方向必须翻转(这是初学者最容易掉入的坑!): (注: 指出这里假定 为连续型随机变量,单点集 质量为 ;即便有离散质量,求导时也只多出一个 冲激,不影响连续部分的本质。) 现在对 求导,前面的 会多出一个负号:
合二为一与物理几何直觉(): 注意到当 单调上升时 (前面无负号),当 单调下降时 (前面带负号 )。因此两种情形完美统一为一维雅可比变换公式:
如果 不是全局单调,而是像波浪线或抛物线那样有若干个单调分支(多对一映射,),考察小区间概率: 当 落在两条水平线 之间时,对应的 落在所有满足 的分支逆像小区间 的不交并中。在每个局部单调分支上各自应用单调公式(上升段直接减,下降段颠倒高低端点后同样化为 ),相加即得一般分段单调雅可比公式:
既然求 如此繁琐(甚至当 剧烈震荡或处处不可微时根本写不出 ),那如果我们要算 的期望 ,难道必须先算出 再算 吗? 张颢老师在 写下了概率论中鼎鼎大名的 Magic 公式(魔法公式 / 无意识统计学家法则 LOTUS):
对应黑板左侧():下降函数求逆时 ,求导多出的负号与 合并为 。
对应黑板中区():将水平带 切出的每一段上升/下降原像区间概率相加。
对应黑板右侧():实分析测度变换保证无需先求 ,直接拿 对 加权积分即可。
为什么求密度 绝对不能把 直接代入 了事,而求期望 却可以直接把 乘上 积分? 因为概率密度 不是概率本身,而是单位长度上的概率变化率(微分 1-形式 的系数)!当坐标轴从 变成 时,尺子的刻度被拉伸了 倍,所以密度值必须除以 才能维持微元概率 不变;而在期望积分 中,被除掉的雅可比因子 与微分换元 刚好一乘一除彻底抵消!
第一性原理优先:实战做题永远优先写 ,画图看清 的解集区间后再积分或对上限求导。
雅可比绝对值的来源:单调下降时逆映射翻转不等号 ,求导负号与 合并为 。
Magic 公式:计算 时直接算 ,永远不要绕远路去求 的密度!
黑板完整推演 X ~ N(0,1) 平方变换 Y = X² 的密度,导出自由度为 1 的卡方分布 χ²(1);引入欧拉 Gamma 函数 Γ(x) 将阶乘延拓至全体实数(Γ(1/2) = √π),并揭示 Gamma 分布族如何将高斯平方、卡方分布 χ²(n)、指数分布与通信 Erlang 等待分布串联成一张大网。
设 为标准高斯随机变量,密度为 。考察平方变换(工程中的能量检波器):
既然有 个自由度的 ,就有 个独立标准高斯平方和构成的自由度为 的卡方分布 (,在 明确写出 ): 公式分母中出现的 正是数学分析中用途极广的欧拉 Gamma 函数(): 为什么 Gamma 函数在概率论与数学中如此重要?张颢老师在黑板上用一次分部积分给出了核心递推性质():
利用换元 (),由 可构造出极具一般性的双参数 Gamma 分布 (张颢老师黑板记尺度/率参数为 、形状参数为 ;部分教材记为 ): 在 ,张颢老师揭示了随着参数 取不同特殊值,Gamma 分布如何像一座四通八达的桥梁,将看似毫无瓜葛的四大经典分布彻底贯通:
| 参数取值 | 退化出的具体分布 | 概率密度表达式 | 课堂揭示的物理与概率内蕴() |
|---|---|---|---|
| 1 自由度卡方 | 单个标准高斯变量的平方 | ||
| 自由度卡方 | 个独立标准高斯的平方和 (自由度 = 独立分量个数) | ||
| 指数分布 | 震撼联系():两个独立标准高斯的平方和 竟然就是指数分布! | ||
| 任意 | 指数分布 | 电话交换局等待第 个电话呼入(Call-in)的时间 | |
| 任意 | Erlang(爱尔朗)分布 | 个独立高斯的平方和 个独立指数等待时间之和(全部 条中继线被占满发生呼损前的总等待时间,) |
P52 15:55 & P54 02:56)双支逆像合并():对 ,事件 ,故 。
求导得 密度:
顶点奇异性直觉:在 处斜率 ,微元 极度压缩,导致 在 处形成 可积奇异峰。
对应黑板左区():对 求导产生两个负号相消,正负半轴高斯概率对称叠加。
对应黑板中区():将离散的正整数阶乘平滑延拓到实轴(含半整数与负数)。
对应黑板右区():两个独立高斯平方和配对成一个指数分布, 个高斯平方和配对成 阶 Erlang 分布。
为什么标准正态密度 在原点 处明明是有限的平滑峰顶 ,平方之后得到的 密度 在 处却会趋于无穷大 ? 这就是雅可比压缩效应最直观的体现!在原点附近,取一段宽度为 (比如 )的输入区间,它携带着大约 的概率质量;但经过平方映射 后,这段宽度为 的区间被猛烈挤压进了宽度仅为 的极窄输出区间 内!区间宽度被压缩了 倍,为了守恒原有的概率质量,输出密度 在 时必须按 飙升至无穷大(但积分面积 依然完全有限可积)。
偶函数平方变换通式:若 的密度关于原点对称(),则 的密度直接简化为 。
高斯与指数的惊人血缘:(瑞利分布的平方正是全向二维高斯噪声的瞬时功率!)。
Erlang 分布的工程背景: 的 Gamma 分布就是 个独立同参数指数等待时间之和,直接决定电话交换局中继线容量与呼损率。
计算机蒙特卡罗仿真如何生成任意指定分布的伪随机数?张颢老师在黑板上证明了逆变换采样定理 F⁻¹(U) ~ F,剖析了 C 语言 rand() 背后的线性同余法与时间种子,并通过指数分布的幂变换 Y = X^(1/α) 推导出统一刻画可靠性“澡盆曲线”全生命周期的 Weibull(威布尔)分布。
在通信信道仿真与金融工程中,我们不可能每次都去大野地里搭基站做物理实验,而必须在计算机里进行蒙特卡罗仿真(Monte Carlo Simulation,)。这就要求计算机能够生成服从任意指定分布函数 的伪随机数(Pseudo-Random Numbers)。
张颢老师在 证明了支撑整个计算概率论的基石定理——逆变换采样定理:
定理:设目标随机变量 的分布函数 严格单调连续(从而存在逆函数 )。若 是 区间上的标准均匀随机变量,令: 则 的分布函数与 的分布函数完全相同(,即 )!
逆变换采样有两大前提:① 能造出 随机数;② 能求出反函数 。
rand() 函数采用如下模运算递推公式:
RAND_MAX 与随机种子 srand(time):由于对 取模,生成的整数落在 内,因此 RAND_MAX 恰为模数 (除以 即归一化到 ,);而递推必须有初值 (即种子 Seed),工程上常用当前系统时钟 time(NULL) 作为种子 ,否则每次运行程序吐出的随机数序列将分毫不差()!Y = -ln(U)(对一般参数 为 Y = -ln(U) / lambda)即可!在课程最后 11 分钟,张颢老师展示了随机变量函数变换在可靠性工程中的杰作——将指数分布 作幂函数变换():
Monte Carlo Simulation: U ~ U(0,1), Y = F⁻¹(U) ⇒ F_Y = F_X 纵轴投射图。逆变换采样三行证明():因 单调递增,对 有
指数分布伪随机数生成():解 得 。
对应黑板左区():把生成任意复杂分布随机数的问题转化为求分布函数反函数 。
对应黑板中区():RAND_MAX 即模数 ,利用 省去一次减法。
对应黑板右区():用一个参数族完整刻画器件全生命周期的可靠性演化。
既然逆变换采样 如此万能,为什么计算机生成标准正态分布 时通常不直接用 ? 因为正态分布的累积分布函数 没有初等解析反函数!如果强行用数值逼近计算 会耗费较多算力。但请回想本讲 张颢老师埋下的伏笔:两个独立标准高斯的平方和 服从指数分布 !而指数分布是可以用 极速生成的——在第 13 讲学习二维极坐标雅可比变换后,只需再配一个均匀随机角度 ,就能用初等函数一步造出两个精确独立的标准高斯随机数(这正是著名的 Box–Muller 算法)!
逆变换采样对偶性:① 若 ,则 (生成随机数);② 若 连续,则 (概率积分变换 / 直方图均衡化)。
Weibull 失效率记忆口诀:,求导即得失效率 。
CONCEPTUAL & COUNTEREXAMPLE CHECKS · 第 10 讲随堂思辨与易错反例自测
先独立判断,再展开详细数学解析。每道题均紧扣张颢老师在本讲(P52–P56)课堂上的追问与经典反例。
CHECK 01
设连续型随机变量 的概率密度为 , 是严格单调递减的可微函数()。在用分布函数定义法推导 的密度 时,为什么最终公式分母里会出现导数的绝对值 ?
CHECK 02
关于张颢老师在 重点讲授的期望“Magic 魔法公式” ,下列说法正确的是:
CHECK 03
在张颢老师构建的 Gamma 分布族 (密度为 )桥梁中,若 为两个相互独立的标准高斯随机变量,则它们的平方和 服从什么分布?
CHECK 04
将指数分布 作幂变换 得到 Weibull(威布尔)寿命分布 。其失效率函数 如何对应“澡盆曲线”的三个阶段?
可微映射 的概率密度公式 ,分母 反映了微元长度拉伸对概率密度的稀释效应。
张颢老师课堂命名的魔法公式:计算 时无需先求 的密度 ,直接计算 恒成立。
个相互独立的标准高斯随机变量的平方和 所服从的分布,等于 ,其中 称为自由度。
满足 与 ;对应的 分布族统一了卡方、指数与 Erlang 分布。
若 ,则 严格服从分布 。这是计算机由均匀伪随机数生成任意分布样本的理论基石。
由指数分布经幂变换 导出的寿命分布,其失效率 可随 完整刻画澡盆曲线三阶段。