二元联合分布函数、矩形两加两减差分与联合密度
右上角大象限减去左上、右下象限后,左下角 被减了两次必须加回(与计算机视觉 Integral Image 积分图完全同构,)。
Lecture 11 · Multivariate RVs: Joint CDF/PDF, Disk Marginal Integration & Same-Marginal Counterexamples
从二维 Borel 域与左下无穷象限“两加两减”容斥差分(CV 积分图同构)出发,掌握“把不想要的变量积掉”的降维边缘积分法则,剖析圆盘均匀分布为何投影出半椭圆边缘且不独立,并亲手构造“边缘均匀/高斯但联合非均匀/带百褶裙非高斯”的经典反例。
本讲主线与问题意识 · LECTURE NARRATIVE ARC
本讲对应原课视频 P57–P61(总长约 100 分钟),标志着课程正式从单个随机变量的独角戏迈入多元随机变量(Multivariate Random Variables)的舞台。当同一概率空间 上同时存在多个随机变量 时,我们的核心关注点不再仅仅是各自长什么样,而是它们之间如何相互关联、相互制约。张颢老师首先在 P57–P58 梳理了从样本空间诱导到二维平面 Borel 域 的逻辑链,通过“矩形概率如何只用四个顶点两加两减算出来(与计算机视觉积分图 Integral Image 完全同构)”自然引出二元联合分布函数 与二阶混合偏导联合密度 ;随后在 P59–P60 给出求边缘密度的黄金口诀“把不想要的维度积掉”,并用半径 圆盘均匀分布投影出半椭圆边缘密度的算例,一针见血地指出“只要积分上下限依赖另一个变量, 与 必不独立”;最后在 P60–P61 连续抛出三个颠覆直觉的构造反例,特别是单位正方形上非均匀山峰挤成均匀边缘以及标准高斯乘上 变成“百褶裙”非高斯联合分布,让你彻底看清联合分布与边缘分布的深层辩证关系。
理解从样本空间 诱导到二维平面 的过程,掌握二元联合分布函数 的左下无穷象限几何意义、矩形“两加两减”二阶差分非负性 (及其与图像处理积分图的联系)以及二阶混合偏导密度 。
熟练运用降维边缘积分法则 (“把不想要的变量积掉”),完整复现黑板上矩形 均匀分布与圆盘 均匀分布的边缘密度推导,理解为什么二维圆盘均匀分布的一维边缘是半椭圆 且分量必不独立。
掌握课堂反例 :为什么两个不独立的随机变量经过同一个非线性映射 后反而能解耦变成相互独立。
深刻理解“边缘分布绝不能唯一决定联合分布”:掌握在 上用待定系数法构造边缘均匀但联合非均匀的 (及一般 FGM Copula 族),以及在 上构造边缘为标准高斯但联合带有“百褶裙”震荡的非高斯密度 ,牢记检验密度非负性 的铁律。
右上角大象限减去左上、右下象限后,左下角 被减了两次必须加回(与计算机视觉 Integral Image 积分图完全同构,)。
“把不想要的维度积掉”();由于积分上下限 随 变化, 与 耦合不独立,二维均匀挤成一维后呈半椭圆分布()。
张颢黑板待定 解出 ():平面上有沟有壑(非均匀且不独立),但向坐标轴积分时高低刚好抵消成标准均匀分布!
若直接加 会在远端因高斯衰减导致负值;改为乘上 后既确保处处非负,又利用奇函数积分为 0 完美保持两个高斯边缘()!
从样本空间诱导到二维平面 Borel 域,张颢老师通过“如何用四个顶点加加减减算出任意矩形概率(与计算机视觉积分图 Integral Image 同构)”自然引出左下无穷象限定义的二元联合分布函数 F(x,y) 与二阶混合偏导密度 f(x,y),并用等高线直观诠释独立、关联与正相关。
在一元随机变量中,我们通过映射 将抽象样本空间上的概率 诱导到一维实轴的 Borel 域 上,并借助半无穷区间 定义了普通函数 ()。 现在,我们在同一个样本空间 上同时定义了两个(或多个)随机变量 与 ():
在一维中,定义 的最大好处是:算任意区间 的概率只需做一次减法 ()。 到了二维平面上,最基本的简单集合是矩形方块 。我们自然希望定义出的二元分布函数 也能让我们只靠矩形的四个顶点加加减减就把方块概率算出来()!
为此,将二元联合分布函数(Joint CDF)定义为以 为右上顶点的左下无穷象限的概率(): 画图立见( & ):用右上角顶点 张出的大左下象限面积,减去左上角 的左侧无穷条带和右下角 的下侧无穷条带后,左下角象限 被重复减掉了两次,必须再加回来一次!由此得到著名的矩形概率二阶差分公式(两加两减):
将矩形概率除以面积微元 并令 ,两加两减的二阶差分直接化为二阶混合偏导数,即二元联合概率密度(Joint PDF,): 这一框架可以毫无障碍地推广到 元随机变量 ():
在 ,张颢老师在黑板上画出三种典型的二维密度支撑集/等高线,教大家一眼看穿两个变量是否有“关联”:
P57 18:26 & P58 01:26)左下无穷象限(): 表示以 为右上顶点的左下无穷象限概率。
两加两减容斥(积分图同构,):
二阶混合偏导得联合密度:。
对应黑板左区():右上减左上、减右下、加左下,与计算机视觉积分图(Integral Image)完全同构。
对应黑板中区():概率从抽象集合函数转化为欧氏空间上的普通多元重积分。
对应黑板右区():判断两个变量是否关联,只需看固定 时 的条件切片分布是否随 改变。
为什么单凭一阶偏导非负 绝不足以保证 是合法的二元分布函数?
张颢老师在 特别提醒:在一维中,单调不减 就足够了;但在二维平面上,事件 是一个矩形块!通过左下无穷象限的“两加两减”容斥:两边除以 取极限,真正控制矩形概率非负的是二阶混合偏导数非负 !
二元分布函数四顶点公式:。
求密度靠混合偏导:一维求一次导 ,二维求二阶混合偏导 , 维求 阶混合偏导。
提炼求边缘密度的核心口诀“把不想要的变量积掉”,通过对比矩形均匀分布与半径 R 圆盘均匀分布的黑板推导,阐明为什么二维圆盘均匀分布投影到一维后变成了非均匀的半椭圆分布且 X, Y 必不独立;并展示 X = X₁Z, Y = Y₁Z 如何通过平方映射恢复独立。
满足非负性 与归一性 的二元密度称为联合概率密度。如果已知联合密度 ,只想单独考察其中一个分量 的边缘概率密度(Marginal PDF) ,该如何降维?
张颢老师在 依然从定义出发给出了无懈可击的推导:
张颢老师通俗口诀():“求边缘密度非常简单——把你不想要的那些维度全部积分积掉,留下的就是你想留下的边缘密度! 想要 就把 积掉,想要 就把 积掉。”
为了看清积分上下限如何决定独立性,张颢老师在黑板上对比了两个极具启发性的均匀分布算例:
我们知道:若 与 原本独立,则对它们分别作用一般函数后 与 依然独立(“原本是两个人,各穿一件衣服还是两个人”,)。 那反过来:如果 与 原本不独立(有强关联),能不能找到一个非平凡函数 ,使得 与 变成相互独立(“分身术”)?
张颢老师在 给出了一个极其精巧的构造:
把不想要的变量 积掉():在圆盘 上联合密度为常数 ,固定 对 积分:
支撑集判据():因为积分上下限 依赖于 (支撑集是圆盘而非矩形乘积),故圆盘均匀分布的 与 绝不独立!
对应黑板左区():对联合密度积分消去无关维度 ,剩下的就是 的边缘密度。
对应黑板中区():积分上下限随 改变,故边缘非均匀且 (不独立)。
对应黑板右区():平方运算 抹去了耦合两者的共同随机符号 。
为什么考试中求边缘密度最容易算错成常数?——“形式上下限 ”与“实际支撑集上下限”的混淆 很多同学背熟了公式 ,看到圆盘内密度是 ,就机械地把积分写成 ,误以为边缘也是常数!张颢老师提醒大家: 把圆盘外四角空白区域(那里密度明明是 !)也强行按 积进去了。只要支撑集边界不是水平/竖直直线,积分上下限就必然是另一个变量的函数 !
独立性的几何秒杀判据:若二维连续型随机向量 相互独立,则其非零支撑集 必须是边平行于坐标轴的笛卡尔积(矩形/条带);凡是圆盘、三角形、斜带区域上的分布,100% 不独立!
二维均匀 一维边缘均匀:只有在矩形区域 上二维均匀,投影出的边缘才是一维均匀分布。
如果把一座有峰有谷、沟壑纵横的二维山峰向坐标轴挤压成一薄片,有没有可能挤出完全平坦的均匀分布,或者挤出标准高斯分布?张颢老师在黑板上亲手构造了两个惊艳全场的反例,并着重强调了检验“概率密度非负性 f(x,y) ≥ 0”这一极易遗漏的命门。
前面我们看到:矩形上的二维均匀分布,其两个边缘一定是一维均匀分布。那么反过来问():
如果联合分布 本身不是均匀分布(在二维平面上有峰有谷、有沟有壑),当你对其中一个维度积分——就好像把一座高低起伏的纸山一下子横向挤压成一薄片()——有没有可能在挤压积分的过程中,峰与谷刚好上下抵消填平,使得挤出来的两个边缘分布全都是平坦的均匀分布?
如果真能造出这样的例子,就彻底证明了:单凭两个边缘分布 和 ,绝不可能唯一反推还原出联合分布 !
在 与 ,张颢老师带领全班在单位正方形 上用待定系数法现场设计了这样一个二元多项式密度: 我们要确定三个未知常数 ,恰好手头有三个约束条件():
由 代入第一式得 (无穷多解!)。张颢老师在黑板上取定一组最简洁的参数(): (注:若写成中心化形式,它正是著名的 Farlie–Gumbel–Morgenstern (FGM) Copula 族 在 时的特例!)
张颢老师突然停笔问道:“三个条件都满足了,我们的构造完成了吗?还没有!还差一个大家平时觉得顺理成章、但极其容易忘掉的致命条件——概率密度必须非负 !” 如何证明在 上 ?张颢老师给出了漂亮的不等式放缩():
紧接着,张颢老师又抛出了一个更犀利的问题():
如果已知 且 (两个边缘全都是标准高斯分布),它们的联合分布一定也是二维高斯分布吗?能不能构造一个联合起来不是高斯、但两个边缘却严格是高斯的联合密度?
让我们跟随张颢老师的黑板推演,体验一次惊心动魄的“试错 发现负值漏洞 完美修复”全过程:
对应黑板左中区():在 上积分时峰谷刚好相消得 ,且利用 严格验证了非负性。
对应黑板右区():高斯因子既压住了 远端振幅(确保非负与可积),又利用奇函数正交消去交叉项。
为什么在工程和金融建模中,“只测出每个指标各自的边缘分布是正态分布,就默认它们合在一起服从多维正态分布”是极其危险的错误? 正如张颢老师构造的“高斯百褶裙”反例 (以及金融中的 -Copula 高斯边缘分布)所示:边缘分布只携带了投影到单根坐标轴上的影子信息,而把多个变量在象限对角线方向如何联动(尾部相依结构 / Copula)的信息全部抹平了! 只有当额外加上“各分量相互独立”或“任意线性组合均服从一维正态”这一强条件时,边缘正态才能推出联合正态。
构造概率密度的两大铁律(缺一不可,):① 归一化积分等于 ;② 处处非负 (极易遗忘,必须显式检验)!
核心定性结论:联合分布可以通过积分唯一决定边缘分布(多维 一维信息压缩);但边缘分布绝不能唯一决定联合分布(除非已知各分量相互独立)。
CONCEPTUAL & COUNTEREXAMPLE CHECKS · 第 11 讲随堂思辨与易错反例自测
先独立判断,再展开详细数学解析。每道题均紧扣张颢老师在本讲(P57–P61)课堂上的追问与经典反例。
CHECK 01
张颢老师在 将二元联合分布函数 与计算机视觉中的“积分图(Integral Image)”相联系。若要用 计算随机点落在矩形 内的概率,正确的“两加两减”公式是:
CHECK 02
设 在半径为 的圆盘 上服从二维均匀分布(圆盘内联合密度为 )。按照张颢老师在 的黑板推导,关于边缘密度 及 的独立性,下列结论正确的是:
CHECK 03
在 课堂例子中,设 相互独立, 是与它们独立的二值随机变量。令 ,并取平方函数 。则:
CHECK 04
在 构造“边缘均为标准高斯 但联合非高斯”的反例时,为什么张颢老师指出不能直接写 ,而必须写成乘积形式 ?
定义为 ,几何上表示以 为右上顶点的左下无穷象限的概率质量,满足矩形二阶差分非负性。
利用累积分布 计算任意矩形 概率的四顶点公式 ,与计算机视觉积分图完全同构。
将联合密度 对不关心的变量在整个实轴上积分消去后得到的单个变量密度,如 。
联合分布等于各边缘分布的乘积 (或 ),意味着其中一个变量取值变化时另一个变量的分布完全不变(解耦)。
如 上的 与 上的 ,证明边缘分布损失了变量间的耦合结构,无法唯一决定联合分布。