1. 随机变量相互独立的定义:F(x,y)=FX(x)FY(y)(对一切 x,y);离散型的判据是逐格检验 pij=pi⋅p⋅j★★ 必会
定义:设二维随机变量 (X,Y) 的联合分布函数为 F(x,y),边缘分布函数为 FX(x),FY(y)。若对任意实数 x,y 都有
F(x,y)=P{X≤x, Y≤y}=FX(x)FY(y),
则称 X 与 Y 相互独立。它的含义是:事件 {X≤x} 与 {Y≤y} 对每一对 (x,y) 都相互独立,即一个变量的取值不改变另一个变量的分布。这一等式还可以推广为 P{X∈I1, Y∈I2}=P{X∈I1}P{Y∈I2} 对任意区间 I1,I2 都成立。
① 离散型的判据:X,Y 相互独立 ⟺ 每一格的联合概率都等于相应两个边缘概率之积
pij=P{X=xi, Y=yj}=pi⋅p⋅j(对一切 i,j).
必须全部格子都验证通过,才能断定独立;只要有一格不相等,就立即判定为不独立。特别地,若表中某一格为 0,而它所在的行与列的边缘概率都 >0,那么二者不独立。
② 连续型的判据:f(x,y)=fX(x)fY(y)(只需几乎处处成立);便于快速判定的形式是支撑为矩形且密度可分离变量,详见下一条。
③ 推广与保持性:n 个变量相互独立,是指 F(x1,…,xn)=FX1(x1)⋯FXn(xn) 对一切实数组都成立;又相互独立的变量各自的函数 g(X) 与 h(Y) 仍相互独立。
检验的步骤(对离散型分布表):第一步,由各行之和与各列之和求出两个边缘分布;第二步,逐格比较 pij 与 pi⋅p⋅j;第三步,一旦出现某格不相等,即可停止,判定为不独立。
证明 / 推导
离散型判据与定义等价(证明要点)。⇒若逐格有 pij=pi⋅p⋅j,则对任意 x,y,由于二重和对乘积可以分离,得
F(x,y)=xi≤x∑ yj≤y∑pi⋅p⋅j=(xi≤x∑pi⋅)(yj≤y∑p⋅j)=FX(x)FY(y).
⇐若 F 处处可以分解,则用矩形增量求出单点的概率:
P{X=xi, Y=yj}=δ→0+lim[F(xi,yj)−F(xi−δ,yj)−F(xi,yj−δ)+F(xi−δ,yj−δ)],
代入 F=FXFY,方括号中恰好可以因式分解为
[FX(xi)−FX(xi−δ)]⋅[FY(yj)−FY(yj−δ)] δ→0+ P{X=xi}P{Y=yj},
即 pij=pi⋅p⋅j。■举例说明
2005·数三解答:设 (X,Y) 的概率分布为
X\Y0100.4b1a0.1
若事件 {X=0} 与 {X+Y=1} 相互独立,求 a,b。解 独立性把联合概率等于两个边缘概率之积这一关系,化成了确定未知格的方程。
① 由归一性:0.4+a+b+0.1=1⇒a+b=0.5。
② 写出三个概率:P{X=0}=0.4+a;P{X+Y=1}=P{X=0,Y=1}+P{X=1,Y=0}=a+b=0.5;而 {X=0}∩{X+Y=1}={X=0,Y=1},其概率为 a。
③ 用独立性 P(AB)=P(A)P(B):a=(0.4+a)(a+b)=(0.4+a)⋅0.5,解得 a=0.4,从而 b=0.1。
易错之处:独立所说的是某一格的联合概率等于两个边缘概率之积,因此必须分清哪一个是交事件(其概率为 a),哪两个是边缘事件。先用归一性消去一个未知量,再代入独立性所给的方程,比一开始就设两个未知数联立求解更为稳妥。4. 独立性的可分组性质:把相互独立的变量分组后,各组的函数仍相互独立
下面这条性质很有用,却常被忽视:若 X1,…,Xn 相互独立,把它们的下标分成互不相交的几组,则由各组分别作函数所得的随机变量仍相互独立。例如设 X1,X2,X3,X4 相互独立,则 U=X1+X2 与 V=X3X4 独立,max(X1,X2) 与 min(X3,X4) 也独立。其道理在于,互不相交的各组所用到的随机变量没有重复,因而彼此不带有对方的信息。必须注意:同一个变量不能同时属于两组,例如 X1+X2 与 X2+X3 都含有 X2,二者一般不独立。这条性质就是先分块求出分布、再合并求解的根据。
证明 / 推导
只就分成两组的情形加以证明,分成多组时逐次使用这一结果即可。设 X1,…,Xn 相互独立,不妨设两组下标为 {1,…,k} 与 {k+1,…,n},并记
UV=g(X1,…,Xk)=h(Xk+1,…,Xn)
其中 g,h 取为连续函数或分段连续函数,以保证 U,V 仍是随机变量。按定义,要证 U,V 相互独立,只需证明对一切实数 u,v 都有 P{U≤u, V≤v}=P{U≤u}P{V≤v}。
记 A={(x1,…,xk):g(x1,…,xk)≤u},B={(xk+1,…,xn):h(xk+1,…,xn)≤v}。于是事件 {U≤u} 就是 {(X1,…,Xk)∈A},事件 {V≤v} 就是 {(Xk+1,…,Xn)∈B},二者同时发生就是 (X1,…,Xn) 落在乘积集 A×B 内。
以连续型为例。由 X1,…,Xn 相互独立,联合密度等于各边缘密度之积,即 f(x1,…,xn)=∏i=1nfi(xi)。于是
P{U≤u, V≤v}=∫A×Bi=1∏nfi(xi)dx1⋯dxn=(∫Ai=1∏kfi(xi)dx1⋯dxk)(∫Bi=k+1∏nfi(xi)dxk+1⋯dxn).
这一步之所以可行,在于积分区域是乘积集 A×B,而被积函数分成了两个因子。两个因子所含的变量互不相同,因此累次积分可以拆成两个积分之积。右端第一个因子等于 P{(X1,…,Xk)∈A}=P{U≤u},第二个因子等于 P{(Xk+1,…,Xn)∈B}=P{V≤v}。因此
P{U≤u, V≤v}=P{U≤u}P{V≤v},
即 U 与 V 相互独立。离散型只需把积分换成求和,推理逐字相同。
由这个证明还可以看出同一个变量为什么不能同时属于两组。如果两组共有 X2,那么事件 {U≤u} 与 {V≤v} 对 X2 各有要求,相应的区域不再是乘积集,上面的拆分也就无法进行。证毕。举例说明
1994·数三解答:设 X1,X2,X3,X4 相互独立且同分布,P{Xi=0}=0.6, P{Xi=1}=0.4,求行列式 X=X1X3X2X4=X1X4−X2X3 的概率分布。解 关键在于按组独立:下标组 {1,4} 与 {2,3} 互不相交,故 Y1=X1X4 与 Y2=X2X3 相互独立,可以先各自求出分布,再合并。
① 两个乘积的分布:Xi 只取 0/1,故 Y1 也只取 0/1,且 P{Y1=1}=P{X1=1,X4=1}=0.4×0.4=0.16,P{Y1=0}=0.84;Y2 与它同分布。
② 由 Y1,Y2 独立,计算 X=Y1−Y2∈{−1,0,1}:
P{XP{X=1}=P{Y1=1}P{Y2=0}=0.16×0.84=0.1344=−1}=0.84×0.16=0.1344
P{X=0}=1−2×0.1344=0.7312.
要点:X1X4 与 X2X3 之所以可以先分别求出分布,再当作独立的变量相减,依据就是互不相交的下标组所作的函数仍相互独立;若两组共有某个 Xi(例如 X1X2 与 X2X3 都含 X2),就不能这样拆开。5. 正态分布的特殊之处与易错之处:联合正态时 ρ=0⇔ 独立,但边缘正态并不等于联合正态★★ 必会
二维正态分布有一条别的分布所没有的性质:ρ=0⟺ 独立(对一般的分布只有 ⇒ 这一个方向成立)。但这里有一处极易出错:这条性质只对联合的二维正态分布成立。如果只知道 X,Y 各自服从正态分布,即两个边缘分布是正态的,那么即使再加上不相关,也推不出独立,因为两个边缘分布都是正态的,绝不等于 (X,Y) 服从联合正态分布。必须把边缘正态与联合正态这两个概念严格区分开。
证明 / 推导
先证正面的一半:设 (X,Y) 服从联合正态分布,且 ρ=0,代入密度函数,得
f(x,y)=2πσ1σ21exp{−2σ12(x−μ1)2−2σ22(y−μ2)2}=fX(x)fY(y),
故二者独立。至于另一方向,即由独立 ⇒ 不相关,对一切分布都成立。举例说明
反例:边缘分布正态,且不相关,却不独立。 设 X∼N(0,1),S 与 X 独立,且 P(S=1)=P(S=−1)=21,令 Y=SX。
- Y∼N(0,1):因 X 的分布关于 0 对称,改变符号后分布不变,故 P(Y≤y)=21Φ(y)+21Φ(y)=Φ(y)。
- 不相关:Cov(X,Y)=E(SX2)=E(S)E(X2)=0⋅1=0。
- 但二者不独立:∣Y∣=∣X∣ 恒成立,例如 P(∣X∣<1,∣Y∣>2)=0=P(∣X∣<1)P(∣Y∣>2)>0。
其根源在于 (X,Y) 不是联合正态分布:X+Y=X(1+S) 以 21 的概率取值 0,分布中带有一个原子,故不是正态分布。由此可见:只有联合正态分布才有 ρ=0⇒ 独立这一性质,仅有边缘正态再加上不相关是远远不够的。