1. 随机变量相互独立的定义:F(x,y)=FX(x)FY(y)(对一切 x,y);离散型的判别法 pij=pi⋅p⋅j 逐格检验★★ 必会
定义:设二维随机变量 (X,Y) 的联合分布函数为 F(x,y),边缘分布函数为 FX(x),FY(y)。若对任意实数 x,y 都有
F(x,y)=P{X≤x, Y≤y}=FX(x)FY(y),
则称 X 与 Y 相互独立。它的含义是:事件 {X≤x} 与 {Y≤y} 对每一对 (x,y) 都相互独立,即一个变量的取值信息完全不改变另一个变量的分布。这一等式还可推广为 P{X∈I1, Y∈I2}=P{X∈I1}P{Y∈I2},它对任意区间 I1,I2 都成立。
① 离散型的判别法:X,Y 相互独立 ⟺ 每一格的联合概率都等于对应的两个边缘概率之积
pij=P{X=xi, Y=yj}=pi⋅p⋅j(对一切 i,j).
必须注意:只有全部格子都验证通过,才能断定相互独立;只要有一格不相等,就立即断定不独立。特别地,如果表中某一格为 0,而它所在的行、列的边缘概率都 >0,那么二者一定不独立。
② 连续型的判别法:f(x,y)=fX(x)fY(y),只要几乎处处成立即可;便于实际判断的形式是支撑集为矩形且密度可分离变量,参看下一条。
③ 推广与遗传性:称 n 个变量相互独立,是指 F(x1,…,xn)=FX1(x1)⋯FXn(xn) 对一切实数组都成立;又相互独立的变量各自的函数 g(X) 与 h(Y) 仍相互独立。
离散分布表的检验步骤:第一步,由行和与列和求出两个边缘分布;第二步,逐格比较 pij 与 pi⋅p⋅j;第三步,一旦出现某一格不相等,即可停止并断定不独立。
证明 / 推导
证 下面证明离散型的判别法与定义等价。⇒ 如果逐格有 pij=pi⋅p⋅j,那么对任意 x,y,由于二重求和对乘积可以分离,有
F(x,y)=xi≤x∑ yj≤y∑pi⋅p⋅j=(xi≤x∑pi⋅)(yj≤y∑p⋅j)=FX(x)FY(y).
⇐ 如果 F 处处可以分解,那么用矩形增量取出单点概率:
P{X=xi, Y=yj}=δ→0+lim[F(xi,yj)−F(xi−δ,yj)−F(xi,yj−δ)+F(xi−δ,yj−δ)],
代入 F=FXFY,方括号中的式子恰好可以因式分解为
[FX(xi)−FX(xi−δ)]⋅[FY(yj)−FY(yj−δ)] δ→0+ P{X=xi}P{Y=yj},
即得 pij=pi⋅p⋅j。■举例说明
1999·数一解答:已知 X 与 Y 相互独立,(X,Y) 的联合分布律与边缘分布律只给出部分数值:p12=81,p21=81,p⋅1=61(X 取 x1,x2,Y 取 y1,y2,y3),试填出其余全部数值。
解:由独立性知每一格的概率等于行边缘与列边缘之积,再配合行、列的求和约束,即可逐格求出。
❶ 第 1 列求和:p11=p⋅1−p21=61−81=241;
❷ 用独立性 p11=p1⋅p⋅1:241=p1⋅⋅61⇒p1⋅=41,从而 p2⋅=1−41=43;
❸ 再用 p12=p1⋅p⋅2:81=41p⋅2⇒p⋅2=21;列边缘归一得 p⋅3=1−61−21=31;
❹ 其余各格全由 pij=pi⋅p⋅j 补出:p13=41⋅31=121,p22=43⋅21=83,p23=43⋅31=41。
验证:第一行 241+81+121=241+3+2=41=p1⋅ ✓;三列列和 61,21,31 与边缘一致 ✓。易错之处:解题的入手处是先用求和约束求出一格,再用独立性推广到整行整列。独立性把 6 个未知格化成了行边缘与列边缘的乘法表,因此不要盲目设 6 个未知数去联立求解。4. 独立的可分组性:把独立变量分组,各组的函数照样相互独立★ 要懂
下面这条性质很实用,却常被忽视:如果 X1,…,Xn 相互独立,把下标分成互不相交的几组,那么各组分别作函数所得到的随机变量仍相互独立。例如设 X1,X2,X3,X4 相互独立,则 U=X1+X2 与 V=X3X4 相互独立,max(X1,X2) 与 min(X3,X4) 也相互独立。其道理在于互不相交的各组所用到的随机来源没有重叠,因而信息互不牵连。必须注意:同一个变量不能跨组,例如 X1+X2 与 X2+X3 都含有 X2,一般不独立。这条性质就是先分块求分布、再合并这一做法的依据。
证明 / 推导
证 只就分成两组的情形加以证明,分成多组时逐次使用这一结果即可。设 X1,…,Xn 相互独立,不妨设两组下标为 {1,…,k} 与 {k+1,…,n},并记
UV=g(X1,…,Xk)=h(Xk+1,…,Xn)
其中 g,h 取为连续函数或分段连续函数,以保证 U,V 仍是随机变量。按定义,要证 U,V 相互独立,只需证明对一切实数 u,v 都有 P{U≤u, V≤v}=P{U≤u}P{V≤v}。
记 A={(x1,…,xk):g(x1,…,xk)≤u},B={(xk+1,…,xn):h(xk+1,…,xn)≤v}。于是事件 {U≤u} 就是 {(X1,…,Xk)∈A},事件 {V≤v} 就是 {(Xk+1,…,Xn)∈B},二者同时发生就是 (X1,…,Xn) 落在乘积集 A×B 内。
以连续型为例。由 X1,…,Xn 相互独立,联合密度等于各边缘密度之积,即 f(x1,…,xn)=∏i=1nfi(xi)。于是
P{U≤u, V≤v}=∫A×Bi=1∏nfi(xi)dx1⋯dxn=(∫Ai=1∏kfi(xi)dx1⋯dxk)(∫Bi=k+1∏nfi(xi)dxk+1⋯dxn).
这一步之所以可行,在于积分区域是乘积集 A×B,而被积函数分成了两个因子。两个因子所含的变量互不相同,因此累次积分可以拆成两个积分之积。右端第一个因子等于 P{(X1,…,Xk)∈A}=P{U≤u},第二个因子等于 P{(Xk+1,…,Xn)∈B}=P{V≤v}。因此
P{U≤u, V≤v}=P{U≤u}P{V≤v},
即 U 与 V 相互独立。离散型只需把积分换成求和,推理逐字相同。
由这个证明还可以看出同一个变量为什么不能跨组。如果两组共有 X2,那么事件 {U≤u} 与 {V≤v} 对 X2 各有要求,相应的区域不再是乘积集,上面的拆分也就无法进行。这就证明了独立的可分组性。■举例说明
X1,X2,X3 相互独立,均 ∼E(λ)(指数分布)。求 P(X1<max(X2,X3))。解 由于下标组 {1} 与 {2,3} 互不相交,故 X1 与 M=max(X2,X3) 相互独立,可以各自求出分布再利用独立性。M 的分布函数为 FM(t)=(1−e−λt)2,密度为 fM(t)=2(1−e−λt)λe−λt (t>0);又 X1∼E(λ),P(X1<t)=1−e−λt。由独立性得
P(X1<M)=∫0∞P(X1<t)fM(t)dt=2λ∫0∞e−λt(1−e−λt)2dt.
作换元 u=e−λt,此时 du=−λe−λtdt,于是所求积分为 2∫01(1−u)2du=32。验证:三者独立同分布,X1 恰为三者中最大者的概率是 31,故 P(X1<max(X2,X3))=1−31=32,与上面所得完全一致。由此可见,利用分组的独立性,可以把二维问题化为一维问题。5. 正态分布的特有性质与易错之处:联合正态时 ρ=0⇔ 独立,但边缘正态不等于联合正态★★ 必会
二维正态分布有一条特有的性质:ρ=0⟺ 独立,而对一般分布只有 ⇒ 这一个方向成立。但这里有一处极易出错:这条性质只对联合正态,也就是二维正态成立。如果只知道 X,Y 各自服从正态分布,即两个边缘分布为正态,那么即使再加上不相关,也推不出独立;因为两个边缘都是正态,决不等于 (X,Y) 服从联合正态分布。必须把边缘正态与联合正态这两个概念严格区分开来。
证明 / 推导
证 先证正向。设 (X,Y) 服从联合正态分布且 ρ=0,代入密度得
f(x,y)=2πσ1σ21exp{−2σ12(x−μ1)2−2σ22(y−μ2)2}=fX(x)fY(y),
故二者独立。至于反方向,独立 ⇒ 不相关对一切分布都成立。举例说明
反例:边缘为正态且不相关,却不独立。 设 X∼N(0,1),又设 S 与 X 相互独立且 P(S=1)=P(S=−1)=21,令 Y=SX。
- Y∼N(0,1):因 X 关于 0 对称,改变符号后分布不变,故 P(Y≤y)=21Φ(y)+21Φ(y)=Φ(y)。
- 不相关:Cov(X,Y)=E(SX2)=E(S)E(X2)=0⋅1=0。
- 但二者不独立:∣Y∣=∣X∣ 恒成立,例如 P(∣X∣<1,∣Y∣>2)=0=P(∣X∣<1)P(∣Y∣>2)>0。
其根源在于 (X,Y) 不是联合正态:X+Y=X(1+S) 以 21 的概率取 0,含有一个原子,因而不是正态分布。结论:只有联合正态才有 ρ=0⇒ 独立,仅有边缘正态与不相关是远远不够的。