协方差与相关系数

概率论与数理统计 · 随机变量的数字特征

先打基础

一条一条过。读完点「已懂」或「待回顾」，这条就收起来，页面上剩下的就是还没过的。

1. 协方差：两者是否「同向偏离」

Cov (X, Y) = E [(X - E (X)) (Y - E (Y))] .

和方差一样，有一条好用得多的计算公式：

Cov (X, Y) = E (X Y) - E (X) E (Y) .

（证明和方差那条一样：展开括号，用期望的线性性。）

怎么读它：括号里两个因子分别是

X

、

Y

对各自重心的偏离。

两者同向偏离（一起偏大或一起偏小）时乘积为正，协方差为正；
反向偏离时为负。

取

Y = X

就回到方差：

Cov (X, X) = D (X)

。

2. 性质：对称、双线性，以及方差的展开式

① 对称：

Cov (X, Y) = Cov (Y, X)

。

② 与方差的关系：

Cov (X, X) = D (X)

。

③ 双线性（对每个位置都线性）：

Cov (a X, bY) = ab Cov (X, Y),

Cov (X_{1} + X_{2}, Y) = Cov (X_{1}, Y) + Cov (X_{2}, Y) .

④ 常数不起作用：

Cov (X + c, Y) = Cov (X, Y)

。

有了它们，上一节那条展开式就有了来源：

D (X \pm Y) = D (X) + D (Y) \pm 2 Cov (X, Y) .

3. 相关系数：把协方差标准化到 $[- 1, 1]$

协方差的大小依赖量纲，不好比较。除以两个标准差就标准化了：

ρ_{X Y} = \frac{Cov ( X , Y )}{σ ( X ) σ ( Y )} .

它无量纲，而且恒有

∣ ρ_{X Y} ∣ \leq 1.

两个端点的含义很硬：

∣ ρ ∣ = 1 ⟺ Y = a X + b

（几乎必然成立）。

ρ = 1

时是正比（

Y = a X + b

，

a > 0

），

ρ = - 1

时

a < 0

。

$ρ$ 量的是「线性」相关的程度——这个限定词是下一条的全部要害。

4. 独立 $\Rightarrow$ 不相关，反过来不行

ρ = 0

（等价于

Cov = 0

，也等价于

E (X Y) = E (X) E (Y)

）时，
称

X

与

Y

不相关。

独立 $\Rightarrow$ 不相关：独立时

E (X Y) = E (X) E (Y)

，协方差为零。

反过来不成立：不相关只说明没有线性关系，
两者仍可以有别的（非线性的）关系，甚至一个完全决定另一个。

经典反例在下面。

唯一的例外是二维正态分布：在那里「独立」与「不相关」等价
（下一节会讲），这也是正态分布特别好用的原因之一。

常用结构

这类题反复出现的那个写法骨架——按这个顺序动笔。

算协方差

第一步：算

E (X)

、

E (Y)

。

第二步：算

E (X Y)

——二维时把

x y

乘进联合分布直接求和或积分。

第三步：代

Cov = E (X Y) - E (X) E (Y)

。

第四步：要相关系数就再除以两个标准差；检查

∣ ρ ∣ \leq 1

。

例例. 还是那张表（

X, Y

各取

0, 1

，四格

0.1, 0.2, 0.3, 0.4

），求

Cov (X, Y)

与

ρ

。

第一步，边缘：

P (X = 1) = 0.7

故

E (X) = 0.7

；

P (Y = 1) = 0.6

故

E (Y) = 0.6

。

第二步，

X Y

只在

(1, 1)

格取

1

，其余为

0

：

E (X Y) = 0.4

。

第三步，

Cov (X, Y) = 0.4 - 0.7 \times 0.6 = - 0.02.

第四步，

0

1

变量的方差是

p (1 - p)

：

D (X) = 0.21

、

D (Y) = 0.24

，

ρ = \frac{- 0.02}{0.21 \times 0.24} \approx - 0.089.

∣ ρ ∣ \leq 1

✓ 负相关且很弱——和前面「不独立」的结论一致（独立必不相关，反过来不成立）。

用双线性拆开

第一步：把常数项丢掉（

Cov (X + c, Y) = Cov (X, Y)

）。

第二步：系数直接提到外面（每个位置提一次，不平方）。

第三步：和式逐项拆开，变成若干个协方差之和。

第四步：遇到

Cov (X, X)

就换成

D (X)

。

例例. 已知

D (X) = 4

、

D (Y) = 9

、

Cov (X, Y) = - 2

，求

Cov (2 X + 1, 3 Y - X)

。

第一步，常数项丢掉：

= Cov (2 X, 3 Y - X)

。

第二步，系数提到外面，每个位置提一次、不平方（和方差不同）：

= 2 Cov (X, 3 Y - X)

。

第三步，第二个位置逐项拆开：

= 2 [3 Cov (X, Y) - Cov (X, X)] .

第四步，

Cov (X, X) = D (X) = 4

，代入得

2 [3 \times (- 2) - 4] = - 20.

协方差是双线性的（两个位置各自线性），而方差只有一个位置、提系数要平方——把这两者记混是最常见的错。

判断相关与独立

第一步：算

Cov

；为零则不相关，非零则相关（也就一定不独立）。

第二步：不相关时不能断定独立——要另外验

f = f_{X} f_{Y}

或逐格验分布律。

第三步：题目说「二维正态」时，不相关与独立等价，可以直接互推。

第四步：答题时把「不相关」与「独立」两个词分清楚，别混用。

例例. 设

X \sim U (- 1, 1)

，

Y = X^{2}

。两者相关吗？独立吗？

第一步，

E (X) = 0

；

E (X Y) = E (X^{3}) = \int_{- 1}^{1} x^{3} \cdot \frac{1}{2} d x = 0

（奇函数）。故

Cov (X, Y) = 0

，不相关。

第二步，但它们显然不独立——

Y

完全由

X

决定。例如

P (∣ X ∣ < \frac{1}{2}) = \frac{1}{2}

，而给定

Y = \frac{1}{4}

时

∣ X ∣

必为

\frac{1}{2}

。不相关推不出独立。

第三步，题目若说「

(X, Y)

服从二维正态」，那时不相关与独立等价——但这是正态的特权，不是通则。

第四步，两个词要分清：「不相关」说的是协方差为零，只管线性关系；「独立」说的是联合等于边缘之积。这道题里两者的关系是完全的，只是不是线性的。

基础易错

基础阶段真的会犯的那几处，每条都指到动笔的哪一步。

由「不相关」断定独立

ρ = 0

只说明没有线性关系。

X \sim U (- 1, 1)

、

Y = X^{2}

就是反例。

只有二维正态分布里两者才等价。

判独立要回到 $f (x, y) = f_{X} (x) f_{Y} (y)$ ，不能靠协方差。

协方差提系数时平方了

Cov (a X, bY) = ab Cov (X, Y)

——每个位置提一次，不平方。

平方是方差的事（

D (a X) = a^{2} D (X)

），因为那相当于

Cov (a X, a X)

。

两条公式放在一起记，就不会串。

把 $ρ$ 的大小当成「关系的强弱」

ρ

量的只是线性相关的强弱。

ρ

很小不代表两者关系弱——可能是强的非线性关系（抛物线、周期性）。

答题时说「不相关」，不要说「无关」。

$D (X \pm Y)$ 展开时漏掉协方差项

只有独立（或不相关）时才有

D (X \pm Y) = D (X) + D (Y)

。

一般情形要带上

\pm 2 Cov (X, Y)

，而且加号对加、减号对减。

题目给了

Cov

却不用，多半就是漏了这一项。

自己试一试

这一档不判分、不记进度，想不出来就直接看解答。

第一组 · 认定义

练 1

协方差的计算公式：

Cov (X, Y) = E (X Y) -

________。

练 2

Cov (X, X)

等于（）。

A $0$
B $E (X)$
C $1$
D $D (X)$

练 3

练 4

练 5

设

X \sim U (0, 1)

、

Y = X

，则

Cov (X, Y) =

________。

练 6

设

D (X) = 4

、

D (Y) = 9

、

Cov (X, Y) = - 2

，则

D (X + Y) =

________。

练 7

承上题，

D (X - Y) =

________。

练 8

Cov (2 X, 3 Y)

等于（）。

A $36 Cov (X, Y)$
B $5 Cov (X, Y)$
C $6 Cov (X, Y)$
D $Cov (X, Y)$

第三组 · 相关与独立

练 9

设

Y = 2 X + 3

且

D (X) > 0

，则

ρ_{X Y} =

________。

练 10

设

X \sim U (- 1, 1)

、

Y = X^{2}

，则

Cov (X, Y) =

________。

练 11

「独立」与「不相关」的关系是（）。

A等价
B不相关 $\Rightarrow$ 独立
C毫无关系
D独立 $\Rightarrow$ 不相关，反之不成立

练 12

ρ_{X Y} = 0

的正确含义是（）。

A $X$ 与 $Y$ 没有任何关系
B $X$ 与 $Y$ 之间没有线性关系
C $X$ 与 $Y$ 必定独立
D $X = Y$

读完了？下一步是同一个知识点的完整讲解，那一档按考试难度写。

数一 · 完整讲解数三 · 完整讲解大学版 · 完整讲解

协方差与相关系数

先打基础

1. 协方差：两者是否「同向偏离」

2. 性质：对称、双线性，以及方差的展开式

3. 相关系数：把协方差标准化到 [−1,1]

4. 独立 ⇒ 不相关，反过来不行

常用结构

算协方差

用双线性拆开

判断相关与独立

基础易错

由「不相关」断定独立

协方差提系数时平方了

把 ρ 的大小当成「关系的强弱」

D(X±Y) 展开时漏掉协方差项

自己试一试

练 1

练 2

练 3

练 4

练 5

练 6

练 7

练 8

练 9

练 10

练 11

练 12

3. 相关系数：把协方差标准化到 $[- 1, 1]$

4. 独立 $\Rightarrow$ 不相关，反过来不行

把 $ρ$ 的大小当成「关系的强弱」

$D (X \pm Y)$ 展开时漏掉协方差项