矩与协方差矩阵

概率论与数理统计 · 随机变量的数字特征

先打基础

一条一条过。读完点「已懂」或「待回顾」，这条就收起来，页面上剩下的就是还没过的。

1. 矩：把前面几个数字特征统一起来

$k$ 阶原点矩：

E (X^{k})

； $k$ 阶中心矩：

E [(X - E (X))^{k}]

。

「原点」指以

0

为基准，「中心」指以重心

E (X)

为基准。

于是前面学的几个量都是矩：

一阶原点矩 二阶中心矩 二阶混合中心矩 E (X) D (X) Cov (X, Y)

两个变量时还有混合矩

E (X^{k} Y^{l})

，其中

E (X Y)

最常用。

这个名字的用处：题目说「求二阶原点矩」时，问的就是

E (X^{2})

——
别被名词吓住，它只是换了个说法。

2. 协方差矩阵：把两两关系摆成一张方阵

对

n

维随机变量

(X_{1}, \dots, X_{n})

，把两两的协方差排成矩阵

C = (c_{ij}), c_{ij} = Cov (X_{i}, X_{j}) .

它有两条性质：

① 对角线上是各自的方差（因为

Cov (X_{i}, X_{i}) = D (X_{i})

）；

② 对称且半正定（对称来自协方差的对称性）。

二维时就是

C = (D (X) Cov (X, Y) Cov (X, Y) D (Y)) .

这里和线性代数接上了：对称半正定矩阵的那套结论（特征值非负、
可正交对角化）在多元统计里就是从这儿用起的。

3. 二维正态：独立与不相关在这里等价

二维正态分布由五个参数决定：

(X, Y) \sim N (μ_{1}, μ_{2}; σ_{1}^{2}, σ_{2}^{2}; ρ) .

前四个是两个边缘的期望与方差，第五个就是相关系数。

三条必须记住的结论：

① 边缘仍是正态：

X \sim N (μ_{1}, σ_{1}^{2})

，

Y \sim N (μ_{2}, σ_{2}^{2})

；

② 独立 $⟺$ $ρ = 0$ （这是二维正态独有的，一般分布没有）；

③ 线性组合仍是正态：

a X + bY

服从正态（

a, b

不全为零）。

第②条让正态题特别省事：算出协方差为零，就可以直接断定独立。

4. 一张图把这一章串起来

这一章的概念是层层递进的，记住它们的强弱次序比记公式更要紧：

独立 \Rightarrow 不相关 \Rightarrow Cov = 0

（后两者等价），而反向箭头一律不成立，唯一的例外是二维正态。

常用的三组公式，也按这个次序排：

期望：线性性无条件；可乘性要独立。

方差：

D (a X + b) = a^{2} D (X)

无条件；

D (X \pm Y) = D (X) + D (Y)

要不相关（比独立弱，够用）。

协方差：双线性无条件；

Cov = 0

就是不相关的定义。

注意第二行那个细节：方差可加只需要「不相关」，不必独立——
这是考题爱卡的一个点。

常用结构

这类题反复出现的那个写法骨架——按这个顺序动笔。

认矩的名词

第一步：看是「原点矩」还是「中心矩」——前者以

0

为基准，后者以

E (X)

为基准。

第二步：看阶数

k

，写出

E (X^{k})

或

E [(X - E (X))^{k}]

。

第三步：一阶原点矩就是期望，二阶中心矩就是方差，直接换成熟悉的量。

第四步：混合矩

E (X^{k} Y^{l})

用联合分布算（二重积分或双重求和）。

例例. 设

X

的密度

f (x) = 2 x

（

0 < x < 1

），求一阶原点矩、二阶原点矩、二阶中心矩。

第一步，原点矩以

0

为基准，中心矩以

E (X)

为基准。

第二步，

E (X) = \int_{0}^{1} x \cdot 2 x d x = \frac{2}{3}, E (X^{2}) = \int_{0}^{1} x^{2} \cdot 2 x d x = \frac{1}{2} .

第三步，换成熟悉的量：一阶原点矩就是期望

\frac{2}{3}

；二阶中心矩就是方差

D (X) = \frac{1}{2} - \frac{4}{9} = \frac{1}{18} .

第四步，混合矩

E (X^{k} Y^{l})

用联合分布算；最常用的

E (X Y)

就是

k = l = 1

的情形——协方差那一节用的正是它。

写协方差矩阵

第一步：对角线填各自的方差。

第二步：非对角填两两协方差，注意矩阵对称。

第三步：要相关系数就用

ρ = \frac{c _{12}}{c _{11} c _{22}}

。

第四步：验半正定——二维时看

c_{11} \geq 0

且

det C \geq 0

。

例例. 设

D (X) = 4

、

D (Y) = 9

、

Cov (X, Y) = - 2

，写出协方差矩阵并求

ρ

。

第一步，对角线填各自的方差。

第二步，非对角填协方差，矩阵对称：

C = (4 - 2 - 2 9) .

第三步，

ρ = \frac{c _{12}}{c _{11} c _{22}} = \frac{- 2}{6} = - \frac{1}{3} .

第四步，验半正定（二维看两条）：

c_{11} = 4 \geq 0

✓

det C = 36 - 4 = 32 \geq 0

✓

det C \geq 0

这一条等价于

∣ ρ ∣ \leq 1

。所以算出

∣ ρ ∣ > 1

时，错的多半不是那个除法，而是前面某个方差或协方差。

二维正态的题

第一步：在题面里确认「二维正态」四个字。

第二步：边缘直接写成一维正态，参数照搬前四个。

第三步：要判独立就看

ρ

（或协方差）是否为零——这里两者等价。

第四步：线性组合仍是正态，期望与方差用线性性和方差展开式算出来即可。

例例.

(X, Y)

服从二维正态，

μ_{1} = 1

、

μ_{2} = 2

、

σ_{1}^{2} = 4

、

σ_{2}^{2} = 9

、

ρ = 0

。求

X

的分布，判独立，求

X + Y

的分布。

第一步，题面确认「二维正态」四个字 ✓ 下面每一步都以它为前提。

第二步，边缘直接照搬前四个参数：

X \sim N (1, 4)

、

Y \sim N (2, 9)

。

第三步，

ρ = 0

\Rightarrow

独立。这是二维正态的特权——一般分布里不相关推不出独立（上一节

Y = X^{2}

就是反例）。

第四步，线性组合仍是正态：

E (X + Y) = 3, D (X + Y) = 4 + 9 + 2 ρ σ_{1} σ_{2} = 13,

故

X + Y \sim N (3, 13)

。

ρ \neq = 0

时第三项不为零，要代进去算。

基础易错

基础阶段真的会犯的那几处，每条都指到动笔的哪一步。

把「不相关」当成「独立」用在非正态的题里

只有二维正态才有这个等价。一般分布里，不相关推不出独立。

用这条结论前先在题面里找「二维正态」四个字，找不到就不能用。

反例始终是那个：

X \sim U (- 1, 1)

、

Y = X^{2}

。

协方差矩阵写得不对称

c_{ij} = c_{j i}

，因为

Cov (X, Y) = Cov (Y, X)

。

写出来不对称，必定是某一格抄错了。

还有一条自检：对角线必须非负（那是方差）。

把二阶原点矩当成方差

二阶原点矩是

E (X^{2})

，二阶中心矩才是

D (X)

，两者差一个

[E (X)]^{2}

。

题目问「二阶原点矩」而答了方差，是这一节最常见的审题错。

基准不同：原点矩以

0

为基准，中心矩以重心为基准。

方差可加时把条件说成「必须独立」

D (X + Y) = D (X) + D (Y)

真正需要的只是

Cov (X, Y) = 0

，即不相关。

独立是更强的条件，够用但不必要。

考题正是在这个差上出：只给「不相关」，问方差能不能加——能。

自己试一试

这一档不判分、不记进度，想不出来就直接看解答。

第一组 · 认名词

练 1

X

的二阶原点矩是指 ________（用期望写出）。

练 2

二阶中心矩就是（）。

A方差 $D (X)$
B期望 $E (X)$
C $E (X^{2})$
D协方差

练 3

协方差矩阵的对角线元素是各个分量的 ________。

练 4

二维正态分布由几个参数决定（）。

A $2$ 个
B $3$ 个
C $5$ 个
D $4$ 个

第二组 · 算与写

练 5

设

X \sim U (0, 1)

，则它的二阶原点矩为 ________。

练 6

设

D (X) = 4

、

D (Y) = 9

、

Cov (X, Y) = - 2

，则

ρ_{X Y} =

________。

练 7

协方差矩阵一定是（）。

A对角矩阵
B对称且半正定的
C正交矩阵
D可逆矩阵

练 8

设

(X, Y)

服从二维正态，则

X

的边缘分布是 ________ 分布。

第三组 · 强弱次序

练 9

设

(X, Y)

服从二维正态且

Cov (X, Y) = 0

，则

X

与

Y

（）。

A相互独立
B不相关但未必独立
C一定相等
D无法判断

练 10

设

X, Y

不相关，

D (X) = 2

、

D (Y) = 3

，则

D (X + Y) =

________。

练 11

下列蕴含关系正确的是（）。

A不相关 $\Rightarrow$ 独立
B $Cov = 0 \Rightarrow$ 独立
C独立 $\Rightarrow$ 不相关 $⟺$ $Cov = 0$
D三者两两等价

练 12

题目问「

X

的二阶原点矩」，应当回答（）。

A $D (X)$
B $σ (X)$
C $E (X)$
D $E (X^{2})$

读完了？下一步是同一个知识点的完整讲解，那一档按考试难度写。

数一 · 完整讲解数三 · 完整讲解大学版 · 完整讲解