矩估计

概率论与数理统计 · 参数估计

先打基础

一条一条过。读完点「已懂」或「待回顾」，这条就收起来，页面上剩下的就是还没过的。

1. 想法：用样本矩去顶替总体矩

总体的

k

阶原点矩

E (X^{k})

里含着未知参数；
而样本的

k

阶原点矩

A_{k} = \frac{1}{n} i = 1 \sum n X_{i}^{k}

拿到数据就能算。由辛钦大数定律，

A_{k} P E (X^{k}) .

既然样本矩会收敛到总体矩，就干脆把两者划等号，解出参数。
这就是矩估计，得到的解记作

\hat{θ}

。

要几个方程，就看有几个未知参数：一个参数用一阶矩，
两个参数再补二阶矩，依次往上。

2. 两个参数：补上二阶矩

未知参数有两个时，一个方程不够，要联立两条：

E (X) = \overset{ˉ}{X}, E (X^{2}) = A_{2} = \frac{1}{n} \sum X_{i}^{2} .

实际算的时候常用一个等价的替换：第二式换成

D (X) = B_{2} = \frac{1}{n} \sum (X_{i} - \overset{ˉ}{X})^{2},

因为

D (X) = E (X^{2}) - [E (X)]^{2}

，而

B_{2} = A_{2} - \overset{ˉ}{X}^{2}

——
两边是同一个变形，用哪个都行。

注意 $B_{2}$ 的分母是 $n$ ，不是

n - 1

。

B_{2}

是样本二阶中心矩，和样本方差

S^{2}

差一个因子。

3. 矩估计的毛病

矩估计好在不挑分布（只要矩算得出来），但有三处要留心。

① 不唯一：同一个参数可以用不同的矩解出来，答案未必相同。
约定是从最低阶开始、用够为止。

② 不一定无偏：上面那个

\overset{σ}{^}^{2}

就偏小。

③ 可能落在参数空间外：解出来的值有时不满足参数本身的约束
（比如解出一个负的方差），这时要按题目给的范围处理。

它的好处也实在：计算简单，而且由大数定律保证一致性
——

n

大时总能收敛到真值。

4. 怎么答这类题

矩估计的题几乎是模板化的：

① 数清未知参数的个数 $m$ ，就要列

m

个方程。

② 算总体的前 $m$ 阶矩，把参数留在式子里。

③ 令它们分别等于样本矩，

\overset{ˉ}{X}

、

A_{2}

（或

B_{2}

）。

④ 解方程组，答案戴帽子。

两个常见的加分点：
算完指出它是否无偏（算一次期望即可）；
题目给了具体数据时，把样本值代进去算出一个数。

别忘了参数的取值范围——解出两个根时要按范围取舍。

常用结构

这类题反复出现的那个写法骨架——按这个顺序动笔。

一个参数

第一步：算总体期望

E (X)

，把参数留在里面。

第二步：令

E (X) = \overset{ˉ}{X}

。

第三步：解出参数，写成

\hat{θ} = \dots

。

第四步：若

E (X)

里不含参数（如对称分布的均值为

0

），改用二阶矩。

例例. 设总体

X \sim E (λ)

，求

λ

的矩估计。

第一步，算总体期望，把参数留在里面：

E (X) = \frac{1}{λ}

。

第二步，令它等于样本均值：

\frac{1}{λ} = \overset{ˉ}{X}

。

第三步，解出

\hat{λ} = \frac{1}{X ˉ}

。

第四步，若 $E (X)$ 里不含参数就得换二阶矩。例如

X \sim U (- θ, θ)

时

E (X) = 0

，第二步成了

0 = \overset{ˉ}{X}

，解不出

θ

；改用

E (X^{2}) = \frac{θ ^{2}}{3} = A_{2} ⟹ \hat{θ} = 3 A_{2} .

判据就一句：这个方程里还有没有参数？没有就往上升一阶。

两个参数

第一步：算

E (X)

与

E (X^{2})

（或

D (X)

）。

第二步：令

E (X) = \overset{ˉ}{X}

、

E (X^{2}) = A_{2}

（或

D (X) = B_{2}

）。

第三步：先从第一式解出一个，再代入第二式。

第四步：注意

B_{2}

的分母是

n

，不是

n - 1

。

例例. 设总体期望

μ

、方差

σ^{2}

都未知，求两者的矩估计。

第一步，

E (X) = μ

，

E (X^{2}) = σ^{2} + μ^{2}

。

第二步，令

μ = \overset{ˉ}{X}, σ^{2} + μ^{2} = A_{2} = \frac{1}{n} \sum X_{i}^{2} .

第三步，先从第一式解出

\overset{μ}{^} = \overset{ˉ}{X}

，代入第二式：

\overset{σ}{^}^{2} = A_{2} - \overset{ˉ}{X}^{2} = \frac{1}{n} \sum (X_{i} - \overset{ˉ}{X})^{2} .

第四步，注意分母是 $n$ ，不是 $n - 1$ 。这个量记作

B_{2}

，和样本方差

S^{2}

差一个因子

\frac{n - 1}{n}

。

所以矩估计出来的方差是有偏的——下一条就把这个偏差算出来。

检查矩估计的性质

第一步：把

\hat{θ}

写成样本的函数。

第二步：算

E (\hat{θ})

——等于

θ

就是无偏。

第三步：不等于时算出偏差倍数，必要时乘一个常数改造成无偏。

第四步：一致性一般由大数定律直接得到，可以一句话带过。

例例. 接上题，

\overset{σ}{^}^{2} = B_{2}

是无偏估计吗？

第一步，写成样本的函数：

B_{2} = \frac{n - 1}{n} S^{2}

。

第二步，

E (B_{2}) = \frac{n - 1}{n} E (S^{2}) = \frac{n - 1}{n} σ^{2} \neq = σ^{2},

有偏，而且偏小。

第三步，偏差倍数是

\frac{n - 1}{n}

，乘上它的倒数就无偏：

\frac{n}{n - 1} B_{2} = S^{2}

——这正是样本方差分母取 $n - 1$ 的理由。

第四步，一致性由大数定律一句话带过：

A_{2} P E (X^{2})

、

\overset{ˉ}{X} P μ

，故

B_{2} P σ^{2}

。

n

大时

\frac{n - 1}{n} \to 1

，偏差消失——有偏但一致，这两件事并不矛盾。

基础易错

基础阶段真的会犯的那几处，每条都指到动笔的哪一步。

$B_{2}$ 的分母写成 $n - 1$

样本二阶中心矩

B_{2} = \frac{1}{n} \sum (X_{i} - \overset{ˉ}{X})^{2}

，分母是

n

。

分母

n - 1

的那个是样本方差

S^{2}

，是为无偏性改过的。

矩估计给出的是 $B_{2}$ ，所以正态方差的矩估计是有偏的。

方程个数和参数个数对不上

几个未知参数就列几条矩方程，从一阶开始依次往上。

只列一条去解两个参数，必然解不出来。

若一阶矩里不含参数（如

E (X) = 0

），这一条要跳过，改用更高阶。

把估计量和估计值混为一谈

\hat{θ} = 2 \overset{ˉ}{X}

是估计量（随机变量）；
代入数据得到的

0.8

是估计值（一个数）。

评价无偏、有效，评的都是估计量。

答题时保留大写字母，除非题目给了具体数据。

用矩估计的答案去验最大似然

两种方法答案常常不同，

U (0, θ)

那道就是典型：
矩估计给

2 \overset{ˉ}{X}

，最大似然给

max X_{i}

。

不同不代表谁错了，它们是两套不同的准则。

题目问哪个就做哪个，别互相校验。

自己试一试

这一档不判分、不记进度，想不出来就直接看解答。

第一组 · 列方程

练 1

矩估计的基本做法是令总体矩等于 ________ 矩。

练 2

总体服从参数

λ

的指数分布，则

λ

的矩估计

\hat{λ} =

________。

练 3

样本二阶中心矩

B_{2}

的分母是（）。

A $n - 1$
B $n$
C $n + 1$
D $n^{2}$

练 4

总体

X \sim N (μ, σ^{2})

两参数未知，矩估计需要列（）条方程。

A $1$
B $3$
C $n$
D $2$

第二组 · 会解

练 5

总体

X \sim U (0, θ)

，则

θ

的矩估计

\hat{θ} =

________。

练 6

总体

X \sim N (μ, σ^{2})

，则

σ^{2}

的矩估计是

\frac{1}{n} \sum (X_{i} - □)^{2}

，其中

□ =

________。

练 7

总体密度

f (x) = (θ + 1) x^{θ}

（

0 < x < 1

），则

E (X) =

（）。

A $\frac{θ + 1}{θ + 2}$
B $\frac{θ}{θ + 1}$
C $\frac{1}{θ + 1}$
D $θ + 1$

练 8

接上题，

θ

的矩估计

\hat{θ} = \frac{2 X ˉ - 1}{□}

，其中

□ =

________。

第三组 · 看性质

练 9

关于矩估计，下列说法正确的是（）。

A一定无偏
B一定唯一
C由大数定律保证一致性
D一定与最大似然估计相同

练 10

样本为

0.1, 0.2, 0.9

，总体

U (0, θ)

。矩估计值

2 \overset{ˉ}{X} = 0.8

的问题在于（）。

A比样本最大值 $0.9$ 还小
B是负数
C不是整数
D没有问题

练 11

已知

E (B_{2}) = \frac{n - 1}{n} σ^{2}

。要把

B_{2}

改造成无偏估计，应乘以 ________。

练 12

总体期望为

0

（与参数无关），求参数的矩估计时应当（）。

A直接令 $0 = \overset{ˉ}{X}$
B跳过一阶矩，改用二阶矩
C断定矩估计不存在
D改用最大似然

读完了？下一步是同一个知识点的完整讲解，那一档按考试难度写。

数一 · 完整讲解数三 · 完整讲解大学版 · 完整讲解

矩估计

先打基础

1. 想法：用样本矩去顶替总体矩

2. 两个参数：补上二阶矩

3. 矩估计的毛病

4. 怎么答这类题

常用结构

一个参数

两个参数

检查矩估计的性质

基础易错

B2​ 的分母写成 n−1

方程个数和参数个数对不上

把估计量和估计值混为一谈

用矩估计的答案去验最大似然

自己试一试

练 1

练 2

练 3

练 4

练 5

练 6

练 7

练 8

练 9

练 10

练 11

练 12

$B_{2}$ 的分母写成 $n - 1$