矩估计

§21.1 · 方法技巧🌱 基础篇 →

考频价值

0.70 分/卷近 11 年平均

1/11 年出现年份

0.7 分支撑的下游价值

前置诊断

① 直接前置（需先掌握）总体、样本与统计量数学期望矩与协方差矩阵

要点精讲

把关键道理、证明与典型例子重新过一遍。

1. 未知参数有几个就列几个矩方程；一阶矩不含参数时须改用高阶矩★★ 必会

矩估计法的一般约定是从低阶原点矩起逐阶选取：有几个未知参数，就列几个方程。如果只有一个参数，那么一般只需一个方程

E (X) = \overset{ˉ}{X}

；如果有两个参数，就再补上

E (X^{2}) = A_{2}

（或

D (X) = B_{2}

）。

必须注意下面这种情形：如果 $E (X)$ 中根本不含待估参数，那么一阶矩方程里没有 $θ$ ，方程解不出来。最典型的是关于原点对称的总体，这时

E (X) = 0

恒成立，与参数无关。因此上述约定应当补充为：从低阶矩起逐阶选取，凡不含参数的矩一律跳过，直到所列方程组含有参数且可解为止。

举例说明

设总体的概率密度为

f (x; θ) = \frac{1}{2 θ}

，

- θ < x < θ

（

θ > 0

未知），

X_{1}, \dots, X_{n}

为来自该总体的样本，求

θ

的矩估计量。

解. 因为概率密度关于原点对称，所以

E (X) = 0

，于是一阶矩方程

0 = \overset{ˉ}{X}

中不含

θ

，由它定不出参数。为此改用二阶原点矩：

E (X^{2}) = D (X) + [E (X)]^{2} = \frac{( 2 θ ) ^{2}}{12} + 0 = \frac{θ ^{2}}{3} .

令

E (X^{2}) = A_{2} = \frac{1}{n} \sum X_{i}^{2}

，得

\frac{θ ^{2}}{3} = \frac{1}{n} i = 1 \sum n X_{i}^{2} ⟹ \hat{θ} = \frac{3}{n} i = 1 \sum n X_{i}^{2} .

如果机械地只写出

E (X) = \overset{ˉ}{X}

，求解就无法进行。以对称总体命题的试题，考查的就是这一点。

2. 矩估计不顾及参数应满足的约束，可能给出范围之外的不合理估计值★ 要懂

矩估计只是令总体矩与样本矩相等，并不顾及参数本身应当满足的约束，例如分布支撑的端点所要求的

X_{i} \leq θ

。因此它有可能给出自相矛盾的估计值，甚至比已经观测到的数据还小。

这就是矩估计比之最大似然估计的主要不足：它没有利用样本必须落在由参数确定的范围之内这一信息。最大似然估计把定义域的约束写进了似然函数，所以估计值不会越出参数的范围。

证明 / 推导

证 ① 最大似然估计不会越出参数的范围. 设

X \sim U [0, θ]

，样本观测值为

x_{1}, \dots, x_{n}

，其中各

x_{i} \geq 0

，并记

x_{(n)} = max {x_{1}, \dots, x_{n}}

。密度为

f (x; θ) = \frac{1}{θ} (0 \leq x \leq θ)

，在别处为

0

。只要有一个

x_{i} > θ

，就有

f (x_{i}; θ) = 0

，从而似然函数为零。因此

L (θ) = i = 1 \prod n f (x_{i}; θ) = {θ^{- n}, 0, θ \geq x_{(n)}, θ < x_{(n)} .

函数

θ^{- n}

在

[x_{(n)}, + \infty)

上严格减，故

L

在左端点取到最大值，即

\hat{θ}_{MLE} = x_{(n)}

，它必定不小于每一个观测值。由此可见，约束是由似然函数在

θ < x_{(n)}

时等于零这一点自动实现的。

② 矩估计出现矛盾并非偶然. 矩估计不合理，指的是

2 \overset{ˉ}{X} < X_{(n)}

。记

M = X_{(n)}

，

S

为其余

n - 1

个观测值之和，则

\overset{ˉ}{X} = \frac{M + S}{n}

，于是

2 \overset{ˉ}{X} < M ⟺ \frac{2 ( M + S )}{n} < M ⟺ 2 S < (n - 2) M .

当

n = 1

或

n = 2

时，右端

\leq 0

而左端

\geq 0

，不等式不成立。这说明样本容量至少要有

3

个，才可能出现这种矛盾。

设

n \geq 3

，考虑事件

A = {X_{1} > \frac{θ}{2}} \cap i = 2 ⋂ n {X_{i} < \frac{( n - 2 ) θ}{4 ( n - 1 )}} .

在

A

上有

M \geq X_{1} > \frac{θ}{2}

，并且

S < (n - 1) \cdot \frac{( n - 2 ) θ}{4 ( n - 1 )} = \frac{( n - 2 ) θ}{4}

，因而

2 S < \frac{( n - 2 ) θ}{2} < (n - 2) M,

即在

A

上必有

2 \overset{ˉ}{X} < X_{(n)}

。又因

X_{1}, \dots, X_{n}

相互独立且都服从

U [0, θ]

，故

P (A) = \frac{1}{2} \cdot (\frac{n - 2}{4 ( n - 1 )})^{n - 1} > 0.

所以对一切

n \geq 3

，矩估计给出的值小于最大观测值这一事件的概率都是正的。这就证明了例中的现象不是特意挑选数据的结果，而是矩估计固有的不足。

■

举例说明

设

X \sim U [0, θ]

。由

E (X) = θ /2 = \overset{ˉ}{X}

得矩估计量

\hat{θ}_{矩} = 2 \overset{ˉ}{X}

。

现取样本观测值

0.1, 0.2, 0.3, 3.4

（

n = 4

）。这时

\overset{ˉ}{X} = \frac{0.1 + 0.2 + 0.3 + 3.4}{4} = 1.0

，因此

\hat{θ}_{矩} = 2

。

矛盾即在于此：观测值中有

X_{(4)} = 3.4

，而

U [0, 2]

不可能取到大于

2

的值。矩估计把

θ

估计成

2

，比已经观测到的数据还小，与事实相抵触。

与之相比，最大似然估计

\hat{θ}_{MLE} = X_{(n)} = 3.4

总是

\geq

所有观测值，是合理的。由此可见，矩估计没有充分利用样本所含的信息，有时会给出不合理的结果。

3. 连续型总体求矩估计的步骤：先由积分把总体矩表为参数的函数，再反解★ 要懂

对于连续型总体，

E (X^{k}) = \int_{- \infty}^{+ \infty} x^{k} f (x; θ) d x

必须先积出来，使它成为

θ

的显式函数，然后令它等于样本矩，反解出

θ

。全部困难都集中在把总体矩表为参数的函数这一步：积分必须算准，尤其积分限就是分布的支撑区间，不可与别的区间相混。

举例说明

设总体的概率密度为

f (x; θ) = (θ + 1) x^{θ}

，

0 < x < 1

（

θ > - 1

未知），求

θ

的矩估计量。

解. 先求一阶原点矩：

E (X) = \int_{0}^{1} x (θ + 1) x^{θ} d x = (θ + 1) \int_{0}^{1} x^{θ + 1} d x = (θ + 1) \cdot \frac{1}{θ + 2} = \frac{θ + 1}{θ + 2} .

令

E (X) = \overset{ˉ}{X}

，得

\frac{θ + 1}{θ + 2} = \overset{ˉ}{X}

，即

θ + 1 = \overset{ˉ}{X} (θ + 2)

。整理后得

θ (1 - \overset{ˉ}{X}) = 2 \overset{ˉ}{X} - 1 ⟹ \hat{θ} = \frac{2 X ˉ - 1}{1 - X ˉ} .

（因为

0 < X < 1

，所以

0 < \overset{ˉ}{X} < 1

，分母

1 - \overset{ˉ}{X} > 0

，所得的解有意义。）

4. 矩估计一般是相合的：由大数定律与连续函数保持依概率收敛

相合性是矩估计最可靠的优点，它说明样本容量越大，估计就越准确。理由分两步：

1. 样本矩收敛于总体矩：由辛钦大数定律，

A_{k} = \frac{1}{n} \sum X_{i}^{k} P E (X^{k}) = μ_{k}

；
2. 连续函数保持依概率收敛：参数是各阶矩的连续函数

\hat{θ} = h (A_{1}, \dots, A_{m})

，因此由连续映射定理得

\hat{θ} P h (μ_{1}, \dots, μ_{m}) = θ

。

由此可见，矩估计即使有偏（例如

B_{2}

偏小地估计

σ^{2}

），它仍然是相合的。无偏性与相合性是两回事，不可混为一谈。

证明 / 推导

证下面就单参数的情形给出严格论证。设

\hat{θ} = h (A_{1})

，其中

A_{1} = \overset{ˉ}{X}

，

h

是由反解所得的连续函数，真值满足

μ = E (X) = g (θ)

及

θ = h (μ)

。

由辛钦大数定律，

\overset{ˉ}{X} P μ

，即对任意

δ > 0

，有

P {∣ \overset{ˉ}{X} - μ ∣ \geq δ} \to 0

。

又因

h

在

μ

处连续，故对任意

ε > 0

，存在

δ > 0

，使

∣ a - μ ∣ < δ \Rightarrow ∣ h (a) - h (μ) ∣ < ε

。于是

P {∣ \hat{θ} - θ ∣ \geq ε} = P {∣ h (\overset{ˉ}{X}) - h (μ) ∣ \geq ε} \leq P {∣ \overset{ˉ}{X} - μ ∣ \geq δ} \to 0 (n \to \infty) .

因此

\hat{θ} = h (\overset{ˉ}{X}) P θ

，这就证明了矩估计是相合的。

■

💡 小知识

矩估计由英国统计学家卡尔·皮尔逊在 19 世纪末系统提出，是最早的通用参数估计方法。它的想法朴素到近乎天真：能算出来的样本平均，就拿来当作算不出来的总体平均。可正因为不依赖分布的具体形式，它到今天仍是快速估计的常用手段。

基础例题

从最基础开始，循序渐进；先独立尝试，再展开完整解答。

例 1 设总体

X

服从参数为

λ

的泊松分布

P (λ)

（

λ > 0

未知），

X_{1}, X_{2}, \dots, X_{n}

为来自

X

的样本。求

λ

的矩估计量。难度 1

第一步：把总体一阶矩写成参数的函数。 泊松分布的期望为

E (X) = λ

，它恰好就是待估参数。

第二步：令总体矩等于样本矩。 只有一个未知参数，故只需一阶矩这一个方程：

E (X) = \overset{ˉ}{X} ⟹ λ = \overset{ˉ}{X} .

第三步：写出矩估计量。

\hat{λ} = \overset{ˉ}{X} = \frac{1}{n} i = 1 \sum n X_{i} .

注：泊松分布还有

D (X) = λ

，但按「优先用低阶原点矩」的约定，一个参数只用

E (X) = \overset{ˉ}{X}

即可。

例 2 设总体

X

服从参数为

λ

的指数分布，概率密度为

f (x) = λ e^{- λ x} (x > 0)

，其中

λ > 0

未知，

X_{1}, \dots, X_{n}

为样本。求

λ

的矩估计量。难度 1

第一步：算总体一阶矩。 指数分布的期望为

E (X) = \frac{1}{λ} .

注意这里

E (X)

是

λ

的倒数关系，这是本题与泊松分布的差别所在。

第二步：令 $E (X) = \overset{ˉ}{X}$ 。

\frac{1}{λ} = \overset{ˉ}{X} .

第三步：反解出 $λ$ 。

\hat{λ} = \frac{1}{X ˉ} = \frac{n}{\sum _{i = 1}^{n} X _{i}} .

关键提醒：矩方程给出的是

\frac{1}{λ} = \overset{ˉ}{X}

，要再取倒数才得到

\hat{λ}

，切勿写成

\hat{λ} = \overset{ˉ}{X}

。

例 3 设总体

X

的概率密度为

f (x) = (θ + 1) x^{θ} (0 < x < 1)

，其余为

0

，其中

θ > - 1

未知，

X_{1}, \dots, X_{n}

为样本。求

θ

的矩估计量。难度 2

第一步：把总体一阶矩算成 $θ$ 的函数。

E (X) = \int_{0}^{1} x \cdot (θ + 1) x^{θ} d x = (θ + 1) \int_{0}^{1} x^{θ + 1} d x = (θ + 1) \cdot \frac{1}{θ + 2} = \frac{θ + 1}{θ + 2} .

第二步：令 $E (X) = \overset{ˉ}{X}$ 。

\frac{θ + 1}{θ + 2} = \overset{ˉ}{X} .

第三步：解方程。 去分母

θ + 1 = \overset{ˉ}{X} (θ + 2)

，即

θ + 1 = \overset{ˉ}{X} θ + 2 \overset{ˉ}{X}

，移项

θ (1 - \overset{ˉ}{X}) = 2 \overset{ˉ}{X} - 1

，故

\hat{θ} = \frac{2 X ˉ - 1}{1 - X ˉ} .

方法总结：含参密度先积分求

E (X)

，再令其等于

\overset{ˉ}{X}

反解。这类「一个参数、密度含

θ

」是矩估计最典型的计算题。

例 4 设总体

X \sim N (μ, σ^{2})

，其中

μ, σ^{2}

均未知，

X_{1}, \dots, X_{n}

为样本。求

μ

与

σ^{2}

的矩估计量。难度 2

第一步：写出两个总体矩。 正态分布的均值与方差直接就是参数：

E (X) = μ, D (X) = σ^{2} .

有两个未知参数，需要两个方程，采用「均值

+

方差」版本。

第二步：令总体矩等于样本矩。

E (X) = \overset{ˉ}{X}, D (X) = B_{2} = \frac{1}{n} i = 1 \sum n (X_{i} - \overset{ˉ}{X})^{2} .

第三步：直接读出估计量。

\overset{μ}{^} = \overset{ˉ}{X}, \overset{σ}{^}^{2} = B_{2} = \frac{1}{n} i = 1 \sum n (X_{i} - \overset{ˉ}{X})^{2} .

注意：这里

\overset{σ}{^}^{2}

的分母是

n

（样本二阶中心矩），而不是样本方差

S^{2}

的

n - 1

。

\overset{σ}{^}^{2}

是有偏的，这一点会在「估计量的评价标准」里再讨论。

真题精选

近年原题，先做做看、自动判分，再对照答案、思路与完整解答。

2017 年 · 数一 · 第 23 题 · 解答题 · 11 分

某工程师为了解一台天平的精度，用该天平对一物体的质量做

n

次测量，该物体的质量

μ

是已知的。设

n

次测量结果

X_{1}, X_{2}, \dots, X_{n}

相互独立且均服从正态分布

N (μ, σ^{2})

，该工程师记录的是

n

次测量的绝对误差

Z_{i} = ∣ X_{i} - μ ∣ (i = 1, 2, \dots, n)

。利用

Z_{1}, Z_{2}, \dots, Z_{n}

估计

σ

。

（Ⅰ）求

Z_{1}

的概率密度；

（Ⅱ）利用一阶矩求

σ

的矩估计量；

（Ⅲ）求

σ

的最大似然估计量.

2015 年 · 数一 · 第 23 题 · 解答题 · 11 分

设总体

X

的概率密度为

f (x; θ) = ⎩ ⎨ ⎧ \frac{1}{1 - θ}, 0, θ \leq x \leq 1, 其他,

其中

θ

为未知参数。

X_{1}, X_{2}, \dots, X_{n}

为来自该总体的简单随机样本。

（Ⅰ）求

θ

的矩估计量；

（Ⅱ）求

θ

的最大似然估计量。

2013 年 · 数一 · 第 23 题 · 解答题 · 11 分

设总体

X

的概率密度为

f (x; θ) = ⎩ ⎨ ⎧ \frac{θ ^{2}}{x ^{3}} e^{- \frac{θ}{x}}, 0, x > 0, 其他,

其中

θ

为未知参数且大于零。

X_{1}, X_{2}, \dots, X_{n}

为来自总体

X

的简单随机样本。

（Ⅰ）求

θ

的矩估计量；

（Ⅱ）求

θ

的最大似然估计量。

随堂练习

先用基础题热身，再按年份从新到旧挑战本知识点的其余真题。

练习 1 · 选择题

设总体

X

服从参数为

λ

的指数分布，密度

f (x) = λ e^{- λ x} (x > 0)

，

\overset{ˉ}{X}

为样本均值，则

λ

的矩估计量为（）。

A $\overset{ˉ}{X}$
B $\frac{1}{X ˉ}$
C $\frac{1}{X ˉ ^{2}}$
D $2 \overset{ˉ}{X}$

练习 2 · 填空题

设总体

X \sim U [0, θ]

（均匀分布，

θ > 0

未知），

X_{1}, \dots, X_{n}

为样本，则

θ

的矩估计量

\hat{θ} =

____。

练习 3 · 选择题

设总体

X

的概率密度为

f (x) = (θ + 1) x^{θ} (0 < x < 1)

（

θ > - 1

未知），

\overset{ˉ}{X}

为样本均值，则

θ

的矩估计量为（）。

A $\frac{2 X ˉ - 1}{1 - X ˉ}$
B $\frac{1 - X ˉ}{2 X ˉ - 1}$
C $\frac{2 X ˉ - 1}{X ˉ - 1}$
D $\frac{1 - 2 X ˉ}{1 - X ˉ}$

练习 4 · 填空题

设总体

X \sim P (λ)

（泊松分布），一组样本观测值为

1, 2, 2, 3, 2

（

n = 5

），则

λ

的矩估计值为 ____。

练习 5 · 选择题

设总体

X

的概率密度为

f (x) = ⎩ ⎨ ⎧ \frac{2 ( θ - x )}{θ ^{2}}, 0, 0 < x < θ, 其他,

其中

θ > 0

未知，

X_{1}, \dots, X_{n}

为来自总体

X

的样本，

\overset{ˉ}{X}

为样本均值。则

θ

的矩估计量为（）。

A $3 \overset{ˉ}{X}$
B $\frac{3}{2} \overset{ˉ}{X}$
C $2 \overset{ˉ}{X}$
D $\frac{X ˉ}{3}$

练习 6 · 填空题

设总体

X

的概率密度为

f (x) = ⎩ ⎨ ⎧ \frac{3 x ^{2}}{2 θ ^{3}}, 0, - θ < x < θ, 其他,

其中

θ > 0

未知，

X_{1}, \dots, X_{n}

为来自总体

X

的样本，则

θ

的矩估计量

\hat{θ} =

____。

练习 7 · 解答题

设总体

X

的概率密度为

f (x; θ) = ⎩ ⎨ ⎧ \frac{6 x ( θ - x )}{θ ^{3}}, 0, 0 < x < θ, 其他,

其中

θ > 0

为未知参数，

X_{1}, X_{2}, \dots, X_{n}

为来自总体

X

的简单随机样本。

（1）求

θ

的矩估计量

\hat{θ}

；

（2）判断

\hat{θ}

是否为

θ

的无偏估计量；

（3）求

D (\hat{θ})

，并与另一个估计量

\tilde{θ} = 2 X_{1}

比较有效性。

2009 年 · 数一 · 第 23 题 · 解答题 · 11 分

设总体

X

的概率密度为

f (x) = {λ^{2} x e^{- λ x}, 0, x > 0, 其他,

其中参数

λ (λ > 0)

未知，

X_{1}, X_{2}, \dots, X_{n}

是来自总体

X

的简单随机样本.

（Ⅰ）求参数

λ

的矩估计量；

（Ⅱ）求参数

λ

的最大似然估计量.

2007 年 · 数一 · 第 24 题 · 解答题 · 11 分

设总体

X

的概率密度为

f (x; θ) = ⎩ ⎨ ⎧ \frac{1}{2 θ}, \frac{1}{2 ( 1 - θ )}, 0, 0 < x < θ, θ \leq x < 1, 其他,

其中参数

θ (0 < θ < 1)

未知，

X_{1}, X_{2}, \dots, X_{n}

是来自总体

X

的简单随机样本，

\overline{X}

是样本均值.

（I）求参数

θ

的矩估计量

\hat{θ}

；

（II）判断

4 \overline{X}^{2}

是否为

θ^{2}

的无偏估计量，并说明理由.

2004 年 · 数一 · 第 23 题 · 解答题 · 9 分

设总体

X

的分布函数为

F (x; β) = ⎩ ⎨ ⎧ 1 - \frac{1}{x ^{β}}, 0, x > 1, x \leq 1,

其中未知参数

β > 1

，

X_{1}, X_{2}, \dots, X_{n}

为来自总体

X

的简单随机样本，求：（I）

β

的矩估计量；（II）

β

的最大似然估计量。