乐思数学通 › 先打基础 › 估计量的评价标准（无偏、有效、一致）

估计量的评价标准（无偏、有效、一致）

概率论与数理统计 · 参数估计

先打基础

一条一条过。读完点「已懂」或「待回顾」，这条就收起来，页面上剩下的就是还没过的。

1. 无偏性：平均而言瞄在靶心上

设

\hat{θ}

是参数

θ

的估计量。若

E (\hat{θ}) = θ

对参数的一切可能取值都成立，就说

\hat{θ}

是

θ

的无偏估计。

不成立时，

E (\hat{θ}) - θ

叫偏差。

读法：无偏不是说「这一次估得准」，而是说重复抽样很多次，
这些估计值的平均正好落在真值上——没有系统性的偏向。

三个必记的无偏例子：

\overset{ˉ}{X}

是

μ

的无偏估计；

S^{2}

是

σ^{2}

的无偏估计；

A_{k}

是

E (X^{k})

的无偏估计。

请你先证

照着刚才那条证明，自己写一遍平行的。写完再展开参考写法对照。

先用期望的线性性验无偏，再把方差写成待定系数的二次函数求最小设

\hat{θ}_{1}

与

\hat{θ}_{2}

是

θ

的两个相互独立的无偏估计，
方差分别为

σ_{1}^{2}

与

σ_{2}^{2}

。对常数

a

作加权组合

\hat{θ} = a \hat{θ}_{1} + (1 - a) \hat{θ}_{2} .

证明

\hat{θ}

对一切

a

都无偏，并求使它方差最小的

a

。

2. 有效性：在无偏的那一批里比方差

设

\hat{θ}_{1}

与

\hat{θ}_{2}

都是

θ

的无偏估计。若

D (\hat{θ}_{1}) < D (\hat{θ}_{2}),

就说

\hat{θ}_{1}

比

\hat{θ}_{2}

有效。

前提是两个都无偏——这个限制不能少。
否则随便取一个常数

\hat{θ} \equiv 0

，方差是

0

，却毫无用处。

典型比较：

\overset{ˉ}{X}

比

X_{1}

有效；
更一般地，在一切形如

\sum a_{i} X_{i}

（

\sum a_{i} = 1

）的无偏估计里，

\overset{ˉ}{X}

的方差最小。

3. 一致性：样本一多就收敛到真值

若当

n \to \infty

时

\hat{θ}_{n} P θ,

就说

\hat{θ}_{n}

是

θ

的一致估计（也叫相合估计）。

这是一条大样本性质：无偏说的是任意

n

下平均瞄得准，
一致说的是

n

大了之后一定会靠近。

两条常用的判法：

① 直接用大数定律（样本矩收敛到总体矩）；

② 用切比雪夫：若

E (\hat{θ}_{n}) \to θ

且

D (\hat{θ}_{n}) \to 0

，
则

\hat{θ}_{n}

是一致估计。

4. 怎么答这类题

这一节的题只有三种问法，各对应一套固定动作。

问无偏：算

E (\hat{θ})

，看等不等于

θ

。
算的时候把

\hat{θ}

展开，用期望的线性性逐项算——不需要独立。

问有效：先确认两个都无偏，再各算方差比大小。
算方差要用独立，提常数记得平方。

问一致：算

E (\hat{θ}_{n})

与

D (\hat{θ}_{n})

，
说明前者趋于

θ

、后者趋于

0

，再引切比雪夫。

一个常见的追问：有偏时怎么改造成无偏？
乘一个常数把期望拉回去即可（

B_{2}

乘

\frac{n}{n - 1}

变成

S^{2}

）。

常用结构

这类题反复出现的那个写法骨架——按这个顺序动笔。

验无偏

第一步：把

\hat{θ}

写成样本的表达式。

第二步：用期望的线性性逐项取期望（不需要独立）。

第三步：与

θ

比较，相等即无偏。

第四步：不等时算出倍数，乘常数改造成无偏。

例例. 设

X_{1}, X_{2}, X_{3}

来自期望

μ

的总体。

\overset{μ}{^}_{1} = \frac{X _{1} + X _{2} + X _{3}}{3}

与

\overset{μ}{^}_{2} = \frac{X _{1}}{2} + \frac{X _{2}}{4} + \frac{X _{3}}{4}

是否无偏？

第一步，两个都已是样本的表达式。

第二步，期望的线性性逐项取（不需要独立）：

E (\overset{μ}{^}_{1}) = μ, E (\overset{μ}{^}_{2}) = (\frac{1}{2} + \frac{1}{4} + \frac{1}{4}) μ = μ .

第三步，都等于

μ

\Rightarrow

都无偏。

第四步，若换成

\overset{μ}{^}_{3} = \frac{X _{1} + X _{2}}{3}

，则

E (\overset{μ}{^}_{3}) = \frac{2 μ}{3}

，有偏；乘上

\frac{3}{2}

就改造成无偏。

判据很简单：系数之和为 $1$ 的线性组合都无偏——所以无偏的估计量有无穷多个，下一条才分高下。

比有效

第一步：确认两个估计量都无偏——这是比较的前提。

第二步：分别算方差，用独立可加、提常数平方。

第三步：比大小，方差小的更有效。

第四步：形如

\sum a_{i} X_{i}

且

\sum a_{i} = 1

时，系数越平均越有效。

例例. 接上题，

\overset{μ}{^}_{1}

与

\overset{μ}{^}_{2}

哪个更有效？

第一步，两个都无偏 ✓ 这是比较的前提——有偏的和无偏的比方差没有意义。

第二步，设

D (X_{i}) = σ^{2}

且相互独立，提常数要平方：

D (\overset{μ}{^}_{1}) = 3 \times \frac{σ ^{2}}{9} = \frac{σ ^{2}}{3}, D (\overset{μ}{^}_{2}) = (\frac{1}{4} + \frac{1}{16} + \frac{1}{16}) σ^{2} = \frac{3 σ ^{2}}{8} .

第三步，

\frac{1}{3} < \frac{3}{8}

，所以 $\overset{μ}{^}_{1}$ 更有效。

第四步，一般结论：形如

\sum a_{i} X_{i}

且

\sum a_{i} = 1

时，系数越平均越有效，全取

\frac{1}{n}

（即样本均值）方差最小。

\overset{μ}{^}_{1}

正是这一种。

验一致

第一步：算

E (\hat{θ}_{n})

，说明它趋于

θ

。

第二步：算

D (\hat{θ}_{n})

，说明它趋于

0

。

第三步：引切比雪夫不等式，把概率压到零。

第四步：样本矩的情形可以直接引大数定律，一句话带过。

例例. 验证

\overset{ˉ}{X}

是

μ

的一致估计。

第一步，

E (\overset{ˉ}{X}) = μ

——本身就等于

μ

，这一步自动过。

第二步，

D (\overset{ˉ}{X}) = \frac{σ ^{2}}{n} \to 0

（

n \to \infty

）。

第三步，引切比雪夫：对任意固定的

ε > 0

，

P {\overset{ˉ}{X} - μ \geq ε} \leq \frac{σ ^{2}}{n ε ^{2}} ⟶ 0.

第四步，故

\overset{ˉ}{X} P μ

，是一致估计

■

样本矩的情形可以一句话带过：由辛钦大数定律

A_{k} P E (X^{k})

，所以由样本矩构造出来的矩估计一般都是一致的，不必每次把切比雪夫重写一遍。

基础易错

基础阶段真的会犯的那几处，每条都指到动笔的哪一步。

比较有效性时忘了先验无偏

有效性只在无偏估计之间比较。

否则取常数

0

，方差为零却毫无用处。

答题时先写一句「两者都无偏」，再去比方差。

把无偏当成一致

X_{1}

永远无偏，却不是一致估计——方差不随

n

变小。

反过来

B_{2}

有偏却一致。

两条互不蕴含，概念题常在这里设坑。

算方差时忘了平方

D (a \hat{θ}) = a^{2} D (\hat{θ})

，提常数要平方。

D (\frac{X _{1} + 2 X _{2}}{3}) = \frac{1 + 4}{9} σ^{2}

，
分子上的

2

变成

4

。

忘了平方，有效性的比较就反了。

验无偏时误用独立

期望的线性性无条件成立，不需要独立。

要独立的是方差可加那一步。

报条件要报准，这是解答题的得分细节。

自己试一试

这一档不判分、不记进度，想不出来就直接看解答。

第一组 · 认标准

练 1

\hat{θ}

是

θ

的无偏估计，当且仅当

E (\hat{θ}) =

________。

练 2

比较两个估计量的有效性，前提是（）。

A两者都无偏
B两者都一致
C样本容量相同即可
D无需前提

练 3

\hat{θ}_{n}

是一致估计，指的是

\hat{θ}_{n}

依概率收敛于 ________。

练 4

下列哪个是

σ^{2}

的无偏估计（）。

A $\frac{1}{n} \sum (X_{i} - \overset{ˉ}{X})^{2}$
B $\frac{1}{n - 1} \sum (X_{i} - \overset{ˉ}{X})^{2}$
C $\frac{1}{n} \sum X_{i}^{2}$
D $\overset{ˉ}{X}^{2}$

第二组 · 会算

练 5

D (\frac{X _{1} + 2 X _{2}}{3}) = □ σ^{2}

，其中

□ =

________。

练 6

\overset{μ}{^}_{1} = \frac{X _{1} + X _{2}}{2}

与

\overset{μ}{^}_{2} = \frac{X _{1} + 2 X _{2}}{3}

相比（）。

A $\overset{μ}{^}_{2}$ 更有效
B一样有效
C无法比较， $\overset{μ}{^}_{2}$ 有偏
D $\overset{μ}{^}_{1}$ 更有效

练 7

已知

E (max X_{i}) = \frac{n}{n + 1} θ

，则无偏化后的估计量是

□ \cdot max X_{i}

，

□ =

________。

练 8

两个独立无偏估计方差为

σ_{1}^{2} = 1

、

σ_{2}^{2} = 3

，则加权

a \hat{θ}_{1} + (1 - a) \hat{θ}_{2}

方差最小时

a =

________。

第三组 · 分得清

练 9

关于

X_{1}

作为

μ

的估计量，正确的是（）。

A无偏但不一致
B既无偏又一致
C有偏但一致
D既有偏又不一致

练 10

\frac{1}{n} \sum (X_{i} - \overset{ˉ}{X})^{2}

作为

σ^{2}

的估计量（）。

A无偏且一致
B有偏但一致
C无偏但不一致
D既有偏又不一致

练 11

验证

E (\overset{ˉ}{X}) = μ

时用到的性质是（）。

A方差可加，要求独立
B独立时期望可乘
C期望的线性性，不要求独立
D切比雪夫不等式

练 12

在一切形如

\sum a_{i} X_{i}

（

\sum a_{i} = 1

）的无偏估计中，方差最小的是 ________。

读完了？下一步是同一个知识点的完整讲解，那一档按考试难度写。

数一 · 完整讲解数三 · 完整讲解大学版 · 完整讲解