1. 评价估计量的三个标准:无偏性 、有效性(都无偏时方差较小者为优)、相合性 ★★ 必会
设 是参数 的估计量。这三条标准回答三个不同的问题。
① 无偏性,即平均而言不偏离真值:如果
就称 为 的无偏估计,而 称为偏差。下面是基本事实(对任意总体,只要 、): 是 的无偏估计; 是 的无偏估计,其中分母取 正是为了保证无偏,而 则是有偏的()。必须注意:无偏性经过非线性变换会丧失,例如 是 的无偏估计,但 一般不是 的无偏估计。
② 有效性,即都无偏时比较谁更稳定:设 、 都是 的无偏估计,如果
就称 比 有效。方差小,意味着取值更集中在真值附近。二者都无偏这一前提缺一不可,有偏的估计不能参加这种比较。
③ 相合性(一致性),即样本足够大时终究估得准:如果对任意 ,有
就称 为 的相合估计。这是唯一涉及 的大样本标准;由大数定律(§19.2), 与各阶样本矩 分别是 与 的相合估计。实用的判别法是: 且 相合,这一条见本节的最后一处。
这三条标准互不蕴含:无偏未必相合,相合也未必无偏(例如 有偏却相合)。
① 无偏性,即平均而言不偏离真值:如果
就称 为 的无偏估计,而 称为偏差。下面是基本事实(对任意总体,只要 、): 是 的无偏估计; 是 的无偏估计,其中分母取 正是为了保证无偏,而 则是有偏的()。必须注意:无偏性经过非线性变换会丧失,例如 是 的无偏估计,但 一般不是 的无偏估计。
② 有效性,即都无偏时比较谁更稳定:设 、 都是 的无偏估计,如果
就称 比 有效。方差小,意味着取值更集中在真值附近。二者都无偏这一前提缺一不可,有偏的估计不能参加这种比较。
③ 相合性(一致性),即样本足够大时终究估得准:如果对任意 ,有
就称 为 的相合估计。这是唯一涉及 的大样本标准;由大数定律(§19.2), 与各阶样本矩 分别是 与 的相合估计。实用的判别法是: 且 相合,这一条见本节的最后一处。
这三条标准互不蕴含:无偏未必相合,相合也未必无偏(例如 有偏却相合)。
证明 / 推导
同一个 的两个估计 与 ,依这三条标准逐一比较.无偏:,,都是无偏的,第 ① 条分不出高下。
有效:,故 比 有效。只用第一个观测值而丢掉其余 个,虽然无偏,却浪费了信息。
相合:由切比雪夫不等式 ,故 相合;而 的分布与 无关,对非退化的总体,总存在 使 是不随 衰减的正常数,故 不相合,即数据再多,它也不会更准。
举例说明
(数三 2008) 设 是 的样本,、,令 。证明 是 的无偏估计量。解(验证无偏性 直接计算 ). 用两条对正态样本恒成立的事实:,故 ;又 无偏,。于是
即 是 的无偏估计量。易错之处:,必须补上方差项 。而这一项被 消去,才得到无偏。由此可见,验证无偏性就是直接计算 ,再看它是否恒等于被估的量。