1. 评价估计量的三个标准:无偏性 、有效性(无偏估计中方差较小者较优)、相合性 ★★ 必会
设 是参数 的估计量。下述三个标准分别回答三个不同的问题。
① 无偏性,即平均而言没有系统偏差:如果
那么称 为 的无偏估计,并称 为偏差。以下是几个基本事实(对任何总体都成立,其中 、): 是 的无偏估计; 是 的无偏估计,其分母之所以取 ,就是为了保证无偏;而 是有偏的()。必须注意:无偏性经过非线性变换以后一般不再保持。例如 是 的无偏估计,但 一般不是 的无偏估计。
② 有效性,即都无偏时比较哪一个更集中:设 、 都是 的无偏估计。如果
那么称 比 有效。方差较小,就表示取值更集中在真值附近。这里二者都无偏这一前提缺一不可,有偏的估计不能参加这种比较。
③ 相合性(一致性),即样本容量足够大时估计终究准确:如果对任意 ,有
那么称 为 的相合估计。这是三个标准中唯一涉及 的大样本标准。根据大数定律(§19.2), 与各阶样本矩 分别是 与 的相合估计。实用的判别法为 且 相合,详见本节最后一条。
这三者互不蕴含:无偏的未必相合,相合的也未必无偏,例如 有偏,却是相合的。
① 无偏性,即平均而言没有系统偏差:如果
那么称 为 的无偏估计,并称 为偏差。以下是几个基本事实(对任何总体都成立,其中 、): 是 的无偏估计; 是 的无偏估计,其分母之所以取 ,就是为了保证无偏;而 是有偏的()。必须注意:无偏性经过非线性变换以后一般不再保持。例如 是 的无偏估计,但 一般不是 的无偏估计。
② 有效性,即都无偏时比较哪一个更集中:设 、 都是 的无偏估计。如果
那么称 比 有效。方差较小,就表示取值更集中在真值附近。这里二者都无偏这一前提缺一不可,有偏的估计不能参加这种比较。
③ 相合性(一致性),即样本容量足够大时估计终究准确:如果对任意 ,有
那么称 为 的相合估计。这是三个标准中唯一涉及 的大样本标准。根据大数定律(§19.2), 与各阶样本矩 分别是 与 的相合估计。实用的判别法为 且 相合,详见本节最后一条。
这三者互不蕴含:无偏的未必相合,相合的也未必无偏,例如 有偏,却是相合的。
证明 / 推导
下面对同一参数 的两个估计 与 ,逐条检验上述三个标准.无偏性 因 ,,故二者都无偏,由标准 ① 分不出优劣。
有效性 由 知, 比 有效。只取第一个观测值而舍弃其余 个,虽然仍旧无偏,却浪费了样本所含的信息。
相合性 由切比雪夫不等式得 ,所以 是相合的;而 的分布与 无关,对非退化的总体,总存在 ,使 等于一个不随 减小的正常数,因此 不相合。这说明数据再多,它也不会更准确。
举例说明
真题(2009·数一). 设 是来自二项总体 的样本,、 分别为样本均值与样本方差。若 是 的无偏估计量,求 。解. 直接按定义 ① 来做:应有 。对任何总体恒有 、;而对 有 ,。于是
再由 得 。易错之处:本题中样本容量是 ,二项分布的参数才是 。不要把 写成含 的式子; 与样本容量无关,这一点就是 为无偏估计的含义。