乐思数学通 › 考研数学(三) › 第 19 章 数理统计的基本概念

总体、样本与统计量

§19.1 · 核心概念🌱 基础篇 →

考频价值

0.32 分/卷近 11 年平均
1/11 年出现年份
2.5 分支撑的下游价值

前置诊断

① 直接前置(需先掌握)随机变量与分布函数随机变量的独立性数学期望③ 掌握后可解锁三大抽样分布(χ²、t、F)正态总体样本均值与方差的分布矩估计最大似然估计

要点精讲

把关键道理、证明与典型例子重新过一遍。

1. 总体、简单随机样本与统计量的定义,以及 、、、 四个定义式★★ 必会

① 总体与样本:总体是研究对象的全体,用一个随机变量 及其分布来代表;所谓总体服从某个分布,指的就是 服从这个分布。从总体中抽出的 称为容量为 的样本。

② 简单随机样本:它满足两个条件,独立( 相互独立)与同分布(每个 都与总体 同分布),合称 i.i.d.。因此样本的联合分布可以写成连乘的形式:联合分布函数为 ,连续型总体的联合密度为 。这一可以连乘的性质,是似然函数(§21.2)、极值分布等一切样本计算的出发点。

③ 统计量:样本的函数 中不含任何未知参数者,称为统计量。统计量本身是随机变量;代入观测值 ,就得到它的观测值。判别的标准只有一条,即是否含有未知参数:若 未知,则 不是统计量;若 已知,它就是统计量。

④ 四个应当熟记的统计量的定义式:
- 样本均值 ;
- 样本方差 (分母是 ),样本标准差 ;
- 样本 阶(原点)矩 ();
- 样本 阶中心矩 (注意 )。

常用的展开式为 。对任意总体(,)恒有
证明 / 推导推导 与 ,只用到 i.i.d. 这一条件. 由期望的线性性,

下面求方差,其中一步用到独立,因为方差只有在独立时才可加,另一步用到同分布:

可见样本均值的中心不变,而波动缩小为原来的 。统计推断的精度随 增大而提高,根源就在于此。

展开式:。( 的推导见下一条,其中说明了 的来历。)
举例说明例(选择题). 设 为来自二维正态总体 的简单随机样本,,,则(  )

(A) 是 的无偏估计,
(B) 不是 的无偏估计,
(C) 是 的无偏估计,
(D) 不是 的无偏估计,

解. 只由样本构成,不含未知参数,故是统计量。由 与 得 ,可见它无偏。求方差时必须注意:同一对中的 与 是相关的(相关系数为 ),而不同对之间独立,故


易错之处:直接用 而漏掉协方差项,因而误得 。简单随机样本所保证的是对与对之间独立,并不消除同一对内部的相关。(答案选 C。)

2. 从 使平方和最小这一事实看 的来历

样本方差 为什么要除以 ?通常是由无偏性这一结果反推的,但还有一个更直观的几何解释:样本均值 就是使偏差平方和 达到最小的那个 。既然 是与这批数据最贴合的中心,那么用它算出的平方和必然比用真实中心 算出的要小;而小去的那一部分恰好相当于一个自由度。把这一部分补回来,即把分母由 改成 , 才是无偏的。

由此也可以解释自由度这个名称: 个偏差 受到一个恒等式 的约束,真正能自由变动的只有 个。
证明 / 推导由这个最小化恒等式直接算出 。 对任意常数 ,有

其中交叉项 。上式在 时取最小值,这就说明 使平方和达到最小。

现在取 ,并对两边求期望。左边 ;右边的末项 。于是

两边除以 ,即得 。用 代替 ,恰好少算了 ,也就是一个自由度。这就是 最本质的来历。

3. 最大值、最小值也是统计量:次序统计量的分布★ 要懂

统计量不只有 与 这几个,样本的最大值 与最小值 也都是统计量,因为它们不含未知参数,可以直接由样本算出,通常称为次序统计量。这类统计量考查得很多,例如求 的分布与期望,或者估计端点型的参数,因此必须会推导它们的分布。

推导时所用的是独立性:最大值 与每一个样本都 是同一件事,由独立性即可把联合概率写成连乘。由此得到简洁的公式

其中 是总体的分布函数,求导即得密度。
证明 / 推导推导极值的分布,所用的是独立同分布。 设 独立同分布,其分布函数为 ,密度为 。

先看最大值:


再看最小值,这时化为对立事件较为方便:

举例说明例。 设 是取自均匀总体 的简单随机样本,求最大值 的密度与期望。

解。 对总体 ,当 时 ,。由上式,当 时

于是

可见 的平均值略小于 ,这是因为样本的最大值总不超过 ;而当 时 。用 作 的无偏估计,来由即在于此。

4. 样本为什么能推断总体:样本矩收敛于总体矩,经验分布收敛于总体分布

用样本去推断总体,其依据是大数定律。最重要的有两条由样本 总体的收敛:

(i)样本矩 总体矩:。这是矩估计法成立的根据:用可以算出的样本矩去代替未知的总体矩,样本容量越大,代替得越准确。

(ii)经验分布函数 总体分布函数:定义 ,即落在 左侧的样本所占的比例,则对每个固定的 有 。也就是说,样本能把总体的整个分布刻画出来;格里汶科定理进一步保证这种逼近关于 是一致的。这两条合起来,就是由部分推断整体的理论根据。
x1F(x)Fₙ(x)① n = 6:台阶少而高,每级跳 1/6x1F(x)Fₙ(x)② n = 30:台阶密而矮,每级只跳 1/30每遇到一个样本点就上跳 1/n;n 越大,阶梯越密,整条越贴近 F
证明 / 推导验证 是 的无偏且相合的估计。 固定 。令指示变量 ,则 独立同分布,服从两点分布,且 。故

于是

方差随 的增大按 ,再由大数定律即得 。这就严格说明了样本频率逼近真实概率。

5. 与残差 不相关: 与 独立性的先导结论

有一个初看似乎应当相关而实际并不相关的重要结论:样本均值 与每一个残差 都不相关,即 ;这对任意总体都成立,只要方差存在。它是理解 与 之间关系的先导,因为 完全由残差 构成。

有两点需要强调:(1)不相关对任意总体都成立,只用到独立同分布这一条件;(2)但由不相关一般推不出独立。只有当总体是正态总体时,这种不相关才加强为真正的相互独立,即 与 独立;这是正态总体所特有的性质,也是下一节构造 统计量的依据。先明确这一结论,正态总体那一节就容易理解了。
证明 / 推导证明 。 设 ,各 独立同分布。先算 :

(当 时二者独立,故协方差为 ,只剩下 这一项。)又 。于是

因为 是残差的函数,所以 与所有残差都不相关这一结论,正是正态总体下 与 相互独立的线性根据。
💡 小知识
样本方差要除以 ,这个做法称为贝塞尔校正。可以这样理解:用样本均值 去代替真实的 时, 本来就是最贴合这批数据的中心,偏差平方和自然会偏小一些;把分母从 减到 ,补回来的恰好是被数据用掉的那一个自由度。

基础例题

从最基础开始,循序渐进;先独立尝试,再展开完整解答。

例 1 设 是取自正态总体 的简单随机样本,其中 已知、 未知。判断下列各量哪些是统计量:;;;。 难度 1判断标准只有一条:统计量是样本的函数,且不含任何未知参数。本题 已知、(即 )未知。

:只由样本构成,不含参数,是统计量。
:含 ,但 已知(不是未知参数),故是统计量。
:含未知参数 ,不是统计量。
:只由样本构成,是统计量。

所以 是统计量, 不是。
例 2 设总体 的期望 、方差 , 是取自 的简单随机样本,。求 与 。 难度 1对任意总体(只要样本独立同分布),有两个必记结论:

代入 ,,:

其中 用到了样本的相互独立性。
例 3 从某总体中抽得一组样本观测值为 。求样本均值 与样本方差 (样本方差分母取 )。 难度 2样本容量 。

样本均值:

偏差平方和:

样本方差(除以 ):

注意分母是 (无偏),不是 。

真题精选

近年原题,先做做看、自动判分,再对照答案、思路与完整解答。

2025 年 · 数三 · 第 10 题 · 选择题 · 5 分

设总体 的分布函数为 , 为来自总体 的简单随机样本,样本的经验分布函数为 ,对于给定的 ,(  )。
  • A
  • B
  • C
  • D

2015 年 · 数三 · 第 8 题 · 选择题 · 4 分

设总体 , 为来自该总体的简单随机样本, 为样本均值,则 (  )。
  • A.
  • B.
  • C.
  • D.

2011 年 · 数三 · 第 8 题 · 选择题 · 4 分

设总体 服从参数为 的泊松分布, 为来自该总体的简单随机样本,则对于统计量 和 ,有(  )
  • A
  • B
  • C
  • D

随堂练习

先用基础题热身,再按年份从新到旧挑战本知识点的其余真题。

练习 1 · 选择题

设 是取自正态总体 的样本, 均未知。下列各量中不是统计量的是( )。
  • A
  • B
  • C
  • D

练习 2 · 填空题

设总体方差 ,样本容量 , 为样本均值,则 ____。

练习 3 · 选择题

已知一组样本观测值为 。其样本方差 (分母取 )等于( )。
  • A
  • B
  • C
  • D

练习 4 · 填空题

设总体 的期望 、方差 , 为简单随机样本, 为样本方差,则 ____。

练习 5 · 选择题

设总体方差为 , 为简单随机样本, 为样本均值。则 ( )。
  • A
  • B
  • C
  • D

练习 6 · 选择题

设总体 服从参数为 的指数分布,即其概率密度为

是取自 的简单随机样本,记 。则(  )。
  • A 服从参数为 的指数分布,
  • B 服从参数为 的指数分布,
  • C 服从参数为 的指数分布,
  • D 不服从指数分布,但

练习 7 · 填空题

设 ()是取自总体 的简单随机样本,,,记样本均值 。则 ____。

练习 8 · 解答题

设总体 服从区间 上的均匀分布( 未知), 是取自 的简单随机样本,记


(1) 求 的分布函数与概率密度,并求 与 ;

(2) 求 ;

(3) 验证 与 都满足 ,并比较二者的方差,指出当 时哪一个的波动更小。

2010 年 · 数三 · 第 14 题 · 填空题 · 4 分

设 是来自总体 的简单随机样本,记统计量 ,则 ______.

2009 年 · 数三 · 第 14 题 · 填空题 · 4 分

设 为来自二项分布总体 的简单随机样本, 和 分别为样本均值和样本方差。记统计量 ,则 ______.

2006 年 · 数三 · 第 6 题 · 填空题 · 4 分

设总体 的概率密度为 , 为总体 的简单随机样本,其样本方差为 ,则 ______.