要点精讲 把关键道理、证明与典型例子重新过一遍。
1. 总体、简单随机样本与统计量的定义,以及 X ˉ 、S 2 、A k 、B k 四个定义式★★ 必会 ① 总体与样本 :
总体 是研究对象的全体,用一个随机变量
X 及其分布来代表;所谓总体服从某个分布,指的就是
X 服从这个分布。从总体中抽出的
X 1 , X 2 , … , X n 称为容量为
n 的
样本 。
② 简单随机样本 :它满足两个条件,
独立 (
X 1 , … , X n 相互独立)与
同分布 (每个
X i 都与总体
X 同分布),合称
i.i.d. 。因此样本的联合分布可以写成
连乘 的形式:联合分布函数为
∏ i = 1 n F ( x i ) ,连续型总体的联合密度为
∏ i = 1 n f ( x i ) 。这一可以连乘的性质,是似然函数(§21.2)、极值分布等一切样本计算的出发点。
③ 统计量 :样本的函数
T = g ( X 1 , … , X n ) 中
不含任何未知参数 者,称为统计量。统计量本身是随机变量;代入观测值
x 1 , … , x n ,就得到它的观测值。判别的标准只有一条,即
是否含有未知参数 :若
μ 未知,则
∑ i = 1 n ( X i − μ ) 2 不是统计量;若
μ 已知,它就是统计量。
④ 四个应当熟记的统计量的定义式 :
- 样本均值
X ˉ = n 1 i = 1 ∑ n X i ;
- 样本方差
S 2 = n − 1 1 i = 1 ∑ n ( X i − X ˉ ) 2 (
分母是 n − 1 ),样本标准差
S = S 2 ;
- 样本
k 阶(原点)矩
A k = n 1 i = 1 ∑ n X i k (
A 1 = X ˉ );
- 样本
k 阶中心矩
B k = n 1 i = 1 ∑ n ( X i − X ˉ ) k (注意
B 2 = n n − 1 S 2 = S 2 )。
常用的展开式为
∑ i = 1 n ( X i − X ˉ ) 2 = ∑ i = 1 n X i 2 − n X ˉ 2 。对
任意 总体(
E ( X ) = μ ,
D ( X ) = σ 2 )恒有
E ( X ˉ ) D ( X ˉ ) E ( S 2 ) = μ = n σ 2 = σ 2 . 证明 / 推导 推导 E ( X ˉ ) = μ 与 D ( X ˉ ) = n σ 2 ,只用到 i.i.d. 这一条件. 由期望的线性性,E ( X ˉ ) = n 1 i = 1 ∑ n E ( X i ) = n 1 ⋅ n μ = μ . 下面求方差,其中一步用到独立 ,因为方差只有在独立时才可加,另一步用到同分布:D ( X ˉ ) = n 2 1 D ( i = 1 ∑ n X i ) = 独立 n 2 1 i = 1 ∑ n D ( X i ) = n 2 n σ 2 = n σ 2 . 可见样本均值的中心不变,而波动缩小为原来的 1/ n 。统计推断的精度随 n 增大而提高,根源就在于此。展开式 :∑ ( X i − X ˉ ) 2 = ∑ X i 2 − 2 X ˉ ∑ X i + n X ˉ 2 = ∑ X i 2 − 2 n X ˉ 2 + n X ˉ 2 = ∑ X i 2 − n X ˉ 2 。(E ( S 2 ) = σ 2 的推导见下一条,其中说明了 n − 1 的来历。)■ 举例说明 例(选择题). 设 ( X 1 , Y 1 ) , … , ( X n , Y n ) 为来自二维正态总体 N ( μ 1 , μ 2 ; σ 1 2 , σ 2 2 ; ρ ) 的简单随机样本,θ = μ 1 − μ 2 ,θ ^ = X ˉ − Y ˉ ,则( ) (A) θ ^ 是 θ 的无偏估计,D ( θ ^ ) = n σ 1 2 + σ 2 2 . (B) θ ^ 不是 θ 的无偏估计,D ( θ ^ ) = n σ 1 2 + σ 2 2 . (C) θ ^ 是 θ 的无偏估计,D ( θ ^ ) = n σ 1 2 + σ 2 2 − 2 ρ σ 1 σ 2 . (D) θ ^ 不是 θ 的无偏估计,D ( θ ^ ) = n σ 1 2 + σ 2 2 − 2 ρ σ 1 σ 2 . 解. θ ^ = X ˉ − Y ˉ 只由样本构成,不含未知参数,故是统计量。由 E ( X ˉ ) = μ 1 与 E ( Y ˉ ) = μ 2 得 E ( θ ^ ) = μ 1 − μ 2 = θ ,可见它无偏 。求方差时必须注意:同一对中的 X i 与 Y i 是相关的 (相关系数为 ρ ),而不同对之间独立,故Cov ( X ˉ , Y ˉ ) = n 2 1 i = 1 ∑ n Cov ( X i , Y i ) = n ρ σ 1 σ 2 , D ( θ ^ ) = D ( X ˉ ) + D ( Y ˉ ) − 2 Cov ( X ˉ , Y ˉ ) = n σ 1 2 + σ 2 2 − 2 ρ σ 1 σ 2 . 易错之处 :直接用 D ( X ˉ ) + D ( Y ˉ ) 而漏掉协方差项,因而误得 n σ 1 2 + σ 2 2 。简单随机样本所保证的是对与对之间 独立,并不消除同一对内部 的相关。(答案选 C。)■ 2. 从 X ˉ 使平方和最小这一事实看 n − 1 的来历 样本方差 S 2 为什么要除以 n − 1 ?通常是由无偏性这一结果反推的,但还有一个更直观的几何解释:样本均值 X ˉ 就是使偏差平方和 ∑ ( X i − c ) 2 达到最小的那个 c 。既然 X ˉ 是与这批数据最贴合的中心,那么用它算出的平方和必然比用真实中心 μ 算出的要小;而小去的那一部分恰好相当于一个自由度。把这一部分补回来,即把分母由 n 改成 n − 1 ,S 2 才是无偏的。 由此也可以解释自由度这个名称:n 个偏差 X i − X ˉ 受到一个恒等式 ∑ i = 1 n ( X i − X ˉ ) = 0 的约束,真正能自由变动的只有 n − 1 个。
证明 / 推导 由这个最小化恒等式直接算出 n − 1 。 对任意常数 c ,有i = 1 ∑ n ( X i − c ) 2 = i = 1 ∑ n [ ( X i − X ˉ ) + ( X ˉ − c ) ] 2 = i = 1 ∑ n ( X i − X ˉ ) 2 + n ( X ˉ − c ) 2 , 其中交叉项 2 ( X ˉ − c ) ∑ ( X i − X ˉ ) = 0 。上式在 c = X ˉ 时取最小值,这就说明 X ˉ 使平方和达到最小。 现在取 c = μ ,并对两边求期望。左边 E [ ∑ ( X i − μ ) 2 ] = ∑ E [( X i − μ ) 2 ] = n σ 2 ;右边的末项 E [ n ( X ˉ − μ ) 2 ] = n D ( X ˉ ) = n ⋅ n σ 2 = σ 2 。于是 n σ 2 = E [ i = 1 ∑ n ( X i − X ˉ ) 2 ] + σ 2 ⇒ E [ i = 1 ∑ n ( X i − X ˉ ) 2 ] = ( n − 1 ) σ 2 . 两边除以 n − 1 ,即得 E ( S 2 ) = σ 2 。用 X ˉ 代替 μ ,恰好少算了 n D ( X ˉ ) = σ 2 ,也就是一个自由度 。这就是 n − 1 最本质的来历。■ 3. 最大值、最小值也是统计量:次序统计量的分布★ 要懂 统计量不只有 X ˉ 与 S 2 这几个,样本的最大值 X ( n ) = max { X 1 , … , X n } 与最小值 X ( 1 ) = min { X 1 , … , X n } 也都是统计量 ,因为它们不含未知参数,可以直接由样本算出,通常称为次序统计量 。这类统计量考查得很多,例如求 max 的分布与期望,或者估计端点型的参数,因此必须会推导它们的分布。 推导时所用的是独立性 :最大值 ≤ x 与每一个样本都 ≤ x 是同一件事,由独立性即可把联合概率写成连乘。由此得到简洁的公式F X ( n ) ( x ) F X ( 1 ) ( x ) = [ F ( x ) ] n = 1 − [ 1 − F ( x ) ] n 其中 F 是总体的分布函数,求导即得密度。
证明 / 推导 推导极值的分布,所用的是独立同分布。 设 X 1 , … , X n 独立同分布,其分布函数为 F ,密度为 f 。 先看最大值:F X ( n ) ( x ) = P { X ( n ) ≤ x } = P { X 1 ≤ x , … , X n ≤ x } = 独立 i = 1 ∏ n P { X i ≤ x } = [ F ( x ) ] n , f X ( n ) ( x ) = d x d [ F ( x ) ] n = n [ F ( x ) ] n − 1 f ( x ) . 再看最小值,这时化为对立事件较为方便:F X ( 1 ) ( x ) = 1 − P { X ( 1 ) > x } = 1 − P { X 1 > x , … , X n > x } = 1 − [ 1 − F ( x ) ] n , f X ( 1 ) ( x ) = n [ 1 − F ( x ) ] n − 1 f ( x ) . ■ 举例说明 例。 设 X 1 , … , X n 是取自均匀总体 U ( 0 , θ ) 的简单随机样本,求最大值 X ( n ) 的密度与期望。解。 对总体 U ( 0 , θ ) ,当 0 ≤ x ≤ θ 时 F ( x ) = θ x ,f ( x ) = θ 1 。由上式,当 0 ≤ x ≤ θ 时f X ( n ) ( x ) = n ( θ x ) n − 1 ⋅ θ 1 = θ n n x n − 1 . 于是E ( X ( n ) ) = ∫ 0 θ x ⋅ θ n n x n − 1 d x = θ n n ∫ 0 θ x n d x = θ n n ⋅ n + 1 θ n + 1 = n + 1 n θ . 可见 X ( n ) 的平均值略小于 θ ,这是因为样本的最大值总不超过 θ ;而当 n → ∞ 时 E ( X ( n ) ) → θ 。用 n n + 1 X ( n ) 作 θ 的无偏估计,来由即在于此。■ 4. 样本为什么能推断总体:样本矩收敛于总体矩,经验分布收敛于总体分布 用样本去推断总体,其依据是
大数定律 。最重要的有两条由样本
→ 总体的收敛:
(i)
样本矩 → 总体矩 :
A k = n 1 ∑ i = 1 n X i k P E ( X k ) 。这是
矩估计法 成立的根据:用可以算出的样本矩去代替未知的总体矩,样本容量越大,代替得越准确。
(ii)
经验分布函数 → 总体分布函数 :定义
F n ( x ) = n 1 # { i : X i ≤ x } ,即落在
x 左侧的样本所占的比例,则对每个固定的
x 有
F n ( x ) P F ( x ) 。也就是说,
样本能把总体的整个分布刻画出来 ;格里汶科定理进一步保证这种逼近关于
x 是一致的。这两条合起来,就是由部分推断整体的理论根据。
x 1 F(x) Fₙ(x) ① n = 6:台阶少而高,每级跳 1/6 x 1 F(x) Fₙ(x) ② n = 30:台阶密而矮,每级只跳 1/30 每遇到一个样本点就上跳 1/n;n 越大,阶梯越密,整条越贴近 F 证明 / 推导 验证 F n ( x ) 是 F ( x ) 的无偏且相合的估计。 固定 x 。令指示变量 I i = 1 { X i ≤ x } ,则 I 1 , … , I n 独立同分布,服从两点分布,且 P { I i = 1 } = P { X i ≤ x } = F ( x ) 。故n F n ( x ) = i = 1 ∑ n I i ∼ B ( n , F ( x ) ) . 于是E [ F n ( x )] D [ F n ( x )] = n 1 ⋅ n F ( x ) = F ( x ) ( 无偏 ) = n 2 1 ⋅ n F ( x ) [ 1 − F ( x )] = n F ( x ) [ 1 − F ( x )] . 方差随 n 的增大按 1/ n → 0 ,再由大数定律即得 F n ( x ) P F ( x ) 。这就严格说明了样本频率逼近真实概率。■ 5. X ˉ 与残差 X i − X ˉ 不相关:X ˉ 与 S 2 独立性的先导结论 有一个初看似乎应当相关而实际并不相关的重要结论:样本均值 X ˉ 与每一个残差 X i − X ˉ 都不相关 ,即 Cov ( X ˉ , X i − X ˉ ) = 0 ;这对任意总体都成立,只要方差存在。它是理解 X ˉ 与 S 2 之间关系的先导,因为 S 2 完全由残差 X 1 − X ˉ , … , X n − X ˉ 构成。 有两点需要强调:(1)不相关对任意 总体都成立,只用到独立同分布这一条件;(2)但由不相关一般推不出独立 。只有当总体是正态 总体时,这种不相关才加强为真正的相互独立 ,即 X ˉ 与 S 2 独立;这是正态总体所特有的性质,也是下一节构造 t 统计量的依据。先明确这一结论,正态总体那一节就容易理解了。
证明 / 推导 证明 Cov ( X ˉ , X i − X ˉ ) = 0 。 设 D ( X i ) = σ 2 ,各 X i 独立同分布。先算 Cov ( X ˉ , X i ) :Cov ( X ˉ , X i ) = Cov ( n 1 j = 1 ∑ n X j , X i ) = n 1 j = 1 ∑ n Cov ( X j , X i ) = n 1 Cov ( X i , X i ) = n σ 2 , (当 j = i 时二者独立,故协方差为 0 ,只剩下 j = i 这一项。)又 Cov ( X ˉ , X ˉ ) = D ( X ˉ ) = n σ 2 。于是Cov ( X ˉ , X i − X ˉ ) = Cov ( X ˉ , X i ) − Cov ( X ˉ , X ˉ ) = n σ 2 − n σ 2 = 0. ■ 因为 S 2 是残差的函数,所以 X ˉ 与所有残差都不相关这一结论,正是正态总体下 X ˉ 与 S 2 相互独立的线性根据。真题精选 近年原题,先做做看、自动判分,再对照答案、思路与完整解答。
2025 年 · 数三 · 第 10 题 · 选择题 · 5 分
设总体 X 的分布函数为 F ( x ) ,X 1 , X 2 , ⋯ , X n 为来自总体 X 的简单随机样本,样本的经验分布函数为 F n ( x ) ,对于给定的 x ( 0 < F ( x ) < 1 ) ,D [ F n ( x )] = ( )。
A F ( x ) [ 1 − F ( x )] B [ F ( x ) ] 2 C n 1 F ( x ) [ 1 − F ( x )] D n 1 [ F ( x ) ] 2 2015 年 · 数三 · 第 8 题 · 选择题 · 4 分
设总体 X ∼ B ( m , θ ) ,X 1 , X 2 , ⋯ , X n 为来自该总体的简单随机样本,X ˉ 为样本均值,则 E [ i = 1 ∑ n ( X i − X ˉ ) 2 ] = ( )。
A ( m − 1 ) n θ ( 1 − θ ) .B m ( n − 1 ) θ ( 1 − θ ) .C ( m − 1 ) ( n − 1 ) θ ( 1 − θ ) .D mn θ ( 1 − θ ) .2011 年 · 数三 · 第 8 题 · 选择题 · 4 分
设总体 X 服从参数为 λ ( λ > 0 ) 的泊松分布,X 1 , X 2 , ⋯ , X n ( n ≥ 2 ) 为来自该总体的简单随机样本,则对于统计量 T 1 = n 1 i = 1 ∑ n X i 和 T 2 = n − 1 1 i = 1 ∑ n − 1 X i + n 1 X n ,有( )
A E ( T 1 ) > E ( T 2 ) , D ( T 1 ) > D ( T 2 ) B E ( T 1 ) > E ( T 2 ) , D ( T 1 ) < D ( T 2 ) C E ( T 1 ) < E ( T 2 ) , D ( T 1 ) > D ( T 2 ) D E ( T 1 ) < E ( T 2 ) , D ( T 1 ) < D ( T 2 ) 随堂练习 先用基础题热身,再按年份从新到旧挑战本知识点的其余真题。
练习 1 · 选择题
设 X 1 , … , X n 是取自正态总体 N ( μ , σ 2 ) 的样本,μ , σ 2 均未知。下列各量中不是 统计量的是( )。
A X ˉ B n 1 ∑ i = 1 n X i 2 C X ˉ − μ D X 1 + X n 练习 2 · 填空题
设总体方差 D ( X ) = σ 2 = 9 ,样本容量 n = 36 ,X ˉ 为样本均值,则 D ( X ˉ ) = ____。
练习 3 · 选择题
已知一组样本观测值为 2 , 4 , 6 。其样本方差 s 2 (分母取 n − 1 )等于( )。
练习 4 · 填空题
设总体 X 的期望 E ( X ) = 2 、方差 D ( X ) = 5 ,X 1 , … , X n 为简单随机样本,S 2 = n − 1 1 ∑ i = 1 n ( X i − X ˉ ) 2 为样本方差,则 E ( S 2 ) = ____。
练习 5 · 选择题
设总体方差为 σ 2 ,X 1 , … , X n 为简单随机样本,X ˉ 为样本均值。则 E [ n 1 ∑ i = 1 n ( X i − X ˉ ) 2 ] = ( )。
练习 6 · 选择题
设总体 X 服从参数为 λ 的指数分布,即其概率密度为f ( x ) = { λ e − λ x , 0 , x > 0 , x ≤ 0 , λ > 0 , X 1 , X 2 , … , X n 是取自 X 的简单随机样本,记 N = min { X 1 , X 2 , … , X n } 。则( )。
A N 服从参数为 λ 的指数分布,E ( N ) = λ 1 B N 服从参数为 nλ 的指数分布,E ( N ) = nλ 1 C N 服从参数为 n λ 的指数分布,E ( N ) = λ n D N 不服从指数分布,但 E ( N ) = λ 1 练习 7 · 填空题
设 X 1 , X 2 , … , X n (n ≥ 2 )是取自总体 X 的简单随机样本,E ( X ) = μ ,D ( X ) = σ 2 ,记样本均值 X ˉ = n 1 i = 1 ∑ n X i 。则 Cov ( X 1 − X ˉ , X 2 − X ˉ ) = ____。
练习 8 · 解答题
设总体 X 服从区间 [ 0 , θ ] 上的均匀分布(θ > 0 未知),X 1 , X 2 , … , X n 是取自 X 的简单随机样本,记M = max { X 1 , … , X n } , N = min { X 1 , … , X n } , X ˉ = n 1 i = 1 ∑ n X i . (1) 求 M 的分布函数与概率密度,并求 E ( M ) 与 D ( M ) ;(2) 求 E ( N ) ;(3) 验证 θ ^ 1 = n n + 1 M 与 θ ^ 2 = 2 X ˉ 都满足 E ( θ ^ i ) = θ ,并比较二者的方差,指出当 n ≥ 2 时哪一个的波动更小。
2010 年 · 数三 · 第 14 题 · 填空题 · 4 分
设 X 1 , X 2 , ⋯ , X n 是来自总体 N ( μ , σ 2 ) ( σ > 0 ) 的简单随机样本,记统计量 T = n 1 i = 1 ∑ n X i 2 ,则 E ( T ) = ______.
2009 年 · 数三 · 第 14 题 · 填空题 · 4 分
设 X 1 , X 2 , ⋯ , X m 为来自二项分布总体 B ( n , p ) 的简单随机样本,X ˉ 和 S 2 分别为样本均值和样本方差。记统计量 T = X ˉ − S 2 ,则 E ( T ) = ______.
2006 年 · 数三 · 第 6 题 · 填空题 · 4 分
设总体 X 的概率密度为 f ( x ) = 2 1 e − ∣ x ∣ ( − ∞ < x < + ∞ ) ,X 1 , X 2 , ⋯ , X n 为总体 X 的简单随机样本,其样本方差为 S 2 ,则 E ( S 2 ) = ______.