区间估计

① 定义：设总体中含有未知参数 $\theta$，$X_1,\dots ,X_n$ 为来自该总体的样本，给定 $\alpha \in (0,1)$。如果两个统计量 ${\hat{\theta }}_1={\hat{\theta }}_1(X_1,\dots ,X_n)<{\hat{\theta }}_2={\hat{\theta }}_2(X_1,\dots ,X_n)$ 满足
$$P\{{\hat{\theta }}_1<\theta <{\hat{\theta }}_2\}=1-\alpha ,$$
那么称随机区间 $({\hat{\theta }}_1,{\hat{\theta }}_2)$ 为 $\theta$ 的置信水平（置信度）为 $1-\alpha$ 的置信区间，并分别称 ${\hat{\theta }}_1,{\hat{\theta }}_2$ 为置信下限与置信上限。通常取 $\alpha =0.05$，即置信水平为 $95\%$。

② 频率解释，即随机的是区间而不是 $\theta$：$\theta$ 是未知的常数，随机的是端点 ${\hat{\theta }}_1,{\hat{\theta }}_2$。$1-\alpha$ 的准确含义是：反复抽样可以得到许多区间，其中约有 $100(1-\alpha )\%$ 个盖住真值 $\theta$。对一次具体观测所算出的数值区间而言，$\theta$ 或者在其中，或者不在其中，因此不能说 $\theta$ 有 $95\%$ 的概率落在这个区间内。这里的 $95\%$ 描述的是方法的可靠程度，而不是某一个区间盖住真值的概率。

③ 枢轴量的定义与求置信区间的三个步骤：枢轴量 $G=G(X_1,\dots ,X_n;\theta )$ 是样本与待估参数的函数，并要求它的分布完全已知，即不依赖任何未知参数。枢轴量与统计量的分工恰好互补：统计量不含未知参数，而分布可以是未知的；枢轴量必须含有 $\theta$，而分布必须已知。求置信区间分三步：
(1) 选取枢轴量。正态总体常用的有三个：估计 $\mu$ 而 $\sigma$ 已知时用 $\frac{\bar{X}-\mu }{\sigma /\sqrt{n}}\sim N(0,1)$；估计 $\mu$ 而 $\sigma$ 未知时用 $\frac{\bar{X}-\mu }{S/\sqrt{n}}\sim t(n-1)$；估计 ${\sigma }^2$ 时用 $\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$；
(2) 查分位数。求 $a<b$，使 $P\{a<G<b\}=1-\alpha$；分布对称时取等尾的 $\pm$ 分位点（例如 $\pm z_{\alpha /2}$）；
(3) 反解。把 $a<G<b$ 等价地变形为 ${\hat{\theta }}_1<\theta <{\hat{\theta }}_2$（反解的细节以及 ${\sigma }^2$ 的区间为什么不对称，见下一条）。

结论应当记熟：$\sigma$ 已知时，$\mu$ 的置信水平为 $1-\alpha$ 的置信区间为 $(\bar{X}\pm z_{\alpha /2}\frac{\sigma }{\sqrt{n}})$；$\sigma$ 未知时则换成 $(\bar{X}\pm t_{\alpha /2}(n-1)\frac{S}{\sqrt{n}})$。

构造置信区间的具体做法，就是把枢轴量所满足的分位数不等式反解成关于参数的不等式。以估计 $\mu$（$\sigma$ 已知）为例：
$$\begin{array}{rl}& -z_{\alpha /2}<\frac{\bar{X}-\mu }{\sigma /\sqrt{n}}<z_{\alpha /2}\\ & ⟹\bar{X}-z_{\alpha /2}\frac{\sigma }{\sqrt{n}}<\mu <\bar{X}+z_{\alpha /2}\frac{\sigma }{\sqrt{n}}.\end{array}$$
均值型的区间关于 $\bar{X}$ 对称，这是因为枢轴量关于参数是线性的。但 ${\sigma }^2$ 的区间不对称，原因在于反解时要取倒数，而取倒数会使不等号反向，于是较大的分位数落到下限，较小的分位数落到上限。因此这个区间决不能写成 $\pm$ 的形式。

数学一还要求会求两个总体的置信区间。设 $X\sim N({\mu }_1,{\sigma }_1^2)$、$Y\sim N({\mu }_2,{\sigma }_2^2)$，样本容量分别为 $n_1,n_2$，样本均值为 $\bar{X},\bar{Y}$，样本方差为 $S_1^2,S_2^2$。

估计 ${\mu }_1-{\mu }_2$：
- 若 ${\sigma }_1^2,{\sigma }_2^2$ 已知，则取枢轴量 $\frac{(\bar{X}-\bar{Y})-({\mu }_1-{\mu }_2)}{\sqrt{{\sigma }_1^2/n_1+{\sigma }_2^2/n_2}}\sim N(0,1)$，所得区间为 $(\bar{X}-\bar{Y})\pm z_{\alpha /2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}$；
- 若 ${\sigma }_1^2={\sigma }_2^2={\sigma }^2$ 而其值未知，则用合并方差 $S_w^2=\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2}$，所得区间为 $(\bar{X}-\bar{Y})\pm t_{\alpha /2}(n_1+n_2-2)S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}$。

估计 ${\sigma }_1^2/{\sigma }_2^2$：取枢轴量 $\frac{S_1^2/S_2^2}{{\sigma }_1^2/{\sigma }_2^2}\sim F(n_1-1,n_2-1)$，反解得区间 $\left(\frac{S_1^2/S_2^2}{F_{\alpha /2}(n_1-1,n_2-1)},\frac{S_1^2/S_2^2}{F_{1-\alpha /2}(n_1-1,n_2-1)}\right)$。

区间估计常常反过来提出问题：要达到指定的精度，至少应抽取多少个样本？以估计 $\mu$（$\sigma$ 已知）为例，误差限（区间的半长） 为 $z_{\alpha /2}\frac{\sigma }{\sqrt{n}}$。要求它不超过 $d$，则有
$$\begin{array}{rl}& z_{\alpha /2}\frac{\sigma }{\sqrt{n}}\le d\\ & ⟹\sqrt{n}\ge \frac{z_{\alpha /2}\sigma }{d}\\ & ⟹n\ge (\frac{z_{\alpha /2}\sigma }{d}{)}^2,\end{array}$$
再向上取整。注意 $n\propto \frac{1}{d^2}$，因此精度要求提高一倍（即 $d$ 减半）时，样本容量须增为原来的 4 倍。这就把提高精度的代价定量地表示了出来。它与假设检验中要同时降低两类错误的概率就只能增大 $n$ 这一事实，出于同一根源。

如果只关心参数的一端，例如要问平均寿命至少是多少（求下限），或者不合格率至多是多少（求上限），那么就把整个 $\alpha$ 放在一侧，改用单侧分位数 $z_{\alpha }$（或 $t_{\alpha },{\chi }_{\alpha }^2$）。例如 $\mu$（$\sigma$ 未知）的置信下限为
$$\underline{\mu }=\bar{X}-t_{\alpha }(n-1)\frac{S}{\sqrt{n}}.$$
那么双侧区间为什么在两端各留 $\alpha /2$，即取等尾呢？这是因为对于 $N(0,1)$、$t$ 分布这类对称分布，等尾分配可使区间最短，在同样的置信水平下最为经济。这也就说明了双侧区间为什么一律用 $\alpha /2$ 分位数。