点估计和评价标准

设总体 $X$ 的分布函数为 $F(x;\theta)$(可以是多维的)，其中 $\theta$ 是一个未知参数， $X_1,X_2,…,X_n$ 是取自总体 $X$ 的一个样本。由样本构造一个适当的统计量 $\hat{\theta}(X_1,X_2,…,X_n)$ 作为参数 $\theta$ 的估计，则称统计量 $\hat{\theta}(X_1,X_2,…,X_n)$ 为 $\theta$ 的估计量。(最后的结果中 $X$ (大写)，为估计量)

如果 $x_1,x_2,…,x_n$ 是样本的一个观察值，将其代入估计量 $\hat{\theta}$ 中得值 $\hat{\theta}(x_1,x_2,…,x_n)$ ，并且此值作为未知参数 $\theta$ 的近似值，称这个值为未知参数 $\theta$ 的估计值。(最后的结果中 $x$ (小写)，为估计值)

建立一个适当的统计量作为未知参数 $\theta$ 的估计量，并以相应的观察值作为未知参数估计值的问题，称为参数 $\theta$ 的点估计问题。考研中常考两种点估计：

• 矩估计：

  • 对于一个参数：

    1. 用一阶矩建立方程：令 $\bar{X}=EX$
    2. 若 $1$ 不能用，用二阶矩建立方程：令 $\frac{1}{n}\sum\limits_{i=1}^nX_i^2=E(X^2)$

    一个方程解出一个参数即可作为矩估计。

  • 对于两个参数，用一阶矩与二阶矩建立两个方程，即 $\bar{X}=EX$ 与 $\frac{1}{n}\sum\limits_{i=1}^nX_i^2=E(X^2)$，两个方程解出两个参数即可作为矩估计。

• 最大似然估计：对未知参数 $\theta$ 进行估计时，在该参数可能的取值范围 $I$ 内选取，使 “样本获此观测值 $x_1,x_2,…,x_n$” 的概率最大的参数值 $\hat{\theta}$ 作为 $\theta$ 的估计，这样选定的 $\hat{\theta}$ 最有利于 $x_1,x_2,…,x_n$ 的出现，即 “参数 $\theta=?$ 时，观测值出现的概率最大”。

  1. 写出样本的似然函数：

  2. 求参数：

     • 若似然函数有驻点，则令 $\large \frac{dL}{d\theta}=0$ 或 $\large \frac{d \ln L}{d\theta}=0$，解出 $\hat{\theta}$。
     • 若似然函数无驻点(单调)，则用定义求 $\hat{\theta}$。当 $\large \frac{d \ln L}{d\theta}>0$ 时，$\hat{\theta}_L=X_{(1)}$；当 $\large \frac{d \ln L}{d\theta}<0$ 时，$\hat{\theta}_L=X_{(n)}$；
     • 若似然函数为常数，则用定义求 $\hat{\theta}$，此时 $\hat{\theta}$ 不唯一。

  3. 最大似然估计量的不变性原则：设 $\hat{\theta}$ 是总体分布中未知参数 $\theta$ 的最大似然估计，函数 $u=u(\theta)$ 具有单值的反函数 $\theta=\theta(u)$ ，则 $\hat{u}=u(\hat{\theta})$ 是 $u(\theta)$ 的最大似然估计。

  当同一个题目中需要求矩估计和最大似然估计时，使用 $\hat{\theta}_M$ 表示矩估计，$\hat{\theta}_L$ 表示最大似然估计。

• 估计量的评价：

  • 无偏性：对于估计量 $\hat{\theta}$，若 $E\hat{\theta}=\theta$，则称 $\hat{\theta}$ 为 $\theta$ 的无偏估计量；
  • 有效性(最小方差性)：若 $E\hat{\theta}_1=\theta,E\hat{\theta}_2=\theta$，即 $\hat{\theta}_1,\hat{\theta}_2$ 都是 $\theta$ 的无偏估计量，当 $D(\hat{\theta_1})<D(\hat{\theta_2})$，称 $\hat{\theta_1}$ 比 $\hat{\theta_2}$ 有效；
  • 一致性(相合性)：若 $\hat{\theta}$ 为 $\theta$ 的估计量，如果对任意 $\varepsilon>0$，有 $\lim\limits_{n\to\infty}P\{|\hat{\theta}-\theta|<\varepsilon\}=1$ 或 $\lim\limits_{n\to\infty}P\{|\hat{\theta}-\theta|\geq\varepsilon\}=0$，即 $\hat{\theta}\mathop{\to}\limits^P\theta~(n\to\infty)$ ，则称 $\hat{\theta}$ 为 $\theta$ 的一致估计量(或相合估计量)。依据切比雪夫不等式，两边取极限，夹逼准则得到极限为 $1$。

区间估计与假设检验

设 $\theta$ 是总体 $X$ 的一个未知参数，对于给定 $\alpha(0<\alpha<1)$ ，如果由样本 $X_1,X_2,…,X_n$ 确定的两个统计量 $\hat{\theta}_i=\hat{\theta}_i(X_1,X_2,…,X_n)~(\hat{\theta}_1<\hat{\theta}_2)$ ，使

则称随机区间 $(\hat{\theta}_1,\hat{\theta}_2)$ 是 $\theta$ 置信度为 $1-\alpha$ 的置信区间，$\hat{\theta}_1$ 和 $\hat{\theta}_2$ 分别称为 $\theta$ 的置信度为 $1-\alpha$ 的双侧置信区间的置信下限和置信上限， $1-\alpha$ 称为置信度或置信水平，$\alpha$ 称为显著性水平。如果 $P\{\theta<\hat{\theta}_1\}=P\{\theta>\hat{\theta}_2\}=\frac{\alpha}{2}$，则称这种置信区间为等尾置信区间。

正态总体均值的置信区间(置信水平为 $1-\alpha$ )：

若提“单侧置信限”，把 $\frac{\alpha}{2}$ 改写成 $α$ 即可，将另一侧置信区间的边界设为 $\bar{X}$。

关于总体 (分布中的未知参数，分布的类型、特征、相关性、独立性…) 的每一种论断 (“看法”) 称为统计假设。然后根据样本观察数据或试验结果所提供的信息去推断 (检验) 这个 “看法”(即假设) 是否成立，这类统计推断问题称为统计假设检验问题，简称为假设检验。如果总体分布函数 $F(x;\theta)$ 形式已知，但其中的参数 $\theta$ 未知，只涉及参数 $\theta$ 的各种统计假设称为参数假设；如果一个统计假设完全确定总体的分布，则称这种假设为简单假设。

把着重考查、没有充分理由不能轻易否定的假设取为原假设(基本假设或零假设)，记为 $H_0$，将其否定的假设称为对立假设或备择假设，记为 $H_1$，对原假设 $H_0$ 作出否定或不否定的推断，称为对 $H_0$ 作显著性检验。基本思想是采用带有概率性质的反证法，即“小概率原理”：概率很接近于 $0$ 的事件在一次试验或观察中认为备择假设不会发生，若发生了，则拒绝原假设 $H_0$，规定界限 $\alpha$ (显著性水平)，当一个事件的概率不大于 $\alpha$ 时，即认为它是小概率事件。

假设检验要求原假设中含等号，即 $H_0:\mu\leq\mu_0$ 可以检验 $\mu\leq\mu_0$ 和 $\mu>\mu_0$； $H_0:\mu\geq\mu_0$ 可以检验 $\mu\geq\mu_0$ 和 $\mu<\mu_0$

双边检验：($\frac{\alpha}{2}$)

1. $\sigma^2$ 已知，$\mu$ 未知。$H_0:\mu=\mu_0,H_1:\mu\neq\mu_0$。拒绝域为 $\large(-\infty,\mu_0-\frac{\sigma}{\sqrt[]{n}}z_{\frac{\alpha}{2}}]\cup[\mu_0+\frac{\sigma}{\sqrt[]{n}}z_{\frac{\alpha}{2}},+\infty)$；
2. $\sigma^2$ 未知，$\mu$ 未知。$H_0:\mu=\mu_0,H_1:\mu\neq\mu_0$。拒绝域为 $\large(-\infty,\mu_0-\frac{S}{\sqrt[]{n}}t_{\frac{\alpha}{2}}(n-1)]\cup[\mu_0+\frac{S}{\sqrt[]{n}}t_{\frac{\alpha}{2}}(n-1),+\infty)$；

单边检验：($\alpha$)

1. $\sigma^2$ 已知，$\mu$ 未知。$H_0:\mu\leq\mu_0,H_1:\mu>\mu_0$。拒绝域为 $\large[\mu_0+\frac{\sigma}{\sqrt[]{n}}z_{\alpha},+\infty)$；

2. $\sigma^2$ 已知，$\mu$ 未知。$H_0:\mu\geq\mu_0,H_1:\mu<\mu_0$。拒绝域为 $\large(-\infty,\mu_0-\frac{\sigma}{\sqrt[]{n}}z_{\alpha}]$；

3. $\sigma^2$ 未知，$\mu$ 未知。$H_0:\mu\leq\mu_0,H_1:\mu>\mu_0$。拒绝域为 $\large[\mu_0+\frac{S}{\sqrt[]{n}}t_{\alpha}(n-1),+\infty)$；

4. $\sigma^2$ 未知，$\mu$ 未知。$H_0:\mu\geq\mu_0,H_1:\mu<\mu_0$。拒绝域为 $\large(-\infty,\mu_0-\frac{S}{\sqrt[]{n}}t_{\alpha}(n-1)]$；

   也可以设 $H_0:\mu=\mu_0$。

两类错误：

1. 第一类错误("弃真")：若 $H_0$ 为真，按检验法则，否定 $H_0$ ，此时犯了"弃真"的错误，概率为 $\alpha=P\{拒绝~H_0|H_0~为真\}$。(就是显著性水平)
2. 第二类错误("取伪")：若 $H_0$ 不真，按检验法则，接受 $H_0$ ，此时犯了"取伪"的错误，概率为 $\beta=P\{接受~H_0|H_0~为假\}=P\{接受~H_0|H_1~为真\}$。

犯两类错误的概率 $\alpha$ 与 $\beta$，并不满足 $\beta=1-\alpha$ ，在固定样本容量 $n$ 的条件下，$\alpha$ 小，$\beta$ 就大；$\beta$ 小，$\alpha$ 就大。在实际应用中，我们总是在控制 $\alpha$ 的条件下，尽量使 $\beta$ 小。