偏差公式注：在统计学的应用中，参数估计和假设检验是最重要的两

注：在统计学的应用中，参数估计和假设检验是最重要的两个方面。参数估计是利用样本的信息，对总体的未知参数做估计。是典型的“以偏概全”。

参数是总体分布中的参数，反映的是总体某方面特征的量。例如：合格率，均值，方差，中位数等。参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数。

问题的一般提法

设有一个统计总体，总体的分布函数为$F(x, \theta)$，其中$\theta$为未知参数。现从该总体取样本$X_1, X_2, ..., X_n$，要依据样本对参数$\theta$作出估计，或估计$\theta$的某个已知函数$g(\theta)$。这类问题称为参数估计。

参数估计分类

点估计，其中点估计又可以分为矩估计和最大似然估计；

区间估计

例如，估计降雨量：预计今年的降雨量为550mm，这是点估计；预计今年的降雨量为500 - 600mm，这是区间估计。偏差公式

由于存在不同的方法对总体中的未知参数进行估计，利用这些不同的方法得到的估计值也不同。因此就涉及到如何评价不同估计量的好坏的问题。

常用的评价准则有以下四条：

无偏性准则

有效性准则

均方误差准则

相合性准则

无偏性是通过比较参数和参数估计量的期望来判断的。

定义：若参数$\theta$的估计值$\hat{ \theta } = \hat{ \theta} (X_1, X_2, ..., X_n)$，满足

$$E(\hat{ \theta }) = \theta$$，

则称$\hat{ \theta }$是$\theta$的一个无偏估计量。偏差公式

若$E(\hat{ \theta }) \neq \theta$，那么$|E(\hat{ \theta }) - \theta|$称为估计量$\hat{ \theta }$的偏差，若$\displaystyle \lim_{ n \to \infty } E(\hat{ \theta }) = \theta$，则称$\hat{ \theta }$是$\theta$的渐进无偏估计量。

无偏性的统计意义：

无偏性的统计意义是指在大量重复试验下，由$\hat{ \theta }(X_1, X_2, ..., X_n)$给出的估计的平均值恰好是$\theta$，从而无偏性保证了$\hat{ \theta }$没有系统误差。

图1，无偏性

例如，工厂长期为商家提供某种商品，假设生产过程相对稳定，产品合格率为$\theta$，虽然一批货的合格率可能会高于0,，或低于0，但无偏性能够保证在较长一段时间内合格率趋近于$\theta$，所以双方互不吃亏。但作为顾客购买商品，只有两种可能，即买到的是合格产品或不合格产品，此时无偏性没有意义。

如果两种方法得到的结果都是无偏估计，那么这两种方法怎么区分好坏呢？这时候就可以用到有效性了。有效性是根据方差来判断估计值的好坏，方差较小的无偏估计量是一种更有效的估计量。

图2，有效性

在实际应用中，均方误差准则比无偏性准则更重要！

定义：设$X_1, X_2, ..., X_n$是从带参数$\theta$的总体中抽出的样本，要估计$\theta$. 若采用$\hat{\theta}$作为参数$\theta$的点估计，则其误差为$\hat{\theta} - \theta$. 这个误差随样本$X_1, X_2, ..., X_n$的具体取值而定，也是随机的，因而其本身无法取为优良性指标. 我们取它的平方以消除符号，然后取均值，可得估计量$\hat{\theta}$的均方误差（误差平方的平均），$$E(\hat{\theta} - \theta)^2, $$记为$Mse(\hat{\theta})$. 若$\hat{\theta}$是$\theta$的无偏估计，则有$Mse(\hat{\theta}) = D(\hat{\theta})$.