第四章 参数估计与假设检验

参数估计与假设检验

第四章 参数估计与假设检验

参数估计与假设检验

第一节参数估计的意义何在？

参数估计的一般问题

◆人们往往先假定某数据来自一个特定的总体族 (比如正态分布族);◆而要确定是总体族的哪个成员(也就是其具体分 布)则需要知道总体参数值(比如总体均值和总体方 差);

◆于是，人们希望用相应的样本统计量(比如样本 均值和样本方差)来估计出相应的总体参数，从而能够 确定总体的分布。

参数估计与假设检验

第一节一、统计量、估计量、估计值

参数估计的一般问题

估 计：根据现有信息对现实世界进行某种判断。估计量：样本的(不包含未知总体参数的)函数称 为统计量；用于估计总体参数的统计量称为估计量 (estimator,估计子),如用于估计总体参数的样本均值、 样本比率(成数)、样本方差等。由于一个统计量对于 不同的样本取值不同，所以估计量也是随机变量，并有 其分布。

参数估计与假设检验

第一节

参数估计的一般问题

估计值：如果样本已经得到，把数据带入之后，估 计量就有了一个数值，称为该估计量的一个实现 (realization)或取值，也称为一个估计值(estimate)。

可见，统计量是样本的函数，是对样本的一个变换。 我们之所以进行这种变换，是希望用这个统计量去估计 总体的某个参数。不过，在实际转换的过程中，一般来 说，会有一定的信息损失，也就是说，统计量包含的信 息比原始样本本身包含的信息要少。

参数估计与假设检验

第一节这样，就可能出现两种结果：

参数估计的一般问题

一种结果是，抓住了问题的实质，删繁就简，只丢 掉了一些无关要旨的东西，保存了样本中关于所要估计 的总体参数的全部信息；另一种结果是，把样本中关于所要估计的总体参数 的信息丧失了或丧失很多，因此从这个统计量出发对总 体参数进行推断，还不如从样本本身对总体进行推断。 如果这个统计量满足第一种情况，我们就说它是充 分统计量。

参数估计与假设检验

第一节二、点估计与区间估计

参数估计的一般问题

点估计(point estimation):用估计量的实现值来近似 相应的总体参数。区间估计(interval estimation):给出包括估计量在内 (有时是以估计量为中心)的一个区间；该区间被认为 很可能包含总体参数。

点估计给出一个数字，用起来很方便；而区间估计 给出一个区间，说起来留有余地；不像点估计那么绝对。

参数估计与假设检验

第一节三、点估计

参数估计的一般问题

用什么样的估计量来估计参数呢？没有限制。任何 统计量，只要人们觉得合适就可以当成估计量。比如，一位专家来学校进行评估，想了解《概率论 与数理统计》的考试情况，在食堂碰到你，问：你们班 这门课的平均成绩大概是多少

?你说：不太清楚。他只 好又问：那你考了多少？你说：38。

参数估计与假设检验

第一节三、点估计

参数估计的一般问题

那么，什么样的估计量才算合适呢？从理论上来说， 一个合适的估计量至少要具备如下特点：1、要能够知道其概率分布； 2、要能够根据现有条件算出估计量的值。

那么，怎么样比较不同估计量之间的好坏呢？

参数估计与假设检验

第一节1、无偏性(unbiasedness)

参数估计的一般问题

所谓无偏性，就是指我们所选定的估计量的数学期 望等于被估计量，这时统计量的值才能在真实值上下摆 动，从而保证用它来估计被估计参数在理论上没有偏差。在统计中，人们一般不用样本方差S2n来估计总体方 差，正是因为用样本方差S2n来估计总体方差是有偏(差) 的，而用样本修正方差S2n-1来估计总体方差是没有偏 (差)的。

参数估计与假设检验

第一节

参数估计的一般问题

参数估计与假设检验

第一节2、一致性(consistency)

参数估计的一般问题

随着样本容量的增大，估计量越来越接近被估计的 总体参数。即：设 为未知参数θ的估计量，当n→∞时，要求 依概 率收敛于θ,即

lim P( ) 1n

参数估计与假设检验

第一节2、一致性(consistency)

参数估计的一般问题

参数估计与假设检验

第一节3、有效性(efficiency)

参数估计的一般问题

若 1 和 2 均为 的无偏估计，且 Var( 1 ) Var( 2 ) ,则 称无偏估计 1 比 2 更有效。若 是 的无偏估计的最有效者，即具有最小方 差，则称 是 的最小方差无偏估计。

参数估计与假设检验

第一节

参数估计的一般问题

四、区间估计(Interval Estimation)

当描述一个人的体重时，你一般可能不会说这个人 是76.35公斤，你会说这个人是七八十公斤，或者是在70 公斤到80公斤之间。这个范围就是区间估计的例子。

参数估计与假设检验

第一节置信度与置信区间：

参数估计的一般问题

置信度的概念是大量重复抽样时的一个渐近概念。类似于“我们目前得到的置信度为95%的置信区间以概率

0.95覆盖总体真值”的说法是错误的。实际上应该说“重复类似的抽样所得到的大量区间中有大约95%的覆盖 总体真值(该真值可能永远未知)。

参数估计与假设检验

第一节

参数估计的一般问题

这里的置信区间(如72,78)是固定的，而总体真

值也是固定的值。因此只有两种可能：或者该区间包含总体比例，或者不包含；这当中没有任何概率可言。 至于区间(72,78)是否覆盖总体真值，除非一个 不漏地调查所有的人，否则永远也无法知道。