概述
point estimation
由样本数据估计总体分布所含未知参数的真值,所得到的值,称为估计值。点估计的精确程度用置信区间表示。
当母群的性质不清楚时,我们须利用某一量数作为估计数,以帮助了解母数的性质.如:样本平均数乃是母群平均数μ的估计数.当我们只用一个特定的值,亦即数线上的一个点,作为估计值以估计母数时,就叫做点估计.
点估计目的是依据样本X=估计总体分布所含的未知参数θ或θ的函数 g。一般θ或g是总体的某个特征值,如数学期望、方差、相关系数等。
点估计的常用方法有矩估计法、顺序统计量法、最大似然法、最小二乘法等。正文
参数估计的一种形式。目的是依据样本X=估计总体分
点估计
布所含的未知参数θ或θ的函数 g。一般θ或g是总体的某个特征值,如数学期望、方差、相关系数等。θ或 g通常取实数或k维实向量为值。点估计问题就是要构造一个只依赖于样本X的量抭,作为g的估计值。抭称为g的估计量。因为k维实向量可表为k维欧几里得空间的一个点,故称这样的估计为点估计。例如,设一批产品的废品率为θ,为估计θ,从这批产品中随机地抽出 n个作检查,以X 记其中的废品个数,用 X/n估计θ,就是一个点估计。又如用样本方差估计总体分布的方差,或用样本相关系数估计总体分布的相关系数,都是常见的点估计。构造点估计的方法
矩估计法
这是英国统计学家К.皮尔森在1894年提出的方法,其要旨是用样本矩的点估计
函数估计总体矩的同一函数。例如,若总体分布服从正态分布 N,其中μ是总体均值,σ2是总体方差,未知参数可记为θ=。σ/μ称为变异系数,它是总体的一阶原点矩μ与二阶中心矩σ2的函数。设有样本X=,其一阶样本原点矩为,二阶样本中心矩为,而用估计 σ/μ,就是一个典型的矩估计方法。最大似然估计法
此法作为一种重要而普遍的点估计法,由英国统计学家R.A.费希尔在1912年提出。后来在他1921年和1925年的工作中又加以发展。设样本X=的分布密度为L,若固定X点估计
而将L视为θ的函数,则称为似然函数,当X是简单随机样本时,它等于ƒƒ…ƒ,其中,ƒ是总体分布的密度函数或概率函数。一经得到样本值x,就确定,使 ,然后用估计g,这就是g的最大似然估计。例如,不难证明,前面为估计正态分布N中的参数μ和σ2而提出的估计量和2,就是μ和σ2的最大似然估计。最小二乘估计法
这个重要的估计方法是由德国数学家C.F.高斯在1799~1809年和法国数学家A.-M.勒让德在1806年提出,并由俄国数学家Α.Α.马尔可夫在1900年加以发展。它主要用于线性统计模型中的参点估计
数估计问题。 贝叶斯估计法 是基于“贝叶斯学派”的观点而提出的估计法。小样本优良性准则
可以用来估计g的估计量很多,于是产生了怎样选择一个优良估计量的问题。首先必须对点估计
“优良性”定出准则。这种准则不是惟一的,它可以根据问题的实际背景和理论上的方便进行选择。优良性准则有两大类:一类是小样本准则,即在样本大小固定时的优良性准则;另一类是大样本准则,即在样本大小趋于无穷时的优良性准则。最重要的小样本优良性准则是无偏性及与此相关的一致最小方差无偏估计。若一个估计量抭的数学期望等于被估计的g,即对一切θ,,则称抭为g的无偏估计,这种估计的特点是:在多次重复点估计
用时, 抭与g的偏差的算术平均值随使用次数的增加而趋于零。因此,无偏性只在重复使用中,并且各次误差能相互抵消时,才显出其意义。无偏估计并不总是存在。例如,设总体服从二项分布B,0<θ<1,则1/θ的无偏估计就不存在。有时,无偏估计虽然存在,但很不合理。在一些点估计
问题中,无偏估计有很多,它们的优良性由其方差来衡量,方差愈小愈好。若一无偏估计的方差比任何别的无偏估计的方差都小,或至多相等,则称它为一致最小方差无偏估计。寻找一致最小方差无偏估计的一个普遍方法,是D.布莱克韦尔、E.L.莱曼和H.谢菲在1950年提出的,它基于统计量的充分性与完全性的概念:设抭是一个无偏估计,T是一个完全充分统计量,则抭在给定T时的条件期望就是一个一致最小方差无偏估计。 克拉默-拉奥不等式是寻求一致最小方差无偏估计的另一重要工具,是由印度统计学家点估计
C.R.拉奥和瑞典统计学家H.克拉默在1945年和1946年先后独立地证明的。当样本的似然函数 L满足一定条件时,则 g的任一无偏估计 抭的方差 ,对于一切θ满足不等式这个不等式的右边只与样本的分布及待估函数 g有关,而与抭无关。通常称这个不等式为克拉默-拉奥不等式,或C-R不等式。它的右边给出了 g的无偏估计的方差的最小下界,称为克拉默-拉奥下界或C-R下界。因此,若某一无偏估计的方差达到上述C-R下界,则它必是一致最小方差无偏估计。C-R不等式在其他统计问题中也有应用。点估计
在点估计问题中还使用其他一些小样本准则,如容许性准则、最小化最大准则、最优同变准则等。大样本优良性准则重要的如下
相合性 若g的估计量 抭n在n趋于无穷时,在某种收敛意义下点估计
收敛于g,则称抭n是 g的在这种收敛意义下的相合估计。这是点估计最基本的大样本准则。例如依概率收敛意义下的相合性称为弱相合,几乎必然收敛意义下的相合性称为强相合。矩估计一般具有相合性。最大似然估计在一定条件下为强相合的证明始自A.瓦尔德1949年的工作,并在以后为许多学者所发展。线性统计模型中参数的最小二乘估计的强相合性研究始于20世纪60年代,近年来取得很大的进展。最优渐近正态估计
简称BAN估计。设X1,X2,…,Xn为从一总体中随机独立地抽出的样本,总体分布具有密度函数或概率函数 ƒ,满足一定的正则条件,设g为待估函数,记 式中称为费希尔信息量,若g点估计
的估计量为抭n,当n→时,依分布收敛于正态分布 N),就称此估计量为g的 BAN估计。在g的一类渐近正态估计中,以这种估计的渐近方差最小,故称为最优渐近正态估计。在一般条件下,最大似然估计是BAN估计。渐近有效估计
当样本大小为n时,C-R不等式的右边就是 v2/n。在BAN估计定义中,并未要求估计量抭n的方差存在,如果去掉渐近正态性的要求,而要求抭n的方差存在且渐近于C-R下界,则得到克拉默于1946年定义的渐近有效估计的概念。不少情况下,BAN估计也是渐近有效估计。1960年印度统计学家R.R.巴哈杜尔提出另一种渐近有效性的概念,还可以用于假设检验问题。近年来,日本统计学家竹内启又在两个方面发展了估计的渐近有效性概念:一是渐近分布不必是正态分布;二是收敛于渐近分布的阶不必是。 点估计理论是数理统计学得到较多和较深入发展的一个方面。在小样本方面,1955年C.施坦提出了一个反例,证明当维数大于2时,多维正态分布均值向量的通常估计在平点估计
方损失下不可容许。这个简单的但出乎意料的反例启发了关于点估计的容许性的一系列研究。在大样本方面,值得提到的发展还有自适应估计、稳健估计及非参数估计方面许多深入的结果。