基于经验似然的部分线性模型的统计诊断

应用概率统计第二十七卷第一期2011年2月ChineseJournalofAppliedProbability

andStatisticsVol.27No.1Feb.2011

基于经验似然的部分线性模型的统计诊断

徐亮1

丁先文2

2

林金官1

(1东南大学数学系,南京,211189;

江苏技术师范学院数理学院,常州,213001)

摘要

经验似然方法已经被广泛应用于许多模型的统计推断.本文基于经验似然对部分线性模型进行统计诊断.首先给出模型的估计方程,进而得到模型参数的极大经验似然估计;其次,基于经验似然研究了三种不同的影响曲率;最后通过随机模拟和实例分析,说明了统计诊断方法的有效性.

关键词:

经验似然,估计方程,极大经验似然估计,影响曲率.

O212.2.

学科分类号:

§1.引言

在回归分析中,模型的诊断问题是非常重要的环节.自Cook[1,2]开始了统计模型的诊断研究起,许多统计学家在这方面做了大量的研究.如Thomas和Cook[14]等发展了局部影响分析的方法,该方法可以应用于许多统计模型的诊断;Fung&Kwan[4]考虑了基于正态曲率的局部影响问题;Zhu&Lee[17]、Zhu,etal[18]分别研究了基于不完全数据的局部影响和数据删除诊断;Fung,etal[5]、Lee&Xu[6]、Xie,etal[15]等又在不同的领域对模型进行了诊断,提出了许多诊断统计量.

基于经验似然的统计分析是近年统计学的热点研究课题.Owen[7–9]介绍并发展了非参数问题的经验似然方法,提出了经验似然比统计量,并在此基础上对线性模型和广义线性模型进行了深入的研究.由于这种方法适用范围的广泛性和有效性,迅速得到了许多研究者的推广和发展.例如,Qin[10]研究了利用经验似然进行纠偏的问题;Qin&Lawless[11]接着用经验似然方法来研究广义估计方程,得到了广义估计方程的参数估计方法,并证明了参数估计的渐近性质;Wang&Jing[16]用经验似然方法来研究部分线性模型中似然比统计量的渐近性质并构造了参数的置信域.

Zhu,etal[19]将经验似然和统计诊断方法相结合,提出了三种针对广义估计方程的诊断方法,即数据删除方法,局部影响分析方法和伪残差方法.对数据删除方法,Zhu,etal[19]引进了经验似然距离和经验Cook距离,并证明了它们的渐近一致性;对局部影响分析方法,他们考虑了对经验似然函数的扰动,并给出了常用的影响度量;对伪残差方法,Zhu,etal[19]介绍了标准化伪残差的计算方法,并给出了具体的诊断标准.

江苏省自然科学基金项目(BK2008284)和东南大学校内基金(9207011430)资助.

本文2009年12月16日收到.

92应用概率统计第二十七卷

本文基于经验似然对部分线性模型进行诊断分析.部分线性模型首先由Engle,etal[3]为了研究电力需求与天气之间的相互关系而提出来的.此模型的一般形式为:

yi=xTiβ+ (ti)+εi,

i=1,···,n,

(1.1)

其中yi为响应变量,xi为p×1维向量,ti在[0,1]上取值,β为p×1维未知参数, (·)为定义在[0,1]上的未知可测函数,εi(i=1,···,n)为随机统计误差,通常假设εi为独立同分布的随机变量,期望E(εi)=0,方差σ2=E(ε21),并且εi与(xi,ti)相互独立,i=1,···,n.

由于部分线性模型的实用性和有效性,一些学者对此进行了研究,提出了若干关于未知参数β和未知函数 (·)的估计方法.例如,Robinson[12]运用Nadaraya-Waston核估计方法给出了参数β的最小二乘估计,并且推导了在某些正则条件下参数估计的渐近分布.Speckman[13]用核估计方法得到了参数β和函数 (·)的估计.

本文的主要结构如下:第二节介绍经验似然与估计方程,给出了未知函数 (·)的估计,然后基于经验似然比函数求得参数β的极大经验似然估计,并给出了具体的求解方法;在第三节,对模型进行了数据删除和局部影响分析,将Zhu,etal[19]的研究成果进一步推广至部分线性模型,对此模型进行统计诊断,并给出诊断统计量和具体的计算公式;第四节利用随机模拟和实际数据分析来说明诊断统计量的有效性.

§2.

2.1

基于经验似然的估计方程及其参数估计

基于经验似然的估计方程

不失一般性,假设x1,···,xn为来自未知分布F的独立样本,θ为p×1维参数,θ=(θ1,···,θp)T.不必假设分布F的参数形式,仍然可以通过r(≥p)维独立的估计函数g(x,θ)=(g1(x,θ),···,gr(x,θ))T对θ进行统计推断,其中估计方程满足:

EF{g(x,θ0)}=0,

件方程(Qin&Lawless[11];Owen[9]).

经验似然函数定义为(Owen[7];Qin&Lawless[11]):

L(F)=

n i=1

n i=1

θ0∈Θ,

(2.1)

其中EF表示关于分布函数F的数学期望,θ0为θ的真值.方程(2.1)通常称做估计方程或矩条

dF(xi)=pi,

其中pi=dF(xi)=P(X=xi).在条件(2.1)下,截面经验似然比函数为:

nnn

pig(xi,θ)=0.pi=1,npi|pi≥0,LE(θ)=sup

i=1

i=1

i=1

由Qin&Lawless[11],Owen[9]可知:当

1 1pi=

n1+λg(xi,θ)

第一期徐亮丁先文林金官:基于经验似然的部分线性模型的统计诊断93

时,LE(θ)取得唯一值:

LE(θ)=

其中λn(θ)为

n i=1

{1+λTg(xi,θ)} 1,

ng(xi,θ)1

=0

ni=11+λg(xi,θ)

的根.

经验似然也可用于对参数θ的统计推断(例如,参数估计和假设检验).参数θ的极大经验似然估计可由极大化截面经验对数似然比函数logLE(θ)得到,即:

n

θ=argmaxlE(θ)=argmaxlE,i(θ)

n

T

=argmax log(1+λn(θ)g(xi,θ)),

θ∈Θ

i=1

θ∈Θ

θ∈Θ

i=1

(2.2)

[11]证明了θ 和λ =λ n(θ )的渐近正其中lE,i(θ)= log(1+λTn(θ)g(xi,θ)).Qin&Lawless

态性质,即当n→∞时,

√

L

L θ0)→θN(0,Cθ),

√

L 0)→λN(0,Cλ),

这里→指依分布收敛,协方差矩阵分别为:

1

S12) 1,Cθ=(S21S11

1 1 1 1

S12S22Cλ=S11 S11.1S21S11.

1

S12和矩阵S:现记S22.1= S21S11

2TS11S12EF(g) EF( θg)

S=S(0,θ0)==

S21S22 EF( θg)0

,

(0,θ0)

其中g=g(x,θ0), θg= g(x,θ)/ θ(下同),对任意的向量a,a 2=aaT.

在(2.1)成立的条件下,可进一步构造经验似然比统计量

) l(θ0)},WE(θ0)=2{lE(θ

此统计量可以用来检验H0:θ=θ0 H1:θ=θ0,Qin&Lawless[11]证明了在原假设成立的情况下,当n→∞时,WE(θ0)→χ2p.

L

2.2模型的参数估计

首先假设参数β已知,则有:y xTβ= (t)+ε,其中 未知函数.由Nadaraya-Watson核估计的方法有:

n(t)= (t,β)=

n j=1

wnj(t)(yj xTjβ),

(2.3)

94应用概率统计第二十七卷

其中

t t t t n

jj

wnj(t)=kk

hnhnj=1

为权重因子,k(·)为核函数,hn为窗宽,满足nhn→0,n→∞(Owen[9]).令

i=xi x

n j=1

wnj(ti)xj,

i(yi xTg(xi,β)=xiβ (ti)).

若函数 (·)已知且参数β为真参数β0,则有

E(g(xi,β0))=0.

(2.4)

由 …… 此处隐藏：12790字，全部文档内容请下载后查看。喜欢就下载吧 ……