2010级多元统计分析试卷

2010级多元统计分析试卷 中南财大 统计学专业研究生

2010级统计学专业多元统计分析试卷

一、设X~Np(μ,Σ)，A为对称矩阵，证明：

1. E(XX )=Σ+μμ ；

2. E(X AX)=tr(ΣA)+μ Aμ

证明：1. 由于Σ=Cov(X,X)=E(X-μ)(X-μ) =E(XX -Xμ -μ X+μμ ) E(XX ) μμ 所以E(XX )=Σ+μμ

2. E(X AX)=E[tr(X AX)]=E[tr(XX A)]=tr[E(XX )A]=tr[(Σ+μμ )A]

=tr(ΣA)+tr(μμ A)=tr(ΣA)+tr(μ Aμ)=tr(ΣA)+μ Aμ

二、试比较主成分分析和因子分析的区别和联系。 解：（1）联系：①因子分析是主成分分析的推广和延伸，二者都是利用降维的思想；②主成分（或因子）的个数远小于原始变量的个数；③主成分（或因子）保留了原始变量的绝大部分信息；④各主成分（或因子）之间互不相关。

（2）区别：①主成分分析不能作为一个模型来描述，它只能作通常的变量变换，而因子分析需要构造因子模型；②主成分分析的主分量数m和变量数p相等，它是将一组具有相关性的变量变换为一组独立的变量，而因子分析的目的是使m比p小，而且要选取尽可能小的m，以便构造一个结构尽可能简单的模型；③主成分分析将主分量表示为原始变量的线性组合，而因子分析将原始变量表示为新因子的线性组合。 三、X和Y是两个随机向量，记Y的方差阵为ΣYY O，证明：

(i)

1(i 1,2, ,5)，其中 XY为广义相关系数。 当Y=AX时， XY

证明：因为Y=AX时，ΣYY=AΣXXA ,ΣYX=AΣXX,ΣXY=ΣXXA ，因此就有

MYX=ΣYYΣYXΣXXΣXY=(AΣXXA )AΣXXΣXXΣXXA (AΣXXA )AΣXXA

+

+

+

+

+

注意到对任一B，B+B是投影阵，它的特征根非0即1，而AΣXXA ΣYY O，因此至少

(i)

1(i 1,2, ,5)。 有一个非零特征根，从而有 XY

四、证明马氏距离是有线性变换与正交变换的不变性。 证明：设X1,X2是从均值向量为μ，协方差阵为Σ的总体G中抽取的两个样品，则X1,X2两2 1

(X1,X2) (X1 X2) Σ(X1 X2)。作正交变换Yi=PXi(i 1,2)，点之间的马氏距离为：dm

其中P为正交矩阵，则E(Yi)=Pμ,D(Yi) PΣP (i 1,2)，于是Y1,Y2两点之间的马氏距离

dm(Y1,Y2) (Y1 Y2) ΣYY

1

-1

2

1

(Y1 Y2) (PX1-PX2) (PΣP )(PX1-PX2)

1

-1

2

-1

(X1-X2) P (P )ΣPP(X1-X2) (X1-X2) Σ(X1-X2) dm(X1,X2)

即马氏距离保持正交变换不变性。同理，亦可证马氏距离保持线性变换不变性。

五、令(yi,xi)(i 1,2, ,n)为来自下列模型的样本：yi 1 2xi ui （1） 且u1,u2, ,un~i.i.d.N(0, 2)，重新设定参数后的模型为：yi 1 2(xi ) ui （2）

1, 2)为基于（2）式的极大似然估计。 令( 1, 2)为基于（1）式的极大似然估计，(

2，且 1； 1. 证明： 2 1

1 ，并求 1的分布； 2. 证明：

2010级多元统计分析试卷 中南财大 统计学专业研究生

2独立。 3. 证明： 1与

证明：1. 由题设知，（1）式中yi N( 1 2xi, 2)，于是似然函数

n

n

L1( 1, 2, )

2

2

i 1

fi(yi)

i 1

12

2

n

yi 1 2xi)]

2

(2 )

2

2

n2

e

[yi 1 2xi)]

2 2

i 1

1

n

2

，

lnL1( 1, 2, )

n2

ln(2 )

2

12

2

[y

i 1

i

1 2xi)]

，分别对 1, 2求偏导

1 lnL1

2

1

lnL1 1

2

2

n

[y

i 1n

i

1 2xi)] 0

i

[y

i 1n

1 2xi)]xi 0

n

n

i

12

解之，得 L

xy 2

Lxx

其中，Lxy

(x

i 12

i

)(yi )

(x

i 1

)yi,Lxx

(x

i 1

i

)

2

。

同理，对于（2）式，有yi N( 1 2(xi ), 2)，

lnL2( 1, 2, )

n2

ln(2 )

2

12

2

n

[y

i 1

i

1 2(xi ))]

2

，分别对 1, 2求偏导

1 lnL2 2

1

lnL2 1

2

2

n

[y

i 1

1

i 1

Lxy 解之，得 n

2 L[y (x ))](x ) 0 i12iixx

i

1 2(xi ))] 0

, 2 1 所以 21

1 。2. 由1知， 由于yi N( 1 2(xi ), )，所以 N( 1,

2

2

n

1 N( 1,即 )，

2

n

)。

2是n个独立正态随机变量y1,y2, ,yn的线性组合， 2也为正态分布。3. 由于1知， 因而

于是

n

1, 2) Cov(,Cov(

1nLxx

n

LxyLxx

) Cov(

1

1n

n

i 1ni 1

(x

yi,

i 1

i

)yi

)

1nLxx

nn

Lxx

Cov( yi, (xi )yi)

i 1

2

n

i 1

Cov(y,(x

i

i 1

i

)yi)

nLxx

(x

i

)Cov(yi,yi)

nLxx

(x

i 1

i

) 0

2不相关，又 1与 2为正态随机变量，所以 1与 2独立。 即 1与

六、请举出几种估计误判概率的方法，并说明其优缺点。

解：进行判别分析难免会出现误判，误判概率一般需通过样本做出估计。在各组不能假定为正态的情况下，估计误判概率的方法通常有三种：

（1）令n(为样本中来自 1而误判为 2的个数，n(1|2)为样本中来自 2而误判为 121|)的个数，，则P(2|1)和P(1|2)可估计为

2010级多元统计分析试卷 中南财大 统计学专业研究生

(2|1) n(2|1)P

n1 (1|2) n(1|2)P

n2

该方法的优点是简单、直观，且易于计算。但不足的是，它给出的估计值通常偏低，除非n1和n2都非常大。

（2）将整个样本一分为二，一部分作为训练样本，用于构造判别函数，另一部分用作验证样本，用于对判别函数进行评估。误判概率用验证样本的被误判比例来估计，如此得到的估计是无偏的。但是，这种方法有两个主要缺陷：ⅰ需要用大样本；ⅱ在构造判别函数时，只用了部分样本数据，损失了过多有价值的信息。与使用所有的样本数据构造判别函数相比，该方法将使真实的误判概率上升。 （3）交叉验证法（或称为刀切法），该方法看来效果较好。从组 1中取出x1j，用该组的其余n1 1个观测值和组 2的n2个观测值构造判别函数，然后对x1j进行判别，

j 1,2 ,n,1。同样，从组 2中取出x2j，用这一组的其余n2 1个观测值和组 1的n1个观测

值构造判别函数，再对x2j作出判别，j 1,2, ,n2。令n*(2|1)为样本中来自 1而误判为 2的个数，n*(1|2)为样本中来自 2而误判为 1的个数，则两个误判概率P(2|1)和P(1|2)的估计量为

(2|1) n(2|1)P

n1 …… 此处隐藏：1315字，全部文档内容请下载后查看。喜欢就下载吧 ……