西华师范大学-计量经济学复习资料 - 图文(4)

2. 残差项间相互独立——序列无关假设

cov(ui,uk)?E(ui,uk)?0i,k?1,2,...,n i?k

3. 残差项与t无关——同方差假设

var(ui)??2，i?1,2,...,n

4. 解释变量与残差项不相关——解释变量为非随机变量 cov(Xji,ui)?0 j?2,3,...,n 5. 误差项为服从正态分布的随机变量——正态性假设 ui~N(0,?2)

6. 解释变量之间不存在严格的线性相关——无显着的多重共线性 相应地，多元线性回归总体回归模型为：

Y??1??2X2??3X3?...??kXk?u

总体回归方程为：E(YX2i,X3i,...,Xki)??1??2X2i??3X3i?...??kXki????样本回归模型为：Yi??1??2X2i??3X3i?...??kXki?ei

???样本回归方程为：Yi??1??2X2i????3X3i?...??kXki i?1,2,...,n 为了多元回归分析和计算更方便、更简洁，下面引入回归分析的矩阵表

多元线性回归模型可以写为： 总体回归模型为：Y?X??U

总体回归方程为：E(Y)?X? ? 样本回归模型为：Y?X??e ?? 样本回归方程为：Y?X? 模型的古典假设条件可以写为： 假设1. 零均值:E(U)?0

假设2、3 同方差、序列无关

16

假设4.X为确定矩阵

假设5.U服从多元正态分布：U~N(0,?2In) 假设6.矩阵X满秩：r(X)?k?n?X`X?0

第二节 最小二乘估计

对多元线性回归模型的参数估计与分析，就是一元线性回归模型的参数估计与分析的线性推演——最小二乘准则、参数的BLUE性质等。 总体回归模型为：Y?X??U

参数β反映了解释变量X对被解释变量Y的影响程度，如果已知样本观测数据（Xi , Yi）（i=1，2，??，n），那幺如何得出参数的估计值呢？ 最小二乘准则是：min??e?2t

?? 由样本回归模型Y?X??e和样本回归方程Y?X?得到残差矩为： e?Y?Y?Y?X? 残差平方和为：

??????e?e`e?Y?X?`Y?X??????????

2t??

? ?Y`Y?2?`X`Y??`X`X? 依据矩阵导数公式： 有：

????AX??(AX)?A`; ?A ?X?X`???e`e?????2X`Y?2X`X??0

?1? ∵X`X?0?(X`X)存在

∴参数矩阵?的估计值为???X`X?X`Y

?1? 相应地，多元线性回归的正规方程为：X`Y?X`X? 代数展开为：

? 17

例3.2.1 详见课本P69所示

第三节 最小二乘估计量的性质

一、最小二乘估计量的特性

?U 1．线性性——???X`X?X`Y?(X`X)X`(X??U)???(X`X)X`?1?1?12．无偏性——E(?)??

3．最小方差性——cov(?)??u(X`X) 二、误差项的方差估计

2残差的方差?u估计为：S?2??2?1e`e, k 为欲估计参数的个数。 n?k??2?1参数估计量?的方差估计量为cov(?)?S(X`X)

注意：这些估计公式在显着性检验、预测的置信区间构造上不可或缺。

第四节 多元线性回归模型的统计检验

一、参数估计式的统计特征

如果只计算最小二乘估计?，不需要对U的分布形式提出要求，只要E(U)= 0即可。 若涉及模型的显着性检验问题、置信区间和预测问题时，就必须对误差项U的分布形式作出规定。

中心极限定理表明：无论误差项U服从什幺分布，只要样本容量n足够大，就可近似按U服从正态分布看待。 尽管实际经济分析中，难以满足正态分布的要求，但只要样本容量比较大，仍是近似地按照Y和U服从正态分布来讨论问题。

由古典假设条件5：U服从多元正态分布 U~N(0,?In)

2??U ????(X`X)X`故参数估计式的分布为：?~N(?,?u(X`X))

18

?2?1??1

2由于?u是未知的，通常用S?2e`e2估计?u n?k二、多元线性回归模型的统计检验

类似于一元线性回归分析，多元线性回归分析也有单个解释变量的显着性检验（t检验）、拟和优度检验（或相关分析）、线性显着性检验——F检验等。 1、拟合优度检验——R2检验

拟合优度检验是检验模型曲线对样本观测值的拟合程度。检验的方法——决定系数R2。R2的构造是利用总离差平方和的分解：总离差平方和= 回归平方和+ 残差平方和

(Y?Y)??(Y?Y)??e ?22iii?1n?2i

TSS ESS RSS 定义决定系数：

R2有一个显着特点：如果各观测值Yt不变，决定系数将随解释变量的数目增加而增大。

错觉：要使模型拟合得好，可以增加解释变量，但在样本容量n一定的情况下，增加解释变量的个数k，必定会使自由度减少，同时会使S增大，从而会使置信区间过宽，这意味着预测精度的降低。因此，不重要的变量不应该引入，不能依据R2是否增大来决定是否引入解释变量，模型越简洁越好。

2 实际中，常使用对R2进行调整后的R: ∵R?R??2222

?k?1?2?1?R

?n?k??? ∴R?R

所以修正的决定系数R比一般的决定系数R2更准确地反映了解释变量对被解释变量的影响程度，应用更为广泛。但R可能为负值，因此只适用于Y与X1,X2,?,Xk的整体相关程度比较高的情况。 R?2222k?1 n?12、方程显着性检验——F检验

方程的显着性检验，旨在对模型中被解释变量与解释变量之间的线性关系在整体上是否显着成立做出推断。应用最普遍的检验方法是F检验。下面，我们利用方差分析技术，建立F统计量来进行方程线性显着性的联合假设检验。检验模型中被解释变量与解释变量之间的线性关系在整体上是否显着成立，意味着检验总体线性回归模型的参数是

19

否显着的不为0。即对模型：建立原假设：

。若原假设成立，表明模型线性关系不成立。

利用方差分析技术，考虑恒等式：TSS=ESS+RSS,即

对TSS各个部分进行的研究称为方差分析。为此，建立方差分析表如下：

由于Yi服从正态分布，所以有：

构造统计量：

根据变量的样本观测值和参数估计值，计算F统计量的数值；给定一个显着性水平a，查F分布表，得到一个临界值

F?(k?1,n?k)。

检验的准则是：

当F?F?(k?1,n?k),则拒绝H0:?2??3?...??k?0，表明模型线性关系显着成立； 当F?F?(k?1,n?k),则接受H0:?2??3?...??k?0，表明模型线性关系不成立。 F检验与R2检验的一致性：