多元线性回归模型(新)

计量经济学

第三章

经典单方程计量经济学模型： 多元线性回归模型

多元线性回归模型 多元线性回归模型的参数估计 多元线性回归模型的统计检验 多元线性回归模型的预测 回归模型的其他形式 回归模型的参数约束

计量经济学

§3.1 多元线性回归模型一、多元线性回归模型

二、多元线性回归模型的基本假定

计量经济学

一、多元线性回归模型多元线性回归模型:表现在线性回归模型中的 解释变量有多个。 一般表现形式：

Yi 0 1 X 1i 2 X 2 i k X ki i

i=1,2…,n

其中:k为解释变量的数目， j称为回归系数 (regression coefficient)。

计量经济学

习惯上：把常数项看成为一虚变量的系数， 该虚变量的样本观测值始终取1。于是： 模型中解释变量的数目为(k+1)

Yi 0 1 X 1i 2 X 2 i k X ki i也被称为总体回归函数的随机表达形式。 它 的非随机表达式为:

E(Yi | X 1i , X 2i , X ki ) 0 1 X 1i 2 X 2i k X ki表示：各变量X值固定时Y的平均响应。

计量经济学

j也被称为偏回归系数，表示在其他解释变量保持不变的情况下，X j每变化1个单位时，Y 的均值E(Y)的变化; 或者说 j给出了X j的单位变化对Y均值的 “直接”或“净”(不含其他变量)影响。 如果给出一组观察值：(X1i,X2i,…,Xki,Yi) 则总体回归模型：

Yi 0 1 X i1 2 X i 2 k X ik i总体回归模型n个随机方程的矩阵表达式为:

Y X β μ

计量经济学

其中 1 1 X 1 X 11 X 12 X 1n X 21 X 22 X 2n X k1 X k2 X kn n ( k 1 ) 1 μ 2 n n 1

0 1 β 2 k

( k 1 ) 1

用来估计总体回归函数的样本回归函数为：

计量经济学

Yi 0 1 X 1i 2 X 2i ki X ki

其随机表示式: Yi 0 1 X 1i 2 X 2i ki X ki ei即样本回归模型 ei称为残差或剩余项(residuals),可看成是 总体回归函数中随机扰动项 i的近似替代。

样本回归函数及回归模型的矩阵表达: Y Xβ及

Y Xβ e

其中：

0 1 β k

e1 e2 e e n

计量经济学

1、关于模型关系的假设 假设1:回归模型设定是正确的。

假设2:解释变量X1,X2,……,Xk是非随 机的或固定的，且各Xj之间不存在严格线 性相关性(无完全共线性) 时间序列数据作样本时间适用

假设3:样本方差假设。

随着样本容量 的无限增加，解释变量X的样本方差趋 于一有限常数。1 1 2 x ji ( X ji X j ) 2 Q j n n

计量经济学

假设4:随机误差项具有零均值、同 方差及不序列相关性。

E ( i ) 0Var ( i ) E ( ) 2 i 2

j =1,2,…… ,n j =1,2,…… ,n

Cov ( i , j ) E ( i j ) 0

i j i, j 1,2, , n

计量经济学

假设5:解释变量与随机项不相关。

Cov ( X ji , i ) 0

j =1,2,… ,k

假设6: 随机干扰项满足正态分布.

i ~ N (0, )2

计量经济学

上述假设的矩阵符号表示 式： 假设2,n (k+1)矩阵X是非随机的， 且X的秩 (X)=k+1,即X满秩。

计量经济学

假设3

当n 时或

1 1 2 x ji ( X ji X j ) 2 Q j n n

1 x x Q n

其中：Q为一非奇异固定矩阵，矩阵x是由 各解释变量的离差为元素组成的n k阶矩阵 x11 x x 1n x k1 x kn

有问题， 只是对角 线上的有

计量经济学

假设4 1 E ( 1 ) E (μ E 0 ) E ( ) n n Var(μ)=

1 E (μ ) E μ n

1

n

var( 1 ) cov( 1 , n ) 2 cov( , ) var( n ) 0 n 1

0 2I 2

计量经济学

假设5,E(X' )=0,即 i E ( i ) X 1i i X 1i E ( i ) E 0 X X E ( ) Ki i Ki i

假设6,向量 有一多维正态分布，即

μ~ N (0, I )2

计量经济学

多维正态分布的表示法： 如果随机向量X=(X1,,X2,·,Xn)的密度为： · ·

f ( x1 , x2 , ,xn )

1 (2 ) | V |n 2 1 2

e

1 ( x )T V 1 ( x ) 2

则称该随机向量服从n维正态分布，记作 X~N(μ,V),其中V为X的协方差矩阵 x=(x1,x2,…,xn)T μ=(μ1 ,μ2 …,μ n) T ,

计量经济学

§3.2 多元线性回归模型的估计一、普通最小二乘估计

*二、最大或然估计*三、矩估计 四、参数估计量的性质 五、样本容量问题 六、估计实例