§3.1-3.4多元线性回归模型(第1至4节)

第三章经典单方程计量经济学模型： 多元线性回归模型在实问题中，往往引起被解释变量变化的因素并非 仅只一个解释变量，可能有很多个解释变量。 例如，房地产需求受到房地产均价、人均可支配收 入、国内生产总值、城镇化水平的影响。 又例如，国内生产总值不仅受到国内消费、投资、 劳动力、技术进步的影响，还受到外商投资、进出 口贸易等多种因素的影响。 所以在一元线性模型的基础上，提出多元线性模 型——解释变量个数≥2。商学院 王中昭 1

本章的主要内容§3.1 多元线性回归模型

§3.2 多元线性回归模型参数估计§3.3 多元线性回归模型的模型检验

§3.4 多元线性回归模型的预测§3.5 可线性化的多元非线性回归模型

商学院 王中昭

§3.1 多元线性回归模型

一、多元线性回归模型 多元线性模型的一般形式为： Yi=β0+ β1X1i+ β2X2i+……+ βkXki+μi,……(3.1.1) 其中k为解释变量的个数， βi称为回归系数，一般地 把常数项也看成一个虚变量的参数，在参数估计过程 中该虚变量的样本值始终取1,即解释变量个数为k+1。 (3.1.1)也称为总体回归函数的随机表达式。 它的非随机形式为：E(Y/X1i,X2i,……,Xki)= β0+ β1X1i+ β2X2i+……+ βkXki……(3.1.2) 表示在其它解释变量不变量时，Xi变化1个单位，Y的 均值E(Y)的变化。商学院 王中昭 3

二元回归方程的直观解释二元线性回归模型 y 0回归面

y 0 1 x1 2 x2 (观察到的y)

}

i

x2 (x1,x2) x1商学院 王中昭

E ( y) 0 1 x1 2 x24

多元模型的解析表达式

Y X Xi 0 1 1i 2

2i

k

X ki k k1

i

其中 i 1,2, , n

Y X X Y X X1 0 1 11 2 2 0 1 12 2

21 22

X X k k2

1 2

Y X Xn 0 1 1n 2商学院 王中昭

2n

k

X kn

n5

多元线性回归模型的一般形式记： Y 1 Y 2 Y Y n 0 1 B 2 k 常数项 X1 1 1 X 1 X2 ... Xk

X X

11 12

X X

21 22

X X

X

1n

X

2n

k2 X kn k1

1 N 2 n

则： XB N Y

商学院 王中昭

把它写成矩阵形式： 0 Y 1 1 X 11 X 21 X k 1 1 1 2 Y 2 1 X 12 X 22 X k 2 2 Y n 1 X 1n X 2 n X kn

n k 上述方程中的 为真实参数，若记 为用 B B

某种估计方法得到的参 数，则Y的拟合值可写为 Y XB (样本回归函数 ), 误差为： Y Y e 1 Y 1 1 Y 2 1 Y n

X X

11 12

X X

21 22

商学院 王中昭

X

1n

X

2n

0 X k1 1 X k 2 2 X kn

Y1 Y1 Y Y 2 e 2 Yn Yn

y i 0 1 x1i 2 x 2i k x ki ii 1 , 2 , , n

二、多元线性回归模型的基本假定

商学院 王中昭

假定1:解释变量X1,X2,…Xk是确定性变量(非随机的， 即E(Xi)=Xi)。解释变量之间互不相关。 假定2:随机误差项μi具有0均值和同方差。即： E(μi)=0, Var(μi)= 2 (σ不依赖于样本期数i) 假定3:随机误差项在不同样本点之间是独立的。即： Cov(μi,μj)=0,i≠j,表示误差不存在序列相关。 假定4:随机误差项与解释变量之间不相关,但与被解释 变量Y相关。即: Cov(μi,Xji)=0,但：Cov(μi,Y) ≠0。 假定5:随机误差项服从0均值、同方差的正态分布。 即: μi ~ N(0, 2)8

随机抽取n组样本观测值( X i , Yi ), 如果样本函数的参数估 计值已得到， 则有Y X ... X , 由OLS法参数估计量应使下面 Q达到最小。 的i 0

Q ei 2 i 1 i 1 ni 0

n

n

§3.2 X X Y 1i ki 多元线 求 , ,..., 的值使Q最小， 性回归 Q 0 模型参 Q 数估计 0 (OLS Q 由极值原理得： 0 法) 2 i 11 k

Y Y 1 1i

k

ki

2

i

i

0

1

k

0

1

商学院 王中昭

2 Q 0 k

得正规方程： X 1i X ki 0 Y i 0 1 k X 1i X 1i X ki X 1i 0 Y i k 0 1 X 1i X ki X 2i 0 Y i X 2i 0 1 k X ki X ki 0 Y i X ki 0 1 X 1i k 10

不容易 吧？

商学院 王中昭

乘开得并把它写成矩阵的形式为： n X Y X X X X X X X X X Y 1

i 2 1i 2i ki 0 i 1i 1i 2i 1i ki

X ki

X X1i

ki

X 2i X ki

X

2 ki

X kiY i k 1

1i

i

即： X XB X Y , B (X X)-1 X Y

对于Y XB e, 两边左乘X : X X B X 得 Y X e 再把B (X X)-1 X 代入上式得到 X 0 Y : e 从而 X it et 0, 即X i与残差e无关。t 1 n

e Y - Y, 残差的方差为 : 2 商学院 王中昭

e e n k 111

四、参数估计量的性质(证明从略)1、线性 (参数估计量是被解释变量观 测值的线性组合) 2、无偏性 (参数估计量的数学期望=参 数估计量的真值) 3、有效性 (参数估计量的方差是所有线 性无偏估计中最小的)证明在 哪？

商学院 王中昭

五、样本容量问题样本是一个重要的实际问题。模型 依赖于实际样本。那么自然要问：至少 需要多少样本才能保证用OLS估计出参 数，以便通过样本容量的确定减轻收集 数据的困难。 1、最小样本容量 2、满足基本要求的样本容量

商学院 王中昭

1、最小样本容量 n≥k+1

(X`X)-1X`Y B (X X) 存在 X X 0 为k 1阶的-1

满秩矩阵，即： R X X k 1 因此， X为n (k 1)的矩阵, 必须有 R X k 1 n k 1商学院 王中昭

2、建模的样本容量的最低要求一般经验认为： N≥30或者至少n≥3(k+1)才能满足模型 估计的基本要求。 只有那n≥30时，标准正态检验成立。 N≥3(k+1)时，t分布才稳定，检验才较为 有效。 当样本容量接近最小样本容量时应引入非样 本信息。采用贝叶斯(Bayes)方法，才能完成 模型参数的估计。商学院 王中昭 15

六、多元线性回归模型估计实例(文件：D2P50)建立中国居民人均消费模型，数据为 …… 此处隐藏：1299字，全部文档内容请下载后查看。喜欢就下载吧 ……