第3章 多元线性回归模型

计量经济学基础

第三章 多元线性回归模型2012-6-25 经济贸易学院 熊维勤 1

主要内容

多元线性回归模型概述 多元线性回归模型的参数估计 多元线性回归模型的统计检验 多元线性回归模型的预测 可化为线性的非线性模型 受约束回归

2012-6-25

经济贸易学院 熊维勤

本章内容的逻辑体系模型建立 参数估计 统计检验 总离差平方和 分解公式；多 元样本可决系 数；三个平方 和的计算公式； 修正的可决系 数 方程的显著性 检验； 解释变量的显 著性检验：t检 验、区间估计 应用/预测

总体回归模型 参数的最小二 乘估计 /方程样本回归模型 离差形式的最 小二乘估计量 /方程 模型的假设条 随机误差项的 方差估计量 件

点预测：内 插预测、外 推预测区间预测： 个值的区间 预测、均值 的区间预测

最小二乘估计 量的特性

2012-6-25

经济贸易学院 熊维勤

§3.1 模型的建立及假设条件一、多元线性回归模型的基本概念

二、多元线性回归模型的基本假定

2012-6-25

经济贸易学院 熊维勤

一、多元线性回归模型的基本概念 多元总体线性回归模型: 假设被解释变量Y是多个解释变量X1,X2,·,Xk和随 · · 机误差项u的线性函数：Y i 0 1 X 1 i 2 X 2 i k X ki ui

则称上式为k元总体线性回归模型 其中:k为解释变量的数目

2012-6-25

经济贸易学院 熊维勤

多元总体线性回归模型:设(X1i,X2i,·,Xki;Yi),i=1,2, ·,n是来自总体的观测值， · · · · 将其代入总体回归模型： Y1 0 1 X 11 2 X 21 k X k 1 u1 Y 2 0 1 X 12 2 X 22 k X k 2 u 2 Y X X X u 0 1 1n 2 2n k kn n n

2012-6-25

经济贸易学院 熊维勤

多元总体线性回归模型:令： Y1 Y 2 Y Y n n 1 0 1 2 k ( k 1 ) 1

1 1 X 1

X 11 X 12 X 1n

X 21 X 22 X 2n

X k1 X k2 X kn n ( k 1 )

u1 u 2 U u n n 1

则多元总体线性回归模型的矩阵表达式为：Y2012-6-25 经济贸易学院 熊维勤

X U7

多元总体线性回归方程:描述被解释变量Y的条件均值与解释变量X1,X2,·,Xk之间线性 · · 关系的方程： E (Y | X ) 0 1 X 1 2 X 2 k X k 称为多元总体线性回归方程，简称总体回归方程。其矩阵 表达式为： E (Y | X ) X 总体回归方程表示：各变量X值固定时Y的平均

取值； j也 被称为偏回归系数，表示在其他解释变量保持不变的情况下， Xj的单位变化所引起的Y的条件均值E(Y|Xj)的变化；

2012-6-25

经济贸易学院 熊维勤

多元样本线性回归方程运用样本观测值(X1i,X2i,·,Xki;Yi)可以对总体回归方 · · 程中的参数β 0, β 1,·, β k进行估计。设其估计值为 · · 0 , 1 , , k ,则由此所得到的估计方程

Y i 0 1 X 1 i 2 X 2 i k X ki

称为多元样本线性回归方程。简称样本回归方程 或经验回归方程 其矩阵表达形式为： Y2012-6-25

X 9

经济贸易学院 熊维勤

二、多元线性回归模型的基本假定 假设1:随机误差项的期望值为零 u1 E ( u1 ) 0 u2 E (u2 ) 0 0 E (U ) E un E (un ) 0

假设2:随机误差项具有同方差性V ar (ui ) 2

i 1, 2 , , n

2012-6-25

经济贸易学院 熊维勤

二、多元线性回归模型的基本假定 1、关于模型的假定假设1、回归模型的设定正确，不存在模型设 定偏误 变量设定正确，既无多余变量，也无遗漏变量 模型选择了正确的函数形式

2012-6-25

经济贸易学院 熊维勤

2、关于解释变量的假定假设2、解释变量X1, X2,…,Xk为是非随机或固定

的,且各Xj之间不存在严格的线性相关性(无完全多重共线性) 假设3、解释变量X在所抽取的样本中具有变异性，

且随样本容量的无限增加，其方差趋于一非零有限常数

2012-6-25

经济贸易学院 熊维勤

3、关于随机扰动项u的假定假设4、随机误差项ui满足零均值、同方差和无序列 相关性E ui X 1 , X 2 , X k

0, V a r u i X 1 , X 2 , X k

2

C o v ui , u j X 1 , X 2 , X k

u

i 0

i j

E U X

0 E u iU X U

Var U X

0

2

0 I 2 13

2012-6-25

经济贸易学院 熊维勤

3、关于随机扰动项u的假定假设5、随机误差项与解释变量之间不相关C o v X ij , u i X 1 , X 2 , X k

0 0

j 1, 2 , , k

E

X U

X

假设6、随机误差项服从零均值、同方差的正态分布ui X 1 , X 2 , X k N U X N2012-6-25

0, 2

2

0, I n 14

经济贸易学院 熊维勤

§3.2 最小二乘法 估计目标：偏回归系数(结构参数) j 及 随机误差项的方差 2

1、参数的最小二乘估计 2、离差形式的最小二乘估计量 3、随机误差项方差 2的估计量

2012-6-25

经济贸易学院 熊维勤

1、参数的最小二乘估计

随机抽取n组观测值(X1i,X2i,·,Xki;Yi), i=1,2, ·,n, · · · · 若样本回归方程的参数估计值已经得到，即： Y i 0 1 X 1 i 2 X 2 i k X ki

则样本观察值与样本回归值之间的残差平方和为： Q ( 0 , 1 , , k )

ei 2

Yi Yi

2

Y

i

0 1 X 1i 2 X 2i k X

ki

2

2012-6-25

经济贸易学院 熊维勤