第四章 多元线性回归模型

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

第四章 多元线性回归模型

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

内容提要第一节 多元线性回归模型的建立及假定条件

第二节 最小二乘法第三节 最小二乘估计量的特性

第四节 可决系数第五节 显著性检验与置信区间

第六节 预测第七节 案例分析2012-6-10 2

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

第一节 多元线性回归模型的

建立及假定条件

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

一、基本概念 假设被解释变量Y是解释变量X1,X2,┅,Xk和随机误差项u的线性函数，表达式为：Y β 0 β1 X 1 β 2 X 2 ... β k X k u

——总体回归模型E (Y ) β 0 β1 X 1 β 2 X 2 ... β k X k

——总体回归线(方程)2012-6-10 4

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

例1:Y β 0 β 1 X β 2 P u其中:Y=在食品上的总支出;X=个人可支配收入; P=食品价格指数; 用美国1959-1983年的数据(单位：10亿美元), 得到如下回归结果(括号中数字为标准误差): Y 116.7 0.112 X 0.739 P (9.6) (0.003) (0.114)2012-6-10 5

R 0.992

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

多元线性回归模型中斜率系数的含义

上例中斜率系数的含义说明如下：价格不变的情况下，个人可支配收入每上升10亿 美元(1个billion),食品消费支出平均增加1.12亿 元(0.112个 billion)。 收入不变的情况下，价格指数每上升一个点，食 品消费支出平均减少7.39亿元(0.739个billion)

2012-6-10

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

设( X1i,X2i,┅,Xki;Yi),i=1,2,┅,n是对总体( X1,X2,┅,Xk;Y)的n次独立样 本观测值，则：Yi β 0 β1 X 1i β 2 X 2i ... β k X ki u i i 1,2, , n

2012-6-10

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

对于n组观测值，即： Y1 β 0 β1 X 11 β 2 X 21 ... β k X k 1 u1 Y2 β 0 β1 X 12 β 2 X 22 ... β k X k 2 u2 ...... Y β β X β X ... β X u 0 1 1n 2 2n k kn n n

2012-6-10

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

其矩阵形式为： 其中： Y1 1 Y2 1 X Y ... ... 1 Yn n 1X 11 X 12 ... X 1n

Y X U

... ... ... ...

X k1 0 u1 X k2 u 1 2 U ... ... ... X kn n ( k 1) k ( k 1) 1 u n n 1

2012-6-10

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

设样本(X1i,X2i,┅,Xki;Yi),i=1,2,┅,n ... 估计( 0, 1, , k) ( 0, 1, , k) ...

Yi β 0 β1 X 1i β 2 X 2i ... β k X ki ei

——样本回归模型 0 , 1 ,..., k — — 0 , 1 ,..., k的估计值或估计量； ei — 残差项，拟合误差，是 i 的估计值。

2012-6-10

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

Yi β 0 β1 X 1i β 2 X 2i ... β k X ki

——样本回归线(方程) 其矩阵形式为： Y X

其中: Y1

Y2 Y ... Yn n 1 2012-6-10

0 1 ... k ( k 1) 111

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

二、多元线性回归模型的基本假定多元线性回归模型在满足下列基本假设的情况 下，可以采用普通最小二乘法(OLS)估计参数。

(1)零均值：即随机误差项是一个期望值或平均值为零的随机变量。E( i) =0 i=1,2, ┅ i=1,2, ┅ 则，Yi的期望值或平均值为： E(Yi)= 0+ 1X1i + 2X2i + ┅ + kXki2012-6-10

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

矩阵表达式为： u1 E (u1 ) 0 u2 E (u 2 ) 0 0 E (U ) E ... ... ... u n E (un ) 0

2012-6-10

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

(2)同方差对于解释变量X1 ,X2 ,┅,Xk 的所有观测值，随机误差项具有相同方差。 Var( i)=E( i2) = 2 i=1,2, ┅ 则，Yi与 i具有相同的方差： Var(Yi)= 2 i=1,2, ┅

2012-6-10

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

(3)无序列相关Cov( i, j)=E( i j)=0则，Cov(Yi,Yj)=E( i j)=0

i≠j i,j=1,2, ┅

2012-6-10

管理预测与决策课件 精品课程 内容详实完备 体系科学完整

假设(2)和(3)矩阵表达式为： Var (U ) E [U E (U )] n 1 [U E (U ) ]1 n E (U U ) n n u 12 u 1 u 2 ...... u 1 u n u1 2 u 2 u 2 u 1 u 2 ...... u 2 u n u 1 , u 2 , ... , u n E E ... .......... .......... .......... ... u 2 u n u 1 u n u 2 ...... u n n E ( u 12 ) E ( u 1 u 2 ) ...... E ( u 1 u n ) 2 0 ...... 2 2 ...... E ( u 2 u 1 ) E ( u 2 ) ...... E ( u 2 u n ) 0 .......... .......... .......... .......... .......... ... 2 E ( u n u 1 ) E ( u n u 2 ) ...... E ( u n ) 0 0 ...... 0 0 .... 2

——方差-协方差矩阵2012-6-10 16