曲线拟合的最小二乘法(2)

可化为线性模型的曲线拟合1 分式函数

1 b = a + y x

这种情形可令 y = 1/ y, x = 1/ x ,则有 y = a + b x 此时法方程组为: 此时法方程组为

∑1 1 ∑ x i

1 1 ∑x a ∑y i i = 1 b 1 ∑ x2 ∑ x y i i i

2 指数函数 3 幂函数

y = a eb x ln y = ln a + bx y = a + bx y = a x ln y = ln a + b ln x y = a + b xb

曲线拟合的最小二乘法

例：给定数据如下： 给定数据如下：

x y

1.0

1.4

1.8

2.2

2.6

0.931 0.473 0.297 0.224 0.168

1 的拟合曲线. 求形如 y = 的拟合曲线. a+bx 则拟合函数转化为线性模型: 解：令 z = 1 / y ,则拟合函数转化为线性模型: z = a + b x此时数据转化为： 此时数据转化为：

x z

1.0

1.4

1.8

2.2

2.6

1.074 2.114 3.367 4.464 5.592

用该线性模型拟合上述数据，相应的正规方程为 用该线性模型拟合上述数据，相应的正规方程为: 5 9 a 16.971 解得: 解得 a = 2.0535 , b = 3.0265 9 17.8 b = 35.3902 1 y= 故所求拟合曲线为: 故所求拟合曲线为 3.0265 x 2.0535

曲线拟合的最小二乘法

例：2000年人口预测问题 根据下表数据构造拟合函数，预 年人口预测问题. 根据下表数据构造拟合函数， 年人口预测问题 年时的世界人口。(类似于书上的例3.3, 测2000年时的世界人口。(类似于书上的例 ，p76) 年时的世界人口。(类似于书上的例 ) 年1960 1961 1962 1963 1964 1965 1966 1967 1968 30.6 1 31.5 32.13 32.3 1 4 32.8 5 33.5 6 34.2 0 34.8 3 人口 29.72 /亿

解：根据人口增长的统计资料和人口理论数学模型可知，当 根据人口增长的统计资料和人口理论数学模型可知， 人口总数N 不是很大时，在不太长的时期内， 人口总数 不是很大时，在不太长的时期内，人口增长接近于 指数增长。 对数据进行拟合。 指数增长。因此采用指数函数 N = e a +b t 对数据进行拟合。两 边同时取对数， 边同时取对数，得： N = a + b t ,令 y = ln N ,变换后的拟 ln 合函数为： 合函数为： y = a + bt 对人口数据取对数，计算得下表: 对人口数据取对数，计算得下表 年人口 /亿 19603.391 8

1961

1962

19633.469 8

19643.476 3

19653.492 0

19663.513 3

1967

1968

3.421 3.4503 3

3.532 3.5505 2

曲线拟合的最小二乘法

相应的正规方程为: 相应的正规方

程为

9 17676 解得: 解得

a 31 .2975 = b 61469 .48 34715724 17676

a = 33.0383 , b = 0.0186

故所求拟合函数为: 故所求拟合函数为

N ( t ) = e 0.0186 t 33.0383

经计算N (2000) = 64.1805 亿，基本反映了人口变化趋势. 经计算 基本反映了人口变化趋势

曲线拟合的最小二乘法

3

解矛盾方程组

设线性方程组

∑aj =1

n

ij

x j = bi (i = 1, 2, L , m )

或

Ax = b

(1)

其中 A = ( a ij ) m × n , x = ( x1 , x 2 , L , x n ) T , b = ( b1 , b2 , L , bm ) T 当线性方程组(1)的系数矩阵(A)和增广矩阵(A, b)的秩 当线性方程组 的系数矩阵( )和增广矩阵( 的系数矩阵 ) 不相等时, 方程组无解, 这时称方程组为矛盾方程组. 不相等时 方程组无解 这时称方程组为矛盾方程组 称为上述矛盾方程的法方程 法方程或者 线性方程组 AT Ax = AT b 称为上述矛盾方程的法方程或者 正则方程组。注意， 对称。 正则方程组。注意，矩阵 A T A 对称。 注意， 对称， 法方程有唯一解。 注意，矩阵 AT A对称，当 r ( A T A ) = n时，法方程有唯一解。

AT Ax = AT b

曲线拟合的最小二乘法

求解一个矛盾方程组，计算的是在均方误差 min AX b 也就是最小二乘问题。 方式：

2 2

极小意义下的解

AX b 2 = min AY b 2 AT AX = AT b n2 2 Y ∈R

定理: 设 AT AX = AT b 是矛盾方程组 AX = b 的法方程 则 的法方程, 定理(1) 法方程恒有解 法方程恒有解; (2) 法方程的解X是矛盾程组均方误差极小意义下的解，即最小二乘意 法方程的解 是矛盾程组均方误差极小意义下的解， 是矛盾程组均方误差极小意义下的解 义下的解。 义下的解。

所以，矛盾方程组 的最小二乘解一定存在 的最小二乘解一定存在;当 所以，矛盾方程组(1)的最小二乘解一定存在 当 r ( A T A ) = n, 有唯一解；否则，有无穷多个解，需要采用其他技术来给出 有唯一解；否则，有无穷多个解， 最小二乘解。 最小二乘解。