扩展卡尔曼滤波的模糊神经网络算法 算法设计

计算机算法设计与分析

收稿日期：2012-4-8 修改日期：2012-4-10

作者简介：刘康康 安徽蚌埠人 安徽中医学院本科生 医药信息工程学院 09医软一班 09713026 扩展卡尔曼滤波的模糊神经网络算法

刘康康

（安徽中医学院 医药信息工程学院 09医软一班 09713026 安徽 合肥230031）

摘 要:为了快速地构造一个有效的模糊神经网络,提出一种基于扩展卡尔曼滤波(EKF)的模糊神经网络自组织学习算法。在本算法中,按照提出的无须经过修剪过程的生长准则增加规则,加速了网络在线学习过程;使用EKF 算法更新网络的自由参数,增强了网络的鲁棒性。仿真结果表明,该算法具有快速的学习速度和泛化能力。

关键词:模糊神经网络;扩展卡尔曼滤波;自组织学习

中图分类号：TP301.6

Fast self-organizing learning algorithm based on for fuzzy

neural network

LIU kang-kang

(Anhui University of Traditional Chinese Medicine, Medical Information Engineering, Hefei 230031, China)

Abstract:To construct an effective fuzzy neural network, this paper presented a self-organizing learning algorithm based on extended Kalman filter for fuzzy neural network. In the algorithm, the network grew rules according to the proposed growing criteria without pruning, speeding up the online learning process.All the free parameters were updated by the extended Kalman filter approach and the robustness of the network was obviously enhanced. The simulation results show that the proposed algorithm can achieve fast learning speed, high approximation precision and generation capability.

Key words :fuzzy neural network; extended Kalman filter(EKF); self-organizing learning

0 引 言

模糊神经网络起源于20世纪80年代后期的

日本,由于其简单、实用,已经被广泛应用在

工业控制、系统辨识、模式识别、数据挖掘

等许多领域[1~4]。第一论文范文网

1783b211866fb84ae45c8df9 编辑。

然而,如何从可用的数据集和专家知识中获

取合适的规则数仍然是一个尚未解决的问

题。为了获取模糊规则,研究人员提出了不

同的算法,如文献[5]利用正交最小二乘算

法确定径向基函数的中心,但是该算法训练

速度比较慢;文献[6]提出了基于径向基函

数的自适应模糊系统,其算法使用了分层自组织学习策略,但是逼近精度低。扩展卡尔曼滤波(EKF)算法作为一种非线性更新算法,在神经网络中得到了广泛应用。文献[7]利用扩展卡尔曼滤波算法调整多层感知器的权值,文献[8]利用扩展卡尔曼滤波算法调整径向基函数网络的权值。 本文提出了一种模糊神经网络的快速自组织学习算法(SFNN)。该算法基于无须修剪过程的生长准则增加模糊规则,加速了网络学习过程,同时使用EKF 调整网络的参数。

计算机算法设计与分析

收稿日期：2012-4-8 修改日期：2012-4-10

作者简介：刘康康 安徽蚌埠人 安徽中医学院本科生 医药信息工程学院 09医软一班 09713026

在该算法中,模糊神经网络结构不是预先设定的,而是在学习过程中动态变化的,即在学习开始前没有一条模糊规则,在学习过程中逐渐增加模糊规则。与传统的模糊神经网络学习算法相比,本算法所得到的模糊规则数并不会随着输入变量的增加而呈指数增长,特别是本算法无须领域的专家知识就可以实现对系统的自动建模及抽取模糊规则。当然,如果设计者是领域专家,其知识也可以直接用于系统设计。本算法所得到的模糊神经网络具有结构小、避免出现过拟合现象等特点。

1 SFNN 的结构

本文采用与文献[9]相似的网络结构,如图1所示。

下面是对该网络各层含义的详细描述。 第一层:输入层。每个节点代表一个输入语言变量。

第二层:隶属函数层。每个节点代表一个隶属函数,隶属函数采用如下的高斯函数:

μij=exp(-(x i-cij) 2ζ 2ij);i=1,2,…,r; j=1,2,…,u(1)

其中:r 是输入变量数;u 是隶属函数个数,也代表系统的总规则数;μij 是x i 的第j 个高斯隶属函数;cij 是x i 的第j 个高斯隶属函数的中心;ζij 是x i 的第j 个高斯隶属函数的宽度。

第三层:T-范数层。每个节点代表一个可能的模糊规则的IF-部分,也代表一个RBF 单元,该层节点个数反映了模糊规则数。如果计算每个规则触发权的T-范数算子是乘法,则在第三层中第j 条规则R j 的输出为

θ j=exp(- ri=1(x i-cij) 2ζ 2ij);j=1,2,…,u(2)

第四层:输出层。该层每个节点代表一

个输出变量,该输出是所有输入变量的叠加。

y(X)= uj=1w j θ j(3)

其中:y 是网络的输出;w j 是Then-部分。第一论文范文网1783b211866fb84ae45c8df9 整理。

2 SFNN 的学习算法

2.1 模糊规则的产生准则 在模糊神经网络中,如果模糊规则数太多,不仅增加系统的复杂性,而且增加计算负担和降低网络的泛化能力;如果规则数太少,系统将不能完全包含输入/输出状态空间,将降低网络的性能。是否加入新的模糊规则取决于系统误差、可容纳边界和误差下降率三个重要因素。 2.1.1 系统误差

误差判据:对于第i 个观测数据(x i,t i),其中x i 是输入向量,t i 是期望输出,由式(3)计算网络现有结构的全部输出y i 。

定义:‖e i ‖=‖t i-y i ‖;i=1,2,…,n(4)

如果‖e i ‖>k e k e=max[emax ×β i,emin](5)

则说明网络现有结构的性能比较差,要考虑增加一条新的规则;否则,不生成新规则。其中:k e 是根据网络期望的精度预先选择的值;emax 是预定义的最大误差;emin 是期望的输出精度;β(0<β<1)是收敛因子。

2.1.2 可容纳边界

可容纳边界:对于第i 个观测数据(x i,t i),计算第i 个输入值x i 与已有RBF 单元的中心c j 之间的距离d i(j),即

d i(j)=‖x i-c j ‖;i=1,2,…,n; j=1,2,…,u(6)

其中:u 是现有的模糊规则或RBF 单元的数量。令

计算机算法设计与分析

收稿日期：2012-4-8 修改日期：2012-4-10

作者简介：刘康康 安徽蚌埠人 安徽中医学院本科生 医药信息工程学院 09医软一班 09713026

di,min=arg min(d i(j))(7) 如果di,min>k d,k d=max[dmax ×γ i,dmin](8)

则说明已存在的输入隶属函数不能有效地划分输入空间。因此,需要增加一条新的模糊规则,否则,观测数据可以由已存在的距离它最近的RBF 单元表示。其中:k d 是可容纳边界的有效半径;dmax 是输入空间的最大长度;dmin 是所关心的最小长度;γ(0<γ<1)是衰减因子。

2.1.3 误差下降率

传统的学习算法把误差减少率(ERR)[5]用于网络生长后的修剪过程,算法会因为修剪过程而增加计算负担,降低学习速度。本文把误差减少率用于生长过程形成一种新的生长准则,算法无须经过修剪过程,从而加速网络的学习过程。

给定n 个输入/输出数据对(x i,t i),t=1,2,…,n,把式(3)看做线性回归模型的一种特殊情况,该线性回归模型为

t(i)= uj=1h j(i)θ j+ε(i)(9)

式(9)可简写为 D=H Θ+E(10)

D=T T ∈R n 是期望输出,H=θ T ∈R n ×u 是 …… 此处隐藏：6119字，全部文档内容请下载后查看。喜欢就下载吧 ……