matlab辅助神经网络设计(10)

第五节 径向基函数网络

我们前面所学习的多层前馈型网络模型对于每个输入输出数据对，网络的每一个权值均需要调整，这样的神经网络称之为全局逼近神经网络。全局逼近神经网络学习速度很慢，这对于控制来说常常是不可忽视的。下面我们将介绍一种新的网络：径向基函数（Radial basis Fanction简记为RBF）网络。

径向基函数网络属于局部逼近网络，所谓局部逼近网络就是对于每个输入输出数据对，只有少量的权值需要进行调整，也正是基于这一点才使得局部逼近网络具有学习速度快的优点。另外，BP网络用于函数逼近时，权值的调整是同梯度下降法，存在局部极小和收敛速度慢等缺点。而RBF网络在逼近能力、分类能力和学习速度等方面均优于BP网络。

一、径向基函数神经网络结构

如图5.1所示为径向基函数神经网络结构图。径向基函数网络输出单元是线性求和单元，所以输出是各隐单元输出的加权和。隐单元的作用函数用径向基函数，输入到隐单元间的权值固定为1，只有隐单元到输出单元的权值可调。

Si

pj

wki

ak

输入层 隐含层

输出层

图5.1 RBF网络结构图

31

二、径向基函数的学习算法

径向基函数网络的学习算法常用的有两种：一种是无导师学习，另一种便是有导师学习。这里我们只介绍无导师学习。

无导师学习也称非监督学习，地所有样本的输入进行聚类，求得各隐层节点的RBF的中心Ci。具体的算法步骤如下：

1．给定各隐节点的初始中心Ci( · )；

2．计算距离（欧氏距离）并求出最小距离的节点；

di (t) = ‖p (t) ―Ci(t―1)‖, 1≤i≤m

dmin(t)=mindi(t)=dr(t) (5.1)

式中，Ci——第i个隐节点的中心， i=1,2,?,m； ‖·‖——通常为欧氏范数。

3．调整中心

Ci(t)=Ci(t―1), 1≤i≤m, i≠r Cr(t)=Ci(t―1)+η(p(t)-Cr(t―1)) 式中，η——学习速率，0<η<1。

4．计算节点r的距离

dr(t)=‖p(t)-Cr(t)‖ （5.3）

三、重要径向基函数的函数使用方法

径向基函数网络的仿真是用函数simurb( )来实现的，传递函数是radbas( )，而它的训练可以用两个函数来实现，solverb或solverbe。

1．仿真函数simurb ( )

径向基函数网络只有一个隐含层，隐含层单元采用径向基函数作为其输出特性，输入层到输出层之间的权值均固定为1，输出节点为线性求和单元，隐含层到输出层节点之间的权值可以调节。径向基函数网络能在有限步内以任意精度拟合函数，而且训练时间比较短。

仿真函数simurb( )可得网络层的输出 a=simurb(p,w1,b1,w2,b2)

式中，p为输入矢量，w1，b1为径向基神经元层的权值和阀值，w2，b2为线性神经元的权值和阀值。

32

2．径向基传递函数rodbas( )

径向基传递函数用于径向基网络中，其使用方式多种： radbas(n) radbas(z,b)

其中radbas(n)函数可对网络输入矩阵n中的所有元素如同径向基函数。 radbas(z,b)函数提供成批处理矢量，并且提供阀值的情况，这时阀值b与加权输入矩阵z是分开的，阀值b乘以z 中的每个矢量，以形成网络的输入矢量，然后利用径向基函数网络输入转换成输出。

对于径向基函数的训练可用两个函数来实现。现在我们介绍如下： 1）solverb ( )

径向基函数网络能较好地拟合任意有限值函数，而且可以通过快速的设计来取代漫长的训练。

利用solverb ( )函数可得到径向基函数隐层的权值w1和阀值b1，还得到了线性输出层的权值w2和阀值b2。

[w1, b1, w2, b2]=solverb(p, t, tp) 其中设计参数tp指示如何进行训练。

·tp(1)指定更新显示之间的迭代次数，其缺省值25； ·tp(2)指定最多的神经元数，其缺省值100； ·tp(3)误差平方和门限，缺省值为0.02； ·tp(4)指定径向基层的宽度，缺省值1.0。 2）函数solverbe( )

函数solverbe( )的订功能是精确径向基函数求解。利用solverbe( )也可得到径向基网络隐层的权值w1和阀值b1，以及线性输出层的权值w2和阀值b2。其调用格式如下

[w1, b1, w2, b2]=solverbe(p, t, sc)

式中的可逆变量sc为径向基函数的宽度，即从函数值为1到其值为0.5之间的距离，其缺省值为1。

33

第六节 反馈网络

按照人工神经元网络运行过程中信息的流向分类。现有网络可分为前馈型和反馈型以及它们的结合。从计算的观点看，前馈型神经元网络大部分是学习网络而不具有的力学行为。在反馈式神经网络中，所有单元都是一样的，它们之间可以相互连接，所以反馈式神经网络可以用一个无向完备图来表示。从系统的观点看，反馈网络是一个非线性动力学系统。它必然具有一般非线性动力学系统的许多性质，如网络系统具有若干个稳定状态，当网络从某一初始状态开始运动，网络系统总可以收敛到某一个稳定的平衡状态；还有系统稳定的平衡状态可以通过设计网络的权值而被存储到网络中。在某些情况下，还有随机性和不可预测性等，因此，比前馈网络的内容要广阔和丰富得多。

反馈式的单层网络有多种，本节主要讨论的是美国加洲工学院物理学家J.Hopfield于1982年提出的一种网络，称为Hopfield网络。这种网络分为离散和连续型两种。Hopfield是从物理学磁场理论中受到启发，结合生物神经网络的思维机理而提出的这一网络模型的。并且引用了物理学中有关能量的概念。

Hopfield将“能量函数”的概念引入到对称Hopfield网络的研究中，给出了网络的稳定性判据，并用来进行约束优先问题（如旅行商（简称TSP）问题）的求解，实现A/D转换等。另外，Hopfield网络与电子模拟线路之间存在着明显的对应关系，使得该网络易于理解且便于实现。

一、Hopfield网络的结构与算法

由于Hopfield网络模型是从物理学磁场理论受到启发而提出的，所以我们可以模拟磁场的结构画出图6.1所示的有四个神经元的Hopfield网络模型。

Hopfield网络中的各个神经元是彼此连接的，即每个神经元都将自己的输出通过连接权传送给其它神经元，同时每个神经元又都接收其它神经元传来的信息对于离散型Hopfield网络中每个神经元的输出只能取“1”或“0”(或“－1”)两种状态。

34

图6.1 Hopfield网络模型

对于有几个神经元的网络结构，其各个神经元的状态，可用向量P表示

p=[p1, p2, ?, pn]

这里p取pi=1或0 (i=1,2,?,n)

对于Hopfield网络已有定理证明，当网络满足以下两个条件时，Hopfield学习算法总是收敛的。

① 网络的连接权矩阵元自连接且具有对称性，即

wii=0 (i=1,2,?,n) wij=wji (i,j=1,2,?,n)

这一假设条件虽然与生物神经网络的实际情况不相符合(生物神经元之间连接强度不对称)，但是却与磁场中各磁旋的相互作用情况相一致。 ② 网络中各神经元以同步或异步方式，依据运行规则改变其状态，即各神经元按随机选取方式，依据运行规则改变状态，且当某个神经元改变状态时，其它所有神经元保持原状态不变。这一点符合生物神经网络的情况。

二、Hopfield网络运行规则

Hopfield网络运行规则中的神经元模型与前面讲过的神经元基本是相同的，如图6.2所示。

设Hopfield网络由 …… 此处隐藏：1648字，全部文档内容请下载后查看。喜欢就下载吧 ……