matlab辅助神经网络设计(6)

一、BP网络的网络结构

BP网络通常至少有一个隐含层，如图4.1所示的是一个具有R个输入和一个隐含层的神经网络模型。

1 o 隐含层 输出层 P o R×Q W1 S1×R a1 f1 1 o S1×q w2 S2×S1 a2 B1 S1×1 f2 S2×q b2 图4.1 具有一个隐含层的BP网络结构

感知器与线性神经元的主要差别在于激励函数上：前者是二值型的，而

后者是线性的。BP网络除了在多层网络上与已介绍过的模型有不同外，其

19

主要差别也表现在激励函数上。

图4.2所示的两种S型激励函数的图形，可以看到f（· ）是连续可微的单调递增函数，这种激励函数的输出特性比较软，其输出状态的取值范围为[0，1]或者[-1，+1]，其硬度可以由参数λ来调节。函数的输入输出关系表达式如下所示：

双极型的S型激励函数：f(net)?2， f(net)∈（-1，1）

1?exp(??net)1， f(net)∈（0，1）

1?exp(??net)单极型的S型激励函数：f(net)?

图4.2 sigmoid型函数图形

对于多层网络，这种激励函数所划分的区域不再是线性划分，而是由一个非线性的超平面组成的区域。

因为S型函数具有非线性的大系数功能。它可以把输入从负无穷到正无穷大的信号变换成－1到＋1之间输出，所以采用S型函数可以实现从输入到输出的非线性映射。

二、BP网络学习规则

BP网络最为核心的部分便是网络的学习规则。用BP算法训练网络时有两种方式：一种是每输入一样本修改一次权值；另一种是批处理方式，即使组成一个训练周期的全部样本都依次输入后计算总的平均误差。这里我们主要探讨的是后一种方式。

20