matlab辅助神经网络设计

目 录

第一节 神经网络基本理论

一、人工神经网络概论 二、生物神经元模型

三、Matlab的神经网络工具包 第二节 感知器

一、感知器神经元模型 二、感知器的网络结构 三、感知器神经网络的学习规则 四、感知器神经网络的训练

五、重要的感知器神经网络函数的使用方法 六、感知器神经网络应用举例 第三节 线性神经网络

一、线性神经元模型 二、线性神经网络结构

三、线性神经学习网络的学习规则 四、线性神经网络训练

五、重要线性神经网络函数的使用方法 六、线性神经网络的应用举例 第四节 BP网络

一、BP网络的网络结构 二、BP网络学习规则 三、BP网络的训练

四、重要BP神经网络函数的使用方法 五、BP网络的应用举例 第五节 径向基函数网络

一、径向基函数神经网络结构 二、径向基函数的学习算法

1

三、重要径向基函数的函数使用方法 第六节 反馈网络

一、Hopfield网络的结构与算法 二、Hopfield网络运行规则 三、重要的反馈网络函数 四、重要的自组织网络函数 五、反馈网络应用举例 第七节 自组织网络

一、自组织特征映射的网络结构 二、自组织特征映射网络的学习 三、自组织特征映射网络的训练 四、重要的自组织网络函数 五、自组织网络应用举例

2

第一节 神经网络基本理论

一、人工神经网络概论

近代神经生理学和神经解剖学的研究结果表明，人脑是由约一千多亿个神经元（大脑皮层约140多亿，小脑皮层约1000多亿）交织在一起的、极其复杂的网状结构，能完成智能、思维、情绪等高级精神活动，无论是脑科学还是智能科学的发展都促使人们对人脑（神经网络）的模拟展开了大量的工作，从而产生了人工神经网络这个全新的研究领域。

人工神经网络（ANNS）常常简称为神经网络（NNS），是以计算机网络系统模拟生物神经网络的智能计算系统， 是对人脑或自然神经网络的若干基本特性的抽象和模拟。网络上的每个结点相当于一个神经元，可以记忆（存储）、处理一定的信息，并与其它结点并行工作。

神经网络的研究最早要追述到40年代心理学家Mcculloch和数学家Pitts合作提出的兴奋与抑制型神经元模型和Hebb提出的神经元连接强度的修改规则，其成果至今仍是许多神经网络模型研究的基础。50～60年代的代表性工作主要有Rosenblatt的感知器模型、Widrow的自适应网络元件Adaline。然而在1969年Minsky和Papert合作发表的Perceptron一书中阐述了一种消极悲观的论点，在当时产生了极大的消极影响，加之数字计算机正处于全盛时期并在人工智能领域取得显著成就，这导致了70年代人工神经网络的研究处于空前的低潮阶段。80年代以后，传统的Von Neumann数字计算机在模拟视听觉的人工智能方面遇到了物理上不可逾越的障碍。与此同时Rumelhart、Mcclelland和Hopfield等人在神经网络领域取得了突破性进展，神经网络的热潮再次掀起。目前较为流行的研究工作主要有：前馈网络模型、反馈网络模型、自组织网络模型等方面的理论。人工神经网络是在现代神经科学的基础上提出来的。它虽然反映了人脑功能的基本特征，但远不是自然神经网络的逼真描写，而只是它的某种简化抽象和模拟。

求解一个问题是向人工神网络的某些结点输入信息，各结点处理后向其它结点输出，其它结点接受并处理后再输出，直到整个神经网工作完毕，输出最后结果。如同生物的神经网络，并非所有神经元每次都一样地工作。如

3

视、听、摸、想不同的事件（输入不同），各神经元参与工作的程度不同。当有声音时，处理声音的听觉神经元就要全力工作，视觉、触觉神经元基本不工作，主管思维的神经元部分参与工作；阅读时，听觉神经元基本不工作。在人工神经网络中以加权值控制结点参与工作的程度。正权值相当于神经元突触受到刺激而兴奋，负权值相当于受到抑制而使神经元麻痹直到完全不工作。

如果通过一个样板问题“教会”人工神经网络处理这个问题，即通过“学习”而使各结点的加权值得到肯定，那么，这一类的问题它都可以解。好的学习算法会使它不断积累知识，根据不同的问题自动调整一组加权值，使它具有良好的自适应性。此外，它本来就是一部分结点参与工作。当某结点出故障时，它就让功能相近的其它结点顶替有故障结点参与工作，使系统不致中断。所以，它有很强的容错能力。

人工神经网络通过样板的“学习和培训”，可记忆客观事物在空间、时间方面比较复杂的关系，适合于解决各类预测、分类、评估匹配、识别等问题。例如，将人工神经网络上的各个结点模拟各地气象站，根据某一时刻的采样参数（压强、湿度、风速、温度），同时计算后将结果输出到下一个气象站，则可模拟出未来气候参数的变化，作出准确预报。即使有突变参数（如风暴，寒流）也能正确计算。所以，人工神经网络在经济分析、市场预测、金融趋势、化工最优过程、航空航天器的飞行控制、医学、环境保护等领域都有应用的前景。

人工神经网络的特点和优越性使它近年来引起人们的极大关注，主要表现在三个方面：

第一，具有自学习功能。例如实现图像识别时，只需把许多不同的图像样板和对应的应识别的结果输入人工神经网络，网络就会通过自学习功能，慢慢学会识别类似的图像。自学习功能对于预测有特别重要的意义。人工神经网络计算机将为人类提供经济预测、市场预测、效益预测，其前途是很远大的。

第二，具有联想存储功能。人的大脑是具有联想功能的。如果有人和你提起你幼年的同学张某某，你就会联想起张某某的许多事情。用人工神经网

4

络的反馈网络就可以实现这种联想。

第三，具有高速寻找最优解的能力。寻找一个复杂问题的最优解，往往需要很大的计算量，利用一个针对某问题而设计的人工神经网络，发挥计算机的高速运算能力，可能很快找到最优解。

人工神经网络是未来微电子技术应用的新领域，智能计算机的构成就是作为主机的冯·诺依曼计算机与作为智能外围机的人工神经网络的结合。

二、生物神经元模型

神经元是脑组织的基本单元，其结构如图1所示，神经元由三部分构成：细胞体，树突和轴突；每一部分虽具有各自的功能，但相互之间是互补的。

树突是细胞的输入端，通过细胞体间联结的节点“突触”接受四周细胞传出的神经冲动；轴突相当于细胞的输出端，其端部的众多神经未梢为信号的输出端子，用于传出神经冲动。

神经元具有兴奋和抑制的两种工作状态。当传入的神经冲动，使细胞膜电位升高到阀值（约为40mV）时，细胞进入兴奋状态，产生神经冲动，由轴突输出。相反，若传入的神经冲动，使细胞膜电位下降到低于阀值时，细胞进入抑制状态，没有神经冲动输出。

图1 生物神经元结构

二、人工神经元模型

人工神经元模型是以大脑神经细胞的活动规律为原理的，反映了大脑神

5