神经网络PID控制算法的MATLAB仿真及其在环境控制中的应用(4)
南林林业大学毕业设计(论文)
内,一般限制在(0,1)或(-1,1)之间。激活函数也称传输函数。
此外,还有一个阈值?k(或偏值bk???k) 以上作用可分别以数学式表达出来,即
uk??wkjxj,vk?netk?uk??k,yk??(vk)
j?1p 式中,x1,x2,...,xp为输入信号,它相当于生物神经元的树突,为人工神经元的输入信息;wk1,wk2,...,wkp为神经元k的权值;uk为线性组合结果;?k为阈值;?(.)为激活函数;yk为神经元k的输出,它相当于生物神经元的轴突,为人工神经元的输出信息。
若把输入的维数增加一维,则可把阈值?k包括进去,即
uk??wkjxj,yk??(uk)
j?0p此处增加了一个新的连接,其输入x0??1,权值wk0??k(或bk),如图5所示
图2-3 输入扩维后的人工神经元模型
激活函数?一般有以下几种形式。 (.)1)阶跃函数
?1(x?1)函数表达式为y??(x)??
??1(x?0)- 15 -
南林林业大学毕业设计(论文)
2)分段线性函数
?1(?1)?函数表达式为y??(x)??12(1?x)(?1?x?1)
??1(x??1)?2.3神经网络的结构
人工神经网络(artificial neural networks,ANN)是由大量人工神经元经广泛互连而组成的,它可用来模拟神经系统的结构和功能。人工神经网络可以看成是以人工神经元为节点,用又向加权弧连接起来的又向图。在此又向图中,人工神经元就是对生物神经元的模拟,而又向加权弧则是轴突——突触——树突对的模拟。又向弧的权值表示相互连接的两个人工神经元间相互作用的强弱。
人工神经网络是生物神经网络的一种模拟和近似。它主要从两个方面进行模拟。一种是从生理结构和实现机理方面进行模拟,它涉及生物学、生理学、心理学、物理及化学等许多基础科学。由于生物神经网络的结构和机理相当复杂,现在距离完全认识它们还相差甚远。另外一种是从功能上加以模拟,即尽量使得人工神经网络具有生物神经网络的某些功能特性,如学习、识别、控制等功能。
1.前馈型网络
前馈神经网络是整个神经网络体系中最常见的一种网络,其网络中各个神经元接受前一级的输入,并输出到下一级,网络中没有反馈,如图6所示。
图2-4 前馈网络
节点分为两类,即输入单元和计算单元,每一计算单元可有任意个输入,但是只有一个输出。通常前馈网络可分为不同的层,第i层的输入只与第i-1层输出相连,输入和输出节
- 16 -
南林林业大学毕业设计(论文)
点与外界相连,而其他中间层成为隐含层,它们是一种强有力的学习系统,其结构简易于编程。从系统的观点看,前馈神经网络是一静态非线性映射,通过简单非线性处理的复合映射可获得复杂的非线性处理能力。但从计算的观点看,前馈神经网络并非是一种强有力的计算系统,不具有丰富的动力学行为。大部分前馈神经网络是学习网络,并不注意系统的动力学行为,它们的分类能力和模式识别能力一般强于其他类型的神经网络。
2.反馈型网络
反馈型神经网络又称为递归网络或回归网络。在反馈网络中,输入信号决定反馈系统的初始状态,然后系统进过一系列状态转移后,逐渐收敛于平衡状态。这样的平衡状态就是反馈网络经计算后输出的结果,由此可见,稳定性是反馈网络中最重要的问题之一。如果能找到网络的Lyapunov函数,则能保证网络从任意初始状态都能收敛到局部最小点。反馈神经网络中所有节点都是计算单元,同时也可以接收输入,并向外输出,可画成一个无向图,其中每个连接弧都是双向的,也可以画成下图所示,若总单元数为n,则每一个节点有n-1个输入和一个输出。
图2-5 反馈网络
- 17 -
南林林业大学毕业设计(论文)
2.4神经网络的工作方式
神经网络的工作过程主演分为两个阶段:第一阶段是学习期,此时各计算单元状态不变,各连接权上的权值可通过学习来修改;第二阶段是工作期,此时各连接权固定,计算单元变化,以达到某种稳定状态。
从作用效果看,前馈网络主要是函数映射,可用于模拟识别和函数逼近。反馈网络按对能量函数的极小点的利用来分类有两种;第一类是能量函数的所有极小点都能起作用,这一类主要用做各种联想存储器;第二类只利用全局极小点,它主要用于求解最优化问题。
2.5神经网络的学习
1.学习方式
通过向环境学习获取知识并改进自身性能是神经网络的一个重要特点,在一般情况下,性能的改善是按某种预定的度量调节自身参数随时间逐步达到的,学习方式有三种:1.有监督学习(有教师学习)。2.无监督学习(无教师学习)。3.强化学习(或再励学习)。 2.学习算法
1)?学习规则(误差纠正规则)
若yi(k)为输入x(k)时神经元i在k时刻的实际输出,ti(k)表示相应的期望输出,则误差信号可写为ei(k)?ti(k)?yi(k)
误差纠正学习的最终目的是使某一基于ei(k)的目标函数达最小,以使网络中每一输出单元的实际输出在某种统计意义上最逼近于期望输出。一旦选定了目标函数形式,误差纠正学习就成为一个典型的最优化问题。最常用的目标函数是均方误差判据,定义为
?1L?J?E?2?(ti?yi)2?
?i?1?式中,E是统计期望算子;L为网络输出数。
上式的前提是被学习的过程是宽而平稳的,具体方法可用最陡梯度下降法。直接用J作为目标函数时,需要知道整个过程的统计特性,为解决这一困难用J在时刻k的瞬时值J(k)代替J,即
- 18 -
南林林业大学毕业设计(论文)
J(k)?12?(t?y)iii?1L2?12?e(k)
2ii?1L 问题变为求J(k)对权值wij的极小值,根据最陡梯度下降法可得: ?wij(k)????i(k)?xj(k)???ei(k)?f'(Wix)?xj(k)
式中,?为学习速率或步长(0???1);f(?)为激活函数。这就是通常说的误差纠正学习规则,用于控制每次误差修正值。它是基于使输出方差最小的思想而建立的。
2)Hebb学习规则
神经心理学家HEBB提出的学习规则可归结为“当某一突触(连接)两端的神经元的激活同步(同为激活或同为抑制)时,该连接的强度应增加,反之则应减弱”,用数学方式可描述为
?wij(k)?F(yi(k),xj(k))
式中,yi(k),xj(k)分别为wij两端神经元的状态,其中最常用的一种情况为 ?wij(k)???yi(k)?xj(k) 式中,?为学习速率。
由于wij(k)与yi(k)、xj(k)的相关成比例,故有时称之为相关学习规则。上式定义的HEBB规则实际上是一种无监督的学习规则,它不需要关于目标输出的任何相关信息。
原始的Hebb学习规则对权值矩阵的取值未做任何限制,因而学习后权值可取任意值。为了克服这一弊病,在Hebb学习规则的基础上增加一个衰减项,即
?wij(k)???yi(k)?xj(k)?dr?wij(k)
衰减项的加入能够增加网络学习的“记忆”功能,并且能够有效地对权值的取值加以限制。衰减系数dr的取值在(0,1)之间。当取0时,就变成原始Hebb学习规则。
另外,此规则还可以采用有监督的学习,对于有监督学习的Hebb学习规则而言,是将目标输出代替实际输出。由此,算法被告知的就是网络应该做什么,而不是网络当前正在做什么,可描述为
相关推荐:
- [法律文档]苏教版七年级语文下册第五单元教学设计
- [法律文档]向市委巡视组进点汇报材料
- [法律文档]绵阳市2018年高三物理上学期第二次月考
- [法律文档]浅析如何解决当代中国“新三座大山”的
- [法律文档]延安北过境线大桥工程防洪评价报告 -
- [法律文档]激活生成元素让数学课堂充满生机
- [法律文档]2014年春学期九年级5月教学质量检测语
- [法律文档]放射科标准及各项计1
- [法律文档]2012年广州化学中考试题和答案(原版)
- [法律文档]地球物理勘查规范
- [法律文档]《12系列建筑标准设计图集》目录
- [法律文档]2018年宁波市专技人员继续教育公需课-
- [法律文档]工会委员会工作职责
- [法律文档]2014新版外研社九年级英语上册课文(完
- [法律文档]《阅微草堂笔记》部分篇目赏析
- [法律文档]尔雅军事理论2018课后答案(南开版)
- [法律文档]储竣-13827 黑娃山沟大开挖穿越说明书
- [法律文档]《产品设计》教学大纲及课程简介
- [法律文档]电动吊篮专项施工方案 - 图文
- [法律文档]实木地板和复合地板的比较
- 探析如何提高电力系统中PLC的可靠性
- 用Excel函数快速实现体能测试成绩统计
- 教师招聘考试重点分析:班主任工作常识
- 高三历史选修一《历史上重大改革回眸》
- 2013年中山市部分职位(工种)人力资源视
- 2015年中国水溶性蛋白市场年度调研报告
- 原地踏步走与立定教学设计
- 何家弘法律英语课件_第十二课
- 海信冰箱经销商大会——齐俊强副总经理
- 犯罪心理学讲座
- 初中英语作文病句和错句修改范例
- 虚拟化群集部署计划及操作流程
- 焊接板式塔顶冷凝器设计
- 浅析语文教学中
- 结构力学——6位移法
- 天正建筑CAD制图技巧
- 中华人民共和国财政部令第57号——注册
- 赢在企业文化展厅设计的起跑线上
- 2013版物理一轮精品复习学案:实验6
- 直隶总督署简介




