p08 人工神经网络

数据仓库与数据挖掘(2015)课件

数据仓库与数据挖掘Data warehouse & data mine

第8章

人工神经网络方法

数据仓库与数据挖掘(2015)课件

第8章 人工神经网络方法8.0 引例 8.1 人工神经网络的基本概念 8.2 BP神经网络 8.3 SOFM神经网络

8.4 Elman神经网络8.5 Hopfield神经网络数据仓库与数据挖掘Data warehouse & data mine

数据仓库与数据挖掘(2015)课件

催化剂配方问题：试确定？的值序号 1 x1 2.5 x2 3.16 x3 -9.75 y 15.84

2 3 4 5 6 7 8 9

3.4 5.65 4.63 -7.37 -5.6 10.17 19.1 7.32

2.9 3.27 8.18 -8.81 3.27 15.2 -4.8 -5.69

10.15 8.43 1.67 2.71 8.83 0.03 7.87 2.93

7.31 24.30 514.29 333.37 281.67 1895.94 27.62

?3

数据仓库与数据挖掘Data warehouse & data mine

数据仓库与数据挖掘(2015)课件

解决方法：多元线性回归y=c1+c2*x1+c3*x2+c3*x3y=246.33+1.52x1+58.49x2-8.2x3

y 数据仓库与数据挖掘Data warehouse & data mine

2 2 (x 1 x 2 x x ) (x x x x ) 2 1 3 1 2 2 3 2 2 2 x1 x2 x (x x x ) 2 3 1 2 34

数据仓库与数据挖掘(2015)课件

人工神经网络的特点和优势 具有自学习能力 具有联想存储功能 具有高速寻找优化解的能力

数据仓库与数据挖掘Data warehouse & data mine

数据仓库与数据挖掘(2015)课件

第8章 人工神经网络方法8.0 引例 8.1 人工神经网络的基本概念 8.2 BP神经网络 8.3 SOFM神经网络

8.4 Elman神经网络8.5 Hopfield神经网络数据仓库与数据挖掘Data warehouse & data mine

数据仓库与数据挖掘(2015)课件

人工神经网络概述

什么是人工神经网络(ANN

artificial neural network)

人工神经网络是由多个非常简单的处理单元彼此按某种 方式相互连接而形成的计算系统，该系统是靠其状态对 外部输入信息的动态响应来处理信息的。 人工神经网络是一个由许多简单的并行工作的处理单元 组成的系统，其功能取决于网络的结构、连接强度以及 各单元的处理方式。 人工神经网络是一种旨在模仿人脑结构及其功能的脑式 智能信息处理系统。 人工神经网络是一种模仿生物神经网络的结构和功能的 数学模型或计算模型数据仓库与数据挖掘Data warehouse & data mine

数据仓库与数据挖掘(2015)课件

发展历史

启蒙

低潮

复兴

1890:人脑结构 研究 1943:第一个神 经元模型 1958:学习机制 、感知器模型 神 经元理论工程实 现

1969:Minsky 等指出简单的感 知器的功能是有 限的 20世纪70年代: 基于逻辑符号处 理方法的人工智 能迅速发展

1982:Hopfiel d模型 20世纪90年代 中后期：新理论 、新方法、广泛 应用

数据仓库与数据挖掘Data warehouse & data mine

数据仓库与数据挖掘(2015)课件

应用领域

信息处理：信号处理、模式识别、数据压缩 自动化：系统辨识、神经控制器、智能检测 工程：汽车、军事、化学工程、水利工程 医学：检测数据分析、生物活性研究、医学专家 系统 经济：信贷分析、市场预测

数据仓库与数据挖掘Data warehouse & data mine

数据仓库与数据挖掘(2015)课件

8.1.1 人工神经元原理

生物神经网络

生物神经元生物神经元的结构 信息处理机理

人工神经网络

人工生物神经元人工神经元的结构 信息处理机理

数据仓库与数据挖掘Data warehouse & data mine

数据仓库与数据挖掘(2015)课件

生物神经网络

生物神经元

数据仓库与数据挖掘Data warehouse & data mine

数据仓库与数据挖掘(2015)课件

生物神经元的信息处理机理生物神经元的性质： 多输入、单输出 突触兼有兴奋和抑制两种性能 可时间加权和空间加权

可产生脉冲 脉冲传递 非线性(有阈值)数据仓库与数据挖掘Data warehouse & data mine

数据仓库与数据挖掘(2015)课件

人工神经元模型x1 ┆ xi ┆ xn x1 w1j oj ┆wij oj n xi w f ( ij x i i 1 ┆w nj xn(b)输入加权

o

j

j

)

(a)多输入单输出

x1 w1j ┆wij xI ┆wnj xn

oj ∑

x1 w1j ┆ wij xI ┆wnj xn

oj ∑ f

(c)输入加权求和数据仓库与数据挖掘Data warehouse & data mine

θj

(d)输入-输出函数13

数据仓库与数据挖掘(2015)课件

作用函数

(1)比例函数

f(x)= cxf (x) 1.0

0数据仓库与数据挖掘Data warehouse & data mine

x

数据仓库与数据挖掘(2015)课件

作用函数(阈值型)(2)阶跃函数f(x )= 1 x≥0

(3)符号函数f(x)= 1 x≥0

0f (x) 1.0

x<0

-1f (x) 1.0

x< 0

0数据仓库与数据挖掘Data warehouse & data mine

x

x 015

数据仓库与数据挖掘(2015)课件

作用函数：

(4)S型函数

(5)双曲函数1 e f ( x) x 1 ef (x) 1.0 0 x -1.0 x x

1 f ( x) 1 e xf (x) 1.0 0.5 0

数据仓库与数据挖掘Data warehouse & data mine