pr_lzh9_人工智能课件4_机器学习

模式识别课程,山东大学控制学院

第9章 机器学习

模式识别课程,山东大学控制学院

内容 机器学习的定义及重要性 机器学习的发展历史 机器学习的主要方法

机器学习面临的挑战机器学习研究展望

模式识别课程,山东大学控制学院

参考教材:

蔡自兴，徐光佑. 人工智能及其应用(第三 版)). 北京：清华大学出版社，2004.

Stuart Russell, Peter Norvig. “Artificial Intelligence: A Modern Approach”. 机器学习 (美)Tom M.Mitchell 著 机械工业出版社 模式分类 (美)Richard O.Duda 等著 机械工业出版社

模式识别课程,山东大学控制学院

机器学习的定义利用经验改善系统自身的性能[T.Mitchell, Book 97]

机器学习 是研究如何使用机器来模拟人类 学习活动的一门学科。

模式识别课程,山东大学控制学院

机器学习的定义学习是系统所作的适应性变化，使得系统在 下一次完成同样或类似的任务时更为有效。[H.A.Simon]

学习是构造或修改对于所经历事物的表示。 [R.S.Michalski] 学习是知识的获取。

模式识别课程,山东大学控制学院

机器学习是多学科的交叉

模式识别课程,山东大学控制学院

机器学习的重要性

机器学习是人工智能的主要核心研究领 域之一, 也是现代智能系统的关键环节和 瓶颈。 很难想象: 一个没有学习功能的系统能被 称具有智能的系统。 来自生物、金融与网络等各领域的数据， 迫切需要分析或建立模型。

模式识别课程,山东大学控制学院

机器学习的应用

网络安全

入侵检测

天气预报

对未来天气的预报机器学习技术支撑各类搜索引擎技术

搜索引擎

汽车的自动驾驶 天文数据的分析

模式识别课程,山东大学控制学院

机器学习的应用

生物技术

蛋白质片段预测 基因表达分析

计算机系统特性预测 银行

信用卡 欺诈行为识别

字符识别 Web应用 ……

模式识别课程,山东大学控制学院

机器学习的分支

数据挖掘 利用历史数据来改进决策

医学记录 -- 医学知识 汽车自动驾驶 语音识别 等 新闻阅读器学习用户的阅读兴趣

软件应用(不能手工编程的应用)

自用户化程序

模式识别课程,山东大学控制学院

机器学习与美国的PAL计划

美国航空航天局JPL实验室的科学家在《Science》 (2001年9月)上撰文指出：机器学习对科学研究的整个 过程正起到越来越大的支持作用，……,该领域在今 后的若干年内将取得稳定而快速的发展。

DARPA , 2003 年 开 始 启 动 以 机 器 学 习 为 核 心 的 计 划 PAL(Perceptive Assistant that Learns)。5年期，首期 (1-1.5年)投资2900万美元。 包含2个子计划：其中，CALO子计划是整个PAL计划的核 心(2200万),将机器学习技术放到了国家安全的角度来考 虑。美国主要大学与公司参加这个子计划。

模式识别课程,山东大学控制学院

机器学习的发展历史机器学习是人工智能研究较为年轻的分支， 它的发展过程大体上可分为4个时期。 热烈时期 50年代中叶到60年代中叶 冷静时期 60年代中叶至70年代中叶 复兴时期 70年代中叶至80

年代中叶 最新阶段 从1986年 ---

模式识别课程,山东大学控制学院

机器学习早期研究

Rosenblatt的感知机(1956)。 Widrow的Madline (1960)。 Samuel的符号机器学习(1965)。 Minsky的“Perceptron”著作(1969, 1988)

模式识别课程,山东大学控制学院

二十世纪八十年代的研究

符号机器学习取得进展。 神经网络的研究。 计算学习理论---PAC(概率近似正确)。

模式识别课程,山东大学控制学院

两类最重要的符号机器学习算法

覆盖算法与分治算法。

七十年代末，Michalski基于带等号的逻辑 演算，提出了AQ11算法，称为符号机器学 习的覆盖算法。 1986年，Quinlan提出了决策树算法，也称 为分治算法(树结构表示的最早研究是CLS, 概念学习系统)。

模式识别课程,山东大学控制学院

神经网络

Hopfield模型。 Kohonen模型。 Goldberg的ART模型。 ……。 最有影响的是Remulhart等人提出的BP算 法(1986)。