简介

内容简介

前言

目录(前言 第1章 绪论 第2章 第3章 支撑矢量机理论基础 第4章 先进支撑矢量机 第5章 核学习机 第6章 稀疏核支撑矢量机 第7章 快速大规模支撑矢量机 第8章 高分辨距离像识别 第9章 谱集成学习机 第10章 基于核学习的图像识别)

精彩书摘

简介

作　者： 焦李成 等 著

丛 书 名：智能科学技术著作丛书出 版 社： 科学出版社

ISBN：9787030265470

出版时间：2010-01-01

版　次：1

页　数：551

装　帧：平装

开　本：16开

所属分类：图书 > 计算机与互联网 > 计算机控制与仿真

内容简介

《智能目标识别与分类》较为全面地介绍了模式识别的一个分支——机器学习的最新进展，深入分析了机器学习中的多个关键问题及多种快速稀疏学习方法，具体描述了机器学习在大规模数据识别与分类的工程设计与实现问题。

全书共10章，内容包括：绪论，统计学习理论、再生核技术与支撑矢量机算法，支撑矢量机理论基础，先进支撑矢量机，核学习机，稀疏核支撑矢量机，快速大规模支撑矢量机，高分辨距离像识别，谱集成学习机，基于核学习的图像识别。

《智能目标识别与分类》可作为高等院校计算机、信号与信息处理、应用数学、信息管理与信息系统、电子商务等专业研究生和高年级本科生的教材，也可供计算机应用软件开发人员和人工智能与模式识别方面的研究人员参考。

前言

20世纪50年代以来，计算机技术的发展使通过机器学习实现识别与分类成为可能，并且取得了很好的目标识别效果。众所周知，机器学习是人工智能的一个重要研究和应用领域。因此，通过引入智能信息处理的方法构造能够处理大规模数据的目标识别与分类的新方法已成为人们急切关注的热点之一。目标识别与分类问题的任务是对目标的类别、属性作出某种判决。识别与分类技术可应用于图像识别、医疗诊断、生物识别、信号识别和预测、雷达信号识别、经济分析，以及在智能交通管理、机动车检测、停车场管理等场合的车牌识别等很广泛的领域。

目标识别与分类技术主要经历了从传统模式识别技术到近10年来发展起来的基于模型的智能识别技术。传统模式识别方法主要包括：模板匹配、最近邻和决策树等；智能模式识别研究的方法主要包括：神经网络、进化计算分类方法、核分类方法（支撑矢量机、核匹配追踪、谱学习等）、隐Markov模型分类器、集成方法等，这些方法在红外、光电、雷达等传感器的目标识别与分类中得到了广泛的应用。针对分类算法各自的优缺点，又出现了许多混合模式识别方法，如基于SOM的空间子集支撑矢量机、子波核函数网络等，就是结合支撑矢量与神经网络各自优点的新的分类算法。这些基于智能互补思想提出的新方法，丰富了模式识别方法的内容，促进了模式识别的发展。然而，受各个分类算法自身的优缺点，以及各种传感器获得内容的复杂性、目标的不完备性等因素的影响，需要研究更为先进的识别与分类算法，并加强它们的实用化进程。

目录

《智能科学技术著作丛书》序

前言

第1章 绪论

1.1 人工神经网络的发展

1.2 Bayes网络的发展

1.3 正则技术的发展

1.4 统计学习理论的发展

1.5 核机器学习方法的发展

1.5.1 有监督核机器学习方法

1.5.2 非监督核机器学习方法

1.6 本书的主要内容

参考文献

第2章

统计学习理论、再生核技术与支撑矢量机算法

2.1 统计学习理论

2.1.1 学习问题的模型

2.1.2 学习过程的一致性理论

2.1.3 学习机推广能力的界

2.1.4 控制学习过程的推广能力

2.1.5 构造学习算法

2.2 再生核与再生核Hilbert空间

2.2.1 再生核

2.2.2 特征空间和经验特征空间

2.2.3 再生核Hilbert空间与经验再生核Hilbert空间

2.2.4 再生核与再生核Hilbert空间实例

2.2.5 Mercer容许核的构造

2.2.6 再生核作为距离测度

2.2.7 再生核Hilbert空间的函数表示理论

2.3 支撑矢量机算法

2.3.1 模式识别支撑矢量机

2.3.2 回归支撑矢量机

参考文献

第3章 支撑矢量机理论基础

3.1 支撑矢量机几何特性分析

3.1.1 模式识别支撑矢量机几何特性分析

3.1.2 回归估计支撑矢量机几何特性分析

3.1.3 小结与讨论

3.2 支撑矢量预选取的中心距离比值法

3.2.1 中心距离比值法

3.2.2 算法性能仿真

3.2.3 一种新的推广能力衡量准则

3.2.4 Mercer核参数的选择

3.2.5 仿真实验

3.2.6 小结与讨论

参考文献

附录

第4章 先进支撑矢量机

4.1 线性规划支撑矢量机

4.1.1 线性规划线性支撑矢量机

4.1.2 线性规划非线性支撑矢量机

4.1.3 仿真实验

4.1.4 小结与讨论

4.2 无约束二次规划回归估计支撑矢量机

4.2.1 无约束二次规划回归估计支撑矢量机

4.2.2 仿真实验

4.2.3 小结与讨论

4.3 复值支撑矢量机

4.3.1 模式识别复值支撑矢量机

4.3.2 回归估计复值支撑矢量机

4.3.3 小结与讨论

4.4 基于微分容量控制的学习机，

4.4.1 推广能力及微分容量控制

4.4.2 基于微分容量控制的学习机

4.4.3 仿真实验

4.4.4 小结与讨论

4.5 基于决策树的支撑矢量机多分类方法

4.5.1 支撑矢量机的多分类方法

4.5.2 基于决策树的支撑矢量机多分类方法

4.5.3 仿真实验

4.5.4 小结与讨论

参考文献

附录

第5章 核学习机

5.1 隐空间核机器

5.1.1 隐空间

5.1.2 隐空间主分量分析

5.1.3 隐空间支撑矢量机

5.1.4 最小二乘隐空间支撑矢量机

5.1.5 稀疏隐空间支撑矢量机

5.2 核函数的构造

5.2.1 坐标变换核

5.2.2 子波核函数

5.2.3 尺度核函数

5.2.4 性能仿真

5.2.5 小结与讨论

5.3 基于父子波正交投影核的支撑矢量机

5.3.1 父子波正交投影核

5.3.2 基于父子波正交投影核的支撑矢量机

5.3.3 算法性能分析和父子波正交投影核的参数选择

5.3.4 仿真实验

5.3.5 小结与讨论

5.4 子波核函数网络

5.4.1 子波核函数网络模型

5.4.2 子波核函数网络学习算法

5.4.3 仿真实验

5.4.4 小结与讨论

5.5 核聚类算法

5.5.1 聚类分析

5.5.2 核聚类算法

5.5.3 仿真实验

5.5.4 小结与讨论

参考文献

附录

第6章 稀疏核支撑矢量机

6.1 Bayes核机器

6.1.1 Bayes学习

6.1.2 基于有效子集选择的Bayes学习

6.2 贪婪分阶段支撑矢量机

6.2.1 支撑矢量机

6.2.2 再生核Hnbert空间范数和支撑矢量机

6.2.3 贪婪分阶段支撑矢量机

6.2.4 性能评价

6.2.5 仿真实验

6.2.6 算法机理与性能分析

6.2.7 小结与讨论

6.3 特征标度核Fisher判别分析

6.3.1 核Fisher判断分析

6.3.2 光滑留一交叉验证误差

6.3.3 扩展到多分类

6.3.4 仿真实验

6.3.5 小结与讨论

6.4 序列稀疏贪婪优化

6.4.1 最小二乘支撑矢量机

6.4.2 序列稀疏贪婪优化

6.4.3 模型选择

6.4.4 仿真实验

6.4.5 小结与讨论

参考文献

附录

第7章 快速大规模支撑矢量机

7.1 基本域大规模支撑矢量回归

7.1.1 基本域支撑矢量回归

7.1.2不敏感Huber损失函数和有限牛顿算法

7.1.3 递归有限牛顿算法

7.1.4 仿真实验

……

第8章 高分辨距离像识别

第9章 谱集成学习机

第10章 基于核学习的图像识别

参考文献

精彩书摘

从实验结果可以看出，在这两个数据集上贪婪分阶段支撑矢量机的速度要明显快于LIBSVM2.83。特别是对大的C值，LIBSVM2.83的核评价次数有大幅增加。另一个重要的观察是LIBSVM2.83能够从大的缓存规模上获益。当再次使用核矩阵中的元素时，算法可以从缓存中获得，因而避免了许多耗时的核评价。这解释了训练时间不匹配核评价次数的原因。然而，由于存储核矩阵所需的内存随样本数的平方增长，对于大规模数据集，将核矩阵中的大部分元素存放到内存中是不现实的。

从表6.4和表6.5中可以看到，对不同的正则参数，贪婪分阶段支撑矢量机获得了2～10倍不等的加速。如果使用网格搜索来选择超参数，由于贪婪分阶段支撑矢量机不需要选择正则参数，它的训练次数将远远少于支撑矢量机的训练次数。例如，如果尝试10个不同的C和值，那么当执行10倍交叉验证时，贪婪分阶段支撑矢量机仅需要重新训练100次，然而，支撑矢量机需要重新训练1000次。这样实际上贪婪分阶段支撑矢量机的训练速度比支撑矢量机的训练速度快20～100倍。此外，还可以看出贪婪分阶段支撑矢量机和uBSVM2.83的测试误差非常接近。因此可以得出结论：贪婪分阶段支撑矢量机在推广性能和支撑矢量机相当的情况下，速度比uBSVM2.83快得多。