模式识别（第二版） (2008 年度畅销榜NO.2528 )

本书是在第一版的基础上，由两位有十余年教学经验的资深专家完成的。全书共分16章，主要讲述了特征选择和特征生成，具体有小波、分形和独立成分分析；线性和非线性分类器，具体有贝叶斯分类、多层感知器、决策树和RBF网络；上下文相关分类，具体有动态规划和隐马尔可夫模型技术；新增章节有支持向量机、可变模式匹配和附录的约束最优化等，且包含图像分析、文字识别、医学诊断、语音识别等应用。此外，每章均附有习题。
本书可作为高等院校自动化、计算机、电子和通信等专业研究生和高年级本科生的教材，也可作为计算机信息处理、自动控制等相关领域的工程技术人员的参考用书。

第1章 导论
1.1 模式识别的重要性
1.2 特征、特征向量和分类器
1.3 有监督和无监督模式识别
1.4 本书的内容安排
第2章 基于贝叶斯决策理论的分类器
2.1 引言
2.2 贝叶斯决策理论
2.3 判别函数和决策面
2.4 正态分布的贝叶斯分类
2.5 未知概率密度函数的估计
2.6 近邻规则
习题
参考文献
第3章 线性分类器
3.1 引言
3.2 线性判别函数和决策超平面
3.3 感知器算法
3.4 最小二乘法
3.5 均方估计的回顾
3.6 支持向量机
习题
参考文献
第4章 非线性分类器
4.1 引言
4.2 异或问题
4.3 两层感知器
4.4 三层感知器
4.5 基于训练集准确分类的算法
4.6 反向传播算法
4.7 反向传播算法的改进
4.8 代价函数选择
4.9 神经网络的大小选择
4.10 仿真实例
4.11 具有权值共享的网络
4.12 推广的线性分类器
4.13 线性二分法中l维空间的容量
4.14 多项式分类器
4.15 径向基函数网络
4.16 通用逼近
4.17 支持向量机：非线性情况
4.18 决策树
4.19 讨论
习题
参考文献
第5章 特征选择
5.1 引言
5.2 预处理
5.3 基于统计假设检验的特征选择
5.4 接收机操作特性ROC曲线
5.5 类可分性测量
5.6 特征子集的选择
5.7 最优特征生成
5.8 神经网络和特征生成/选择
5.9 Vapnik-Chernovenkis学习理论的提示
习题
参考文献
第6章 特征生成I：线性变换
6.1 引言
6.2 基本向量和图像
6.3 Karhunen-lo弙e变换
6.4 奇异值分解
6.5 独立成分分析
6.6 离散傅里叶变换（DFT
6.7 离散正弦和余弦变换
6.8 Hadamard变换
6.9 Haar变换
6.10 回顾Haar展开式
6.11 离散时间小波变换
6.12 多分辨解释
6.13 小波包
6.14 二维推广简介
6.15 应用
习题
参考文献
第7章 特征生成II
7.1 引言
7.2 区域特征
7.3 字符形状和大小的特征
7.4 分形概述
习题
参考文献
第8章 模板匹配
8.1 引言
8.2 基于最优路径搜索技术的测度
8.3 基于相关的测度
8.4 可变形的模板模型
习题
参考文献
第9章 上下文相关分类
9.1 引言
9.2 贝叶斯分类器
9.3 马尔可夫链模型
9.4 Viterbi算法
9.5 信道均衡
9.6 隐马尔可夫模型
9.7 用神经网络训练马尔可夫模型
9.8 马尔可夫随机域的讨论
习题
参考文献
第10章 系统评价
10.1 引言
10.2 误差计算方法
10.3 探讨有限数据集的大小
10.4 医学图像实例研究
习题
参考文献
第11章 聚类：基本概念
11.1 引言
11.2 近邻测度
习题
参考文献
第12章 聚类算法I：顺序算法
12.1 引言
12.2 聚类算法的种类
12.3 顺序聚类算法
12.4 BSAS的改进
12.5 两个阈值的顺序方案
12.6 改进阶段
12.7 神经网络的实现
习题
参考文献
第13章 聚类算法II：层次算法
13.1 引言
13.2 合并算法
13.3 Cophenetic矩阵
13.4 分裂算法
13.5 最佳聚类数的选择
习题
参考文献
第14章 聚类算法III：基于函数最优方法
14.1 引言
14.2 混合分解方法
14.3 模糊聚类算法
14.4 可能性聚类
14.5 硬聚类算法
14.6 向量量化
习题
参考文献
第15章 聚类算法IV
15.1 引言
15.2 基于图论的聚类算法
15.3 竞争学习算法
15.4 分支和有界聚类算法
15.5 二值形态聚类算法
15.6 边界检测算法
15.7 谷点搜索聚类算法
15.8 通过代价最优聚类（回顾）
15.9 用遗传算法聚类
15.10 其他聚类算法
习题
参考文献
第16章 聚类有效性
16.1 引言
16.2 假设检验回顾
16.3 聚类有效性中的假设检验
16.4 相关的准则
16.5 单聚类有效性
16.6 聚类趋势
习题
参考文献
附录A 概率论和统计学的相关知识
A.1 全概率公式和贝叶斯准则
A.2 均值和方差
A.3 统计的独立性
A.4 特征函数
A.5 矩和累积量
A.6 概率密度函数的Edgeworth展开式
A.7 Kullback-Leibler距离
A.8 多元高斯概率密度函数或正态概率密度函数
A.9 Cramer-Rao下界
A.10 中心极限定理
A.11 c 2分布
A.12 t分布
A.13 Beta分布
A.14 泊松分布
参考文献
附录B 线性代数基础
B.1 正定矩阵和对称矩阵
B.2 相关矩阵的对角化
附录C 代价函数的优化
C.1 梯度下降算法
C.2 牛顿算法
C.3 共轭梯度法
C.4 对约束问题的优化
参考文献
附录D 线性系统理论的基本定义
D.1 线性时不变（LTI）系统
D.2 变换函数
D.3 串联和并联
D.4 在二维空间上的推广

模式识别诞生于20世纪20年代，随着20世纪40年代计算机的出现，20世纪50年代人工智能的兴起，模式识别在20世纪60年代初迅速发展成一门学科。模式识别研究的理论和方法在很多地方得到了成功的应用，从最初的光学字符识别（OCR），扩展到笔输入计算机、生物身份认证、DNA序列分析、化学气味识别、药物分子识别、图像理解、人脸辨识、表情识别、手势识别、语音识别、说话人识别、信息检索、数据挖掘和信号处理等。 尽管如此，与生物认知系统相比，模式识别系统的识别能力和鲁棒性还远不能让人满意。模式识别还有许多的基础理论和基本方法等待人们解决，新问题也层出不穷。为此，相关人员很需要一本关于这一领域的高水平学术著作，它既有基础知识的介绍，还有本领域研究现状的介绍，以及未来发展的展望等。本书正是这样一本经典著作。 本书是在第一版的基础上，于2003年由具有25年教学经验的资深专家、希腊雅典大学信息与通信系通信和信号处理专业教授Sergios Theodoridis等两人完成的。本书采用统一的方法讲述各种模式识别方法，以及图像分析、语音处理和通信等应用。 为了适用于电子工程学、计算机工程学、计算机科学和信息、自动控制等专业的研究生，以及高年级本科生等各种不同知识背景的学生，本书内容安排既全面，又相对独立。在各个章节中需要的一些数学工具，如概率、统计和约束优化等知识，在本书的4个附录中做了简单的讲解。本书可以面向大学生和研究生，可以作为一学期或两个学期的课程。本书也可以作为自学教材，或供研究人员和工程技术人员参考。 东北大学李晶皎教授负责译校本书的第1章至第7章，朱志良教授负责译校本书的第11章至第15章，王爱侠负责译校本书的第8章至第10章、第16章以及附录A至附录D。参加初译的有东北大学信息学院计算机专业的硕士研究生甄广启、赵骥、王蓓蕾、唐春强、冯云、何敬禹、左刚、谭光力、赵 、刘巍等。 在翻译过程中，我们力求忠实、准确地把握原著，同时保留原著的风格。但由于译者水平有限，书中难免有错误和不准确之处，恳请广大读者批评指正。

本书是作者在20年来给研究生和本科生教学的基础上编写的，该课程面向很多专业的学生，例如电子工程学、计算机工程学、计算机科学和信息以及自动控制等专业的研究生。这些经验使我们得以把本书内容编写得既全面又相对独立，并且适用于各种不同知识背景的学生。读者需要具备的知识包括基础的微积分学、初等线性代数和概率论基础。在各个章节中需要的一些数学工具，如概率、统计和约束优化等知识，在本书的4个附录中做了简单的讲解。本书可以面向大学生和研究生，可以作为一学期或两个学期的课程。本书也可以作为自学教材，或供研究人员和工程技术人员参考。我们编写本书的动力之一是使这本书适合于所有从事模式识别相关研究的人员。 本书采用统一的方法讲述各种模式识别，包括图像分析、语音处理和通信应用。尽管这些领域有很多不同点，但也有共同之处，对它们的研究也有统一的方法。本书的每一章都采用循序渐进的讲解方式，即从基础开始过渡到比较高深的课题，最后对最新技术发表评论。在每章的末尾都提供一些习题和上机练习，读者可以从出版商处购买解答指南。此外，读者可以从本书的网站（www.di.uoa.gr/~stpatrec）得到一些MATLAB示例。 我们定期在网站上增加和更新示例，欢迎读者多提建议。尽管网站上的内容经过多次仔细检查，但有些地方还是不可避免地存在错误，欢迎读者批评指正。 本书的出版离不开广大师生多年来的支持和帮助。特别感谢K. Berberidis教授、E. Kofidis博士、A. Liavas教授、A. Rontogiannis博士、A. Pikrakis博士、Gezerlis博士和K. Georgoulakis博士，I. Kopsinis博士自始至终都给予了莫大的支持和帮助；另外，G. Moustakides教授、V. Digalakis教授、T. Adali教授、M. Zervakis教授、D. Cavouras教授、A. B歨m教授、G. Glentis教授、E. Koutsoupias教授、V. Zissimopoulos教授、A. Likas教授、A. Vassiliou博士、N. Vassilas博士、V. Drakopoulos博士和S. Hatzispyros博士在仔细阅读书稿后提出了许多宝贵建议，大大提高了本书的可读性。同时，也非常感谢广大学生的付出和给予的建设性意见。非常感谢N. Kalouptsidis教授，长期以来我们的合作和友谊是本书灵感的来源。 最后，K. Koutroumbas感谢Sophia的耐心和支持，S. Theodoridis感谢Despina、Eva和Eleni，她们是快乐和动力的源泉。