21世纪科技界面临的重大挑战之一是在不断扩大的广度和深度上用计算机来替代并且更好地完成人的各种智能工作。以人工神经网络、模糊逻辑与进化计算为核心的计算智能学正是为完成这一使命而构建的新学科之一。本书以人工神经网络为重点,其中包含多层前向神经网络、Hopfield神经网络、自组织神经网络以及一个新的重要发展方向——盲信号处理;还包括模糊神经网络和遗传算法及其在人工神经网络中的应用等交叉学科内容。书中除了给出本学科主要的理论基础外还广泛介绍了这一领域最新研究方向、研究方法和成果、大量应用实例以及参考文献。\r\n\r\n 本书除了供大学研究生作为教材使用外,还可作为科技、经济、军事、生物和医学等各界人员从事研究和完成各项实际工作时自学和参考用书。\r\n
\r\n
第1章 绪论 \r\n\r\n 1. 1 人脑与人的智能. 人工神经网络与智能机器. 人工智能与计算智能 \r\n\r\n 1. 2 ANN的主要模型与研究途径 \r\n\r\n 1. 3 ANN的学习 \r\n\r\n 1. 4 ANN的应用 \r\n\r\n 1. 5 脉冲耦合神经网络和脑成像技术 \r\n\r\n 1. 6 ANN与盲信号处理 \r\n\r\n 1. 7 本书的组织 \r\n\r\n 参考文献 \r\n\r\n \r\n\r\n 第2章 前向多层神经网络与递归神经网络 \r\n\r\n 2. 1 概述 \r\n\r\n 2. 2 线性函数MLP \r\n\r\n 2. 3 硬限幅函数MLP \r\n\r\n 2. 4 用Sigmoid函数和线性函数的MLP \r\n\r\n 2. 5 BP算法的主要问题及其改进 \r\n\r\n 2. 6 RBF网络 \r\n\r\n 2. 7 小波神经网络 \r\n\r\n 2. 8 MLFN的前端信号处理 \r\n\r\n 2. 9 MLFN的函数逼近能力 \r\n\r\n 2. 10 MLFN推广能力的统计学习理论 \r\n\r\n 2. 11 提高MLFN推广能力的实用方法 \r\n\r\n 2. 12 MLFN作为后验概率估值器 \r\n\r\n 2. 13 递归神经网络 \r\n\r\n 2. 14 MLFN应用举例之一--在非线性动力系统中的应用 \r\n\r\n 2. 15 MLFN应用举例之二--手写数字识别 \r\n\r\n 2. 16 MLFN应用举例之三--语音识别 \r\n\r\n 参考文献 \r\n\r\n \r\n\r\n 第3章 自组织神经网络--SOM和ART \r\n\r\n 3. 1 概述 \r\n\r\n 3. 2 SOM的结构和自组织学习算法 \r\n\r\n 3. 3 SOM自组织学习算法中的参数自适应 \r\n\r\n 3. 4 学习向量量化--LVQ和LVQ2 \r\n\r\n 3. 5 SOM的应用举例 \r\n\r\n 3. 6 ART的基本原理和算法买现框架 \r\n\r\n 3. 7 ART的各种变型及其比较 \r\n\r\n 3. 8 ART应用举例--在化学工业中的应用 \r\n\r\n 参考文献 \r\n\r\n \r\n\r\n 第4章 Hopfield神经网络 \r\n\r\n 4. 1 概述 \r\n\r\n 4. 2 HM及其在TSP中的应用 \r\n\r\n 4. 3 采用约束平面及HC的EHM \r\n\r\n 4. 4 采用罚函数的EHM \r\n\r\n 4. 5 离散时间HNN与自联想记忆 \r\n\r\n 4. 6 双向联想记忆及其他联想记忆神经网络 \r\n\r\n 参考文献 \r\n\r\n \r\n\r\n 第5章 模糊神经网络 \r\n\r\n 5. 1 概述 \r\n\r\n 5. 2 FNN的结构和类型 \r\n\r\n 5. 3 实现函数映射的FNN \r\n\r\n 5. 4 基于Fuzzy ART的FNN和Simpson网络 \r\n\r\n 5. 5 实现聚类的FNN \r\n\r\n 5. 6 FNN在非线性动力系统辨识与控制中的应用 \r\n\r\n 5. 7 FNN用于时间序列预测及其在金融和财务等领域中的应用 \r\n\r\n 参考文献 \r\n\r\n \r\n\r\n 第6章 遗传算法及其在人工神经网络中的应用 \r\n\r\n 6. 1 概述 \r\n\r\n 6. 2 基本的遗传算法 \r\n\r\n 6. 3 模式定理 \r\n\r\n 6. 4 遗传算法的收敛性能 \r\n\r\n 6. 5 遗传算法面临的问题及改进算法 \r\n\r\n 6. 6 遗传算法与人工神经网络的结合 \r\n\r\n 参考文献 \r\n\r\n \r\n\r\n 第7章 盲信号处理 \r\n\r\n 7. 1 概述 \r\n\r\n 7. 2 源信号pdf描述. 等价可分性. 二阶和高阶相关的去除 \r\n\r\n 7. 3 ICA的目标函数 \r\n\r\n 7. 4 ICA的学习算法 \r\n\r\n 7. 5 ICA解的稳定性 \r\n\r\n 7. 6 用ICA实现源分离时解的精确度 \r\n\r\n 7. 7 ICA算法中信号源pdf的确定 \r\n\r\n 7. 8 盲信号抽取 \r\n\r\n 7. 9 盲解卷与盲均衡 \r\n\r\n 7. 10 DCA算法 \r\n\r\n 7. 11 IFA算法 \r\n\r\n 7. 12 ICA和IFA的实际应用和待解决问题 \r\n\r\n 参考文献 \r\n\r\n 缩略语 \r\n
\r\n
人工神经网络以及与其密切相关的模糊推理(模糊逻辑. 模糊集). 进化算法(本书主要讨论其中的遗传算法)和盲信号处理等构成了一门新学科——计算智能学——的核心内容. 这门新学科的主要目标是实现用计算机来替代并且更好地完成人的各种智能工作. 这是21世纪科技界面临的重大挑战之一, 它不但对于信息科学技术而且对于经济. 军事. 工业生产和生物医学等领域将产生非常深远的影响. 本书第1章为绪论, 其余章节以人工神经网络为重点, 分3个部分来介绍这一课题. 第1部分从第2章至第4章, 包括3种主要的人工神经网络:前向多层神经网络(含递归神经网络). 自组织神经网络和Hopfield神经网络. 其中第一种研究得最为广泛. 深入且应用面最宽, 迄今仍是最重要的发展方向之一. 第二种的学习算法与构成思路和第一种不同, 由于它在模式识别. 聚类和数据采掘等领域中表现出独特的优势, 近年来发展很快, 受重视程度日益提高. 第三种是最早提出并促进人工神经网络快速发展的主要几种网络之一, 其主要用途是优化和联想记忆. 虽然其发展过程有一些曲折, 但是近年来它的一些不足之处已全部或部分解决, 目前仍然是一个重要的研究方向. 第2部分为第5章和第6章, 包括模糊神经网络和遗传算法在人工神经网络中的应用两项内容. 人工神经网络的优点是具有强学习能力而缺点是不容易纳入人的推理知识, 模糊推理系统的优缺点正好与其相反. 二者相结合构成的模糊神经网络可以取长补短, 因而有很大优势, 近年来发展很快, 在信号处理. 控制. 机器人等领域中起重要作用. 遗传算法是一种并行逐代优化算法, 在解决很多复杂优化问题时表现出独特的优势. 而人工神经网络的参数和结构学习正是一个复杂优化问题, 所以二者的结合将使人工神经网络学习效率有很大提高. 第3部分为第7章, 是盲信号处理, 其中主要包含盲解卷和盲分离两大部分内容. 所谓盲是指对于被处理的信号没有或只有很少先验知识的条件下, 实现多个相加混合信号的分离或卷积信号的解卷. 在军事. 生物医学. 声学和地球物理等许多领域中都需要解决这类问题. 这一课题是人工神经网络和统计信号处理两大学科相互结合的产物, 近年来异军突起且成果斐然, 已成为人工神经网络研究的一个新重点.
本书的写作可以追溯到1989年春季我们为清华大学电子工程等系博士生. 硕士生开设的“人工神经网络”课程. 1992年在授课的基础上并结合我们自己的研究工作编写了一本教材——《人工神经网络》(北京:高等教育出版社, 1992. 9). 该书的出版受到了国内. 外读者的欢迎. 十年来这一领域的研究与应用有了极大的进展而且产生了许多新的重要研究方向. 这样, 编写一本新书显得十分必要, 国内很多同行及各界涉及这一领域的人士也非常关心这项工作的进展. 从1998年动笔, 历经四年完成了本书的写作. 在写作过程中, 我们想提到两位先贤的学术思想对于我们的影响. 一位是曾在我校长期执教的陈寅恪教授(1890一1969). 他毕生提倡学术研究的“独立之精神. 自由之思想”, 并且身体力行, 已成为近百年来中国学术思想界的楷模. 另一位是英国科学哲学家卡尔·波普尔(Karl Popper, 1902—1994), 他的许多思想曾对人工神经网络的研究产生过深刻的影响. 他的论述也对我们深有启发, 特别是在科学研究和创新的过程中运用批评的精神. 通过“证伪”引起科学进步的思想以及独立运用理智的必要性等, 都值得我们反复思考.
关于本书, 其初衷是作为一本博士生和硕士生的教材, 但从完稿的篇幅和内容看已大大超出了这个目标, 即使一门64学时的课程也很难将本书的全部内容讲完. 因此在授课时只能讲授关键和重点部分, 而较深人部分可作为自学或研究参考使用. 本书的写作着眼于方便读者自学, 即每一章的内容都是自给自足的, 既包含每一研究课题的背景. 发展历史. 基本假设条件. 研究思路. 重要算法. 重要结论. 工程应用以及未来发展方向等, 又包含有关各重要定理和算法的证明和推导. 对于不给出证明的部分, 则给出相应的参考文献. 本书列出了五百余篇参考文献, 虽然远不全面, 但是关键文献以及关于未来发展方向论述的文献大体具备.
本书写作的分工是:
第l. 2. 3. 4. 5. 7章由杨行峻撰写. 第6章由郑君里撰写, 陈文霞博士协助完成了第6章的部分编写工作.
本书的完成和出版得到了多方面的鼓励和帮助. 这里要特别提出的是清华大学“985教材基金”对本书编写给予的资助. 对此我们表示由衷的感谢. 最后, 对长期关心本书出版的各界同行深致谢忱, 并恳请读者对书中不足之处批评指正.
作者
2002年8月于清华园