前馈神经网络分析与设计

　　目录总序前言第1章 绪论 1 1.1 引言 1 1.2 神经网络及其发展 2 1.2.1 神经网络的定义 2 1.2.2 神经网络的功能 3 1.2.3 神经网络的发展 4 1.2.4 神经网络的应用 7 1.3 人工神经网络的结构设计 9 1.3.1 人工神经网络的结构 9 1.3.2 前馈神经网络结构设计研究现状 10 1.4 本书主要内容 13 1.4.1 神经网络参数学习算法研究 14 1.4.2 神经网络结构设计方法研究 14 1.4.3 自组织神经网络结构算法研究 15 1.4.4 应用研究 15 参考文献 17 第2章 感知器神经网络 23 2.1 引言 23 2.2 感知器神经网络分析 23 2.2.1 单神经元分析 24 2.2.2 单层感知器神经网络 25 2.2.3 多层感知器神经网络 28 2.3 感知器神经网络学习算法 30 2.3.1 隐含层与输出层之间的权值修正 33 2.3.2 输入层与隐含层之间的权值修正 34 2.3.3 BP算法的改进 36 2.4 本章小结 43 附录A 数学基础 44 附录A.1 泰勒引理 44 附录A.2 泰勒定理和推论 46 参考文献 49 第3章 RBF神经网络 53 3.1 引言 53 3.2 RB神经网络原理 54 3.2.1 插值计算 54 3.2.2 模式可分性 56 3.2.3 正规化法则 57 3.2.4 RB神经网络结构 58 3.3 RB神经网络学习算法 59 3.3.1 中心值学习策略 59 3.3.2 隐含层和输出层连接权值学习策略 63 3.4 本章小结 67 附录B 数学运算 67 附录B.1 域和向量空间 67 附录B.2 矩阵的表示和运算 69 附录B.3 矩阵的性质 70 附录B.4 矩阵范数的运算 75 参考文献 76 第4章 模糊神经网络 80 4.1 引言 80 4.2 模糊推理系统描述 81 4.2.1 模糊集合与隶属函数 81 4.2.2 模糊运算 83 4.3 模糊神经网络结构 87 4.4 模糊神经网络学习算法 89 4.5 本章小结 93 参考文献 94 第5章 前馈神经网络快速下降算法研究 98 5.1 引言 98 5.2 神经网络学习 98 5.2.1 神经网络结构及信息处理 98 5.2.2 神经网络学习算法分析 100 5.3 快速下降算法 101 5.3.1 快速下降算法描述 101 5.3.2 快速下降算法收敛性分析 104 5.4 仿真研究 108 5.4.1 感知器神经网络仿真研究 109 5.4.2 RBF神经网络仿真研究 112 5.5 本章小结 117 参考文献 118 第6章 前馈神经网络改进型递归最小二乘算法研究 123 6.1 引言 123 6.2 递归最小二乘算法 124 6.2.1 递归最小二乘算法描述 124 6.2.2 递归最小二乘算法分析 128 6.3 改进型递归最小二乘算法 129 6.3.1 改进型递归最小二乘算法描述 130 6.3.2 改进型递归最小二乘算法收敛性分析 131 6.4 改进型递归最小二乘算法的应用 132 6.4.1 非线性函数逼近 133 6.4.2 双螺旋模式分类 135 6.4.3 污泥膨胀预测 137 6.5 本章小结 142 参考文献 143 第7章 基于显著性分析的快速修剪型感知器神经网络 148 7.1 引言 148 7.1.1 增长型神经网络 148 7.1.2 修剪型神经网络 152 7.2 显著性分析 153 7.2.1 误差曲面分析 153 7.2.2 显著性分析算法 155 7.3 基于显著性分析的快速修剪算法 156 7.3.1 多层感知器神经网络 157 7.3.2 多层感知器神经网络快速修剪算法 158 7.3.3 仿真研究 160 7.4 本章小结 167 参考文献 168 第8章 增长-修剪型多层感知器神经网络 174 8.1 引言 174 8.2 敏感度计算 175 8.2.1 敏感度分析方法的分类 175 8.2.2 敏感度分析方法 178 8.2.3 敏感度计算 181 8.3 神经网络输出敏感度分析 182 8.3.1 敏感度分析的频域研究 182 8.3.2 神经网络输出敏感度分析 187 8.4 增长-修剪型多层感知器神经网络分析 189 8.4.1 隐含层神经元的敏感度 189 8.4.2 神经元增长和修剪 192 8.4.3 增长修剪型感知器神经网络 193 8.4.4 收敛性分析 195 8.5 增长-修剪型多层感知器神经网络应用 197 8.5.1 非线性函数逼近 197 8.5.2 数据分类199 8.5.3 生化需氧量软测量 202 8.6 本章小结 208 参考文献 210 第9章 弹性RBF神经网络 215 9.1 引言 215 9.2 RBF神经网络描述 216 9.3 弹性RBF神经网络 217 9.3.1 神经元修复准则 217 9.3.2 神经网络结构优化设计 219 9.3.3 弹性RBF神经网络 221 9.3.4 收敛性分析 221 9.4 弹性RBF神经网络应用 224 9.4.1 非线性函数逼近 224 9.4.2 非线性系统建模 227 9.4.3 溶解氧模型预测控制 231 9.5 本章小结 238 附录C 熵 239 附录C.1 熵的概念 239 附录C.2 互信息 240 参考文献 242 第10章 自组织模糊神经网络 248 10.1 引言 248 10.2 模糊神经网络 249 10.3 自组织模糊神经网络分析 253 10.3.1 模糊神经网络结构优化 253 10.3.2 模糊神经网络自组织设计算法 256 10.3.3 收敛性分析 258 10.4 自组织模糊神经网络应用 260 10.4.1 非线性系统建模 260 10.4.2 Mackey-Glass时间序列系统预测 263 10.4.3 污水处理关键水质参数预测 266 10.4.4 污水处理过程溶解氧控制 269 10.5 本章小结 272 参考文献 273 索引 278 

　　    乔俊飞，男，北京工业大学教授、博士生导师。国家杰出青年科学基金获得者，北京高等学校精品课程（自动控制原理）负责人。现任中国人工智能学会理事、中国自动化学会智能自动化专业委员会委员、中国自动化学会过程控制专业委员会委员、北京自动化学会常务理事，《控制工程》、《北京工业大学学报》等期刊编委。入选教育部新世纪优秀人才计划、北京市科技新星计划等。乔俊飞教授长期从事计算智能及智能信息处理方面的研究工作，已在IEEE Transactions on Neural Networks and Learning Systems、IEEE Transactions on Fuzzy Systems等权威刊物上发表学术论文近百篇；获得授权国家发明专利12项，软件著作权8项。并先后获得教育部科学技术进步一等奖（个人排名第一）、北京市教育教学成果奖二等奖（个人排名第一）、北京市优秀教师等10余项省部级及以上奖励。

　　《前馈神经网络分析与设计》系统地论述了前馈神经网络的主要理论、设计基础及应用实例，旨在使读者了解神经网络的发展背景和研究对象，理解和熟悉它的基本原理和主要应用，掌握它的结构模型和设计应用方法，特别是前馈神经网络的参数学习算法和结构设计方法，为深入研究和应用开发打下基础。为了便于读者理解，《前馈神经网络分析与设计》尽量避免烦琐的数学推导，加强了应用举例，并存内容的选择和编排上注意到读者初次接触新概念的易接受性和思维的逻辑性。作为扩充知识，《前馈神经网络分析与设计》还介绍了前馈神经系统的基本概念、体系结构、控制特性及信息模式。