过程神经元网络
2007-6
科学出版
何新贵
189
记得在9年前的秋天,我作为人工智能专家应邀参加一个在安徽省合肥市召开的全国农业专家系统推广应用会议。与会者主要是来自全国各地的农业专家和做农业新技术推广工作的技术人员。环顾会场,我熟悉的专家很少。会议的论题主要是讨论和交流如何应用农业专家系统来指导种植各种作物,从蔬菜、粮食到烟草、甜菜,好像什么作物的论题都有,内容十分丰富。但是,大部分参加者似乎对专家系统的实现原理和技术都并不太感兴趣,而主要关心应该如何合理地给作物施肥和如何控制温室的光照、温度、湿度和二氧化碳的浓度等使作物高质高产问题。尽管这些也确实都是建立农业专家系统所必需的专家知识,可是说实在的,关于这些内容我几乎一窍不通。由于专业知识的隔阂,我对它们也不太感兴趣,所以一开始总觉得会议与己关系不大。但是,作为特邀专家,我也不好意思随便逃会,只好不太耐烦地听着各个大会发言,不时地思想开开小差,总之,还是在琢磨所谓自己关心的问题。直到会议的后期,会上不断重复着的报告内容几乎突然给了我一个很大的启发,因为我发现会议参加者们热烈议论着的内容从数学家的眼光来看都可被认为是在讨论同一个问题,即一个“泛函问题”。因为,不管种植什么作物,为了达到某种种植指标,如产量或某种质量指标,种植者所能实施的各种控制手段,如前述的合理施肥、控制光照、温度、湿度乃至二氧化碳的浓度等都可被认为是从下种开始到收获为止的各种时变控制过程或时变函数。不妨把它们作为整个种植过程的输入(自变量),作物的产量或质量指标就可被认为是依赖于这些时变过程的泛函数。于是,追求高产量和高质量就变成了一个泛函的求极值问题,或称泛函寻优问题。当时,我的研究兴趣正好集中在“计算智能”方面,包括模糊计算、进化计算和神经计算,所以我立即敏感地想到了神经元网络。我自问,为什么不去研究研究输入和输出都可以是时变过程或时变函数的神经元网络呢?推而广之,为什么不去研究研究输入和输出都可以是多元函数乃至是泛函空问中“点”的更加广义的神经元网络呢?一般神经元网络只能用来描述输入与输出值之间的瞬时映射关系,而这种新的神经元网络则可描述输出对于输入在时间轴上的累积效应或聚合效果。这正是许多应用问题,包括解决上述农业高技术应用和精细描述生物神经元的行为等问题所需要的。一般神经元网络要解决的是函数逼近和函数寻优的问题,而现在我们需要解决的则是泛函逼近和泛函寻优等问题。从数学观点上看,问题的复杂性显然增加了很多。不过,我这个学数学出身的人的直觉告诉我,在一定条件下解决这些问题的可能性是存在的。
《过程神经元网络》是在作者近10年来对过程神经元网络研究基础上形成的一部专著。过程神经元网络是作者提出的一种新型神经元网络,其输入和输出可以是时变过程或时变函数、多元函数乃至是抽象距离空间中的“点”,对输入的加工包括多元聚合和累积,特别是空间聚合和时间累积。全书共分9章,从引进过程神经元观念开始,逐步深入地介绍各种过程神经元网络,包括网络结构、学习算法、相关理论、网络设计和构建方法以及应用实例等。相关理论包括泛函逼近定理、网络性质和计算能力等;应用领域包括过程建模、系统辨识、过程控制、聚类分类、过程优化、预测预报、评估决策以及宏观控制等。 《过程神经元网络》可作为高等学校计算机科学与技术、电子信息、自动控制等相关专业高年级学生和研究生课程的参考用书,也可作为从事智能信息处理等相关领域研究人员的参考书。
第1章 绪论1.1 人工智能的发展1.2 人工智能系统的特征1.3 计算智能1.3.1 模糊计算1.3.2 神经计算1.3.3 进化计算1.3.4 三个“分支”的结合1.4 过程神经元网络第2章 人工神经元网络2.1 生物神经元2.2 神经元的数学模型2.3 前馈/反馈神经元网络2.3.1 前馈/反馈神经元网络模型2.3.2 前馈神经元网络的函数逼近能力2.3.3 前馈神经元网络的计算能力2.3.4 前馈神经元网络的学习算法2.3.5 前馈神经元网络的泛化问题2.3.6 前馈神经元网络的应用’2.4 模糊神经元网络2.4.1 模糊神经元2.4.2 模糊神经元网络2.5 非线性聚合人工神经元网络2.5.1 分式聚合人工神经元网络2.5.2 极大(或极小)聚合人工神经元网络2.5.3 其他非线性聚合人工神经元网络2.6 时空聚合与过程神经元网络2.7 人工神经元网络的归类第3章 过程神经元3.1 生物神经元的启示3.2 过程神经元的定义3.3 过程神经元与泛函3.4 模糊过程神经元3.4.1 过程神经元的模糊化3.4.2 由模糊加权推理规则构造的模糊过程神经元3.5 过程神经元与复合函数第4章 前馈过程神经元网络4.1 前馈过程神经元网络的一种简单模型4.2 前馈过程神经元网络的一般模型4.3 基于权函数基展开的过程神经元网络模型4.4 前馈过程神经元网络的基本定理4.4.1 解的存在性4.4.2 连续性4.4.3 泛函逼近性质4.4.4 计算能力4.5 分式前馈过程神经元网络4.5.1 分式过程神经元4.5.2 分式过程神经元网络模型4.6 输入与输出均为时变函数的过程神经元网络4.6.1 网络结构4.6.2 模型的连续性与逼近能力4.7 连续过程神经元网络4.7.1 连续过程神经元4.7.2 连续过程神经元网络模型4.7.3 模型的连续性、逼近能力和计算能力4.8 泛函神经元网络4.8.1 泛函神经元4.8.2 前馈泛函神经元网络模型4.9 结束语第5章 过程神经元网络的学习算法5.1 基于梯度下降和牛顿法下降的学习算法5.1.1 基于梯度下降的一般学习算法5.1.2 基于梯度一牛顿法结合的学习算法5.1.3 基于牛顿下山法的学习算法 5.2 基于正交基展开的学习算法5.2.1 输入函数的正交基展开5.2.2 学习算法推导5.2.3 算法描述和复杂性分析5.3 基于傅里叶函数变换的学习算法5.3.1 L2[0,2π]中函数的傅里叶正交基展开5.3.2 学习算法推导5.4 基于walsh函数变换的学习算法5.4.1 基于离散walsh函数变换的学习算法5.4.2 基于连续walsh函数变换的学习算法5.5 基于样条函数拟合的学习算法5.5.1 样条函数5.5.2 学习算法推导5.5.3 算法的适应性和复杂性分析5.6 基于有理平方逼近和最优分段逼近的学习算法5.6.1 基于有理平方逼近的学习算法5.6.2 基于最优分段逼近的学习算法5.7 结束语第6章 反馈过程神经元网络6.1 一种三层结构的反馈过程神经元网络6.1.1 网络结构6.1.2 学习算法6.1.3 稳定性分析6.2 几种其他形式的反馈过程神经元网络6.2.1 输入与输出均为时变函数的反馈过程神经元网络6.2.2 可用于模式分类的反馈过程神经元网络6.2.3 可用于联想记忆存储的反馈过程神经元网络6.3 应用举例第7章 多聚合过程神经元网络7.1 多聚合过程神经元7.2 多聚合过程神经元网络模型7.2.1 多聚合过程神经元网络的一般模型7.2.2 输入与输出均为多元过程函数的多聚合过程神经元网络模型7.3 学习算法7.3.1 多聚合过程神经元网络一般模型的学习算法7.3.2 输入与输出均为多元函数的多聚合过程神经元网络的学习算法7.4 应用举例7.5 结束语第8章 过程神经元网络的设计和构建8.1 双隐层过程神经元网络8.1.1 网络结构8.1.2 学习算法8.1.3 应用举例8.2 离散过程神经元网络8.2.1 离散过程神经元8.2.2 离散过程神经元网络8.2.3 学习算法8.2.4 应用举例8.3 级联过程神经元网络8.3.1 网络结构8.3.2 学习算法8.3.3 应用举例8.4 自组织过程神经元网络8.4.1 网络结构8.4.2 学习算法8.4.3 应用举例8.5 对传过程神经元网络8.5.1 网络结构8.5.2 学习算法8.5.3 模式分类数的确定8.5.4 应用举例8.6 径向基过程神经元网络8.6.1 径向基过程神经元8.6.2 网络结构8.6.3 学习算法8.6.4 立用举例8.7 结束语第9章 过程神经元网络的应用9.1 在过程建模中的应用9.2 在非线性系统辨识中的应用9.2.1 非线性系统辨识原理9.2.2 用于系统辨识的过程神经元网络9.2.3 非线性系统辨识过程9.3 在过程控制中的应用9.3.1 非线性系统的过程控制9.3.2 过程控制器的设计和求解9.3.3 仿真实验9.4 在聚类和分类中的应用9.5 在过程优化中的应用9.6 在预测预报中的应用9.7 在评估决策中的应用9.8 在宏观控制中的应用9.9 其他应用9.10 值得进一步研究的理论和实际问题9.11 结束语参考文献
插图:它不但把输入的脉冲信号转换为电位信号,而且具有经验记忆功能,并能根据记忆对输入信号进行加权处理。归纳起来,脑系统的信息处理方式与传统的冯·诺伊曼体系结构的信息处理方式相比有以下几点不同:1)信息的存储方式不同。生物脑没有单独而集中的存储器和运算器,神经元集存储与运算功能于一体,各种信息被分布存储在各个神经元的突触中,各种信号处理十分细粒度地被分布在众多的神经元中完成。2)生物脑在求解问题过程中不需要编程,即用于实际问题求解时不需要预先建立模型,而是通过学习直接改变神经元突触中的记忆参数(连接权值)来获得求解特定问题的知识。3)生物脑所处理的信息(处理对象)并不是完全确定的和精确的,而具有明显的模糊性和随机性,其处理对象既可能是离散量,也可能是连续量。4)生物脑对信息的处理方式既有数字方式,又有模拟方式,或者数/模有机混合方式,而且包含随机的处理方式。因此可以认为,大脑与现代计算机在信息处理方式上具有极大区别。随机处理方式的加入,数/模混合进行处理,使得整个处理过程变得十分复杂,处理过程往往具有不可重复性。
《过程神经元网络》是由科学出版社出版的。
书还不错吧。不好懂。