前馈神经网络及其应用
2013-3
科学出版社
《前馈神经网络及其应用》较系统地介绍了前馈神经网络的网络模型、学习算法、逼近理论,除介绍国内外其他学者的研究成果外,主要介绍作者已公开发表和尚未公开发表的系列研究工作。主要内容包括:前馈神经网络的模型选择、混合专家网络的改进模型、前馈神经网络的改进模型及前馈神经网络的应用。
前言 符号说明 第1章绪论 1.1有监督学习和无监督学习 1.1.1有监督学习 1.1.2无监督学习 1.2神经网络的分类 1.2.1前馈神经网络 1.2.2反馈神经网络 1.3前馈神经网络的模型选择与混合策略 1.3.1前馈神经网络的模型选择 1.3.2前馈神经网络的混合策略 参考文献 第2章有监督学习前馈神经网络 2.1多层感知器神经网络 2.1.1网络结构 2.1.2学习算法 2.1.3逼近理论 2.2径向基函数神经网络 2.2.1网络结构 2.2.2学习算法 2.2.3逼近理论 2.3切比雪夫神经网络 2.3.1网络结构 2.3.2学习算法 2.3.3逼近理论 2.4支持向量机 2.4.1网络结构 2.4.2学习算法 2.4.3逼近理论 参考文献 第3章无监督学习前馈神经网络 3.1自组织映射神经网络 3.1.1网络结构 3.1.2学习算法 3.1.3核自组织映射神经网络 3.2神经气网络 3.2.1学习算法 3.2.2核神经气网络 3.2.3生长型神经气网络 3.3主成分分析及其改进方法 3.3.1主成分分析 3.3.2核主成分分析 3.3.3二维主成分分析 参考文献 第4章前馈神经网络的模型选择 4.1基于假设检验的方法 4.1.1Wald-检验 4.1.2LM-检验 4.2基于信息准则的方法 4.2.1AIC准则和BIC准则 4.2.2最小描述长度和交叉验证 4.3基于敏感度分析的方法 4.3.1基于偏导数的敏感度分析方法 4.3.2基于随机分析的敏感度分析方法 4.4基于互信息的方法 4.4.1互信息及其估计 4.4.2基于互信息的多层感知器两阶段构造方法 参考文献 第5章单个前馈神经网络 5.1基于正则化相关熵的径向基函数神经网络学习方法 5.1.1正则化相关熵准则 5.1.2数值实验 5.2椭球基函数神经网络的混合学习方法 5.2.1椭球基函数神经网络 5.2.2椭球基函数神经网络的混合学习策略 5.2.3数值实验 5.3基于互信息的特征加权支持向量机 5.3.1基于互信息的特征权重估计 5.3.2特征加权支持向量机 5.3.3数值实验 参考文献 第6章混合前馈神经网络 6.1高斯、Sigmoid、切比雪夫混合前馈神经网络 6.1.1Gauss-Sigmoid神经网络 6.1.2高斯一切比雪夫神经网络 6.1.3数值实验 6.2基于自适应模糊c均值的混合专家模型 6.2.1基于PBMF-index的模糊c均值聚类算法 6.2.2结构描述和实现方法 6.2.3数值实验 参考文献 第7章前馈神经网络的应用 7.1前馈神经网络在人脸识别中的应用 7.2前馈神经网络在非线性时间序列预测中的应用 7.3前馈神经网络在图像分割中的应用 7.4前馈神经网络在异常检测中的应用 参考文献 附录部分前馈神经网络的Matlab源代码 附录1基本模型 附录2模型选择 附录3改进模型 索引
版权页: 插图: 支持向量机是基于统计学习理论的一种机器学习算法。由于具有很强的泛化性能,它得到了很多的关注和研究。在实际应用中,SVM展示了比其他学习算法更为优秀的性能。因此,SVM被广泛地应用于模式识别和函数回归。SVM取得优秀性能的主要原因是它能够同时最小化预测误差和模型复杂度。 传统的支持向量机及其改进模型在构造最优分类超平面时均假定所给训练集中样本的所有特征均具有相同的贡献。然而,对于一些实际数据集,一些特征含有较多的分类信息,而其他的特征具有较少的分类信息。因此,具有较多分类信息的特征在训练最优支持向量机时比含有较少分类信息的特征更为重要。然而,现有的针对特征加权的支持向量机均是直接将权重乘到所给样本的相应特征之上。本节将介绍一种新型的特征加权支持向量机(feature-weighted support vector machine,FWSVM)。这里值得一提的是,特征加权支持向量机与加权支持向量机截然不同。一方面,加权支持向量机是为训练集中每个样本赋予权重,而不是为样本的每一维特征赋予一个权重;另一方面,加权支持向量机的最大贡献是处理不平衡数据分类。 在以往的文献中,为给定数据集的每个特征确定权重的方法有很多,下面对几种常用的特征加权(或特征权学习)方法加以简要介绍。给定一个数据集,特征加权方法为数据集中的每一个特征赋予一个实数值。数值越大,说明相应的特征具有更高的重要性。在特征加权策略中,Relief被公认为最为有效的方法。Relief的主要思想是根据特征值在区分相互靠近的样本的能力上为特征赋予权重。
《前馈神经网络及其应用》可作为应用数学、计算机科学与技术、信息与通信工程、电气工程、控制科学与技术等专业高年级本科生、研究生的教材或教学参考书,也可供相关领域的科研人员和工程技术人员阅读参考。