多层前向网络研究进展及若干问题

本文概述了多层前向网络研究的发展历史，对其中有代表性的若干成就进行了较为系统的介绍和评论，分析了当前研究工作中存在的一些问题，提出了解决这些问题的几种可行方案。在对多层前向网络的有效逼近机理进行深入剖析的基础上，提出了合理的有限规模多层前向网络应当遵循的若干构造原则。

一种基于多层前向神经网络的谐波检测方法

谐波幅值和相位是有源滤波中的两项关键检测参数,两者均可由人工神经网络实现非线性映射。提出了一种用多层前向神经网络(MLFNN)来同时实现对两项参数进行测量的方法,并构造了一隐层采用正切函数,输出层采用线性函数的三层前向神经网络来进行仿真,以3次谐波为例阐述了该神经网络的训练方法和训练样本的组成。利用Matlab提供的工具箱,先用训练样本对神经网络进行训练,然后测量构造的未训练样本,其结果验证了方法的有效性。与传统FFT谐波检测方法的仿真比较表明:该方法在实时谐波检测中具有较高的精度和灵活性,且对采样数目没有严格限制,离线训练好的MLFNN可以适用于谐波源固定的场合。

多层前向神经网络的新型二阶学习算法

提出了多层前向神经网络的新型二阶递推学习算法 .该算法不仅能使网络各层误差而且使二阶导数信息因子反向传播 .证明了新算法等价于Newton迭代法并且有二阶收敛速度 .它实现了Newton搜索方向和Hessian阵逆的递推运算 ,其计算量几乎与普通递推最小二乘法相当 .由算法性能分析证明新算法优于Karayiannis等人的二阶学习算法 .

多层前向网络的随机学习新算法及其工业应用

多层前向网络的随机学习新算法及其工业应用戴连奎马龙华李晓东（浙江大学工业控制技术研究所杭州３１００２７）关键词多层前向网络，学习算法，催化裂化装置．收稿日期１９９５－０３－３１１引言许多复杂的工业过程建模问题，如系统辨识、参数估计与函数逼近等，都可转...

多层前向神经网络的快速学习算法及其应用

针对目前多层前向神经网络学习算法存在的不足 ,提出一种多层前向神经网络的快速学习算法 ,它不仅符合生物神经网络的基本特征 ,而且算法简单 ,学习收敛速度快 ,具有线性、非线性逼近精度高等特性。以二杆机械手逆运动学建模作为应用实例 ,仿真结果表明该方法是有效的 ,其算法与收敛速度更优于 BP网络。

多层前向神经网络的自适应禁忌搜索训练

针对BP算法属于局部优化算法的不足,提出了一种新的全局优化算法——自适应禁忌搜索作为前向神经网络的训练算法。该算法通过邻域和候选集的相互配合,动态地调整候选集中分别用于集中性搜索与多样性搜索的元素个数,提高了算法运行的质量和效率。以经典的异或问题(XOR)为例,进行了对比研究。实验结果表明,该算法与BP算法相比明显提高了网络的收敛概率和收敛精度。

基于免疫遗传算法的多层前向神经网络设计

利用一种基于免疫功能的遗传算法,设计多层前向神经网络,用于实现多层前向神经网络结构的确定和权值空间的搜索。仿真实验结果显示该算法具有比遗传算法和动量BP算法更好的全局收敛性和快速学习网络权值的能力。

多层前向网络在非均匀介质参数识别中的应用

将多层前向神经网络技术和计算力学方法相结合应用于非均匀介质参数识别，提出了一种新的Ｓｉｇｍｏｉｄ函数，使前向网络能较好地实现全局最优逼近．采用有限元法获得神经网络训练所需的样本集，然后通过实测点的位移值用三层人工神经网络对非均匀介质进行参数识别．计算机数值实验表明，这种方法是有效的，所得结果具有相当的精度．

基于多层前向神经网络入侵检测系统的研究

针对目前入侵检测系统不能有效检测未知入侵行为的问题,根据神经网络的自学习和自适应性强的特点,采取了将多层前向神经网络与入侵检测系统相结合的方法,提出了一种入侵检测模型,给出了此模型中神经网络模块的改进训练算法。实验证明,此算法入侵检测率可达86％,最大误报率为3％,加大训练样本可进一步提高检测率,从而更有效地检测出未知的入侵行为;此算法实时性强,可有效提高神经网络的学习效率。

多层前向网络的逼近与泛化机制

对多层前向网络的实际逼近过程进行了系统的分析，对前向网络泛化问题的数学和逻辑根源进行了阐述。研究表明，多层前向网络的实际逼近过程所基于的数学空间和Ｋｏｌｍｏｇｏｒｏｖ等人关于理想网络映射能力的数学证明所基于的数学空间是不同的，它们是两类性质不同的逼近问题，具有完全不同的逼近机制。

基于多层前向神经网络的应力传感器故障诊断

文中采用多层前向神经网络 (BP网 )建立数学模型 ,在此基础上对应变片传感器进行故障诊断。

多层前向神经网络在电动转向系统中的应用

针对电动转向系统助力特性存在非线性的特点,应用多层前向神经网络,对电动转向系统全车速下的助力特性进行拟合。文中设计了多层前向神经网络结构,并采用基于综合目标函数的二阶学习算法对其进行离线学习,最后在电动转向综合试验台上实现在线控制。系统实现了全车速范围的非线性转向助力,克服了转向助力盲区。

对多层前向神经网络研究的进一步看法

本文从函数逼近的观点，讨论了样本量有限的重要性，简单回顾了学习理论的发展及其与神经网络的关系，指出学习理论对多层前向网络研究的重要性．

多层前向网络的动态结构设计方法及其在回弹预测中的应用

从构造的角度,开展神经网络的动态结构设计研究,提出一种基于泛化的多层前向网络动态结构设计方法,编制了相应的计算程序。在该方法中,基于Ockhams RAZOR原则,从一个较小的基本网络开始,通过动态增加隐结点或隐层,综合运用网络泛化能力的多种改进方法,改进的BP算法以及快速搜索机制和全局搜索机制相结合确定学习速率、动量系数、跳跃因子和正则化系数的方法,采用网络权值的局部和全局调节方案,对多层前向网络进行动态结构设计。上述方法在凸凹弧翻边回弹预测中的应用实例表明,运用该方法设计的网络具有较好的计算精度。

基于曲面形状误差的多层前向神经网络快速训练

如何显著提高多层前向神经网络训练速度一直是国内外共同关注的一个问题 ,而解决这个问题的关键在于充分了解导致现有网络训练算法训练效率低的根本原因 .文中首先提出了网络输出函数的曲面形状误差和偏移误差的概念 ,并将指导网络训练的平方和误差分解为这两种误差 ,进而分析了这两种误差的主要特性 ,给出了导致现有算法网络训练效率低的主要原因 ,最后提出了新的网络训练误差模型和具体的网络训练算法 .典型实例计算结果表明 ,与目前常用的网络训练算法相比 。

用多层前向网络设计雷达目标分类器

概略地讨论了基于高分辨力技术的雷达目标识别问题。针对雷达目标分类器的技术需要，着重研究了多层前向网络的分类性能，提出一种网络结构自适应策略。并用其设计了分类器，在转台成像的基础上，对飞机目标的类型识别问题进行了仿真研究。研究结果表明，小规模多层前向网络对基于距离像的雷达数据样本具有较好的推广识别能力，识别率在９０％上下。

多层前向神经网络权值初始化的研究进展

理想的初始值可以使多层前向网络模型有较快的收敛速度,同时避免陷入局部最小.对现有多种前向网络的权值初始化方法进行了综述,最后提出了若干待研究的问题.

多层前向神经网络及其研究

神经网络是人工智能应用的重要研究领域,因其出色的高度非线性映射能力、自组织和适应能力、记忆联想能力。已经成为机器学习研究的热点,本文详细讨论了多层神经网络的理论依据,泛化能力问题,总结神经网络结构优化与泛化能力的研究现状,最后提出了神经网络的未来发展。

基于进化规划的多层前向网络结构优化

基于进化规划(EP)方法,该文提出了设计多层前向网络拓扑结构和权值分布的一种新算法—EPANN算法。EPANN算法能同时进化网络的结构和连接权值(包括阈值),在进化过程中,强调父代和子代之间的行为联结,结构变异既有结点删除,又有结点增加,不同于单纯的删除算法或构造算法,且结点删除总是先于结点增加,保证了网络规模尽可能小而泛化能力尽可能强。