前向神经网络隐含层节点数的一种优化算法

由于前向神经网络隐含层节点数的确定尚无理论依据,为此提出一种基于黄金分割原理的优化算法,首先确定网络隐含层节点数频繁出现的区间范围;将网络总误差作为试验结果,然后利用黄金分割法搜索其区间中的理想数值;兼顾高精度的需要,将隐含层节点数频繁出现的区间作拓展,可以求得逼近能力更强的节点数。算法分析和仿真例子表明,此优化算法是切实可行的,不仅能找到理想的隐含层节点数,而且能起到节省成本、提高搜索效率等功效。

关于BP网中隐含层层数及其节点数选取方法浅析

介绍了BP网络结构的重要性 ,总结了设计BP网时确定隐含层层数及其节点数的几种传统方法及一种新方法 ,此方法将矩阵分解理论引入BP网络结构优化中 ,为其指出了一个全新的思路及未来的发展趋势 .

基于属性核特征选择与隐含层节点数动态确定的BP神经网络模型

针对传统BP神经网络存在的容易产生过拟合、网络计算耗时长等问题,提出基于属性核特征选择与隐含层节点数动态确定的BP神经网络模型(AC-H-BPNN)。该模型以粗糙集中属性核为基点,通过属性重要度的判断,对神经网络输入项进行降维约简。针对隐含层节点数难以确定的问题,将二分分割法与经验公式相结合,精准确定隐含层节点数。并以水产养殖中对虾产量为例进行分析,实验结果表明,改进后的算法能够克服局部最小值问题,且预测结果准确度较高。

基于进退法的神经网络隐含层节点数的确定方法

在BP神经网络的拓扑结构中,输入节点和输出节点个数的确定取决于问题本身,构建神经网络的关键点就在于隐含层层数以及隐含层节点数的确定。如何合理的对网络的结构进行设计以及隐含层节点数的设定至今没有严格的理论指导,只能借助学者给出的经验公式并进行多次试验得以确定。针对该问题,提出了一种"进退法"算法可快速确定隐含层节点数的最优解区间。运用Matlab进行仿真实验,结果表明该算法在合理有效的基础上极大地提高了网络的运行效率。

基于自适应Elman神经网络的短期风电功率预测

针对BP神经网络动态性能的不足、适应性较差的问题,提出了基于自适应Elman神经网络的短期风电功率预测模型。通过对比不同隐含层数的Elman预测模型的预测误差,选取最小误差的隐含层数作为自适应Elman预测模型的隐含层数;根据不同的训练集和预测集的输入,自动调节Elman隐含层节点数,实现隐含层节点数的自适应,寻求具有最佳隐含层节点数的预测模型,提高了风电功率预测精度。

神经网络自适应噪声抵消系统的性能比较与仿真

线性自适应滤波算法(LMS、NLMS、RLS)对非线性噪声抵消效果较差。针对这一问题,研究神经网络自适应噪声抵消系统中不同隐含层神经元节点数、不同隐含层传输函数、不同神经网络学习算法以及不同信噪比原始输入下系统的噪声抵消性能。建立结构为单层隐含层,且输入层、隐含层和输出层节点数为1-N-1结构的神经网络模型。通过仿真分析,优化神经网络自适应噪声抵消系统中,隐含层节点数经验公式的参数取值。结果表明该系统中噪声抵消效果受到神经网络结构的影响;对于原始输入信噪比在2～10 dB的信号,参考输入与原始输入中噪声非线性相关;选择传输函数为tansig,神经网络隐含层节点数使用优化后的参数取值,输出信号信噪比提高了1. 0～1. 5 dB。

非线性逼近的自适应小波神经网络方法

利用小波空间中函数的多分辨率分解思想,构造了一种用于学习的小波网络模型。其中采用具有紧支撑集的尺度函数和小波函数作为激励函数,从理论上得到确定子网络隐层节点数目的依据,解决了传统学习网络隐层节点数难以确定的问题。模型包括初始的学习网络和在训练过程中不断并入的子网络。该模型通过自适应的并入新的子网络来不断提高学习精度,而对新子网络的训练不会影响到已训练成功的原网络的结构。实验也证明,这种网络不但可以精确的表示一般样本集的非线性关系,同样可以实现对混沌时间序列的精确学习。

遗忘因子随机配置网络驱动的自适应切换学习模型

随机配置网络(SCNs)具有通用逼近能力和快速建模特性,已成功应用于大数据分析。在SCN的基础上,块增量随机配置网络(BSC)使用块增量机制提高训练速度,但增加了模型结构的复杂程度。为了解决上述难题,提出遗忘因子随机配置网络(FSCN-Ⅰ和FSCN-Ⅱ)驱动的自适应切换学习模型(ASLM)。该模型利用正态分布配置隐含层节点的输入参数。FSCN-Ⅰ通过误差值和遗忘因子调整节点块的尺寸,提高训练速度。FSCN-Ⅱ引入节点移除机制降低模型结构的复杂程度。ASLM由FSCN-Ⅰ和FSCN-Ⅱ构成,两者根据自适应变化的边界随机切换以提高模型的训练速度,并在FSCN-Ⅰ的基础上降低模型结构的复杂程度。最后,通过基础数据集和工业实例,表明该方法的有效性。

基于自适应GA_Elman神经网络的短时交通预测

为了提高短时交通流量的预测精度和针对Elman神经网络容易陷入局部最小值的缺点,采用了自适应GA_Elman神经网络模型。通过对比Elman神经网络不同隐含层数模型的预测误差,选用最佳层数;通过输入的样本数自动选取隐含层的节点数来实现隐含节点的自适应,通过遗传算法优化模型的权值和阈值,从而获得最佳的预测模型。通过实例分析,与Elman神经网络、GA_Elman模型进行对比,表明模型具有更好的预测效果。

基于BP神经网络的刀片切割竹枝性能研究

为探究竹枝切割时的刀片切割性能影响因素,支持后续打枝装置的设计,开展竹枝切割刀片性能研究试验,通过单因素试验研究,利用切割阻力作为衡量标准,探究刀片切割性能与关键参数(刀片的滑动角、楔角和滑动速度)之间的相互关系。试验结果显示,随着刀片滑动角和楔角的减小,刀片切割性能呈现明显改善。同时,随着刀片滑动速度的增加,切割性能也呈现相应提升趋势。在多组实验中,采用不同的刀片滑切角度、楔角和滑切速度参数,对不同直径尺寸的竹枝进行切割,并收集了切割阻力的数据构成数据集,构建一个3层BP神经网络模型,研究了刀片切割性能与滑切角度、楔角以及滑切速度之间的关联,并应用相关模型进行了拟合和预测。在BP神经网络中,当隐含层节点数设定为9时,成功建立了刀片切割阻力模型,精准地预测了刀片切割过程中的阻力变化,对刀片切割竹枝性能研究具有一定参考价值。

基于和声搜索算法的极限学习机网络优化

极限学习机(ELM)因其运算速度快、误差小等优点而得到广泛的应用,但由于随机给定输入权值和阈值可能导致隐含层节点无效,因此,ELM通常需要增加隐含层节点数来提高预测精度,从而导致网络泛化能力不佳。为了解决上述问题,提出一种和声搜索算法的极限学习机网络(HS-ELM),采用和声搜索算法不断调整ELM输入权值和隐含层阈值矩阵选取最优以达到优化网络的目的。最后通过两种复杂度不同的非线性函数拟合加以验证。结果表明,传统ELM网络平均预测误差为0.31×10-3%和1.6%,HS-ELM的平均预测误差为0.01×10-3%和0.4%。证明和声搜索算法优化后的ELM网络在同等情况下所需的隐含层节点数和预测精度均优于传统ELM网络的。

BP神经网络在模拟非线性系统输出中的应用

概述了非线性系统输出模拟的方法 ,对 BP神经网络及改进的 BP算法作了简要介绍 .以 BP神经网络运用于激光焊接过程中模拟焊缝形状的典型例子 ,探讨了 BP神经网络在非线性系统模拟输出中的可行性 ;通过实例分析及比较测试结果 ,对

神经网络技术在涡流无损检测中的应用

人工神经网络技术在涡流检测中的应用越来越广泛。文中将多层神经网络BP算法应用到主极裂纹涡流无损检测的信号处理中,并对具体的神经网络的结构进行了设计,主要包括输入和输出层的设计,网络数据的准备,网络初始权值的选择,隐含层数及隐含层节点数的设计,网络的训练、检测及性能评价等。结果表明所设计的网络能够对主极裂纹信号进行有效的自动识别,而且识别的准确度很高。

基于小波神经网络的穆棱河作物生育期径流预测

为提高研究精度,在基本的小波神经网络基础上改变隐含层节点数选取方法,降低基本方法随机性和盲目性。将改进的小波网络与人工神经网络进行对比分析。结果表明,小波神经网络改进方法更适合穆棱河流域径流预测。

基于小波神经网络的高炉铁水含硅预报

采用结合小波包分析的特征提取及神经网络的非线性映射等特性的小波神经网络系统,实现高炉铁水中Si含量的预报和控制。原始操作信息采用灰关联分析预选,网络结构设计采用剪除法确定隐含层节点,采取自适应和加动量项调整学习速率等措施。结果表明,系统具有更高的学习精度和更快的收敛速度,当允许误差为±0.02时,命中率达到87.5%,并且减少了系统参数特征量,优化了系统辨识和模型建立过程。

粒子群算法优化神经网络结构的研究

针对BP神经网络初始权阈值确定的随机性和隐含层节点数的不确定性,通过利用十进制粒子群优化算法(DePSO)和二进制粒子群优化算法(BiPSO),同时优化神经网络的初始权阈值和结构。通过粒子群优化算法首先确定一个较好的搜索空间,然后在这个解空间里利用BP算法对网络进行训练和学习,搜索出最优解。通过函数拟合数值实验对该模型来进行训练和测试,相比其他算法,该模型可以获得较高的预测精度,结果表明该方法是可行的。

基于CS-GRU模型的短期负荷预测方法研究

针对门控循环单元(GRU)神经网络进行电力负荷预测时,其超参数选取困难等问题,提出一种布谷鸟搜索(CS)算法和GRU相结合的预测方法。研究发现,GRU的预测精度与超参数的设定有关,通过CS算法寻优GRU的超参数,包括迭代次数、学习率和隐含层节点数,节省了超参数选取时间,进一步提高了GRU的预测精度。最后,以河南某地区实例数据为例,在Python的TensorFlow框架下验证了预测方法的有效性。

GIS局部放电故障智能识别技术的研究

不同局部放电类型对GIS的绝缘性能的破坏程度不同,所以要进行局部放电类型的识别.为进行局部放电故障类型的识别,设计了GIS局部放电在线分析系统,并介绍了其系统构成以及数据分析流程;重点研究了样本的处理与神经网络模式识别器的关键参数的设定,测试结果表明,所设计的神经网络识别器实现了局部放电故障类型的识别,并且具有结构简单识别精度高的特点,这也为进行GIS的绝缘状态的评估提供了理论依据.

基于神经网络的结构损伤诊断的探讨

利用神经网络技术对框架结构的损伤位置和损伤程度进行了研究,用振动模态分析技术对组合结构、框架结构的动力参数进行计算,得出组合结构的各种单损伤情况和双损伤情况的各种组合的频率、竖向位移、水平位移变化数据,将这些数据和损伤位置、损伤程度之间的映射关系作为网络训练样本,用神经网络技术进行数值模拟,提出了修正隐含层节点数公式和优选振型向量的方法.说明了用低阶振型和经优选后的振型向量结合的方法进行组合结构、框架结构损伤诊断的可行性,并且用这个方法成功地解决对称结构难于判断对称损伤的难题.

基于不同ELM的西北旱区参考作物蒸散量模拟模型

参考作物蒸散量(reference crop evapotranspiration,ET0)的精准模拟是智慧灌溉、农田水分高效利用及水资源优化调度的重要依据。为有效提高气象资料缺乏情况下对西北旱区ET0的模拟精度,在西北旱区选取4个代表性站点,并以FAO 56 Penman-Monteith(P-M)模型的ET0计算结果为标准值,基于"sin"、"radbas"和"hardlim"3种激活函数构建27种极限学习机模型(extreme learning machine,ELM,分别记为ELM-sini、ELM-radj、ELM-hardk),并将其模拟结果与Hargreaves-Samani(H-S)、Makkink(MK)、Irmark-Allen(I-A)模型进行比较。结果表明:ELM-sin7(输入u2、Tmax和Tmin)的R2和NSE均大于0.96,RMSE小于0.35 mm/d,其GPI排名第4,模型模拟精度较高; ELM-rad5(输入Tmax、Tmin和n)和ELM-sin8(输入Tmax和Tmin)的R2和NSE分别大于0.78和0.76,RMSE小于0.93 mm/d; H-S、MK和I-A模型的R2和NSE分别小于0.77和0.63,RMSE大于1.00 mm/d,可见ELM-rad5和ELM-sin8模型精度明显高于相同输入下的其他物理模型;基于ELM-sin7探究隐含层节点数对模型精度的影响发现隐含层节点数为60～100时模型精度最高;基于ELMsin7模型进行可移植性分析发现,ELM-sin7在西北旱区内各训练站点和模拟站点组合下模拟精度较高。因此,在相同气象因子组合输入下,ELM-sini和ELM-radj模型模拟精度明显高于ELM-hardk,其中ELM-sin7模拟精度较高适用于西北旱区气象因子较少时的ET0模拟;而较传统物理模型,仅有温度和日照时数时ELM-rad5模型在西北旱区适用性更好,仅有温度时ELM-sin8模型在西北旱区适用性更强。