基于软阈值降噪的脉冲卷积神经网络轴承故障诊断方法

针对工业场景下滚动轴承信号易受噪声干扰,导致故障诊断准确率低和稳定性差的问题,本文提出一种基于软阈值降噪的脉冲卷积神经网络诊断方法。该方法使用软阈值滤波去噪,运用带时间标签的卷积层处理二维信号,增强动态特征提取能力。同时,通过引入IF和LIF神经元实现对时域和频域信息的联合编码,并采用替代梯度法进行端到端训练。实验结果显示,在信噪比为6dB时,所提方法的诊断准确率达100%,在信噪比为-6dB时诊断准确率达77.33%,优于其他常用方法,表明所提方法在噪声下具有良好的诊断效果和稳定性。

基于动量梯度下降神经网络的岩爆预测方法

为了弥补现有BP神经网络(传统误差逆传播算法训练的多层前馈网络)岩爆预测模型的不足,选取应力系数(σ_(θ)/σ_(c))、脆性系数(σ_(c)/σ_(t))和弹性能量指数(Wet)为模型预测指标,收集46组实例样本数据集,对传统的BP神经网络进行优化,建立岩爆预测的动量梯度下降(BPM)神经网络模型,总体预测准确率达84.78%,优化效果良好。最后将模型应用于3个实例工程中,预测结果与现场结果吻合。

递归pi-sigma神经网络的带惩罚项的梯度算法分析

传统的梯度算法存在收敛速度过慢的问题,针对这个问题,提出一种将惩罚项加到传统误差函数的梯度算法以训练递归pi-sigma神经网络,算法不仅提高了神经网络的泛化能力,而且克服了因网络初始权值选取过小而导致的收敛速度过慢的问题,相比不带惩罚项的梯度算法提高了收敛速度。从理论上分析了带惩罚项的梯度算法的收敛性,并通过实验验证了算法的有效性。

基于双深度输入凸神经网络多模型的中间点过热度预测控制

新能源大量并网,超临界火电机组参与调峰容易造成中间点过热度较大波动,从而导致过热蒸汽超温等问题。为较好控制中间点过热度达到稳定,提出了一种基于双深度输入凸神经网络多模型(muti-DDICNN model)的中间点过热度预测方法,分别训练了不同预测步长下子模型,构建了中间点过热度状态预测网络(SPNN)和误差预测网络(EPNN)。利用此预测网络凸性质,设计了一种基于双深度输入凸神经网络多模型预测控制器(DDICNN-MPC),将控制问题转化为凸优化问题,求取控制矩阵对目标函数的雅可比矩阵,采用梯度下降法计算控制矩阵最优解。仿真结果表明,DDICNN-MPC能快速平稳地跟踪中间点过热度设定值,且稳态误差较小,具有较好的调节能力。

线性矩阵方程的梯度法神经网络求解及其仿真验证

介绍一种基于梯度法的Hopfield神经网络在线求解线性矩阵方程,并且探讨其MATLAB仿真技术以验证该神经网络在求解线性矩阵方程问题时的准确性和有效性。仿真过程中用以下几种重要技术手段:①Kroneck-er乘积,用来将描述该神经网络的矩阵微分方程(MDE)转化为向量微分方程(VDE),即标准的给定初始值常微分方程(ODE);②MATLAB指令"ode45",用来仿真上述转化后的给定初始值常微分方程;③各种激励函数的编码实现,用以检验该神经网络系统的收敛性和存在实现误差时的鲁棒性。仿真结果同理论分析的对应与一致,进一步证实基于梯度法的Hopfield神经网络在求解固定系数线性矩阵方程中具有很好的效验。

一种基于共轭梯度法的广义单隐层神经网络

单隐层前馈神经网络是一种高效且结构简单的神经网络,它的一种典型的学习算法就是误差反向传播(error back propagation,BP)算法.这种算法基于最速下降法原理,主要缺点是学习速度过慢.超限学习机(extreme learning machine,ELM)极大地优化了单隐层神经网络的学习速度,却需要更多的隐层单元来达到与BP网络相当的效率,这不可避免地使网络结构冗余、测试时间变长.受到一种结合了ELM和最速下降法思想的USA(upper-layer-solution-aware)算法的启发,提出一种基于共轭梯度法的单隐层神经网络快速算法,并把它应用于不同数据库中.试验结果表明,在相同网络结构情况下,本算法的效率要优于ELM和USA算法.

前馈神经网络的一种简单共轭梯度学习算法

针对前馈神经网络学习误差函数维数高、计算复杂度大的特点 ,对梯度下降BP算法加以改进从而构造出一种简单共轭梯度下降算法 (MPARTAN算法 ) .该算法计算复杂度不高于动量BP算法 ,与FR共轭梯度法相比 ,该算法的稳定性好 ,又具有共轭梯度法的优点 ,收敛速度快 .文中给出了该算法的收敛定理 ,并用 2个实验例子比较了动量BP算法。

多层神经网络共轭梯度优化算法及其在模式识别中的应用

将神经网络总体平均误差作为目标函数 ,以待求的神经网络权值和阈值作为设计变量 ,通过设计变量合理排序与分配 ,提出多隐层多层神经网络权值和阈值计算的高精度真实共轭梯度最优化算法·与BP算法和梯度优化算法相比 ,既能实现每步迭代在搜索方向上获得最优步长保证目标函数递减 ,又能克服在目标点附近的振荡现象·编制出神经网络权值和阈值计算的通用程序 ,给出神经网络合理结构选择的基本原理·通过足球机器人位置分析算例的神经网络分析和模式识别 ,表明所提出算法的有效性和实际应用价值·

基于随机梯度法的选择性神经网络二次集成

针对使用贪心法、遗传算法等方法实现选择性神经网络集成时出现的“局部最小点”和“过拟合”问题,提出了一类基于随机梯度法的选择性神经网络二次集成方法。理论分析和实验表明,与上述选择性神经网络集成方法相比,该方法易于实现且效果明显。

RBF神经网络的梯度下降训练方法中的学习步长优化

梯度下降法是训练ＲＢＦ神经网络的一种有效方法。和其他基于下降法的算法一样，ＲＢＦ神经网络的梯度下降训练方法中也存在学习步长的取值问题。本文基于误差能量函数对学习步长的二阶Ｔａｙｌｏｒ展开，构造了一种优化学习步长的方法，进行了较详细的推导：实验表明，本方法可有效地加速梯度下降法的收敛速度、提高其性能。该方法的思想可以用于其他基于下降法的学习步长的优化中。

基于SGD算法优化的BP神经网络围岩参数反演模型研究

为充分利用现场监测数据所反馈的围岩变形信息,对岩体力学参数进行反演,以贵州省剑河至黎平高速公路TJ-1标段牛练塘隧道为工程背景,选择围岩弹性模量、黏聚力、泊松比及内摩擦角为影响因素,通过设计正交试验及有限元模拟,获取25组围岩物理力学参数组合及其对应的拱顶沉降值和拱腰收敛模拟值。基于随机梯度下降算法(stochastic gradient descent algorithm,简称SGD算法)对传统BP神经网络模型进行改进,建立以拱顶沉降值和拱腰收敛值为输入参数,以围岩弹性模量、黏聚力、泊松比及内摩擦角为输出值的基于SGD算法优化的BP神经网络模型,实现围岩参数的反演分析。将反演所得的围岩参数代入有限元模型,验证优化BP神经网络模型的可行性和准确性。最后,分析围岩变形及初期支护受力特性并给出施工建议。结果表明:1)基于SGD算法优化的BP神经网络模型计算得出的拱顶沉降值、拱腰收敛值、拱肩收敛值与现场实测值的相对误差率在2.50%~24.01%,均低于传统BP神经网络模型计算得出的误差率(11.51%~93.71%),验证优化BP神经网络模型的可行性和优越性;2)上、下台阶拱脚处的喷层和锚杆有应力集中现象,有破坏风险,建议施工中加强拱脚支护,防止发生工程事故。

Pi-sigma神经网络的乘子法随机单点在线梯度算法

在利用梯度算法训练Pi-sigma神经网络时,存在因权值选取过小导致收敛速度过慢的问题,而采用一般罚函数法虽然可以克服这个缺点,但要求罚因子必须趋近于∞且惩罚项绝对值不可微,从而导致数值求解困难。为克服以上缺点,提出了一种基于乘子法的随机单点在线梯度算法。利用最优化理论方法,将有约束问题转换为无约束问题,利用乘子法来求解网络误差函数。从理论上分析了算法的收敛速度和稳定性,仿真实验结果验证了算法的有效性。

基于递归模糊神经网络的鲁棒BP算法研究

讨论了一种基于递归模糊神经网络的鲁棒BP算法的实现。该算法采用极大似然法修正传统BP算法的指标函数 ,利用M估计器和自举算法在线估计样本的误差分布 ,适合于动态非线性系统的辨识 ,逼近精度高 ,收敛速度快 ,在小噪声扰动时处于稳定 ,对过失误差有很强的鲁棒性。

共轭梯度法优化的BP神经网络焦炭质量预测模型

针对目前焦炭质量预测线性方法的现状及不足,建立了共轭梯度法优化的BP神经网络焦炭质量预测模型。该模型既能满足焦炭质量预测的非线性关系,又克服了神经网络收敛速度低、易陷入局部极小值的缺点。模型的实例验证分析表明,共轭梯度法优化的BP神经网络焦炭质量预测模型有较好的适应性和预测精度,具有一定的实际应用价值。

基于正交校正共轭梯度法的快速神经网络学习算法研究

前馈神经网络由于具有理论上逼近任意非线性连续映射的能力,因而非常适合于非线性系统建模及构成自适应控制。为了提高前馈神经网络的权的学习效率及稳定性,该文提出一种基于正交校正共轭梯度优化方法的快速神经网络学习算法,通过与其它学习算法(如:BP算法、变尺度法、用差商近似代替导数的Powell法等)的比较,经仿真试验表明,本算法是一种高效、快速的学习算法。

梯度法与BP神经网络的结合在机械优化设计中的应用

利用传统的优化设计方法 ,为BP神经网络的学习提供足够样本集 ,通过正向传播和误差反向传播建立BP神经网络的拓扑结构 ,实现了将BP神经网络应用于机械优化设计中 ,提高了优化的收敛速度。

基于共轭梯度法的改进型BP神经网络PID控制算法

针对常规BP神经网络PID控制器存在收敛速度慢和易陷入局部极小的缺点,提出一种基于共轭梯度算法的改进型BP神经网络PID控制器,采用Polak-Ribiere线性搜索方法,对传统BP神经网络PID控制器进行改进,加快了网络训练速度,避免网络陷入局部极小。在Matlab平台下实现算法程序,仿真结果表明该改进控制方法的有效性。

梯度神经网络求解Sylvester方程之MATLAB仿真

近年来,国内外学者发表了许多关于线性代数问题实时求解的方法,其中包括了矩阵求逆和线性方程组的并行求解方法。在研究了基于梯度法的递归神经网络用于Sylvester矩阵方程的实时求解后,通过使用Kronecker乘积和矩阵向量化等技术进行了MATLAB仿真从而验证了相关理论分析。计算机仿真的结果证实了这类神经网络方法在解决Sylvester矩阵方程中的有效性和高效率(特别是在使用幂S型激励函数的情况下)。

基于共轭梯度法的多层神经网络训练方法

建立多层人工神经网络的最优化求解方法,以多层神经网络总体平均误差为目标函数,以权值和阈值作为设计变量,采用共轭梯度法对网络的权值和阈值进行优化计算,完成神经网络训练的方法。将优化原理应用到多层神经网络权值和阈值的计算问题,实现网络权值和阈值的快速计算,为分析神经网络的合理结构提供了必要条件。

基于块坐标下降法的神经网络学习算法

针对当前一阶优化算法收敛速度慢,对学习率依赖性强和二阶优化方法复杂度高等问题,利用神经网络固有的可分性,提出递归最小二乘与梯度下降的混合算法(Hybrid Recursive Least-Squares with Stochastic Gradient Descent, HRLSGD),将原本复杂的网络模型分解为更易解决的低维优化问题。实验结果表明,HRLSGD的收敛速度优于主流的一阶优化算法,对于学习率的鲁棒性更高。