注意力改进的动态自组织模块化神经网络结构设计及应用

针对混沌时间序列的复杂性和非线性特点,提出了一种专注于此类挑战的新型神经网络模型,即注意力改进的动态自组织模块化神经网络模型(ADAMNN)。该模型基于分而治之的思想,通过注意力机制计算不同子网络与输入数据的相似度,并利用层次聚类自适应地划分子网络。随后,采用基于层次聚类的动态生长机制,对子网络簇进行增减,最后通过激活的子网络簇对输入样本进行在线学习;同时,结合传统的集成输出方法,提出了一种基于注意力机制的子网络加权集成输出方法。最终分别在Mackey-Glass时间序列、M-G快时变时间序列、非线性系统辨识、煤矿开采过程中在瓦斯浓度数据集上进行了实验,ADAMNN展现出了实时更新子网络中心、动态构建子网络簇的能力,而且与基于欧几里得空间的动态自适应模块化神经网络相比,预测准确度提高了约40%。

混沌机制在T-S模型模糊神经网络的系统辨识研究

出一种 T- S模型的模糊神经网络 ,在通常 BP算法的基础上 ,引进混沌机制来训练模糊神经网络的权值参数。将混沌 BP算法应用于非线性系统建模 ,以求获得全局意义下的最优逼近。仿真研究说明了其有效性和良好的性质。

基于优化神经网络和DGA的变压器故障诊断

人工神经网络技术已经在变压器的状态诊断得到应用,为了克服故障分析中BP神经网络存在的不足,提出了一种自适应混沌粒子群优化神经网络在变压器故障诊断的新方法。该算法通过进化速度因子和聚集因子调整惯性权重,并改进学习因子,引入混沌系统,构成混沌粒子群算法优化神经网络参数,有效地克服常规BP算法训练收敛速度慢、易陷入局部极小值等缺点。最后基于DGA对变压器故障实例分析仿真,对比常规变压器诊断方法结果表明,该算法能够提高诊断效率以及故障模式识别的准确性。

耦合动态方程的神经网络模型在水质预测中的应用

水质变化趋势的有效预测对于水资源综合管理具有重要意义。针对现有数据驱动模型不能有效反映研究对象物理机理的问题,提出了一种耦合动态方程的神经网络模型,并给出了动态方程的耦合方法。分别从数值算例和实际案例2个方面对传统网络模型和机理先验前馈网络模型进行了对比计算分析,拟合程度指标和计算误差指标都表明机理性先验知识的加入可以提高网络模型的预测精度和非线性拟合能力。同时,该模型在水质预测中具有适用性和合理性。在样本数量一定的情况下,机理性先验知识的耦合是进一步提高网络计算精度的有效途径。

基于混合神经网络和注意力机制的混沌时间序列预测

为提高混沌时间序列的预测精度,提出一种基于混合神经网络和注意力机制的预测模型(Att-CNNLSTM),首先对混沌时间序列进行相空间重构和数据归一化,然后利用卷积神经网络(CNN)对时间序列的重构相空间进行空间特征提取,再将CNN提取的特征和原时间序列组合,用长短期记忆网络(LSTM)根据空间特征提取时间特征,最后通过注意力机制捕获时间序列的关键时空特征,给出最终预测结果.将该模型对Logistic,Lorenz和太阳黑子混沌时间序列进行预测实验,并与未引入注意力机制的CNN-LSTM模型、单一的CNN和LSTM网络模型、以及传统的机器学习算法最小二乘支持向量机(LSSVM)的预测性能进行比较.实验结果显示本文提出的预测模型预测误差低于其他模型,预测精度更高.

双混沌神经网络及其在优化问题中的应用

分析了三种现有的混沌神经网络模型的优化性能,针对目前混沌神经网络收敛率不高和搜索时间较长的问题提出了一种双混沌神经网络。它不同于以往的混沌神经网络改进方法,不是延长退火时间或改变混沌程度来提高网络性能,而是通过混沌迭代搜索使混沌神经网络在有限步内找到全局最优解的初值来提高收敛率与收敛速度。这种方法能使混沌神经网络在应用中具有更好的全局优化能力,并且可以缩短混沌神经网络的搜索时间,对旅行商问题求解的仿真对比和函数优化问题的仿真,说明了新方法比现有方法具有更好的收敛率和更短的搜索时间。

改进混沌粒子群的动态模糊神经网络参数优化及应用

动态模糊神经网络(DFNN)的性能和学习的稳定性取决于其预设参数的选择,针对DFNN多参数优化问题,提出了改进混沌粒子群优化算法,并将其应用于DFNN神经网络预设参数寻优,以获取最佳参数组合.实验结果表明,该方法能够快速有效地提取DFNN的最优参数组合,具有精度高、收敛快、迭代次数少等特点;利用改进混沌粒子群的动态模糊神经网络构建煤与瓦斯突出预测模型,具有良好的建模效果和更高的预测精度.

混沌神经网络模型参考自适应控制器设计

研究了非线性的神经网络模型参考自适应控制器设计问题。将混沌机制引入常规BP算法,利用混沌机制固有的全局游动,逃出权值优化过程中存在的局部极小点,解决了网络训练易陷入局部极小点的问题。通过训练神经网络模型参考自应用控制器和辨识器,完成了对一类复杂离散非线性系统的控制。给出了具体的算法步骤。仿真结果表明了混沌BP算法优于常规BP算法。有效地提高了控制精度和适时性。

基于改进VMD和注意力机制的混沌时间序列预测

采用神经网络预测混沌时间序列时,已有研究忽略了混沌时间序列的物理信息混叠现象,难以满足预测时混沌时间序列特征提取的需求,而变分模态分解的结果受参数影响较大,合适的参数能够大大提升变分模态分解的效果,故提出一种模拟退火算法优化的自适应变分模态分解算法,解决参数选择问题。长短期记忆神经网络适用于时序信息的处理,但易忽略输入之间的关联信息,而自注意力机制可加强数据内部关联,有利于重要特征的提取,因此将自注意力机制融入长短期记忆网络。通过引入这两种方法形成融合神经网络模型,采用真实混沌时间序列验证了所提出方法的有效性。对比实验结果表明:所提出的融合神经网络模型可有效提取混沌时间序列中隐含的动力学特征,显著改进神经网络的注意力配比,有效解决预测中出现的超前现象,从而大幅提高了混沌时间序列预测的精确性和稳定性。

八面体变几何桁架机构综合的神经网络超混沌牛顿迭代法研究

神经网络是高度复杂的非线性动力系统,存在着混沌现象。通过消除暂态混沌神经元的模拟退火策略,产生了一种可以永久保持混沌搜索的混沌神经元。研究了由4个该混沌神经元连接的单向循环混沌神经网络拓扑结构和混沌神经网络中存在超混沌现象。应用神经网络超混沌系统产生牛顿迭代法的初始点,首次提出了基于神经网络超混沌的牛顿迭代法求解非线性方程组的新方法。八面体变几何桁架机构综合实例表明了该方法的正确性与有效性。

基于人工智能的光通信网络加密方案设计

针对光通信网络传输时,存在的数据被窃取以及通信光网络管理信息被篡改等风险,设计了基于人工智能的光通信网络加密方案,保证光通信网络安全。该方案结合光纤信道的信号传送方式,结合Sine和Logistic映射构建基于复合离散混沌系统,生成混沌序列,将序列中随机选取数据信号,作为人工神经网络的输入矢量,对其学习后输出序列以及实现明文置乱,混淆明文形成的信号,调整信号位置,通过分段异扩散技术调整信号值,输出置乱数据信息;利用生成的量化机制得出密钥流,完成信号加密,获取加密密文。测试结果表明:该方案混沌性较好,平均变化强度0.9以上,在不同频率的攻击下,抗攻击性能良好,具备较好的加密效果,能够保证加密后网络的安全性。

模糊混沌神经网络的构建方法研究

基于混沌神经网络的构建过程,提出一种构建模糊混沌神经网络(FCNN)的方法,在介绍了BP算法及混沌神经网络概念的基础上,给出了混沌BP算法,并提出了基于混沌BP算法的模糊混沌神经元的动态模型,从而构建模糊混沌神经网络。主要讨论所构建的模糊混沌神经网络的模糊特性、耗散性和李亚普诺夫性能指标。给出了模型具有模糊特性的几个特征,以及满足耗散性和混沌特性的条件。仿真实验表明所提出的模糊混沌神经元模型既具有模糊特性又具有混沌特性。

基于神经网络的柠檬酸蒸发过程的优化控制

针对柠檬酸双效蒸发器存在关联耦合严重、环境干扰不确定、非线性、时滞等现象,采用软测量技术建立其完成液浓度的神经元网络模型,在此基础上运用混沌优化法进行了稳态优化控制研究 结果表明,该方法易于程序实现、求解精度高,已取得较好的节能效果。

车用锂离子动力电池SOC时间序列的BP神经网络预测模型

由于车用锂离子动力电池系统具有高度复杂的非线性特性,很难建立准确的电路模型对荷电状态(State of Charge,SOC)进行实时在线获取。为此本文在分析并判别锂离子动力电池系统的混沌特性基础上,建立SOC时间序列的BP神经网络预测模型,并与二阶RC网络模型构成闭环控制系统。仿真结果表明,由二阶RC网络模型与BP神经网络模型构成的闭环控制系统具有较高的预测精度,较好的实时性及实际应用前景。

CSSA-DWNN算法的机器人焊接工艺参数优化研究

使用机器人进行焊接作业是提升工业生产效率的重要手段,合理的工艺参数是保障机器人焊接质量的关键。针对现有焊接工艺参数优化方法易陷入局部最小、训练时间长、拟合精度不高的问题,提出了一种混沌麻雀搜索算法优化双权值神经网络的新算法。该方法利用混沌麻雀搜索算法的全局搜索能力为双权值神经网络的方向权值、核心权值、幅值选取最优参数。提出了基于新算法的焊接工艺参数优化方法,建立焊接工艺参数与焊接质量之间的映射模型,获取最优焊接参数。分别采用模拟数据与实测激光焊接实验数据对所提方法进行测试,结果表明,混沌麻雀搜索算法优化的双权值神经网络迭代速度快、拟合精度高,较传统的双权值神经网络和径向基神经网络性能更优,适用于工业生产中焊接机器人工艺参数的高效设定。

基于时间注意力机制的时滞混沌系统参数辨识模型

针对时滞混沌系统在时滞未知条件下的参数及时滞辨识问题,提出基于时间注意力机制的时滞混沌系统参数辨识模型——PINN-TA。首先,采用时间注意力机制提取系统状态序列的关联特征,以实现对系统时滞的辨识;其次,利用循环神经网络(RNN)隐式地近似系统微分方程,形成关于系统参数的代数方程;最后,将代数方程的根作为参数辨识的结果。分别以时滞Logistic方程、Ikeda微分方程和Mackey-Glass混沌系统等典型时滞混沌系统作为待辨识系统,对PINN-TA模型和多种智能搜索算法进行对比实验。仿真结果表明,相较于人工雨滴算法(ARA)、混合布谷鸟搜索算法(HCS)、全局花朵授粉算法(GFPA)、元胞自动机鲸鱼算法(CWA)等现有智能搜索算法,PINN-TA模型对参数和时滞的辨识误差降低了90.31%~99.36%,且辨识耗时缩短至18.59~19.43 ms。可见,PINN-TA模型能够满足精度和实时性要求,为时滞混沌系统参数及时滞辨识提供可行的解决方案。

基于改进PSO-TSFNN的汽车保险欺诈检测模型

针对汽车保险欺诈检测的各影响因素存在复杂的非线性关系以及难以识别欺诈样本的问题,提出了一种改进粒子群算法(PSO)优化T-S模糊神经网络(TSFNN)的汽车保险欺诈检测模型,利用改进粒子群算法对TSFNN的网络系数和隶属度函数参数进行迭代寻优。针对传统的粒子群算法存在收敛速度慢,容易陷入局部最优的缺点,采用混沌映射产生初始种群,引入非线性时变惯性权重和自然选择机理构建了一种改进的粒子群算法。仿真结果表明:相比于传统的TSFNN、PSO-TSFNN,LDWPSO-TSFNN三种模型,改进PSO-TSFNN的汽车保险欺诈检测模型易于实现,具有更高的欺诈识别率、预测精度以及良好的鲁棒性。

基于双Sigmoid小波混沌神经网络的盲检测算法

针对在盲检测环境中暂态混沌神经网络的缺陷,提出了基于双Sigmoid小波混沌神经网络的盲检测算法,构建了新网络的模型和能量函数,并分别在同步和异步更新模式下证明了该网络的稳定性。新网络的设计思想体现在:采用墨西哥帽小波函数和Sigmoid函数的组合作为网络的激励函数,再为每个神经元加一个激活函数构成双Sigmoid。仿真表明:由于小波函数较强的逼近能力以及双Sigmoid快速收敛的特性,提出的算法显著地提高了网络的全局寻优能力和寻优精度。

基于改进果蝇优化BP神经网络的冲击地压预测

针对煤矿开采过程中存在非线性、强耦合性等特点导致的动力灾害难以预测的问题,引入一种候选解的线性生成机制(LGMS)、混沌搜索、粒子群算法(PSO)和模拟退火算法(SA)修正果蝇算法(IFOA),利用改进后的果蝇优化算法良好的搜索全局最优解的能力,自适应地调整BP网络的权值和阈值,建立了煤岩冲击地压灾害预测模型。以唐山开滦煤矿样本数据为例进行仿真验证,结果表明其鲁棒性和测量精度明显提高,且网络具有较强的收敛性能和优化能力。

基于混沌神经网络的盲检测改进新算法

针对Hopfield神经网络的多起点问题,提出了一种新的基于混沌神经网络的盲信号检测算法,实现了二进制移相键控信号盲检测.据此进一步提出双sigmoid混沌神经网络模型,构造了新的能量函数,且证明了该模型的稳定性,并对网络参数进行配置.仿真实验表明:混沌神经网络能够避免局部极小点且具备较强的抗噪性能,双sigmoid混沌神经网络则继承了其所有的优点,且其收敛速度更快,仅需更短的接收数据即可到达全局真实平衡点,从而降低了算法的计算复杂度,减少了运行时间.