分布时滞双向神经网络的周期解的渐近稳定性(英文)

利用重合度连续定理和适当的李亚普诺夫泛函。

基于双向神经网络的图像分类算法

卷积神经网络需要把特征矩阵转换成向量才能进行全连接,对特征空间结构信息造成破坏。针对这个问题,提出一种基于双向神经网络的图像分类算法。利用双向(Two-Directional)层替代原先网络框架中的全连接层并进行端到端的训练,减少特征空间结构信息的损失,提出一种扩展BP算法,用于求解双向神经网络的学习问题。改进CaffeNet及vgg-16模型并在Caltech-256和Oxford Flower-102数据集上进行图像分类对比实验,实验结果表明,在相同的实验条件下双向神经网络算法能有效提升图像分类的性能。

基于双向神经网络的聚类器

文章提出一种基于双向神经网络的不同粒度的聚类器，它具有算法简单、权系数无需计算和软件模拟效果好等优点，是一种较好的聚类算法.

基于双向神经网络的民航陆空通话语音识别研究

在民用航空领域中,陆空通话是管制员进行有效管制的主要通讯手段,保障通话的准确性是维护空中安全、提高飞行效率的关键点。根据我国民航陆空语音通话,采用Bi-RNN网络模型分析陆空语音通话中上下文相关信息和语音信息特征模型中的特征参数,以连接时序分类为目标函数,进行语音声学模型训练。实验结果表明,Bi-RNN网络模型识别效果优于传统的DNN网络模型;通过逐步调整双向循环神经网络模型中隐藏层神经元数量以及采用迁移学习的方法可以有效降低错误率。

基于改进灰狼算法优化双向长短时记忆神经网络的水冷壁壁温预测

提出一种基于改进灰狼(MGWO)算法优化双向长短时记忆(BiLSTM)神经网络的水冷壁壁温预测模型,灰狼算法采用非线性因子调整策略、自适应位置更新策略和动态权重修改策略进行改进以提升算法的全局寻优能力,利用改进灰狼算法优化BiLSTM模型的隐藏层数量、学习率和正则化参数以提高模型的预测精度,采用新疆某电厂的数据进行预测仿真,结果表明:改进后的算法预测精度更高,在机组升、降负荷时,均可以预测到壁温的变化趋势,模型的平均均方根误差相比于长短时记忆(LSTM)神经网络、BiLSTM模型分别降低了9.86%和3.69%,且可以提前预测到水冷壁壁温的超温情况,对于预防水冷壁超温有重要意义。

基于双向多层门控循环神经网络的奶牛乳脂率预测模型研究

通过对奶牛乳脂率进行数据预测以及结合随机森林算法对环境数据进行精准特征选择,确定了对乳脂率影响较大的环境因素。在此基础上,提出了将随机森林算法与双向多层门控循环神经网络相结合的乳脂率预测模型(RF-BiGRU)并进行了相关实验。结果表明,该模型能够提高预测的准确性及效率。

基于贝叶斯优化-卷积神经网络-双向长短期记忆神经网络的锂电池健康状态评估

准确估计电池健康状态是设备稳定运行的关键。针对当前健康状态研究中容量难以直接测量、估计模型调参费时等问题,提出基于多健康特征的贝叶斯优化(BO)算法优化卷积神经网络(CNN)与双向长短期记忆(BiLSTM)神经网络预测模型。基于NASA公开锂电池数据,提取3种健康特征。将CNN与BiLSTM结合,提高时间序列数据处理能力,加入BO算法自动搜寻最优参数集,避免组合网络模型陷入局部最优,从而减少评估时间。对比分析相关神经网络模型,结果表明所提方法预测准确度最高,可有效估计锂电池的健康状态,平均绝对误差和方均根误差均在1%以内。

一种采用记忆神经网络和曲线形状修正的负荷预测方法

针对分布式电源和新型负荷容量累积造成负荷影响因素多元化和不确定性特性增强的问题,文中提出一种采用记忆神经网络和曲线形状修正的负荷预测方法。在负荷峰值预测中,采用最大信息系数计算负荷峰值与影响因素的非线性相关性,实现对输入特征的筛选;综合考虑负荷峰值序列的长短期自相关性和输入特征与负荷峰值的不同程度相关性,结合Attention机制和双向长短时记忆(bidirectional long short-term memory,BiLSTM)神经网络建立负荷峰值预测模型。在负荷标幺曲线预测中,通过误差倒数法组合相似日和相邻日,建立负荷标幺曲线预测模型;针对预测偏差的非平稳特征,利用自适应噪声的完全集成经验模态分解和BiLSTM网络建立误差预测模型,对曲线形状进行修正。应用中国北方某城市的区域电网负荷数据为算例,验证了所提模型的有效性。

应用双向长短时记忆神经网络的微地震信号降噪方法

地面微地震监测数据噪声干扰强、信噪比低,对后续的微地震初至拾取、成像定位等产生严重影响。因此,微地震信号降噪是微地震数据预处理中的关键步骤,而常规降噪方法常依赖于算法参数的设置,不具备普遍的适用性。为此,提出了一种应用双向长短时记忆(Bi-LSTM)神经网络的微地震信号降噪方法。首先,使用合成信号和实际信号构造样本数据集,对构建的Bi-LSTM模型进行训练和测试,得到降噪效果最好的模型;然后,利用训练好的Bi-LSTM网络对不同信噪比的合成信号和川渝地区油气井的实际压裂监测微地震信号进行降噪处理。降噪后的实际微地震信号用于地震发射层析成像,并分析图像以实现地面微地震信号的震源定位。实验分析结果表明,该方法能够有效降低微地震信号中的各类噪声,提高信噪比,从而提高震源定位的精度。与传统算法相比,该方法不需要参数调整,具有良好的泛化特性。

基于鲸鱼优化混合神经网络的滑坡位移预测

针对静态机器学习模型难以有效反映滑坡的动态演化特性,且存在时序过长时历史数据遗忘导致位移预测结果不稳定的问题。提出一种基于鲸鱼优化卷积神经网络(convolutional neural networks, CNN)和双向门控循环神经网络(bidirectional gated recurrent neural network, BiGRU)的滑坡位移动态预测方法。首先对滑坡影响因子进行特征筛选,构建数据集,建立CNN-BiGRU网络模型,使用鲸鱼优化算法(whale optimization algorithm, WOA)对模型进行超参数寻优,使用CNN网络模型从滑坡数据中提取潜在的特征向量,将特征向量以时间序列的形式输入BiGRU模型中,利用其处理时间序列数据的优势,完成滑坡位移预测。结果表明:所提出模型得到的滑坡位移预测精度较高,与未优化的CNN-BiGRU相比均方根误差(root mean square error, RMSE)下降了0.030 5 mm。

基于生成对抗网络和混合时空神经网络的入侵检测

针对网络入侵检测领域存在检测准确率低的问题,研究异常流量样本少和分类器性能不佳时的入侵检测模型,提出一种基于改进生成对抗网络和混合时空神经网络的入侵检测模型。改进生成对抗网络通过学习异常流量样本的分布特性,生成具有特定标签的人工异常流量样本;融合卷积神经网络和双向长短时记忆神经网络提取攻击流量的时空融合特征,利用注意力机制对时空融合特征进行加权,构建混合时空神经网络对网络流量进行分类预测。在UNSW-NB15数据集上对所提模型进行仿真实验,准确率和F1分数分别为92.93%和94.81%,表明所提模型能够有效改善原始数据集中的类别不平衡性问题,提高对异常流量样本的检测能力和网络入侵的检测准确率。

基于深度双向门控循环神经网络的制粉系统故障预警

为构建鲁棒性较强的状态估计模型,结合堆叠自编码器思想,提出一种基于深度双向门控循环神经网络的制粉系统状态估计及故障预警方法。首先,选取制粉系统正常运行状态变量历史数据作为深度双向门控循环神经网络的训练输入,然后利用网络强大的特征学习能力,建立制粉系统正常状态估计模型。采用滑动窗口法构建制粉系统状态监测指标,确定指标阈值,利用火电厂制粉系统历史运行数据进行仿真。结果表明:相比于其他方法,深度双向门控循环神经网络模型具有更好的估计性能,且能够在故障发生前及时发出预警信息,达到早期故障诊断的目的。

双向长短时记忆神经网络在滩坝砂储层岩性识别中的应用

研究区致密滩坝砂储层油气储量丰富,勘探开发潜力较高,但存在埋藏深、单层厚度薄、渗透率超低、孔隙结构复杂以及单井自然产能极低的特征,储层划分与岩性识别困难。针对测井数据具有纵向时序连续的特点,构建一个双向长短时记忆神经网络(BiLSTM)岩性识别模型,采用随机森林方法对常规测井数据等参数进行特征选择,将选择的参数作为输入变量训练BiLSTM模型。应用该模型对测试集的井资料进行验证,结果表明模型的岩性识别准确率为0.86,取得了良好的应用效果,证明了BiLSTM模型适用于滩坝砂储层岩性识别。

基于DBO-VMD和IWOA-BILSTM神经网络组合模型的短期电力负荷预测

新能源在现代电力系统中占比不断提高,其负荷不规律性、波动性远大于传统电力系统,这就导致负荷预测精度不高。针对这个问题,提出了蜣螂优化(dung beetle optimizer,DBO)算法优化变分模态分解(variational mode decomposition,VMD)与改进鲸鱼优化算法优化双向长短期记忆(improved whale optimization algorithm-bidirectional long short-term memory,IWOA-BILSTM)神经网络相结合的短期负荷预测模型。首先利用DBO优化VMD,分解时间序列数据,并根据最小包络熵对各种特征数据进行分类,增强了分解效果。通过对原始数据进行有效分解,降低了数据的波动性。然后使用非线性收敛因子、自适应权重策略与随机差分法变异策略增强鲸鱼优化算法的局部及全局搜索能力得到改进鲸鱼优化算法(improved whale optimization algorithm,IWOA),并用于优化双向长短期记忆(bidirectional long short-term memory,BILSTM)神经网络,增加了模型预测的精确度。最后将所提方法应用于某地真实的负荷数据,得到最终相对均方根误差、平均绝对误差和平均绝对百分比误差分别为0.0084、48.09、0.66%,证明了提出的模型对于短期负荷预测的有效性。

基于Bi-LSTM神经网络的短文本敏感词识别方法

为了准确识别与处理敏感词,针对分词时延较高、识别精度较低的问题,提出基于双向长短期记忆(Bi-LSTM)神经网络的短文本敏感词识别方法。分析敏感词库,将敏感词库划分为两大类、三个等级,预处理短文本干扰信息(特殊字符、繁体字与拆分汉字),引入Bi-LSTM神经网络构建短文本分词模型,二次训练确定最佳参数,反复计算词语的敏感性数值,通过敏感性对比函数,提取短文本敏感词,并匹配敏感词库,确定敏感词的类别与等级,实现短文本敏感词识别。实验结果表明:在不同实验组别下,应用本文方法获得的短文本分词时延均低于给定最大限值,短文本敏感词识别精度高于84.42%,应用性能较佳。

基于CNN-BiLSTM混合神经网络的雷达信号调制方式识别

针对具有时频特性的雷达信号,传统的雷达信号识别方法已经无法满足对信号类型精准识别的需求,因此需要通过采集并分析雷达信号脉内的时频特征实现对目标雷达的具体信息进行有效评估。设计了一种卷积-双向长短时记忆(Convolution-Bidirectional Long Short-Term Memory,CNN-BiLSTM)混合神经网络模型,主要通过BiLSTM的时序记忆特性深度挖掘雷达信号的时域特征,结合权值共享特性和CNN层捕获雷达信号的时频特征,再利用二者信号特征联合完成对雷达信号调制方式的识别。通过对比实验验证,所提方法对若干种雷达信号的识别具有较高的准确度,平均值达到95.349%;优于只使用单一特征的网络和传统算法,具有良好的抗噪声能力。

基于联合注意力机制和一维卷积神经网络-双向长短期记忆网络模型的流量异常检测方法

针对流量数据集中类别不平衡限制了分类模型对少数类攻击流量的检测性能这一问题,该文提出一种基于联合注意力机制和1维卷积神经网络-双向长短期记忆网络(1DCNN-BiLSTM)模型的流量异常检测方法。首先在数据预处理过程中利用BorderlineSMOTE方法对流量数据不平衡训练样本预处理,使得各类流量数据均衡,有助于后续模型对各类数据的充分训练。然后设计联合注意力机制和1DCNN-BiLSTM的模型对流量数据进行训练,提取流量数据的局部和长距离序列特征并进行分类,通过注意力机制将对分类有用的特征按其重要性赋予权值,提高对少数攻击类的检出率。实验结果表明,同几种现有方法相比,该文方法对NSL-KDD和CICIDS2017数据集的检测准确率最高(可达93.17%和98.65%),对NSL-KDD数据集中的提权攻击(U2R)攻击流量的检出率至少提升13.70%,证明了该文方法提升少数类攻击流量检出率的有效性。

基于离散双向联想记忆神经网络的多元通信系统

针对噪声导致非线性数字通信系统传输信号的差错概率增加的问题,提出一种基于离散双向联想记忆(BAM)神经网络的多元通信系统。首先,根据需要传输的信号,选取适当的神经元数量和记忆向量,计算权值矩阵,并生成BAM神经网络;然后将多元信号映射为具有调制幅度的初始输入向量并不断输入系统,通过神经网络进行循环迭代,并向各神经元添加高斯噪声,之后按照码元间隔采样输出并在无损信道中传输,接收端依据判决规则译码判决;最后在图像处理领域,利用所提系统传输图像压缩后的数据并解码恢复图像。仿真结果表明,对于码元间隔较大的弱调制信号,随着噪声强度的增加,差错概率先减后增,随机共振现象比较明显;差错概率还与信号的进制数呈正相关关系,与信号幅度、码元间隔和神经元个数呈负相关关系,某些条件下,差错概率可以达到0。以上结果表明BAM神经网络可以通过噪声改善数字通信系统的可靠性。另外,解码恢复图像的相似度显示了适量噪声对图像恢复效果的改善,扩展了BAM神经网络和随机共振在图像压缩编码中的应用。

基于改进双向循环神经网络的变压器故障诊断模型研究

针对传统神经网络对变压器时序关系挖掘缺失、分类泛化性差、对异构数据分类准确率低的问题,提出了一种基于改进的双向循环神经网络的变压器故障诊断模型。该模型通过双向循环神经网络进行特征提取,将前后时刻的特征进行融合,采用多核学习支持向量机方法对特征数据进行分类,在多核学习支持向量机中进行核融合,从而提高特征数据分类的准确性。数值仿真分析了时序通道对长短时序网络诊断性能的影响,以及多核学习对支持向量机泛化能力和对异构数据处理能力的影响,通过变压器故障数据分类试验验证了基于多核学习支持向量机的双向循环神经网络模型的正确性和有效性。结果表明,基于多核学习支持向量机的双向循环网络诊断性能较好,与几种常用的神经网络相比,模型预测正确率更高。

基于双向图神经网络的变压器故障知识图谱构建

变压器故障诊断知识图谱对电力系统高效运行、有序维护具有重要的指导意义。提出一种自顶向下的知识图谱构建方法。首先根据智能运维的需求构建知识图谱本体层,集成了变压器故障现象、原因、位置等信息;然后根据本体层对文本进行标注,形成训练数据集;构建了一个实体关系联合提取模型,用堆叠双向长短期记忆网络提取字符依赖性特征,用条件随机场实现实体识别,用多头选择机制判别实体间的关系,同时将双向图卷积网络引入关系推理,根据关系特征纠正错误的实体关系。对比实验、消融实验的结果证明了该方法的优越性。所开发的相应软件,可提供线上知识图谱构建、查询等服务,实现了基于知识图谱的辅助决策,提升了决策的可解释性以及决策效率。