基于集群辨识和卷积神经网络-双向长短期记忆-时序模式注意力机制的区域级短期负荷预测

为了解决区域级短期电力负荷预测时输入特征过多和负荷时序性较强的问题,提出一种基于集群辨识和卷积神经网络(convolutional neural networks,CNN)-双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)-时序模式注意力机制(temporal pattern attention,TPA)的预测方法。首先,将用电模式和天气作为影响因素,基于二阶聚类算法对区域内的负荷节点进行集群辨识,再从每个集群中挑选代表特征作为深度学习模型的输入,这样既能减少输入特征维度,降低计算复杂度,又能综合考虑预测区域的整体特征,提升预测精度。然后,针对区域电力负荷时序性的特点,用CNN-BiLSTM-TPA模型完成训练和预测,该模型能提取输入数据的双向信息生成隐状态矩阵,并对隐状态矩阵的重要特征加权,从多时间步上捕获双向时序信息用于预测。最后,在美国加利福尼亚州实例上分析验证了所提方法的有效性。

基于残差神经网络、双向长短期记忆网络和注意力机制的肠鸣音检测方法研究

肠鸣音可以反映胃肠道的运动和健康状况,然而,传统的人工听诊方式存在主观性偏差且耗时耗力。为了更好地辅助医生对肠鸣音的诊断,提高肠鸣音检测的可靠性和高效性,该研究提出了一种结合残差神经网络(ResNet)、双向长短期记忆网络(BiLSTM)和注意力机制的深度神经网络模型。首先使用自主研发的多通道肠鸣音采集系统采集了大量带标签的临床数据,采用多尺度小波分解和重构方法对肠鸣音信号进行预处理,然后提取对数梅尔谱图特征送入网络进行训练,最后通过10折交叉验证和消融实验来评估模型的性能和验证其有效性。实验结果表明,该模型在精确率、召回率和F1分数方面分别达到了83%、76%和79%,能够有效地检测出肠鸣音片段并定位其起止时间,表现优于以往的算法。该算法不仅可以为医生在临床实践中提供辅助信息,还为肠鸣音的进一步分析和研究提供了技术支撑。

基于改进灰狼算法优化双向长短时记忆神经网络的水冷壁壁温预测

提出一种基于改进灰狼(MGWO)算法优化双向长短时记忆(BiLSTM)神经网络的水冷壁壁温预测模型,灰狼算法采用非线性因子调整策略、自适应位置更新策略和动态权重修改策略进行改进以提升算法的全局寻优能力,利用改进灰狼算法优化BiLSTM模型的隐藏层数量、学习率和正则化参数以提高模型的预测精度,采用新疆某电厂的数据进行预测仿真,结果表明:改进后的算法预测精度更高,在机组升、降负荷时,均可以预测到壁温的变化趋势,模型的平均均方根误差相比于长短时记忆(LSTM)神经网络、BiLSTM模型分别降低了9.86%和3.69%,且可以提前预测到水冷壁壁温的超温情况,对于预防水冷壁超温有重要意义。

基于贝叶斯优化-卷积神经网络-双向长短期记忆神经网络的锂电池健康状态评估

准确估计电池健康状态是设备稳定运行的关键。针对当前健康状态研究中容量难以直接测量、估计模型调参费时等问题,提出基于多健康特征的贝叶斯优化(BO)算法优化卷积神经网络(CNN)与双向长短期记忆(BiLSTM)神经网络预测模型。基于NASA公开锂电池数据,提取3种健康特征。将CNN与BiLSTM结合,提高时间序列数据处理能力,加入BO算法自动搜寻最优参数集,避免组合网络模型陷入局部最优,从而减少评估时间。对比分析相关神经网络模型,结果表明所提方法预测准确度最高,可有效估计锂电池的健康状态,平均绝对误差和方均根误差均在1%以内。

双向长短时记忆神经网络在滩坝砂储层岩性识别中的应用

研究区致密滩坝砂储层油气储量丰富,勘探开发潜力较高,但存在埋藏深、单层厚度薄、渗透率超低、孔隙结构复杂以及单井自然产能极低的特征,储层划分与岩性识别困难。针对测井数据具有纵向时序连续的特点,构建一个双向长短时记忆神经网络(BiLSTM)岩性识别模型,采用随机森林方法对常规测井数据等参数进行特征选择,将选择的参数作为输入变量训练BiLSTM模型。应用该模型对测试集的井资料进行验证,结果表明模型的岩性识别准确率为0.86,取得了良好的应用效果,证明了BiLSTM模型适用于滩坝砂储层岩性识别。

一种采用记忆神经网络和曲线形状修正的负荷预测方法

针对分布式电源和新型负荷容量累积造成负荷影响因素多元化和不确定性特性增强的问题,文中提出一种采用记忆神经网络和曲线形状修正的负荷预测方法。在负荷峰值预测中,采用最大信息系数计算负荷峰值与影响因素的非线性相关性,实现对输入特征的筛选;综合考虑负荷峰值序列的长短期自相关性和输入特征与负荷峰值的不同程度相关性,结合Attention机制和双向长短时记忆(bidirectional long short-term memory,BiLSTM)神经网络建立负荷峰值预测模型。在负荷标幺曲线预测中,通过误差倒数法组合相似日和相邻日,建立负荷标幺曲线预测模型;针对预测偏差的非平稳特征,利用自适应噪声的完全集成经验模态分解和BiLSTM网络建立误差预测模型,对曲线形状进行修正。应用中国北方某城市的区域电网负荷数据为算例,验证了所提模型的有效性。

基于联合注意力机制和一维卷积神经网络-双向长短期记忆网络模型的流量异常检测方法

针对流量数据集中类别不平衡限制了分类模型对少数类攻击流量的检测性能这一问题,该文提出一种基于联合注意力机制和1维卷积神经网络-双向长短期记忆网络(1DCNN-BiLSTM)模型的流量异常检测方法。首先在数据预处理过程中利用BorderlineSMOTE方法对流量数据不平衡训练样本预处理,使得各类流量数据均衡,有助于后续模型对各类数据的充分训练。然后设计联合注意力机制和1DCNN-BiLSTM的模型对流量数据进行训练,提取流量数据的局部和长距离序列特征并进行分类,通过注意力机制将对分类有用的特征按其重要性赋予权值,提高对少数攻击类的检出率。实验结果表明,同几种现有方法相比,该文方法对NSL-KDD和CICIDS2017数据集的检测准确率最高(可达93.17%和98.65%),对NSL-KDD数据集中的提权攻击(U2R)攻击流量的检出率至少提升13.70%,证明了该文方法提升少数类攻击流量检出率的有效性。

基于时空注意力机制的双向长短期记忆神经网络的股指预测研究

股票市场是一个高噪音的混沌系统,其外部属性之间的相关性问题以及在长期预测时外部影响对股价波动的加剧,导致对股票市场进行准确预测是一项富有挑战性的工作。为解决上述问题,本文利用基于注意力机制的双向长短期记忆神经网络(BiLSTM)对香港地区恒生指数收盘价进行有效性的实证检验。其中,空间注意力机制用于捕捉输入指标之间的相关性并为其赋予区别权重,时间注意力机制用于描述数据的时间相关性以解决长期预测中的时间依赖问题并为时间步赋予区别权重,BiLSTM神经网络用于拟合数据并构建预测模型。本文还比较了四种基于注意力机制的神经网络方法和六种基线方法,实验结果表明,与当下流行的股票指数预测方法相比,基于双维度注意力机制的BiLSTM可以在短、中、长期预测中均实现更准确的股票指数收盘价预测。

基于双向长短期记忆循环神经网络和条件随机场的钻井工况识别方法

传统钻井作业中,钻井工况主要通过基于机理模型与人工判断的方法进行识别,无法保证钻井工况识别的实时性与精准度。为此,采用近年来热门的人工智能算法,将井深与钻头位置的差、钻头位置、井深、大钩高度、大钩载荷、转速、钻压、扭矩、排量共9项钻井参数作为输入特征项,训练调优并建立了基于双向长短期记忆循环神经网络和条件随机场的钻井工况智能识别模型,对复合钻进、滑动钻进、上提开泵划眼、下放开泵划眼、静止、坐卡、原地循环等共计20种钻机动态进行实时智能识别,训练集、测试集的正确率分别为96.49%、97.23%。该模型的成功建立,验证了人工智能算法的优越性,为人工智能算法在钻井工程领域的后续应用提供了丰富经验。

一种基于双向长短期记忆神经网络的Web攻击检测

当前,网络空间安全形势日益严重,这是因为网络攻击手段层出不穷。其中,跨站脚本(cross-site scripting,XSS)攻击和结构化查询语言(structured query language,SQL)注入攻击是2种较为常见的网络攻击方式。由于它们的有效载荷样式多样,导致传统的基于规则的检测以及基于特征的机器学习难以对其进行检测。为了提高对Web攻击的检测效果,降低人工提取特征的繁杂度,提出了一种基于双向长短期记忆神经网络的Web攻击检测方法:使用字符向量化提取Web攻击有效特征的序列,并映射到特征向量,嵌入向量到神经网络中,然后使用双向长短期记忆递归神经网络训练和测试模型。结果表明,该检测方法在真实数据集中的检测准确率达到99.35%,召回率达到99.49%,可以同时检测XSS攻击和SQL注入攻击。证明了这种基于深度学习的检测方法可以较大规模地应用于Web攻击感知平台中。

基于改进多尺度卷积循环神经网络的滚动轴承故障研究

针对传统卷积神经网络故障诊断方法提取特征不丰富,容易丢失故障敏感信息,且在单一尺度处理方法限制实际复杂工况下故障特性的深度挖掘问题,提出了注意力机制的多尺度卷积神经网络和双向长短期记忆(bi-directional long short-term memory,BiLSTM)网络融合的迁移学习故障诊断方法。该方法首先应用不同尺寸池化层和卷积核捕获振动信号的多尺度特征;然后引入多头自注意力机制自动地给予特征序列中的不同部分不同的权重,进一步加强特征表示的能力;其次利用BiLSTM结构引入双向性质提取特征前后之间的内部关系实现信息的逐层传递;最后利用多核最大均值差异减小源域和目标域在预训练模型中各层上的概率分布差异并利用少量标记的目标域数据再对模型进行训练。试验结果表明,所提方法在江南大学(JNU)、德国帕德博恩大学(PU)公开轴承数据集上平均准确率分别为98.43%和97.66%,该方法在重庆长江轴承股份有限公司自制的轴承故障数据集上也表现出了极高的准确率和较快的收敛速度,为有效诊断振动旋转部件故障提供了实际依据。

基于多准则决策和深度神经网络的电子商务推荐系统

推荐系统在电子商务门户中发挥着重要作用。现有推荐算法通常基于单个评分标准进行推荐商品排序,未考虑到从不同标准的用户偏好上对用户和商品特征进行综合建模。为此,提出了基于多准则决策(MCD)和深度神经网络(DNN)的电商产品推荐系统。首先,设计上下文感知的DNN模型,从不同标准出发进行评分预测,并通过聚合函数得到综合评分预测值。其后,通过结合残差卷积神经网络(CNN)和双向长短时记忆(Bi-LSTM)的混合模型,基于用户评论预测用户对商品的情感倾向。最后,将评分预测与情感倾向结合,实现准确的商品推荐。实验结果表明,所提方法在亚马逊电商产品数据集上进行商品推荐的平均绝对误差(MAE)和均方根误差(RMSE)分别为0.953和1.129,优于其他比较方法,证明在推荐系统中结合MCD和情感分析,能够有效提高推荐系统性能。

融合文本图卷积神经网络与注意力机制的唐诗情感分析

针对目前唐诗情感分析任务的语义提取不充分、数据集不完善的问题,构建了一个全新的唐诗情感分类数据集且进一步细化了情感极性,提出了一种融合文本图卷积神经网络与注意力机制(text-graph convolutional neural networks with attention mechanism,AM-Text-GCN)的情感分类模型。模型首先结合双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)和注意力机制捕捉唐诗中的上下文信息和诗句间的语义特征,然后利用融入依存句法分析的2层文本图卷积神经网络在图卷积操作中聚合唐诗全局特征,最终输出唐诗的情感极性。结果表明,所提出模型的S F1值达了79.83%,相较于文本图神经网络的S F1值提高了5.46%,有效地提高了唐诗情感分析的准确性。该研究对于探索诗词情感在历史变迁中的作用具有重要意义和广泛的应用前景。

模型误差影响下基于CNN+BiLSTM神经网络的非圆信号目标直接跟踪算法

针对运动观测阵列状态误差与接收频率抖动同时影响下的非圆信号无源跟踪问题,提出了一种基于卷积神经网络(Convolutional Neural Network,CNN)+双向长短时记忆网络(Bi-directional Long Short-Term Memory,BiL⁃STM)的直接跟踪算法.该算法首先利用多运动观测阵列信号各频带间的相关性与辐射源信号的非圆特性,建立模型误差影响下的扩展多站观测矢量;接着利用多个观测时隙内扩展多站观测矢量的信号子空间构造空时特征输入序列;然后设计基于CNN与BiLSTM混合神经网络的直接跟踪模型,通过训练实现对非圆目标的轨迹矢量直接估计.本文算法是从原始数据信号子空间中估计轨迹矢量的直接跟踪模式,相比传统“观测参数估计+滤波轨迹跟踪”的两步估计模式,具有更高的估计精度.由于本文算法在神经网络训练过程中学习到模型误差的信息,因此能够实现对多种误差的校正.仿真结果表明,本文算法较传统两步跟踪算法与现有直接跟踪算法均具有更高的轨迹估计精度,能够明显提升模型误差影响下多站协同跟踪的鲁棒性.

一种在线医疗社区问答文本实体识别方法——基于卷积神经网络和双向长短期记忆神经网络

针对在线医疗社区问答文本复杂程度高、结构化程度低的特点,结合卷积神经网络(CNN)和双向长短期记忆神经网络(BiLSTM)两种深度学习模型以及条件随机场(CRF)模型,提出一套适用于在线医疗问答文本的实体识别方法并进行验证。将问答文本进行清洗和BIO标注后,分别用CNN和BiLSTM进行字级别的特征抽取,将通过两种模型抽取到的特征进行融合后放入CRF中训练出实体预测模型,再将问答文本放入训练好的模型中,得到最终的实体识别结果。以关于乳腺癌疾病问答文本为例,研究结果表明,运用该方法得到的识别结果优于其他模型,且识别准确率达到92.3%、召回率达到89.3%、F值达到90.8%。

基于深度神经网络的UHVDC输电系统故障诊断

针对传统特高压直流(UHVDC)故障诊断方法存在阈值整定复杂、灵敏度低以及耐受过渡电阻能力较弱的问题,提出了一种将多尺度卷积神经网络(multi-scale convolutional neural network,MCNN)、双向长短时记忆网络(bidirectional long short-term memory,BiLSTM)和注意力(Attention)机制相结合的UHVDC输电系统故障诊断方法。通过MCNN挖掘标准化后的故障数据不同尺度的空间特征;利用双层BiLSTM获取数据中的时序依赖特征;引入Attention机制为数据的不同特征向量合理分配注意力。结果表明:所提方法在4种评价指标上都优于其他对比算法,能够准确识别UHVDC输电系统的各种区内、外故障和测量故障,并且在面对高阻故障时仍然具有较高的分类精度。

基于生成对抗网络和混合时空神经网络的入侵检测

针对网络入侵检测领域存在检测准确率低的问题,研究异常流量样本少和分类器性能不佳时的入侵检测模型,提出一种基于改进生成对抗网络和混合时空神经网络的入侵检测模型。改进生成对抗网络通过学习异常流量样本的分布特性,生成具有特定标签的人工异常流量样本;融合卷积神经网络和双向长短时记忆神经网络提取攻击流量的时空融合特征,利用注意力机制对时空融合特征进行加权,构建混合时空神经网络对网络流量进行分类预测。在UNSW-NB15数据集上对所提模型进行仿真实验,准确率和F1分数分别为92.93%和94.81%,表明所提模型能够有效改善原始数据集中的类别不平衡性问题,提高对异常流量样本的检测能力和网络入侵的检测准确率。

基于动态图卷积神经网络和BiLSTM的情绪识别

针对情绪发生过程中电极通道间的空间依赖关系会随着时间推移而发生变化的问题,提出了一种基于动态图卷积神经网络-双向长短时记忆网络(DGCNN-BiLSTM)的模型用于情绪识别。首先,利用DGCNN通过训练神经网络动态学习不同电极通道之间的联系,从而动态更新优化邻接矩阵;其次,BiLSTM可以学习特征序列的前后时间相关性,从而提高网络情绪识别能力。在SEED和DEAP数据集上进行了实验,前者取得92.03%的最高平均准确率,后者在唤醒维度和效价维度实验中分别取得96.56%和95.22%的最高平均准确率。结果表明,模型有利于提升情绪识别准确率,与其他方法相比,情绪分类精度也有不同程度的提升。

基于CNN-BiLSTM混合神经网络的雷达信号调制方式识别

针对具有时频特性的雷达信号,传统的雷达信号识别方法已经无法满足对信号类型精准识别的需求,因此需要通过采集并分析雷达信号脉内的时频特征实现对目标雷达的具体信息进行有效评估。设计了一种卷积-双向长短时记忆(Convolution-Bidirectional Long Short-Term Memory,CNN-BiLSTM)混合神经网络模型,主要通过BiLSTM的时序记忆特性深度挖掘雷达信号的时域特征,结合权值共享特性和CNN层捕获雷达信号的时频特征,再利用二者信号特征联合完成对雷达信号调制方式的识别。通过对比实验验证,所提方法对若干种雷达信号的识别具有较高的准确度,平均值达到95.349%;优于只使用单一特征的网络和传统算法,具有良好的抗噪声能力。

基于双向长短期记忆神经网络的水平地应力预测方法

水平地应力是井壁稳定分析和水力压裂改造的关键基础参数,但深部地层地质环境复杂且隐蔽,使得水平地应力的准确快速预测难度较大。考虑到传统测井解释和神经网络模型难以描述测井数据与地应力之间的空间相关性,提出采用一种基于双向长短期记忆神经网络(BiLSTM)的水平地应力预测方法;以四川盆地CL气田两口直井为例,将两口直井分别作为训练井和测试井,通过训练井建立测井参数与地应力之间的非线性映射关系,实现对测试井水平地应力的预测;结合测井参数相关性和实际地质含义,分析了不同测井参数组合模式下水平地应力的预测效果。研究结果表明:(1)对比测井解释和岩心差应变测试结果发现,垂向地应力测井解释误差为0.39%,最大水平地应力测井解释误差为0.18%~0.64%,最小水平地应力测井解释误差为0.29%,说明测井解释与实际地应力吻合较好;(2)工区地应力大小排序为垂向地应力>最大水平地应力>最小水平地应力,属于潜在正断层应力状态;(3)水平地应力与垂深、密度和自然伽马呈较强的正相关关系,与纵波时差、井径、补偿中子和横波时差呈负相关关系;(4)不同的测井参数组合对水平地应力的预测效果不同,其中最优的测井参数组合为垂深、井径、密度、补偿中子、自然伽马、纵波时差;(5)通过正交设计实验,确定了最优超参数取值方案,其预测得到的最大和最小水平地应力平均绝对百分比误差分别为0.48‰和0.50‰。结论认为,BiLSTM模型能够有效捕捉测井参数随深度的变化趋势和测井参数的前后关联信息,可以实现水平地应力的精准预测。