基于足底压力和卷积长短期记忆神经网络的前交叉韧带断裂智能辅助诊断

提出一种基于卷积长短期记忆神经网络的深度学习模型PressureConvLSTM,用来提取行走过程中足底压力的空间特征和时序特征,并进行步态分类。通过对前交叉韧带断裂患者的足底压力数据分析,实现智能辅助诊断。结合临床数据的实验结果表明,PressureConvLSTM模型对前交叉韧带断裂的辅助诊断,能够达到95%的预测准确度;与卷积神经网络等其他模型相比,准确度得到大幅度提升。

基于卷积神经网络和双向长短期记忆网络的气温预测模型

气温与环境要素之间存在非线性关系,针对传统的预测方法难以捕捉数据的内在特征和时间相关性问题,提出一种基于卷积神经网络与双向长短期记忆网络相结合的气温预测模型。基于宿迁四个国家气象观测站的逐小时观测数据,首先通过一维卷积神经网络提取气象要素数据的空间特征,然后将这些特征引入双向长短期记忆网络中来全面学习并掌握气象要素的上下文信息,进而对气温进行有效预测。实验结果表明,与其他的预测方法相比,所提模型在空间特征提取和时序特征学习方面表现卓越,且其在气温预测的精度上有显著的优势。

联合卷积神经网络与长短期记忆深度网络的桥梁损伤识别

为准确评估桥梁结构状态,提升损伤识别效率,提出基于联合卷积神经网络(CNN)与长短期记忆(LSTM)深度网络的桥梁损伤识别方法,并用振动台试验数据进行验证。结合CNN空间特征和LSTM时间特征提取能力,构建桥梁结构损伤识别架构;提取5类时频域损伤特征,经对比分析后,采用结合平均频率和平均能量的组合特征进行损伤识别;基于振动台试验数据及其有限元模型数据识别了斜拉桥模型的损伤,并将识别结果分别与CNN、LSTM的识别结果对比。结果表明:采用联合CNN与LSTM深度网络建立的损伤识别方法可有效识别出桥梁的损伤位置和损伤程度,且偏差小,识别结果优于CNN、LSTM;未布置传感器的位置损伤识别精度较低;轻微损伤识别准确率相对较低。

基于深度长短期记忆神经网络的油气井产量预测优化方法

在油气田开发领域,油气井产量的准确预测对于优化油藏开发策略、简化生产管理和促进决策制定具有重要意义。然而,目前传统产量预测方法遇到了许多挑战,包括影响开发因素多、建模复杂、计算量大,难以捕捉生产数据中的时间特征、开发过程中的油气井产量关系等问题。介绍了一种基于深度长短期记忆神经网络(DLSTM)的油气井产量预测优化方法,以提高油气井产量预测的准确性。以华北油田北部某区块的生产数据为例,运用DLSTM架构对该区块油气井进行产量预测,并将测试集的均方根误差进行对比。通过实验结果表明,新模型产量预测效果显著。该研究对应用深度神经网络模型进行油气井产量预测具有重要意义。

基于卷积神经网络与长短期记忆神经网络的弹丸轨迹预测

针对弹丸非线性轨迹预测问题,提出一种基于卷积神经网络(CNN)与长短期记忆(LSTM)神经网络的混合轨迹预测模型。通过建立6自由度弹丸运动模型,并使用4阶龙格库塔法外弹道仿真,得到大量轨迹数据样本;提出CNN-LSTM神经网络的混合轨迹预测模型,并利用滑动窗口法和差分法构造输入输出的轨迹数据对,将预测问题转化为有监督的学习问题;将所提模型与LSTM神经网络模型、门控循环单元(GRU)神经网络模型和反向传播(BP)神经网络模型在同一数据集下进行仿真实验。研究结果表明,CNN-LSTM神经网络模型预测3 s后的平均累积预测误差在x轴方向约为14.83 m,y轴方向约为20.77 m,z轴方向约为0.75 m,且轨迹预测精度优于单一模型,为弹丸轨迹预测研究提供了一定的参考。

应用长短期记忆循环神经网络的弱反射信号增强方法

由于沉积环境的特殊性和复杂性,地下介质中不同反射界面的波阻抗差可能差异巨大。如果储层的有效反射信息较弱,在地震数据中极可能被强反射信息掩盖,不易被识别,影响了储层识别效果,因此亟需一种解释性处理技术突出弱反射信息。常规方法一般是先从地震数据中分离出强反射分量,再将它削弱或删除。但如果地震子波提取不准确,减去法中强反射残留会引入虚假信号。文中提出了一种“升弱降强”的新思路,通过构建幂次反射系数映射模型缩小弱反射信号与强反射信号的相对差异。首先计算测井反射系数的幂次反射系数,将弱反射系数相对增大、强反射系数相对减小,得到拟反射系数序列;再用原始反射系数序列和拟反射系数序列分别与地震子波进行褶积运算,得到合成地震记录和拟合成地震记录,生成训练样本集;然后用该样本集训练长短期记忆(LSTM)循环神经网络,建立合成地震记录与拟合成地震记录的映射关系;最后将该网络应用于地震数据,增强了地震弱反射信号。模型和实际数据应用结果表明,该方法能有效增强地层本身引起的弱反射信号,提高地震数据的储层识别能力。

基于深度门限堆叠长短期记忆神经网络的交通流量预测

深度学习和大数据技术在交通流量预测中越来越流行,深度神经网络也已应用于交通流预测。此外,由于模型结构不良,参数优化技术不合适,交通流预测缺乏确定性而不准确。本文所提方法通过将多个简单的递归长短期记忆(LSTM)神经网络与时间特征相结合来克服这些问题,以使用深度门控堆叠神经网络来预测交通流。为了加深模型,已使用无监督的逐层方法来训练隐藏层。隐藏层表示通过捕获多个级别的信息来提高时间序列预测的准确性。此外,论述模型结构、随机权重初始化和堆叠LSTM中使用的超参数对增强预测性能的重要性。

基于双向长短期记忆循环神经网络和条件随机场的钻井工况识别方法

传统钻井作业中,钻井工况主要通过基于机理模型与人工判断的方法进行识别,无法保证钻井工况识别的实时性与精准度。为此,采用近年来热门的人工智能算法,将井深与钻头位置的差、钻头位置、井深、大钩高度、大钩载荷、转速、钻压、扭矩、排量共9项钻井参数作为输入特征项,训练调优并建立了基于双向长短期记忆循环神经网络和条件随机场的钻井工况智能识别模型,对复合钻进、滑动钻进、上提开泵划眼、下放开泵划眼、静止、坐卡、原地循环等共计20种钻机动态进行实时智能识别,训练集、测试集的正确率分别为96.49%、97.23%。该模型的成功建立,验证了人工智能算法的优越性,为人工智能算法在钻井工程领域的后续应用提供了丰富经验。

基于长短期记忆神经网络的检修态电网暂态稳定评估方法

随着电网规模不断扩大,电力元件持续增多,电力系统检修方式日趋复杂,仅依靠传统方法难以对海量检修方式下电网的暂态稳定风险进行评估。针对此问题,提出一种基于长短期记忆(LSTM)神经网络的检修态电网暂态稳定风险评估方法。首先提出电力系统检修方式的统一编码方法,使计算机能够快速、准确识别电网在各种检修方式下的运行状态,然后建立长短期记忆神经网络并基于大量检修态电网故障样本对网络进行训练,最终实现对不同检修方式下电网暂态稳定程度的准确评估。最后,以华中地区某省级电网为算例,验证了所提方法的准确性。

基于K均值聚类算法和LSTM神经网络的管道腐蚀阶段预测方法

针对声发射检测获得的管道腐蚀信号,提出了一种基于K均值(K-means)聚类算法和长短期记忆(LSTM)神经网络的管道腐蚀阶段预测方法。首先,利用K-means聚类算法将腐蚀信号分类,再构建LSTM神经网络模型,并采取了无监督学习的方式,以声发射波形为出发点,对模型进行参数优化,最后进行管道腐蚀阶段预测,并根据评价指标对模型进行评价。研究表明:对LSTM神经网络模型适当增加隐藏层,可以使得模型更加稳定,鲁棒性更好;与现有故障诊断模型相比,LSTM神经网络模型的精度更高。

基于深度神经网络的设备剩余使用寿命预测研究

随着传感器在工业设备上的广泛部署,数据驱动的设备状态预测与健康管理技术逐渐成为工业界和学术界研究的热点。该文针对其中的设备剩余使用寿命预测问题展开研究。利用深度神经网络建立设备剩余使用寿命预测模型的关键步骤,并基于C-MAPSS公开数据集,评价前馈神经网络、卷积神经网络、长短期记忆网络三种典型深度神经网络用于剩余使用寿命预测的性能,实验结果显示考虑时序特征的长短期记忆网络具有显著的性能优势,最后对该方向的发展趋势展开讨论。

基于LSTM深度神经网络的飞行机动识别方法研究

飞行机动是空中博弈任务OODA环成型的重要组成部分,涉及态势观察、战术决策、飞行员控制执行等多项关键技术。面向近距飞行任务中的机动识别问题,开发了一种基于长短期记忆深度神经网络的机动识别方法。该方法能够有效降低机动识别对领域知识的依赖性,实现了对近距飞行任务中5类机动的自动识别。基于高逼真飞行模拟仿真环境采集的飞行数据对机动识别方法性能进行测试,结果表明,提出的机动识别方法在5类近距飞行机动平均识别准确率为95%,平均识别准确率超过基于随机森林与支持向量机的基线机动识别方法,证明了提出的方法在解决近距飞行任务机动识别任务的有效性与先进性。

基于深度神经网络的光伏发电时间序列多元预测

利用不同时间序列间的相关性和依赖性基于深度神经网络(DNNs)提出了两种不同的多元长短期记忆网络(LSTM)光伏输出功率预测方法,充分考虑了空气温度、风速等影响因素之间的相关性特征。以光伏发电站运行数据为例,通过对光伏发电预测模型进行训练和测试,并与单变量LSTM和Stacked-LSTM模型的结果进行比较,研究结果表明,所提的Conv-LSTM可以在减少30.76%训练时间的基础上提升0.71%~1.33%的准确度,Conv-LSTM和Multi-LSTM分别以高达93.12%和96.12%的准确度跟踪实际光伏发电。

一种基于双向长短期记忆神经网络的Web攻击检测

当前,网络空间安全形势日益严重,这是因为网络攻击手段层出不穷。其中,跨站脚本(cross-site scripting,XSS)攻击和结构化查询语言(structured query language,SQL)注入攻击是2种较为常见的网络攻击方式。由于它们的有效载荷样式多样,导致传统的基于规则的检测以及基于特征的机器学习难以对其进行检测。为了提高对Web攻击的检测效果,降低人工提取特征的繁杂度,提出了一种基于双向长短期记忆神经网络的Web攻击检测方法:使用字符向量化提取Web攻击有效特征的序列,并映射到特征向量,嵌入向量到神经网络中,然后使用双向长短期记忆递归神经网络训练和测试模型。结果表明,该检测方法在真实数据集中的检测准确率达到99.35%,召回率达到99.49%,可以同时检测XSS攻击和SQL注入攻击。证明了这种基于深度学习的检测方法可以较大规模地应用于Web攻击感知平台中。

基于CNN-LSTM混合神经网络的卷烟滤棒质量预测

为了在卷烟生产数据中挖掘出滤棒生产过程的有效信息,解决各批次产品质量检测困难的问题,结合卷积神经网络的特征提取能力与长短期记忆网络处理时序数据的有效性,提出了基于CNN-LSTM混合神经网络的卷烟滤棒质量预测模型。该模型通过卷积层提取输入数据的局部特征,然后在LSTM层中捕捉特征之间的时序关系,分层结构使其具有同时处理不同时间维度信息的能力,从而提升了预测精度。将滤棒的质量定义为圆周值与吸阻值两个物理量,利用卷烟厂6万余条实时生产数据进行模型训练和预测,结果表明:以平均绝对百分误差(MAPE)作为评价标准,圆周指标预测误差为0.078%,吸阻指标预测误差为1.42%,对比各类传统机器学习方法,CNN-LSTM混合神经网络表现出了更高的精确性。该方法可为快速准确地预测卷烟滤棒质量提供技术支持,提升烟草工业的自动化水平。

基于深度学习长短期记忆神经网络的有色金属期货市场预测研究

为提高金融资产预测能力,该文采用深度学习长短期记忆(LSTM)神经网络模型对上海期货交易所(SHFE)和伦敦金属期货交易所(LME)的铝、铜、镍、铅、锡和锌6种有色金属期货价格分别进行长、短期预测,与传统机器学习多层感知器(MLP)模型以及线性自回归移动平均(ARIMA)模型进行对比研究。数据源于Wind数据库和国际货币基金组织(IMF)数据库。使用Python深度学习软件模拟预测有色金属期货价格,结果显示:有色金属期货市场长期预测中,LSTM模型的预测表现略逊于ARIMA模型,MLP模型预测效果不理想;短期预测中,LSTM模型的预测结果和ARIMA模型相近,均优于MLP模型;LSTM模型与MLP模型相比,模型的稳定性和预测的精确度都更加出色。LSTM模型可作为ARIMA模型的最优替代之一。

基于密集连接神经网络和长短期记忆网络的赖氨酸戊二酰化位点的预测

戊二酰化是近些年报道的一种发生在赖氨酸残基上的蛋白质翻译后修饰(PTMs),在细胞功能如翻译和代谢中发挥重要作用。传统实验技术预测赖氨酸戊二酰化位点的方法耗时且昂贵,目前国内外关于赖氨酸戊二酰化位点的预测模型较少,亟须开发新的预测器。本研究中,对蛋白质序列进行编码,通过密集连接神经网络和长短期记忆网络组合模型提取特征信息,开发了一种新的预测模型Glu-DClstm。该模型独立测试集的马修斯相关系数和AUC值分别达到了0.39、0.80。与现有模型相比,该模型对非平衡数据下的赖氨酸戊二酰化位点预测效果优良。

基于长短期记忆网络的CO_(2)气层识别方法

CO_(2)监测是油气开采中的关键环节,传统的CO_(2)监测方法面临很多挑战,在人工智能逐渐兴起的当下,深度学习技术被广泛应用于地球物理测井。珠江口盆地恩平凹陷深层CO_(2)气藏发育,传统测井方法无法准确评价储层流体。构建了基于长短期记忆网络(LSTM)的CO_(2)气层识别模型,采用m×2正则化交叉验证优选CO_(2)敏感测井参数,并对模型进行训练。利用该模型对珠江口盆地恩平凹陷L2井CO_(2)气层进行识别,并与支持向量机和K近邻算法识别结果进行对比。结果表明,3种深度学习算法对CO_(2)气层的识别效果良好,其中LSTM算法对CO_(2)气层的识别效果最好,准确度达93.4%,为深层CO_(2)气层识别工作提供了新思路。

一种改进组合神经网络的超短期风速预测方法研究

超短期风速预测是保障风电机组桨距角前馈控制实施效果的关键,对提高风电机组环境适应性具有重要影响。为了提高预测精度,提出了一种改进组合神经网络的超短期风速预测方法。该方法选择适合时间序列预测且具有较强非线性学习能力的BP神经网络和长短期记忆(long short-term memory,LSTM)神经网络进行加权组合,以消除单个神经网络可能存在的较大误差;同时,为了提高组合效果,采用差分进化算法对组合权重进行优化。将该方法应用于某风场超短期风速预测中,通过与单神经网络预测、等权重组合神经网络预测的结果对比,验证了所提方法在提高预测精度上的有效性。

长短期记忆神经网络在厦门风暴潮预报中的应用

利用长短期记忆神经网络(LSTM)模型强大的长短期记忆能力,建立厦门风暴潮增水预报的人工神经网络模型。利用信息流理论确定了影响增水的10种因子,分别利用不同因子组合测试了不同模型的表现,确定了表现最佳的因子组合。基于此因子组合,对比了LSTM模型和常用的BP神经网络模型、SVM模型和线性回归模型,确定了LSTM模型在风暴潮增水上的优势。基于LSTM最佳预测模型预测了1、2、3及6 h风暴潮增水值,并基于三种不同台风路径分析了模型的平均绝对误差、相关系数、有效系数和极值偏差指标。结果显示,LSTM模型在预报风暴潮短期增水有很高精度,可为防灾减灾提供辅助和参考。