基于足底压力和卷积长短期记忆神经网络的前交叉韧带断裂智能辅助诊断

提出一种基于卷积长短期记忆神经网络的深度学习模型PressureConvLSTM,用来提取行走过程中足底压力的空间特征和时序特征,并进行步态分类。通过对前交叉韧带断裂患者的足底压力数据分析,实现智能辅助诊断。结合临床数据的实验结果表明,PressureConvLSTM模型对前交叉韧带断裂的辅助诊断,能够达到95%的预测准确度;与卷积神经网络等其他模型相比,准确度得到大幅度提升。

基于多源数据融合与卷积长短期记忆神经网络的聚合物挤出过程熔体密度监测方法

聚合物挤出过程中熔体密度是影响产品质量的关键因素。由于挤出加工过程的高温、高压复杂工况,寻求能准确、在线监测聚合物挤出过程中熔体密度的方法是一个具有挑战性的问题。尽管基于机器学习的质量监测方法提供了一种解决方案,但在聚合物挤出加工过程中,由于数据类型、工艺参数、操作环境等多变性因素的影响,传统的机器学习方法可能难以捕捉聚合物加工中不同输入参数和输出质量参数之间的复杂关系,使得监测任务难以获得理想的准确性。本文提出了一种基于多源数据融合与卷积长短期记忆神经网络(CNN–LSTM)的熔体密度监测方法,用于在线监测聚碳酸酯–丙烯腈–丁二烯–苯乙烯共聚物(PC/ABS)共混体系的熔体密度。首先,通过实时采集安装在挤出机模头处的近红外、拉曼及超声3种传感器数据,对3种传感数据进行预处理并融合后作为输入;然后,通过合理设计的网络结构,构建CNN–LSTM监测模型,利用CNN的特征提取能力与LSTM的预测能力,最终实现对聚合物共混过程中的熔体密度的实时监测。基于独立开发的多源传感数据实时采集装置获取的数据,利用所提方法对PC/ABS共混挤出过程的熔体密度进行实时监测,结果表明:本文方法能够准确监测聚合物熔体密度,其在测试集上的均方根误差和决定系数分别为0.975 5、0.006 3 g/cm3,比传统的卷积神经网络方法、长短期记忆网络方法、岭回归方法、偏最小二乘回归方法、多层感知机方法和支持向量机回归方法具有更高的预测精度;本文方法的10次输入平均预测时间为1.523 5 s,能够满足实际生产过程的实时监测。综上所述,所提出的基于多源数据融合与CNN–LSTM的熔体密度监测方法显著提高了聚合物挤出过程中熔体密度的实时监测精度,为挤出过程中聚合物的质量提供了可靠的技术支持。

卷积-长短期记忆神经网络超宽带定位方法

针对室内视距环境下超宽带(UWB)观测值中的测距误差影响定位精度的问题,提出一种基于卷积神经网络与长短期记忆网络(CNN-LSTM)相结合的UWB测距误差改正模型:将基站与标签之间的测距值和Chan算法解算的标签初始坐标作为卷积神经网络(CNN)的输入,借助CNN良好的数据特征提取能力,充分挖掘UWB测距值的特征;然后利用长短期记忆网络(LSTM)进行进一步的特征学习,并进行训练和预测UWB测距值,以减少测距误差对UWB测距值精度的影响;最后,利用高斯-牛顿迭代算法求解出最终的UWB定位结果,同时,建立多项式和指数函数UWB测距误差改正模型,并与本文方法进行对比分析。实验结果表明,在静态和动态实验下,基于CNN-LSTM网络模型结果的精度均优于其他2种模型,证明该算法可有效降低测距误差,提高UWB的定位精度。

基于卷积神经网络与长短期记忆神经网络的弹丸轨迹预测

针对弹丸非线性轨迹预测问题,提出一种基于卷积神经网络(CNN)与长短期记忆(LSTM)神经网络的混合轨迹预测模型。通过建立6自由度弹丸运动模型,并使用4阶龙格库塔法外弹道仿真,得到大量轨迹数据样本;提出CNN-LSTM神经网络的混合轨迹预测模型,并利用滑动窗口法和差分法构造输入输出的轨迹数据对,将预测问题转化为有监督的学习问题;将所提模型与LSTM神经网络模型、门控循环单元(GRU)神经网络模型和反向传播(BP)神经网络模型在同一数据集下进行仿真实验。研究结果表明,CNN-LSTM神经网络模型预测3 s后的平均累积预测误差在x轴方向约为14.83 m,y轴方向约为20.77 m,z轴方向约为0.75 m,且轨迹预测精度优于单一模型,为弹丸轨迹预测研究提供了一定的参考。

基于联合注意力机制和一维卷积神经网络-双向长短期记忆网络模型的流量异常检测方法

针对流量数据集中类别不平衡限制了分类模型对少数类攻击流量的检测性能这一问题,该文提出一种基于联合注意力机制和1维卷积神经网络-双向长短期记忆网络(1DCNN-BiLSTM)模型的流量异常检测方法。首先在数据预处理过程中利用BorderlineSMOTE方法对流量数据不平衡训练样本预处理,使得各类流量数据均衡,有助于后续模型对各类数据的充分训练。然后设计联合注意力机制和1DCNN-BiLSTM的模型对流量数据进行训练,提取流量数据的局部和长距离序列特征并进行分类,通过注意力机制将对分类有用的特征按其重要性赋予权值,提高对少数攻击类的检出率。实验结果表明,同几种现有方法相比,该文方法对NSL-KDD和CICIDS2017数据集的检测准确率最高(可达93.17%和98.65%),对NSL-KDD数据集中的提权攻击(U2R)攻击流量的检出率至少提升13.70%,证明了该文方法提升少数类攻击流量检出率的有效性。

基于CNN-LSTM混合神经网络的高速铁路地震响应预测

为了更好地挖掘高速铁路在地震时的响应信息,提高光纤光栅监测的效率及预测精度,该文针对地震响应数据的时序性及非线性的特点,提出卷积神经网络(CNN)和长短期记忆(LSTM)网络的混合神经网络模型预测方法.通过在高速铁路简支梁桥上布设准分布式光纤光栅采集地震时轨道板、钢轨、底座板、箱梁的响应数据,在每根光纤上布置7个光栅,利用两边光栅的响应数据预测中间点的光栅响应,将采集位置、历史数据及地震波形等信息作为特征图输入.利用CNN提取特征,再将提前提取出来的特征数据以时序方式作为LSTM网络的输入数据,最后LSTM网络进行地震应变响应预测.实验结果表明,LSTM网络在3层时效果最好,CNN-LSTM方法具有较高的预测精度,根均平方误差(R_(RMSE))、平均绝对误差(R_(MAE))、决定系数(R^(2))分别达到了0.3753、0.2968、0.9371.

基于CNN-LSTM的复合神经网络在油田污水系统故障诊断中的应用

为提高油田污水系统故障诊断的智能化水平和准确性,利用卷积神经网络以及长短期记忆网络构建复合神经网络,并采用Adam与随机梯度下降法对结构进行优化,使模型收敛速度以及故障诊断精度得到提升。通过相关实验研究结果表明,采用的优化算法使模型准确度提升至0.87左右,模型诊断损失率降至0.032左右;复合神经网络结构的平均检测精度达到0.888,准确值达到0.883,召回率达到0.789。将复合神经网络应用于油田污水系统故障诊断中,使油田污水系统实现智能故障检测,并能降低经济成本,益于智慧油田建设。

基于相关性分析与CNN-BiLSTM神经网络的PSZ陶瓷磨削表面粗糙度智能预测

部分稳定氧化锆(Partially stabilized zirconia,PSZ)陶瓷因其优越的性能在航空航天工业等领域有广泛的应用。表面粗糙度是评价PSZ陶瓷磨削加工水平的关键指标,为了降低磨削表面粗糙度的预测误差,提出了一种基于相关性分析与卷积-双向长短期记忆神经网络(Convolution-bidirectional long short term memory neural network,CNN-BiLSTM)的PSZ陶瓷磨削表面粗糙度声发射预测模型。通过分析磨削声发射信号特征值与磨削表面粗糙度值之间相关性,筛选出磨削声发射信号与磨削表面粗糙度之间的最相关频段和特征矩阵,作为CNN-BiLSTM神经网络的输入参数以降低磨削表面粗糙度声发射预测的误差。研究结果表明,基于相关性分析与CNN-BiLSTM神经网络的PSZ陶瓷磨削表面粗糙度的平均预测误差低于3.92%。

基于ConvLSTM神经网络的有杆抽油系统故障诊断研究

针对复杂抽油环境中的有杆抽油系统(rod pumping system,RPS)故障问题,提出一种基于深度学习算法的故障诊断方法。通过边缘计算设备,采集中国西北部油田12种油井工况的11961个抽油杆悬点载荷数据,构建油井使用年限范围内的常见工况数据集。利用卷积长短期记忆神经网络(convolutional long short-term memory neural networks,ConvLSTM)模型,建立抽油杆载荷数据与工作状态之间的特征关联,将算法模型部署在边缘计算装置中,从而实现RPS故障的边缘诊断。为了验证该方法的有效性,采集了5126例生产数据进行测试。结果表明,该故障诊断方法具有更高的准确率及更好的泛化能力,可对RPS进行接近实时的故障诊断。

基于CNN-LSTM混合神经网络模型的短期负荷预测方法

为了更好地挖掘海量数据中蕴含的有效信息,提高短期负荷预测精度,针对负荷数据时序性和非线性的特点,提出了一种基于卷积神经网络(CNN)和长短期记忆(LSTM)网络的混合模型短期负荷预测方法,将海量的历史负荷数据、气象数据、日期信息以及峰谷电价数据按时间滑动窗口构造连续特征图作为输入,先采用CNN提取特征向量,将特征向量以时序序列方式构造并作为LSTM网络输入数据,再采用LSTM网络进行短期负荷预测。使用所提方法对江苏省某地区电力负荷数据进行预测实验,实验结果表明,文中所提出的预测方法比传统负荷预测方法、随机森林模型负荷预测模型方法和标准LSTM网络负荷预测方法具有更高的预测精度。

基于神经网络和迁移学习的视频人体行为识别

为了解决视频人体行为识别中网络难以训练、直接将卷积神经网络全连接层的输出送入循环神经网络而导致空间信息缺失,进而引起视频人体行为识别精度不高、难以训练等问题。本文提出基于神经网络和迁移学习的视频人体行为识别方法,该方法以resnet50为基础网络,将在imagenet数据集上训练好的权重参数用于初始化所有的卷积层,使用卷积长短期记忆神经网络对resnet50的输出做处理,得到具有空间信息的视频描述信息,使用注意力机制对视频信息进行处理得到视频关键信息,最后利用长短期记忆网络对视频关键信息做时间序列建模。该方法在人体行为通用数据集ucf101上到达94.77%。经实验证明,该方法可以实现端到端的视频人体行为识别,识别精度可以和现有的方法媲美,并有训练时长短,网络结构简单等特点。

基于CNN_BiLSTM的长短期电力负荷预测方法

当前电力系统负荷预测中负荷数据受到多种因素影响且多步长预测时精度不高,因此电力负荷预测呈现出非线性、多因素、非平稳态等问题。提出一种基于CNN_BiLSTM混合深度学习网络的长短期电力负荷在线预测方法。首先根据卷积神经网络和双向长短期记忆网络的特点,建立了CNN_BiLSTM负荷预测模型,并将历史负荷与影响因素耦合形成一个新的时间序列作为网络输入;其次,由于机器学习模型依赖于样本的完备性,影响因素的存在会使原有模型与现有数据失配,建立了在线模型;最后,在实际电力负荷预测中,单步长预测并不能满足工业现场的需要,建立了在线多步长预测模型。通过算例分析,并与SVR等方法进行对比,实验结果表明,所提方法能有效地应用于实际的电力系统负荷预测。

基于3DCNN与CLSTM混合模型的短期光伏功率预测

光伏发电功率预测对于电力系统制定发电计划和协同调度至关重要。然而,由于光伏发电过程的随机性和间歇性,光伏功率预测的准确性仍有较大提升空间。为此,提出了一种基于三维卷积神经网络(three-dimensional convolutional neural network,3DCNN)和卷积长短期记忆网络(convolutional long short-term memory network,CLSTM)混合模型的光伏功率预测方法,该方法结合3DCNN和CLSTM两种神经网络模型的优势,提高了预测准确性。采用均方根误差(root mean square error,RMSE)、平均绝对误差(mean absolute error,MAE)以及平均绝对百分比误差(mean absolute percentage error,MAPE)三个指标对预测模型进行评价,通过将基于该混合模型的预测方法应用于某光伏电站的出力预测,验证了模型的适用性和正确性。结果表明,当太阳辐照强度、温度、湿度、风速等输入的时间序列相同时,基于3DCNN和CLSTM混合模型的预测效果最好,相比于单独的3DCNN模型、CLSTM模型、BP神经网络模型,混合模型的MAPE分别提高了54%、61%和64%。说明该混合模型能够更好地适应光伏发电的随机性和间歇性特点,并提高功率预测的准确性。

基于深度LSTM辅助卷积网络的新型自动调制分类

自动调制分类在无线频谱异常检测和无线电环境感知中将发挥重要作用。随着深度学习算法的突破,调制分类任务可利用神经网络达到前所未有的高分类精确度。文中提出了一种新颖的神经网络,称为长短期卷积深度神经网络(LCDNN)。该网络创造性地结合了长短期记忆网络(LSTM)、卷积神经网络(CNN)和深度网络体系结构的优点。该模型无需人工提取特征,并可直接从训练数据集中的原始时域幅度和相位样本中学习。仿真结果表明,该模型在高信噪比下的分类精确度达到93.5%。此外,对模型的噪声敏感性进行了研究,并证明在一定信噪比范围内,LCDNN模型较现有的基础模型在噪声破坏方面更具弹性。最后,为降低模型计算的复杂度,提出了一种结构更为简洁的LCDNN模型,该模型仅使用原始LCDNN模型的0.6%的参数即可实现高精确度的分类准确率。

基于CNN-LSTM网络模型的风电功率短期预测研究

风电功率预测对电力系统的稳定运行与经济调度至关重要。为充分挖掘历史数据中的有效信息以提高风电功率短期预测精度,提出一种基于卷积神经网络(convolution neural network,CNN)和长短期记忆(long short-term memory network,LSTM)网络模型的风电功率短期预测方法,利用CNN序列特征提取能力进行有效信息的提取,保留更长的有效记忆信息以解决梯度弥散问题,弥补了LSTM网络模型面对过长序列时出现不稳定与梯度消失现象的不足。用国内某风电场数据进行实验,预测结果表明文中提出的方法与反向传播神经网络和LSTM网络预测方法相比,具有更高的预测精度。

基于谱聚类和多元变分模态分解的风电机组功率预测

传统的风电出力预测方法通常未能充分考虑机组之间的相似性和差异性,忽视了环境条件对风电出力的影响以及关键特征提取方法单一等问题。因此,提出了一种基于谱聚类和多元变分模态分解的人工神经网络风电出力预测方法。首先,为捕捉不同机组之间的相似性和差异性,对风速和风向进行谱聚类,构建风速-风向二维标签簇,并选取每个簇的中心机组以表征该簇的出力特征。接着,为更全面地描述出力与环境条件之间的关系,采用变分模态分解算法对聚类中心机组出力进行分解,同时将出力与风速、风向数据进行多元变分模态分解,得到不同频率的模态成分。最后,在预测阶段引入基于注意力机制的深度学习网络,对特征模态添加注意力机制后输入卷积长短期神经网络模型进行训练和预测,并通过误差修正模块得到同簇其他机组的预测结果。该方法相较传统方法在预测精确度上有明显提升,具有一定的实用性和有效性。

基于IF-Encoder的大坝监测异常数据检测算法

大坝安全监测数据中的异常值会对大坝安全分析、决策的正确性和及时性产生影响。为准确高效地检测大坝安全监测数据中的异常值,提出一种基于IF-Encoder的异常数据检测算法,基于时间序列间的相关性对目标序列进行重构,对比重构序列与目标序列残差的大小来识别异常值。另外依据规范要求,提出一种基于相关性的异常值鉴定方法,针对检测出的异常值进行真实异常、虚假异常划分,在保留真实异常值的情况下,对虚假异常值进行剔除处理。结果表明:相比四分位法、拉伊达准则、KNN最近邻法、DBSCAN聚类法,IF-Encoder算法检测异常值的查全率、查准率、准确率有所提升,其对异常值的识别更加可靠、有效。基于相关性的异常值鉴定方法对真实异常的鉴定准确率为92%,对虚假异常的鉴定准确率为100%,可有效对异常值进行划分。

数控机床旋转轴多自由度静/热误差同步测量与建模

针对现有的数控机床旋转轴误差测量与建模方法仅考虑多自由度静态几何误差或单自由度热误差单独作用的影响,未考虑几何误差和热误差耦合影响的问题,提出了一种基于球杆仪的数控机床旋转轴多自由度静/热误差同步测量与建模方法。首先基于齐次坐标变换建立球杆仪杆长变化模型,再基于该模型使用非齐次线性方程组建立静/热误差辨识模型;其次设计了适应多自由度静/热误差同步测量的球杆仪安装模式以缩短测量时间,减少热逸散对测量结果的影响;再次基于卷积长短期记忆神经网络(CNN-LSTM)建立旋转轴多自由度静/热误差预测模型;最后在数控蜗杆砂轮磨齿机的C轴上进行误差测量实验,对多种转速下的旋转轴多自由度误差进行快速辨识,并通过CNN-LSTM静/热误差预测模型对多自由度误差和球杆仪杆长变化进行预测,以验证所建模型的准确性。

SBAS-InSAR技术融合CNN-LSTM模型的矿区开采沉陷监测与预测

针对传统矿区开采沉陷监测方法耗费人力财力和预测预警模型较少的问题,研究提出一种基于短基线集合成孔径雷达干涉测量(Small Baseline Subset-Interferometry Synthetic Aperture Radar,SBAS-InSAR)技术和卷积神经网络(Convolutional Neural Networks,CNN)与长短期记忆网络(Long Short-Term Memory,LSTM)相结合的矿区开采沉陷监测预测方法。首先,利用SBAS-InSAR技术对建新煤矿进行矿区开采沉陷监测,获取了该矿区的年平均沉降速率和累计沉降值。用GNSS监测数据与SBAS-InSAR结果进行对比验证,其拟合效果较好。其次,在此基础上利用CNN-LSTM模型预测后6期沉降数据,其结果与CNN和LSTM预测结果进行对比。研究显示,CNN-LSTM模型的平均绝对误差(S_(MAE))和均方根误差(S_(RMSE))比单一的CNN和LSTM分别至少降低了44.8%和40.6%,其决定系数均高于98%。最后,进一步预测前6期和中6期沉降数据,验证了CNN-LSTM预测模型在时间上的一致性。因此,SBAS-InSAR融合CNN-LSTM模型在类似矿山开采沉陷监测和预测中有较好的应用前景。

基于数据增强算法和CNN-LSTM的高精确度手势识别

近年来,基于雷达的手势识别技术在工业和生活中得到了广泛应用,但愈加复杂的应用场景对手势识别算法的准确率和鲁棒性提出了更高要求。对此,设计了一种基于毫米波雷达的高精确度手势识别算法。通过对已有分类算法的研究对比,构建了一种用于手势识别的卷积神经网络-长短期记忆网络(CNN-LSTM)深度学习算法模型;同时,运用布莱克曼窗抑制手势信号处理中的频谱泄露问题,并联合运用小波阈值和动态补零算法实现高效杂波抑制和数据增强。实测结果表明,设计的手势识别算法正确分类率达到97.29%,在不同的距离和角度情况下也可以保持较好的识别准确率,具有良好的鲁棒性。