基于残差修正CNN-BiLSTM的空中目标航迹短期预测算法

针对因深度学习自身局限性和递归预测策略产生的累积误差,导致航迹预测精度不高的问题,提出了一种基于残差修正CNN-BiLSTM的空中目标航迹短期预测算法。首先,引入卷积模块用于提取航迹数据之中具有潜在关联的空间位置特征,利用双向长短时记忆网络提取航迹数据中的时序特征,并实现对空中目标的实时单步预测和多步超前预测;其次,引入整合移动平均自回归为残差修正模型,对实时单步预测产生的残差建模,计算混合神经网络模型多步超前预测时的残差值;最后,将混合神经网络模型和残差修正模型的输出结果进行融合,得到最终的航迹预测值。实验结果表明,该算法大大降低了神经网络因自身局限性产生的误差和因递归策略预测产生的累积误差,能够显著提高空中目标航迹短期预测的精度。

基于注意力机制的CNN-BiLSTM的IGBT剩余使用寿命预测

针对绝缘栅双极型晶体管(IGBT)可靠性问题,提出了一种融合卷积神经网络(CNN)、双向长短期记忆(BiLSTM)网络和注意力机制的剩余使用寿命(RUL)预测模型,可用于IGBT的寿命预测。模型中使用CNN提取特征参数,BiLSTM提取时序信息,注意力机制加权处理特征参数。使用IGBT加速老化数据集对提出的模型进行验证。结果表明,对比自回归差分移动平均(ARIMA)、长短期记忆(LSTM)、多层LSTM(Multi-LSTM)、 BiLSTM预测模型,在均方根误差和决定系数等评价指标方面该模型的性能最优。验证了提出的寿命预测模型对IGBT失效预测是有效的。

基于CNN-LSTM的水泥熟料f-CaO预测模型

水泥熟料中游离氧化钙(f-CaO)含量的传统人工离线检测缺乏时效性,不利于生产指导。针对离线检测的滞后问题和软测量模型中f-CaO含量与辅助变量的时序匹配问题,提出了一种基于卷积神经网络(convolutional neural network,CNN)和长短时记忆(long short-term memory,LSTM)神经网络的f-CaO含量预测模型。首先,利用滑动窗口截取辅助变量的区间数据;然后,采用CNN提取区间数据的时序特征;之后,构建LSTM神经网络模型;最后,控制截取辅助变量的延迟时间和间隔时间,根据模型预测拟合度提取辅助变量的最优时序特征。仿真结果表明,所提模型提高了水泥熟料中f-CaO含量的预测精度。

基于改进CNN-SVM的光伏组件红外图像故障诊断方法

为识别光伏组件故障类型,提高光伏系统发电效率,提出了一种基于改进CNN-SVM模型的光伏组件红外图像故障诊断方法。首先以光伏组件红外图像为输入样本构建改进CNN模型,采用全局平均池化层代替传统CNN模型的全连接层,在进行图像特征提取的同时降低模型参数量;利用数据增强和批归一化技术提高模型泛化能力,降低模型过拟合。其次采用非线性支持向量机SVM代替传统CNN模型中的Softmax分类器,以提高光伏组件红外图像故障识别准确率。最后采用Infrared Solar Modules数据集对所提模型进行了实例验证。结果表明:与传统CNN模型相比,改进CNN-SVM模型故障诊断准确率高,对各故障类型的识别能力强。

基于Transformer和CNN交错混合的肺结节分割网络

针对肺结节尺寸多样、形状异质化高等问题,提出基于Transformer和卷积神经网络(CNN)交错混合(IMTC)的肺结节分割网络,该网络是一个对称的层次连接网络,具有很强的多尺度特征提取能力。该网络通过集成2种方案分别解决肺结节多尺寸与形状异质化问题:(1)采用感知注意力模块(inception attention module,IAM),通过并联多个不同大小的卷积核来增加浅层网络的感受野组合,以此捕获更为丰富的浅层特征;(2)为获取更具表示能力的高级语义特征,利用由Transformer和CNN组成的基本骨干网络交错提取结节特征,使得全局特征与局部特征充分融合,从而提高结节特征表示的泛化能力和鲁棒性。实验结果表明:本文模型可以准确分割直径较小以及边缘复杂的肺结节,在LUNA16公开数据集上分割性能良好,Dice和IOU分别达到86.15%和76.10%。

基于GADF与2D CNN-改进SVM的道岔故障诊断方法研究

针对道岔故障特征不易提取以及道岔故障诊断准确率较低的问题,提出一种格拉姆角差场(Gramian Angular Difference Fields, GADF)与二维卷积神经网络(Two Dimensional Convolutional Neural Network, 2D CNN)-改进支持向量机(Support Vector Machine, SVM)的道岔故障诊断组合方法。首先,结合现场实际应用情况,选取道岔设备正常转换与典型故障的转辙机功率曲线,建立转辙机功率曲线样本数据库;采用GADF编码将一维转辙机功率曲线信号转换为具有时间相关性的二维特征图,分别选择16×16、32×32以及64×64大小的特征图并提取图像数据。其次,在LeNet-5模型的基础上设计2D CNN网络结构,并将图像数据输入至基于2D CNN的道岔故障特征提取模型中,经多层的卷积层、池化层以及全连接层提取特征指标,建立道岔故障诊断样本数据库。最后,通过北方苍鹰优化(Northern Goshawk Optimization, NGO)算法优化SVM算法的惩罚因子与核函数方差,构建基于NGO-SVM的道岔故障诊断模型。实验结果分析表明,将转辙机功率曲线数据经GADF编码为64×64大小的特征图,并通过2D CNN模型提取道岔典型特征数据,较其他数据处理方法具有较高的故障诊断准确率,同时提高了故障诊断实时性;将建立的道岔故障诊断样本数据库输入至NGO-SVM道岔故障诊断模型,其故障诊断准确率高达97.5%,较其他故障诊断模型具有更好的故障诊断性能,为道岔故障诊断提供了一种新方法,对现场道岔设备的日常维修具有一定的指导意义。

基于小波变换和CNN-Transformer模型的测井储层流体识别

针对具有复杂储集空间和极强的非均质性的低孔低渗储层,常规测井响应特征不够明显,使用传统解释手段难以有效识别储层流体的问题,提出了一种基于小波变换和CNN-Transformer混合模型的储层流体识别方法。首先,使用小波变换将测井信号从时域扩展到时频域,并生成时频谱图以增强信号特征,然后使用滑动时窗沿着测井曲线深度方向滑动采样,获取代表解释深度处地层信息的频谱特征图,最后,通过训练CNN-transformer模型深度挖掘特征图信息,实现储层流体识别。混合模型在利用储层对应深度处测井数据的同时,又兼顾测井曲线随深度的变化趋势和地层前后信息的关联性,挖掘时频谱图的局部细节和全局特征表示,自动识别流体类型。将模型应用于大港油田22口实测测井资料中,并与CNN和BiLSTM等多个模型的流体识别效果进行对比分析,基于小波变换和CNN-Transformer模型识别效果明显优于其他方法,在测试集上识别准确率达到了92.7%。研究结果表明该方法可以作为低孔渗油藏常规测井资料识别储层流体的有效手段,为流体评价提供了新思路。

改进Mask R-CNN的馆藏报纸图像内容分割

开展馆藏报纸图像内容分割研究,能提升文字识别准确率,对促进机器识别取代人工操作、提高图书馆数字化工作效率具有重要意义。文章根据报纸图像呈现的特征,提出一种基于改进MaskR-CNN的算法,实现报纸图像内容分割。首先,通过优化锚框比例和损失函数,对原始MaskR-CNN算法进行改进。其次,采用数据增强、调整训练参数开展样本训练。最后,通过实验的方式对改进后的MaskR-CNN算法训练模型和原始算法训练模型进行比较,并采用AP_bbox和AP_segm评价指标对实验结果进行评估,改进后的算法训练模型AP_bbox为0.935,AP_segm为0.943,均超过原始算法训练模型。实验结果表明,改进后的MaskR-CNN算法能够实现报纸图像内容有效检测与分割。

融合多尺度CNN和CRF的通用细粒度事件检测

事件检测是自然语言处理领域中事件抽取的主要任务之一,它旨在从众多非结构化信息中自动提取出结构化的关键信息.现有的方法存在特征提取不全面、特征分布不均等情况.为了提高事件检测的准确率,提出了一种融合BERT预训练模型与多尺度CNN的神经网络模型(BMCC,BERT+Multi-scale CNN+CRF).首先通过BERT(Bidirectional Encoder Representations from Transformers)预训练模型来进行词向量的嵌入,并利用其双向训练的Transformer机制来提取序列的状态特征;其次使用不同尺度的卷积核在多个卷积通道中进行卷积训练,以此来提取不同视野的语义信息,丰富其语义表征.最后将BIO机制融入到条件随机场(CRF)来对序列进行标注,实现事件的检测.实验结果表明,所提出的模型在MAVEN数据集上的F1值为65.17%,表现了该模型的良好性能.

基于改进Faster R-CNN的苹果采摘视觉定位与检测方法

针对采摘机器人对场景中目标分布密集、果实相互遮挡的检测及定位能力不理想问题,提出一种引入高效通道注意力机制(ECA)和多尺度融合特征金字塔(FPN)改进Faster R-CNN果实检测及定位方法。首先,利用表达能力较强的融合FPN的残差网络ResNet50替换原VGG16网络,消除了网络退化问题,进而提取更加抽象和丰富的语义信息,提升模型对多尺度和小目标的检测能力;其次,引入注意力机制ECA模块,使特征提取网络聚焦特征图像的局部高效信息,减少无效目标的干扰,提升模型检测精度;最后,采用一种枝叶插图数据增强方法改进苹果数据集,解决图像数据不足问题。基于构建的数据集,使用遗传算法优化K-means++聚类生成自适应锚框,提高模型定位准确性。试验结果表明,改进模型对可抓取和不可直接抓取苹果的精度均值分别为96.16%和86.95%,平均精度均值为92.79%,较传统Faster R-CNN提升15.68个百分点;对可抓取和不可直接抓取的苹果定位精度分别为97.14%和88.93%,较传统Faster R-CNN分别提高12.53个百分点和40.49个百分点;内存占用量减少38.20%,每帧平均计算时间缩短40.7%,改进后的模型参数量小且实时性好,能够更好地应用于果实采摘机器人视觉系统。

基于SimBERT+CNN的专利智能分类技术研究

本文基于SimBERT+CNN深度学习模型,以烟草产业相关专利为例,研究了基于烟草相关技术专利文献的智能分类技术,用于专利数据的自动技术分类或者人工辅助分类。主要研究方法:利用人工对烟草相关专利文献进行二级技术分类标注,将包括烟草技术类和非烟草技术类专利作为深度学习的样本数据,然后抽取相关专利中有X类引证的专利文献中的权利要求项和被引专利的对应文本段落作为句对,用于优化基于SimBERT构建的语义模型训练,使用训练优化后的SimBERT模型,对烟草行业的专利分类样本数据进行文字型特征向量和IPC分类号特征向量特征拼接并输入CNN模型。通过对15万余件烟草技术专利和2万余件非烟草技术专利样本的实证训练和测试,发现基于采用上述优化方法的SimBERT+CNN模型对烟草技术专利的技术分类测试准确率在一级烟草技术分类和二级技术分类方面均优于使用BERT+CNN的分类效果。

基于CNN-BiLSTM-SA网络的人类活动识别

针对传统的神经网络对人类活动行为识别精度不高的问题,本文提出了一种基于双通道机制的卷积神经网络叠加双向长短期记忆网络和自注意力的混合网络模型(convolutional neural network-bi-directional long short-term memory-self-attention,CNN-BiLSTM-SA)。首先将数据集中的加速度和角速度数据作为网络的两个输入,然后使用卷积神经网络叠加双向长短期记忆网络的模式搭建系统,最后引入自注意力机制增强系统的分类能力。实验结果表明,在UCI-HAR数据集中,本网络的平均F 1分数达到98.6%,平均准确率达到98.4%,比卷积神经网络叠加长短期记忆神经网络模型(convolutional neural network-long short-term memory,CNN-LSTM)收敛速度更快并且准确率提高了4.2%,在人类活动识别方面,具有更广阔的应用前景。

基于SSA-CNN的航空器着陆跑道占用时间预测

国内外相关研究表明,航空器着陆跑道占用时间(aircraft arrive runway occupation time,AROT)是影响机场跑道容量的重要因素,对跑道占用时间的准确预测有利于更准确地评估跑道容量。由于着陆过程的动态性和复杂性,采用注重数据特征提取的卷积神经网络(convolutional neural networks,CNN)对AROT进行预测,针对CNN容易陷入局部最优等缺点,采用麻雀搜索算法(sparrow search algorithm,SSA)对CNN相关参数进行优化。数据采用航空器快速存取记录器(quick access recorder,QAR)的记录作为数据源,涵盖机场数目为34个。根据QAR数据分析AROT影响因素,构建了SSA-CNN预测模型。对QAR数据分析表明AROT与滑行距离、落地气温、跑道入口速度、快速脱离道数量、脱离速度关联性较强,与航空器重量、风速、风向、脱离道角度等影响因素关联性较低。根据影响因素的关联性采用CNN预测模型均方误差为18.35,而优化后的SSA-CNN预测模型均方误差为17.31,预测结果可以为机场评估跑道容量提供参考。

基于CNN-GRU-LightGBM模型的单井产量预测方法

单井日产量趋势预测研究在油田生产中具有重要意义。由于油井生产工况复杂,难以准确预测日产量,建立了基于多变量时序数据的产量模型。基于卷积门控循环单元(convolutional neural network-gate recurrent unit,CNN-GRU)提取深层特征进行时序预测,基于梯度提升框架的集成模型(light gradient boosting machine,LightGBM)从回归预测角度进行预测,两者结果相互融合,进一步提高产量预测精度。同时,提出了一种可以实现多变量时序预测或回归预测模型在未知输入特征情况下准确预测产量的方法—超前参数递归预测策略。采用该方法对影响产量的重要特征进行超前预测,并将预测到的重要特征应用于预测产量的仿真测试中。仿真结果表明:本文模型与超前参数递归策略配合最好,在测试集上的预测准确度最高。相比单变量时序预测和回归预测模型,可显著提高预测精度。

基于CNN-GRU模型的USV运动姿态多步预测方法

针对单一模型在预测无人水面艇(Unmanned Surface Vessel,USV)运动姿态时精度不高的问题,提出一种基于卷积神经网络(CNN)和门控循环单元(GRU)的USV姿态多步预测模型。首先,使用滑动窗口法构造运动姿态数据集作为模型输入;然后,使用CNN模块挖掘时序数据的局部特征;最后,使用GRU模型进行多步预测。使用实测USV运动姿态数据进行预测实验,实验结果表明,该模型比XGBoost模型、单一LSTM模型和单一GRU模型具有更高的预测精度,各项评价指标表现更佳,具有重要的应用价值。

基于CNN的毫米波无蜂窝大规模MIMO信道估计

针对小区间干扰导致蜂窝边缘无法满足不断增长的数据速率需求问题,毫米波无蜂窝大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)系统被认为是一种很有前途的解决方案。然而,毫米波的高频率、大带宽以及接入点配置的大量天线给信道估计带来了较大挑战。将毫米波大规模MIMO信道矩阵视为二维图像,结合图像去噪方法提出一种基于改进去噪卷积神经网络(Improved-Denoising Convolutional Neural Network,I-DnCNN)的信道估计算法。通过具有注意力机制的压缩与激励(Squeeze-and-Excitation,SE)模块,自适应调整提取的全局特征以增强对信道噪声特征的学习,根据接收信号估计出噪声等级图且增添为输入,提升对噪声的鲁棒性。最后,采用残差学习的方式获得估计信道矩阵。利用理论信道模型和基于波束追踪的信道数据集进行的仿真实验结果表明,与去噪卷积神经网络(Denoising Convolutional Neural Network,DnCNN)算法相比,所提算法在两个数据集下的信道估计精度可分别平均提升2.27 dB和2.60 dB。

结合视觉Transformer和CNN的道路裂缝检测方法

提出了一种结合视觉Transformer和CNN的道路裂缝检测方法。利用CNN来捕获局部的细节信息,同时利用视觉Transformer来捕获全局特征。通过设计的Fusion特征融合模块将两者提取的特征有机地结合在一起,从而解决了单独使用CNN或视觉Transformer方法存在的局限。最终将结果传递至交互式解码器,生成道路裂缝的检测结果。实验结果表明,无论是在公开的数据集上还是在自建的数据集上,相较于单独使用CNN或视觉Transformer的方法,所提出的方法在道路裂缝检测任务中有更好的效果。

基于改进Faster R-CNN与U-Net算法的桥梁病害识别与量化方法

为实现桥梁病害检测的自动化,对基于图像处理技术的混凝土桥梁表观病害的智能识别和尺寸确定方法展开研究.提出基于改进Faster R-CNN算法的病害识别方法,利用K均值聚类和遗传算法对区域候选网络锚框进行优化设计;以裂缝预测区域为基础,提出ResNet34结合U-Net的裂缝形态提取方法,并结合裂缝形态学研究了裂缝像素宽度和长度的确定方法.结果表明:锚框优化设计可改进Faster R-CNN算法的表观病害识别效果,5类常见病害的预测准确率、召回率、平均精确率分别由68.40%、69.87%、74.64%提升到85.40%、83.59%、83.72%;利用病害预测框,结合改进U-Net算法的裂缝像素尺寸计算,可实现裂缝病害尺寸的自动测量;基于改进Faster R-CNN和改进U-Net的方法可实现混凝土桥梁常见病害的智能识别和尺寸量化,从而提高桥梁病害检测效率并促进桥梁技术状况评定的智能化.

基于Mask R-CNN的电力关键设备运行状态检测

为判断电力关键设备两端负载电压与干路总电压之间的数值关系,提出基于Mask R-CNN的电力关键设备运行状态检测方法。在Mask R-CNN网络结构中,判断电量信号的时域范围与频域范围。然后根据负荷阻抗特征计算交流参数的取值结果,再联合已获取的电信号参量,求解连续相关函数,从而检测电力关键设备运行状态。实验过程中,设备两端负载电压、内阻消耗电压之和与干路总电压之间的差值未超过1.5 V,说明该方法能够证明电力关键设备两端负载电压、内阻消耗电压之和等于干路总电压数值的猜想成立,可以根据该验证检测电力关键设备运行状态是否正常。

基于改进Faster R CNN的光伏组件红外热斑检测算法

光伏故障检测对光伏电站智能运维具有重要意义。针对光伏组件红外图像中热斑目标小、难检测的问题,研究了基于改进Faster R CNN的光伏组件红外热斑故障检测模型。将Swin Transformer作为Faster R CNN模型中的特征提取模块,捕获图像的全局信息,建立特征之间的依赖关系,提高模型的建模能力;进一步利用BiFPN进行特征融合,改善了热斑故障由于目标小和特征不明显容易被模型忽略掉的问题;同时为了抑制光伏红外图像中背景和噪声的干扰,加入轻量级注意力模块CBAM,使模型更加关注重要通道和关键区域,提高对热斑故障检测精度。在自建光伏组件图像数据集上进行实验,热斑故障检测精度高达915,验证了本文模型对光伏组件热斑故障检测的有效性。