基于GRU-CNN双网络输出构建BP模型的径流预测方法

提高径流预测精度是避免洪水灾害发生的重要手段,由于预测阶段并无已知有效样本,给预测工作带来难度,因此,提出以双网络输出为预测阶段提供数据参考,结合训练阶段双网络输出与真实值之间的关系,对预测阶段采用二次多变量建模实现径流预测。首先,构建GRU和CNN深度学习网络,同步输出2条径流预测序列;其次,在已知时段内,构建2条预测结果与实测值之间的多变量BP模型;最后,基于双网络输出预测值,通过确定的BP模型输出径流预测结果。经测试,该方法给预测时段提供了可靠的先验样本,高效学习了网络输出与真实值之间关系,预测精度显著提升。

基于注意力机制的CNN-BiLSTM的IGBT剩余使用寿命预测

针对绝缘栅双极型晶体管(IGBT)可靠性问题,提出了一种融合卷积神经网络(CNN)、双向长短期记忆(BiLSTM)网络和注意力机制的剩余使用寿命(RUL)预测模型,可用于IGBT的寿命预测。模型中使用CNN提取特征参数,BiLSTM提取时序信息,注意力机制加权处理特征参数。使用IGBT加速老化数据集对提出的模型进行验证。结果表明,对比自回归差分移动平均(ARIMA)、长短期记忆(LSTM)、多层LSTM(Multi-LSTM)、 BiLSTM预测模型,在均方根误差和决定系数等评价指标方面该模型的性能最优。验证了提出的寿命预测模型对IGBT失效预测是有效的。

基于改进CNN-SVM的光伏组件红外图像故障诊断方法

为识别光伏组件故障类型,提高光伏系统发电效率,提出了一种基于改进CNN-SVM模型的光伏组件红外图像故障诊断方法。首先以光伏组件红外图像为输入样本构建改进CNN模型,采用全局平均池化层代替传统CNN模型的全连接层,在进行图像特征提取的同时降低模型参数量;利用数据增强和批归一化技术提高模型泛化能力,降低模型过拟合。其次采用非线性支持向量机SVM代替传统CNN模型中的Softmax分类器,以提高光伏组件红外图像故障识别准确率。最后采用Infrared Solar Modules数据集对所提模型进行了实例验证。结果表明:与传统CNN模型相比,改进CNN-SVM模型故障诊断准确率高,对各故障类型的识别能力强。

基于CNN-LSTM的水泥熟料f-CaO预测模型

水泥熟料中游离氧化钙(f-CaO)含量的传统人工离线检测缺乏时效性,不利于生产指导。针对离线检测的滞后问题和软测量模型中f-CaO含量与辅助变量的时序匹配问题,提出了一种基于卷积神经网络(convolutional neural network,CNN)和长短时记忆(long short-term memory,LSTM)神经网络的f-CaO含量预测模型。首先,利用滑动窗口截取辅助变量的区间数据;然后,采用CNN提取区间数据的时序特征;之后,构建LSTM神经网络模型;最后,控制截取辅助变量的延迟时间和间隔时间,根据模型预测拟合度提取辅助变量的最优时序特征。仿真结果表明,所提模型提高了水泥熟料中f-CaO含量的预测精度。

基于GADF与2D CNN-改进SVM的道岔故障诊断方法研究

针对道岔故障特征不易提取以及道岔故障诊断准确率较低的问题,提出一种格拉姆角差场(Gramian Angular Difference Fields, GADF)与二维卷积神经网络(Two Dimensional Convolutional Neural Network, 2D CNN)-改进支持向量机(Support Vector Machine, SVM)的道岔故障诊断组合方法。首先,结合现场实际应用情况,选取道岔设备正常转换与典型故障的转辙机功率曲线,建立转辙机功率曲线样本数据库;采用GADF编码将一维转辙机功率曲线信号转换为具有时间相关性的二维特征图,分别选择16×16、32×32以及64×64大小的特征图并提取图像数据。其次,在LeNet-5模型的基础上设计2D CNN网络结构,并将图像数据输入至基于2D CNN的道岔故障特征提取模型中,经多层的卷积层、池化层以及全连接层提取特征指标,建立道岔故障诊断样本数据库。最后,通过北方苍鹰优化(Northern Goshawk Optimization, NGO)算法优化SVM算法的惩罚因子与核函数方差,构建基于NGO-SVM的道岔故障诊断模型。实验结果分析表明,将转辙机功率曲线数据经GADF编码为64×64大小的特征图,并通过2D CNN模型提取道岔典型特征数据,较其他数据处理方法具有较高的故障诊断准确率,同时提高了故障诊断实时性;将建立的道岔故障诊断样本数据库输入至NGO-SVM道岔故障诊断模型,其故障诊断准确率高达97.5%,较其他故障诊断模型具有更好的故障诊断性能,为道岔故障诊断提供了一种新方法,对现场道岔设备的日常维修具有一定的指导意义。

基于3D CNN-BiLSTM-ATFA网络和步态特征的奶牛个体识别方法

针对基于花纹的奶牛个体识别中纯色或花纹较少的奶牛识别准确率较低的问题,本文提出一种基于步态特征的奶牛个体识别方法。首先,将DeepLabv3+语义分割算法的主干网络替换为MobileNetv2网络,并引入基于通道和空间的CBAM注意力机制,利用改进后模型分割出奶牛的剪影图。然后,将三维卷积神经网络(3D CNN)和双向长短期记忆网络(BiLSTM)构建为3D CNN-BiLSTM网络,并进一步集成自适应时间特征聚合模块(ATFA)生成3D CNN-BiLSTM-ATFA奶牛个体识别模型。最后,在30头奶牛的共1242条视频数据集上进行了奶牛个体识别实验。结果表明,改进后DeepLabv3+算法的平均像素准确率、平均交并比、准确率分别为99.02%、97.18%和99.71%。采用r3d_18作为3D CNN-BiLSTM-ATFA的主干网络效果最优。基于步态的奶牛个体识别平均准确率、灵敏度和精确度分别为94.58%、93.47%和95.94%。奶牛躯干和腿部不同部位进行加权特征融合的个体识别实验表明识别准确率还可进一步提高。奶牛跛足对步态识别效果影响较为明显,实验期间由健康变为跛足和一直跛足的奶牛个体识别准确率分别为89.39%和92.61%。本文研究结果可为奶牛的智能化个体识别提供技术参考。

Transformer-CNN特征跨注意力融合学习的行人重识别

卷积神经网络(convolutional neural network,CNN)关注局部特征,难以获得全局结构信息,Transformer网络建模长距离的特征依赖,但易忽略局部特征细节。提出了一种跨注意力融合学习的行人重识别算法,利用CNN和Transformer特征学习网络的特点,在丰富行人局部特征的同时改善特征的全局表达能力。该模型由三个部分构成:CNN分支主要提取局部细节信息;Transformer分支侧重于关注全局特征信息;跨注意力融合分支通过自注意力机制计算上述两个分支特征的相关性,进而实现特征融合,最终提高模型的表征能力。剥离实验以及在Market1501和DukeMTMC-reID数据集的实验结果证明了所提方法的有效性。

基于Transformer和CNN交错混合的肺结节分割网络

针对肺结节尺寸多样、形状异质化高等问题,提出基于Transformer和卷积神经网络(CNN)交错混合(IMTC)的肺结节分割网络,该网络是一个对称的层次连接网络,具有很强的多尺度特征提取能力。该网络通过集成2种方案分别解决肺结节多尺寸与形状异质化问题:(1)采用感知注意力模块(inception attention module,IAM),通过并联多个不同大小的卷积核来增加浅层网络的感受野组合,以此捕获更为丰富的浅层特征;(2)为获取更具表示能力的高级语义特征,利用由Transformer和CNN组成的基本骨干网络交错提取结节特征,使得全局特征与局部特征充分融合,从而提高结节特征表示的泛化能力和鲁棒性。实验结果表明:本文模型可以准确分割直径较小以及边缘复杂的肺结节,在LUNA16公开数据集上分割性能良好,Dice和IOU分别达到86.15%和76.10%。

基于残差修正CNN-BiLSTM的空中目标航迹短期预测算法

针对因深度学习自身局限性和递归预测策略产生的累积误差,导致航迹预测精度不高的问题,提出了一种基于残差修正CNN-BiLSTM的空中目标航迹短期预测算法。首先,引入卷积模块用于提取航迹数据之中具有潜在关联的空间位置特征,利用双向长短时记忆网络提取航迹数据中的时序特征,并实现对空中目标的实时单步预测和多步超前预测;其次,引入整合移动平均自回归为残差修正模型,对实时单步预测产生的残差建模,计算混合神经网络模型多步超前预测时的残差值;最后,将混合神经网络模型和残差修正模型的输出结果进行融合,得到最终的航迹预测值。实验结果表明,该算法大大降低了神经网络因自身局限性产生的误差和因递归策略预测产生的累积误差,能够显著提高空中目标航迹短期预测的精度。

基于改进Faster R-CNN的苹果采摘视觉定位与检测方法

针对采摘机器人对场景中目标分布密集、果实相互遮挡的检测及定位能力不理想问题,提出一种引入高效通道注意力机制(ECA)和多尺度融合特征金字塔(FPN)改进Faster R-CNN果实检测及定位方法。首先,利用表达能力较强的融合FPN的残差网络ResNet50替换原VGG16网络,消除了网络退化问题,进而提取更加抽象和丰富的语义信息,提升模型对多尺度和小目标的检测能力;其次,引入注意力机制ECA模块,使特征提取网络聚焦特征图像的局部高效信息,减少无效目标的干扰,提升模型检测精度;最后,采用一种枝叶插图数据增强方法改进苹果数据集,解决图像数据不足问题。基于构建的数据集,使用遗传算法优化K-means++聚类生成自适应锚框,提高模型定位准确性。试验结果表明,改进模型对可抓取和不可直接抓取苹果的精度均值分别为96.16%和86.95%,平均精度均值为92.79%,较传统Faster R-CNN提升15.68个百分点;对可抓取和不可直接抓取的苹果定位精度分别为97.14%和88.93%,较传统Faster R-CNN分别提高12.53个百分点和40.49个百分点;内存占用量减少38.20%,每帧平均计算时间缩短40.7%,改进后的模型参数量小且实时性好,能够更好地应用于果实采摘机器人视觉系统。

基于BE-MCNN模型的新闻评论情感分析方法

实时新闻评论具有文本短、信息丰富、结构复杂等特点,情感分析难以准确捕捉其真实的情感倾向。为增强语义的特征信息,减少模型过拟合问题,提高新闻评论情感分析的准确性,提出一种融合BERT模型、Transformer En⁃coder与多尺度CNN模型的新闻评论情感分析算法。首先,针对新闻评论长度较短、表达情绪观点内容较多的特点,使用BERT模型对新闻评论文本进行预训练,获得具有上下文信息的特征向量;其次,为解决模型过拟合问题,在BERT模型下游添加一层Transformer编码器;最后使用四通道双层CNN模型,通过组合不同大小尺寸的卷积核来提升模型分析新闻评论情感的性能。实验结果表明,该方法在两个新闻评论数据集上的准确率分别达到93.0%与96.4%;与不同模型的比较实验进一步证明了所提方法的有效性。

基于EMI-CNN的建筑施工模板支撑体系节点健康监测

为预防模板坍塌引发建筑施工安全事故风险,提出一种基于压电阻抗法(EMI)和卷积神经网络(CNN)的模板支撑体系节点智能监测方法。首先,利用压电陶瓷传感器(PZT)的机电耦合特性及其集驱动-传感于一体的特点,建立PZT-节点耦合系统的机电阻抗传感机制模型;其次,基于EMI法,以与待测结构耦合的PZT片电导信号为监测指标,确定模板支撑体系节点松动的发生;然后,以敏感频段内PZT片的801个原始电导信号为模型输入,9个节点松动程度为模型输出,构建162组学习样本和27组测试样本,建立EMI-CNN模型,确定节点松动程度;最后,以一个实际工程中的建筑施工模板体系节点为例,验证EMI-CNN模型的有效性,并对比分析EMI-BP模型。研究结果表明:EMI-CNN模型经过85次迭代达到收敛,预测准确率达到100%,相较于EMI-BP模型提高29.63%。该监测方法可实现对建筑施工模板支撑体系节点健康状态实时、准确、无损监测。

基于CNN-LSTM混合神经网络的高速铁路地震响应预测

为了更好地挖掘高速铁路在地震时的响应信息,提高光纤光栅监测的效率及预测精度,该文针对地震响应数据的时序性及非线性的特点,提出卷积神经网络(CNN)和长短期记忆(LSTM)网络的混合神经网络模型预测方法.通过在高速铁路简支梁桥上布设准分布式光纤光栅采集地震时轨道板、钢轨、底座板、箱梁的响应数据,在每根光纤上布置7个光栅,利用两边光栅的响应数据预测中间点的光栅响应,将采集位置、历史数据及地震波形等信息作为特征图输入.利用CNN提取特征,再将提前提取出来的特征数据以时序方式作为LSTM网络的输入数据,最后LSTM网络进行地震应变响应预测.实验结果表明,LSTM网络在3层时效果最好,CNN-LSTM方法具有较高的预测精度,根均平方误差(R_(RMSE))、平均绝对误差(R_(MAE))、决定系数(R^(2))分别达到了0.3753、0.2968、0.9371.

基于SimBERT+CNN的专利智能分类技术研究

本文基于SimBERT+CNN深度学习模型,以烟草产业相关专利为例,研究了基于烟草相关技术专利文献的智能分类技术,用于专利数据的自动技术分类或者人工辅助分类。主要研究方法:利用人工对烟草相关专利文献进行二级技术分类标注,将包括烟草技术类和非烟草技术类专利作为深度学习的样本数据,然后抽取相关专利中有X类引证的专利文献中的权利要求项和被引专利的对应文本段落作为句对,用于优化基于SimBERT构建的语义模型训练,使用训练优化后的SimBERT模型,对烟草行业的专利分类样本数据进行文字型特征向量和IPC分类号特征向量特征拼接并输入CNN模型。通过对15万余件烟草技术专利和2万余件非烟草技术专利样本的实证训练和测试,发现基于采用上述优化方法的SimBERT+CNN模型对烟草技术专利的技术分类测试准确率在一级烟草技术分类和二级技术分类方面均优于使用BERT+CNN的分类效果。

融合多尺度CNN和CRF的通用细粒度事件检测

事件检测是自然语言处理领域中事件抽取的主要任务之一,它旨在从众多非结构化信息中自动提取出结构化的关键信息.现有的方法存在特征提取不全面、特征分布不均等情况.为了提高事件检测的准确率,提出了一种融合BERT预训练模型与多尺度CNN的神经网络模型(BMCC,BERT+Multi-scale CNN+CRF).首先通过BERT(Bidirectional Encoder Representations from Transformers)预训练模型来进行词向量的嵌入,并利用其双向训练的Transformer机制来提取序列的状态特征;其次使用不同尺度的卷积核在多个卷积通道中进行卷积训练,以此来提取不同视野的语义信息,丰富其语义表征.最后将BIO机制融入到条件随机场(CRF)来对序列进行标注,实现事件的检测.实验结果表明,所提出的模型在MAVEN数据集上的F1值为65.17%,表现了该模型的良好性能.

基于CNN-GRU模型的USV运动姿态多步预测方法

针对单一模型在预测无人水面艇(Unmanned Surface Vessel,USV)运动姿态时精度不高的问题,提出一种基于卷积神经网络(CNN)和门控循环单元(GRU)的USV姿态多步预测模型。首先,使用滑动窗口法构造运动姿态数据集作为模型输入;然后,使用CNN模块挖掘时序数据的局部特征;最后,使用GRU模型进行多步预测。使用实测USV运动姿态数据进行预测实验,实验结果表明,该模型比XGBoost模型、单一LSTM模型和单一GRU模型具有更高的预测精度,各项评价指标表现更佳,具有重要的应用价值。

基于CNN-LSTM的大坝变形组合预测模型研究

为了提高大坝变形预测模型精度和泛化能力,建立了一种基于卷积神经网络(Convolutional neural networks,CNN)与深度学习长短期记忆(Long short-term memory,LSTM)神经网络的组合预测模型CNN-LSTM。该模型先利用CNN提取大坝变形监测时间序列的特征,再利用LSTM生成特征描述,该模型精度高、泛化能力强。以柏叶口水库混凝土面板堆石坝为例,经过CNN-LSTM模型计算,将模型变形预测值与原型监测资料进行对比,再与LSTM模型及CNN模型的预测结果进行对比。结果表明,CNN-LSTM模型预测值最接近监测资料实测结果。

基于CNN闸泵站共体式结构变形预测的全局敏感性分析

针对设计阶段传统的结构变形敏感性分析计算成本较大的问题,引入了CNN模型,预测在不同材料参数和水位条件下闸泵站共体式结构的变形,并对所建模型进行全局敏感性分析,从而大幅降低计算成本。首先通过ANSYS的PDS模块计算出200组结构变形数据,并基于这些数据构建和训练CNN结构变形预测模型,随后运用Sobol法分析设计参数对结构变形的敏感性。结果表明,闸泵站共体式结构的变形以沉降为主,在竖直方向上的位移受复合地基弹性模量的影响较大,在顺河向和横河向上的位移受上下水位影响较大,结构的最大应力受上下游水深和混凝土弹性模量影响较大。研究结果可为相关设计提供参考依据。

结合视觉Transformer和CNN的道路裂缝检测方法

提出了一种结合视觉Transformer和CNN的道路裂缝检测方法。利用CNN来捕获局部的细节信息,同时利用视觉Transformer来捕获全局特征。通过设计的Fusion特征融合模块将两者提取的特征有机地结合在一起,从而解决了单独使用CNN或视觉Transformer方法存在的局限。最终将结果传递至交互式解码器,生成道路裂缝的检测结果。实验结果表明,无论是在公开的数据集上还是在自建的数据集上,相较于单独使用CNN或视觉Transformer的方法,所提出的方法在道路裂缝检测任务中有更好的效果。

基于CNN的毫米波无蜂窝大规模MIMO信道估计

针对小区间干扰导致蜂窝边缘无法满足不断增长的数据速率需求问题,毫米波无蜂窝大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)系统被认为是一种很有前途的解决方案。然而,毫米波的高频率、大带宽以及接入点配置的大量天线给信道估计带来了较大挑战。将毫米波大规模MIMO信道矩阵视为二维图像,结合图像去噪方法提出一种基于改进去噪卷积神经网络(Improved-Denoising Convolutional Neural Network,I-DnCNN)的信道估计算法。通过具有注意力机制的压缩与激励(Squeeze-and-Excitation,SE)模块,自适应调整提取的全局特征以增强对信道噪声特征的学习,根据接收信号估计出噪声等级图且增添为输入,提升对噪声的鲁棒性。最后,采用残差学习的方式获得估计信道矩阵。利用理论信道模型和基于波束追踪的信道数据集进行的仿真实验结果表明,与去噪卷积神经网络(Denoising Convolutional Neural Network,DnCNN)算法相比,所提算法在两个数据集下的信道估计精度可分别平均提升2.27 dB和2.60 dB。