基于注意力机制的CNN-BiLSTM的IGBT剩余使用寿命预测

针对绝缘栅双极型晶体管(IGBT)可靠性问题,提出了一种融合卷积神经网络(CNN)、双向长短期记忆(BiLSTM)网络和注意力机制的剩余使用寿命(RUL)预测模型,可用于IGBT的寿命预测。模型中使用CNN提取特征参数,BiLSTM提取时序信息,注意力机制加权处理特征参数。使用IGBT加速老化数据集对提出的模型进行验证。结果表明,对比自回归差分移动平均(ARIMA)、长短期记忆(LSTM)、多层LSTM(Multi-LSTM)、 BiLSTM预测模型,在均方根误差和决定系数等评价指标方面该模型的性能最优。验证了提出的寿命预测模型对IGBT失效预测是有效的。

基于改进CNN-SVM的光伏组件红外图像故障诊断方法

为识别光伏组件故障类型,提高光伏系统发电效率,提出了一种基于改进CNN-SVM模型的光伏组件红外图像故障诊断方法。首先以光伏组件红外图像为输入样本构建改进CNN模型,采用全局平均池化层代替传统CNN模型的全连接层,在进行图像特征提取的同时降低模型参数量;利用数据增强和批归一化技术提高模型泛化能力,降低模型过拟合。其次采用非线性支持向量机SVM代替传统CNN模型中的Softmax分类器,以提高光伏组件红外图像故障识别准确率。最后采用Infrared Solar Modules数据集对所提模型进行了实例验证。结果表明:与传统CNN模型相比,改进CNN-SVM模型故障诊断准确率高,对各故障类型的识别能力强。

基于CNN-LSTM的水泥熟料f-CaO预测模型

水泥熟料中游离氧化钙(f-CaO)含量的传统人工离线检测缺乏时效性,不利于生产指导。针对离线检测的滞后问题和软测量模型中f-CaO含量与辅助变量的时序匹配问题,提出了一种基于卷积神经网络(convolutional neural network,CNN)和长短时记忆(long short-term memory,LSTM)神经网络的f-CaO含量预测模型。首先,利用滑动窗口截取辅助变量的区间数据;然后,采用CNN提取区间数据的时序特征;之后,构建LSTM神经网络模型;最后,控制截取辅助变量的延迟时间和间隔时间,根据模型预测拟合度提取辅助变量的最优时序特征。仿真结果表明,所提模型提高了水泥熟料中f-CaO含量的预测精度。

基于GADF与2D CNN-改进SVM的道岔故障诊断方法研究

针对道岔故障特征不易提取以及道岔故障诊断准确率较低的问题,提出一种格拉姆角差场(Gramian Angular Difference Fields, GADF)与二维卷积神经网络(Two Dimensional Convolutional Neural Network, 2D CNN)-改进支持向量机(Support Vector Machine, SVM)的道岔故障诊断组合方法。首先,结合现场实际应用情况,选取道岔设备正常转换与典型故障的转辙机功率曲线,建立转辙机功率曲线样本数据库;采用GADF编码将一维转辙机功率曲线信号转换为具有时间相关性的二维特征图,分别选择16×16、32×32以及64×64大小的特征图并提取图像数据。其次,在LeNet-5模型的基础上设计2D CNN网络结构,并将图像数据输入至基于2D CNN的道岔故障特征提取模型中,经多层的卷积层、池化层以及全连接层提取特征指标,建立道岔故障诊断样本数据库。最后,通过北方苍鹰优化(Northern Goshawk Optimization, NGO)算法优化SVM算法的惩罚因子与核函数方差,构建基于NGO-SVM的道岔故障诊断模型。实验结果分析表明,将转辙机功率曲线数据经GADF编码为64×64大小的特征图,并通过2D CNN模型提取道岔典型特征数据,较其他数据处理方法具有较高的故障诊断准确率,同时提高了故障诊断实时性;将建立的道岔故障诊断样本数据库输入至NGO-SVM道岔故障诊断模型,其故障诊断准确率高达97.5%,较其他故障诊断模型具有更好的故障诊断性能,为道岔故障诊断提供了一种新方法,对现场道岔设备的日常维修具有一定的指导意义。

基于3D CNN-BiLSTM-ATFA网络和步态特征的奶牛个体识别方法

针对基于花纹的奶牛个体识别中纯色或花纹较少的奶牛识别准确率较低的问题,本文提出一种基于步态特征的奶牛个体识别方法。首先,将DeepLabv3+语义分割算法的主干网络替换为MobileNetv2网络,并引入基于通道和空间的CBAM注意力机制,利用改进后模型分割出奶牛的剪影图。然后,将三维卷积神经网络(3D CNN)和双向长短期记忆网络(BiLSTM)构建为3D CNN-BiLSTM网络,并进一步集成自适应时间特征聚合模块(ATFA)生成3D CNN-BiLSTM-ATFA奶牛个体识别模型。最后,在30头奶牛的共1242条视频数据集上进行了奶牛个体识别实验。结果表明,改进后DeepLabv3+算法的平均像素准确率、平均交并比、准确率分别为99.02%、97.18%和99.71%。采用r3d_18作为3D CNN-BiLSTM-ATFA的主干网络效果最优。基于步态的奶牛个体识别平均准确率、灵敏度和精确度分别为94.58%、93.47%和95.94%。奶牛躯干和腿部不同部位进行加权特征融合的个体识别实验表明识别准确率还可进一步提高。奶牛跛足对步态识别效果影响较为明显,实验期间由健康变为跛足和一直跛足的奶牛个体识别准确率分别为89.39%和92.61%。本文研究结果可为奶牛的智能化个体识别提供技术参考。

Transformer-CNN特征跨注意力融合学习的行人重识别

卷积神经网络(convolutional neural network,CNN)关注局部特征,难以获得全局结构信息,Transformer网络建模长距离的特征依赖,但易忽略局部特征细节。提出了一种跨注意力融合学习的行人重识别算法,利用CNN和Transformer特征学习网络的特点,在丰富行人局部特征的同时改善特征的全局表达能力。该模型由三个部分构成:CNN分支主要提取局部细节信息;Transformer分支侧重于关注全局特征信息;跨注意力融合分支通过自注意力机制计算上述两个分支特征的相关性,进而实现特征融合,最终提高模型的表征能力。剥离实验以及在Market1501和DukeMTMC-reID数据集的实验结果证明了所提方法的有效性。

基于Transformer和CNN交错混合的肺结节分割网络

针对肺结节尺寸多样、形状异质化高等问题,提出基于Transformer和卷积神经网络(CNN)交错混合(IMTC)的肺结节分割网络,该网络是一个对称的层次连接网络,具有很强的多尺度特征提取能力。该网络通过集成2种方案分别解决肺结节多尺寸与形状异质化问题:(1)采用感知注意力模块(inception attention module,IAM),通过并联多个不同大小的卷积核来增加浅层网络的感受野组合,以此捕获更为丰富的浅层特征;(2)为获取更具表示能力的高级语义特征,利用由Transformer和CNN组成的基本骨干网络交错提取结节特征,使得全局特征与局部特征充分融合,从而提高结节特征表示的泛化能力和鲁棒性。实验结果表明:本文模型可以准确分割直径较小以及边缘复杂的肺结节,在LUNA16公开数据集上分割性能良好,Dice和IOU分别达到86.15%和76.10%。

基于残差修正CNN-BiLSTM的空中目标航迹短期预测算法

针对因深度学习自身局限性和递归预测策略产生的累积误差,导致航迹预测精度不高的问题,提出了一种基于残差修正CNN-BiLSTM的空中目标航迹短期预测算法。首先,引入卷积模块用于提取航迹数据之中具有潜在关联的空间位置特征,利用双向长短时记忆网络提取航迹数据中的时序特征,并实现对空中目标的实时单步预测和多步超前预测;其次,引入整合移动平均自回归为残差修正模型,对实时单步预测产生的残差建模,计算混合神经网络模型多步超前预测时的残差值;最后,将混合神经网络模型和残差修正模型的输出结果进行融合,得到最终的航迹预测值。实验结果表明,该算法大大降低了神经网络因自身局限性产生的误差和因递归策略预测产生的累积误差,能够显著提高空中目标航迹短期预测的精度。

基于EMI-CNN的建筑施工模板支撑体系节点健康监测

为预防模板坍塌引发建筑施工安全事故风险,提出一种基于压电阻抗法(EMI)和卷积神经网络(CNN)的模板支撑体系节点智能监测方法。首先,利用压电陶瓷传感器(PZT)的机电耦合特性及其集驱动-传感于一体的特点,建立PZT-节点耦合系统的机电阻抗传感机制模型;其次,基于EMI法,以与待测结构耦合的PZT片电导信号为监测指标,确定模板支撑体系节点松动的发生;然后,以敏感频段内PZT片的801个原始电导信号为模型输入,9个节点松动程度为模型输出,构建162组学习样本和27组测试样本,建立EMI-CNN模型,确定节点松动程度;最后,以一个实际工程中的建筑施工模板体系节点为例,验证EMI-CNN模型的有效性,并对比分析EMI-BP模型。研究结果表明:EMI-CNN模型经过85次迭代达到收敛,预测准确率达到100%,相较于EMI-BP模型提高29.63%。该监测方法可实现对建筑施工模板支撑体系节点健康状态实时、准确、无损监测。

基于SimBERT+CNN的专利智能分类技术研究

本文基于SimBERT+CNN深度学习模型,以烟草产业相关专利为例,研究了基于烟草相关技术专利文献的智能分类技术,用于专利数据的自动技术分类或者人工辅助分类。主要研究方法:利用人工对烟草相关专利文献进行二级技术分类标注,将包括烟草技术类和非烟草技术类专利作为深度学习的样本数据,然后抽取相关专利中有X类引证的专利文献中的权利要求项和被引专利的对应文本段落作为句对,用于优化基于SimBERT构建的语义模型训练,使用训练优化后的SimBERT模型,对烟草行业的专利分类样本数据进行文字型特征向量和IPC分类号特征向量特征拼接并输入CNN模型。通过对15万余件烟草技术专利和2万余件非烟草技术专利样本的实证训练和测试,发现基于采用上述优化方法的SimBERT+CNN模型对烟草技术专利的技术分类测试准确率在一级烟草技术分类和二级技术分类方面均优于使用BERT+CNN的分类效果。

融合多尺度CNN和CRF的通用细粒度事件检测

事件检测是自然语言处理领域中事件抽取的主要任务之一,它旨在从众多非结构化信息中自动提取出结构化的关键信息.现有的方法存在特征提取不全面、特征分布不均等情况.为了提高事件检测的准确率,提出了一种融合BERT预训练模型与多尺度CNN的神经网络模型(BMCC,BERT+Multi-scale CNN+CRF).首先通过BERT(Bidirectional Encoder Representations from Transformers)预训练模型来进行词向量的嵌入,并利用其双向训练的Transformer机制来提取序列的状态特征;其次使用不同尺度的卷积核在多个卷积通道中进行卷积训练,以此来提取不同视野的语义信息,丰富其语义表征.最后将BIO机制融入到条件随机场(CRF)来对序列进行标注,实现事件的检测.实验结果表明,所提出的模型在MAVEN数据集上的F1值为65.17%,表现了该模型的良好性能.

基于CNN-GRU模型的USV运动姿态多步预测方法

针对单一模型在预测无人水面艇(Unmanned Surface Vessel,USV)运动姿态时精度不高的问题,提出一种基于卷积神经网络(CNN)和门控循环单元(GRU)的USV姿态多步预测模型。首先,使用滑动窗口法构造运动姿态数据集作为模型输入;然后,使用CNN模块挖掘时序数据的局部特征;最后,使用GRU模型进行多步预测。使用实测USV运动姿态数据进行预测实验,实验结果表明,该模型比XGBoost模型、单一LSTM模型和单一GRU模型具有更高的预测精度,各项评价指标表现更佳,具有重要的应用价值。

基于CNN闸泵站共体式结构变形预测的全局敏感性分析

针对设计阶段传统的结构变形敏感性分析计算成本较大的问题,引入了CNN模型,预测在不同材料参数和水位条件下闸泵站共体式结构的变形,并对所建模型进行全局敏感性分析,从而大幅降低计算成本。首先通过ANSYS的PDS模块计算出200组结构变形数据,并基于这些数据构建和训练CNN结构变形预测模型,随后运用Sobol法分析设计参数对结构变形的敏感性。结果表明,闸泵站共体式结构的变形以沉降为主,在竖直方向上的位移受复合地基弹性模量的影响较大,在顺河向和横河向上的位移受上下水位影响较大,结构的最大应力受上下游水深和混凝土弹性模量影响较大。研究结果可为相关设计提供参考依据。

结合视觉Transformer和CNN的道路裂缝检测方法

提出了一种结合视觉Transformer和CNN的道路裂缝检测方法。利用CNN来捕获局部的细节信息,同时利用视觉Transformer来捕获全局特征。通过设计的Fusion特征融合模块将两者提取的特征有机地结合在一起,从而解决了单独使用CNN或视觉Transformer方法存在的局限。最终将结果传递至交互式解码器,生成道路裂缝的检测结果。实验结果表明,无论是在公开的数据集上还是在自建的数据集上,相较于单独使用CNN或视觉Transformer的方法,所提出的方法在道路裂缝检测任务中有更好的效果。

基于CNN-LSTM混合神经网络的高速铁路地震响应预测

为了更好地挖掘高速铁路在地震时的响应信息,提高光纤光栅监测的效率及预测精度,该文针对地震响应数据的时序性及非线性的特点,提出卷积神经网络(CNN)和长短期记忆(LSTM)网络的混合神经网络模型预测方法.通过在高速铁路简支梁桥上布设准分布式光纤光栅采集地震时轨道板、钢轨、底座板、箱梁的响应数据,在每根光纤上布置7个光栅,利用两边光栅的响应数据预测中间点的光栅响应,将采集位置、历史数据及地震波形等信息作为特征图输入.利用CNN提取特征,再将提前提取出来的特征数据以时序方式作为LSTM网络的输入数据,最后LSTM网络进行地震应变响应预测.实验结果表明,LSTM网络在3层时效果最好,CNN-LSTM方法具有较高的预测精度,根均平方误差(R_(RMSE))、平均绝对误差(R_(MAE))、决定系数(R^(2))分别达到了0.3753、0.2968、0.9371.

基于CNN的毫米波无蜂窝大规模MIMO信道估计

针对小区间干扰导致蜂窝边缘无法满足不断增长的数据速率需求问题,毫米波无蜂窝大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)系统被认为是一种很有前途的解决方案。然而,毫米波的高频率、大带宽以及接入点配置的大量天线给信道估计带来了较大挑战。将毫米波大规模MIMO信道矩阵视为二维图像,结合图像去噪方法提出一种基于改进去噪卷积神经网络(Improved-Denoising Convolutional Neural Network,I-DnCNN)的信道估计算法。通过具有注意力机制的压缩与激励(Squeeze-and-Excitation,SE)模块,自适应调整提取的全局特征以增强对信道噪声特征的学习,根据接收信号估计出噪声等级图且增添为输入,提升对噪声的鲁棒性。最后,采用残差学习的方式获得估计信道矩阵。利用理论信道模型和基于波束追踪的信道数据集进行的仿真实验结果表明,与去噪卷积神经网络(Denoising Convolutional Neural Network,DnCNN)算法相比,所提算法在两个数据集下的信道估计精度可分别平均提升2.27 dB和2.60 dB。

基于CNN-LSTM的大坝变形组合预测模型研究

为了提高大坝变形预测模型精度和泛化能力,建立了一种基于卷积神经网络(Convolutional neural networks,CNN)与深度学习长短期记忆(Long short-term memory,LSTM)神经网络的组合预测模型CNN-LSTM。该模型先利用CNN提取大坝变形监测时间序列的特征,再利用LSTM生成特征描述,该模型精度高、泛化能力强。以柏叶口水库混凝土面板堆石坝为例,经过CNN-LSTM模型计算,将模型变形预测值与原型监测资料进行对比,再与LSTM模型及CNN模型的预测结果进行对比。结果表明,CNN-LSTM模型预测值最接近监测资料实测结果。

面向边缘计算的可重构CNN协处理器研究与设计

随着深度学习技术的发展,卷积神经网络模型的参数量和计算量急剧增加,极大提高了卷积神经网络算法在边缘侧设备的部署成本。因此,为了降低卷积神经网络算法在边缘侧设备上的部署难度,减小推理时延和能耗开销,该文提出一种面向边缘计算的可重构CNN协处理器结构。基于按通道处理的数据流模式,提出的两级分布式存储方案解决了片上大规模的数据搬移和重构运算时PE单元间的大量数据移动导致的功耗开销和性能下降的问题;为了避免加速阵列中复杂的数据互联网络传播机制,降低控制的复杂度,该文提出一种灵活的本地访存机制和基于地址转换的填充机制,使得协处理器能够灵活实现任意规格的常规卷积、深度可分离卷积、池化和全连接运算,提升了硬件架构的灵活性。本文提出的协处理器包含256个PE运算单元和176 kB的片上私有存储器,在55 nm TT Corner(25°C,1.2 V)的CMOS工艺下进行逻辑综合和布局布线,最高时钟频率能够达到328 MHz,实现面积为4.41 mm^(2)。在320 MHz的工作频率下,该协处理器峰值运算性能为163.8 GOPs,面积效率为37.14GOPs/mm^(2),完成LeNet-5和MobileNet网络的能效分别为210.7 GOPs/W和340.08 GOPs/W,能够满足边缘智能计算场景下的能效和性能需求。

基于小波变换和CNN-Transformer模型的测井储层流体识别

针对具有复杂储集空间和极强的非均质性的低孔低渗储层,常规测井响应特征不够明显,使用传统解释手段难以有效识别储层流体的问题,提出了一种基于小波变换和CNN-Transformer混合模型的储层流体识别方法。首先,使用小波变换将测井信号从时域扩展到时频域,并生成时频谱图以增强信号特征,然后使用滑动时窗沿着测井曲线深度方向滑动采样,获取代表解释深度处地层信息的频谱特征图,最后,通过训练CNN-transformer模型深度挖掘特征图信息,实现储层流体识别。混合模型在利用储层对应深度处测井数据的同时,又兼顾测井曲线随深度的变化趋势和地层前后信息的关联性,挖掘时频谱图的局部细节和全局特征表示,自动识别流体类型。将模型应用于大港油田22口实测测井资料中,并与CNN和BiLSTM等多个模型的流体识别效果进行对比分析,基于小波变换和CNN-Transformer模型识别效果明显优于其他方法,在测试集上识别准确率达到了92.7%。研究结果表明该方法可以作为低孔渗油藏常规测井资料识别储层流体的有效手段,为流体评价提供了新思路。

基于FPGA加速的Mask R-CNN稻瘟病高通量自适应识别模型研究

针对基于图像的稻瘟病现场检测技术依赖先验知识且受制于算力与田间网络状况,无法实现自适应实时检测的问题,提出一种可利用现场可编程门阵列(Field programmable gate array,FPGA)加速的Mask R-CNN(Mask region-based convolutional neural network)稻瘟病高通量自适应快速识别模型。首先将骨干网络改进为MobileNetV2,利用其倒残差模块降低计算量,提高模型并行处理能力;随后增加用于稻瘟病多尺度特征融合的特征金字塔网络模块,使模型具备多尺度自适应处理能力;最后由全卷积网络(Fully convolutional network,FCN)分支输出稻瘟病病斑的实例分割,同时使用交叉熵损失函数完成稻瘟病的定位与分类。稻瘟病实测数据集对模型的验证结果表明:当输入为全高清图像时,模型平均推理时间减少至85 ms,相较GPU服务器、同级别GPU边缘计算平台,速度分别提高86.2%、63.0%。在交并比为0.6时,准确率可达98.0%,病斑捕获能力平均提升21.2%。提出的Mask R-CNN自适应快速识别模型能够在田间恶劣网络状况下实现稻瘟病的快速现场检测,具有更好的抗噪能力和鲁棒性能,为水稻病害实时检测、察打一体提供了高效实时的片上系统方案。