融合残差SENet的毫米波大规模MIMO信道估计

在户外光线追踪场景下,针对毫米波大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)系统受户外环境噪声干扰导致估计精度低的问题,提出了一种融合残差挤压激励网络(Squeeze-and-Excitation Network,SENet)的条件生成对抗网络的信道估计方法。该方法采用条件生成对抗网络将低分辨率接收信号重建为高分辨率的原始信号完成信道估计,同时在生成器网络中引入SENet网络模块来抑制户外场景下显著性噪声干扰,提高估计精度;最后将残差网络中的残差块添加到SENet的放缩操作后,提高条件生成对抗网络的收敛速度。仿真结果表明,相较于正交匹配追踪算法、卷积神经网络、去噪卷积神经网络和条件生成对抗网络算法,所提方法在户外噪声环境下估计精度平均提高了约2.2 dB,且在高噪声强度下估计精度的提高更为显著。

基于挤压和激励残差网络的歌声检测

本文提出一种基于挤压和激励残差网络的歌声检测算法,运用该算法,不需要对音乐信号进行复杂的特征工程处理,仅需对网络输入简单朴素的声学特征,便能通过多层次卷积以及挤压和激励操作,学习到更多的有效特征,从而达到比当前流行的检测算法更强的性能.算法中,残差结构使得网络可以轻松扩展深度,挤压和激励模块能对深度残差网络中学习到的多个特征进行自动融合,进而使得学习到的歌声特征整体更有效.为了验证算法的可行性和有效性,本文选择了2个公开的数据集进行实验,并以目前性能最好的歌声检测框架之一作为基线系统,实验结果证明了本算法的性能领先于基线系统.

基于改进残差网络的拉丝机减速箱故障诊断

减速箱对拉丝辊的转速固定有重要作用,由于拉丝设备结构紧密,内部零件的运行状态不易于观察,因此减速箱轮齿故障导致的转速配比异常很难被及时发现,针对拉丝机减速箱存在的故障诊断环节缺失问题,提出一种遗传算法与优化注意力模块改进的残差网络的故障诊断方法。首先,通过小波包分解与带通滤波的混合方法清洗数据,依照生产车间实际情况提出综合评价指标,并按照指标需求选择小波包分解层数;其次,针对残差网络与注意力模块进行改进;最后,将经过连通域分析与二值化后的特征图送入改进后的模型进行诊断。结果表明,该方法的诊断准确率比注意力-残差网络模型(Squeeze-and-Excitation-ResNet,SE-ResNet)提升了7.32%,比卷积神经网络-极限学习机模型(Convolutional Neural Network-Extreme Learning Machine,CNN-ELM)提升了8.81%,针对注意力模块(Squeeze-and-Excitation Module,SE)的改进将模型的单次诊断时间在原来的基础上缩短0.92 s,对塑编拉丝车间中减速箱的维护具有较大的实用价值。

基于“残差-挤压激励”深度混合卷积网络的土地利用分类

土地利用变化的监测需要高精度的土地利用分类图,遥感技术的发展为这一工作提供了便利。然而,传统分类方法往往无法针对性的利用影像中的信息,其分类结果中地物边缘信息模糊,分类精度不高且噪声较大,难以满足土地变化监测的需要。该研究针对传统方法分类结果不理想的问题,提出一种基于“残差-挤压激励”单元的混合卷积神经网络模型,采用膨胀卷积层对影像进行“光谱-空间”特征提取,并引入“残差-挤压激励”单元,实现特征重用的同时,选择性的强调信息性特征,对噪声性特征进行抑制,最后对得到的特征进行整合实现对遥感影像的分类。该研究提出的模型与k-最邻近算法(K-Nearest Neighbor,KNN)、支持向量机(Support Vector Machine,SVM)、二维卷积网络(2D-Convolutional Neural Network, 2D-CNN)以及混合卷积网络(HybridSN)相比,在试验数据集上总体精度分别提高了11.15个百分点、11.18个百分点、0.06个百分点和2.46个百分点。且有效减少了地物边缘信息的损失,验证了该方法的有效性。此外,基于该方法分类结果统计出的耕地面积与试验区真实耕地面积仅相差0.77%,误差绝对值远低于其他分类方法。

基于残差挤压激励与密集空洞卷积的视网膜血管分割

针对现有视网膜血管分割技术存在视网膜血管分割精度不高和病灶区域误分割的问题,提出对U型网络改进,结合密集空洞卷积(dense atrous convolution,DAC)模块与残差挤压激励(residual squeeze and excitation,RSE)模块的视网膜血管分割模型(DACRSE-Unet)。该模型采用改进集成随机失活块(DropBlock)的残差结构,不仅可以构建深层网络来提取更复杂的血管特征,还可以有效缓解过拟合;此外,为了进一步提高网络的表达能力,在改进残差块的基础上引入挤压激励模块(squeeze and excitation,SE);同时,为获取血管更多的上下文信息,在模型中引入DAC模块来实现对视网膜血管的精准分割;最后,在不同数据集上进行验证。结果表明,DACRSE-Unet模型的接受者操作特性曲线下面积分别为0.9869和0.9964,灵敏度分别为0.8226和0.8779,准确率分别为0.9692和0.9830,整体分割效果比其他模型更好。

基于改进残差网络的多准则备件分类方法

农机设备备件管理是农业领域的一个关键问题,准确的备件分类可以确定更优的库存管理策略。改进深度残差网络的备件分类方法,可以通过建立多维度的分类准则和对备件信息数据预处理,得到具有时间维度和备件属性图像的备件标识方法。提取特征时,为保证相似属性间的特征联系,在网络模型中加入挤压和激励网络(squeeze-and-excitation networks,SENet),得到改进的残差网络模型。为验证模型的分类效果,选用某拖拉机集团的大型设备的备件作为案例分析。结果表明,该方法对大型生产机器的备件具有很好的分类效果。

基于改进深度残差网络的轴承故障诊断方法

针对滚动轴承在噪声环境中干扰大、工况复杂多变时诊断困难的问题,提出了一种改进深度残差网络的轴承故障诊断方法。对滚动轴承振动信号预处理,得到数据样本,分为训练集和测试集;将基于注意力机制的挤压与激励网络(squeeze-and-excitation networks,SENet)结构引入到残差神经网络残差块之中建立特征提取通道之间的联系,得到改进深度残差网络模型;再将标签化的训练集数据样本输入改进的诊断模型中进行训练;将训练好的诊断模型应用于测试集,输出每种故障的识别结果。在训练过程中,为了抑制过拟合,对原始训练样本进行加噪处理;同时引入了激活函数LReLU和Dropout技巧来提高模型的抗干扰能力。为了验证该模型的诊断性能,选用实验数据进行验证,结果表明该方法在载荷变化以及信号受到严重噪声污染时,依然拥有良好的故障诊断能力。

基于CNN的飞机升降舵液压系统故障诊断

针对民机液压系统故障诊断对专家经验的依赖和深层网络诊断模型退化的问题,提出改进的一维卷积神经网络算法。首先,将仿真故障数据直接输入一维卷积神经网络,再对卷积层使用残差块机制来提高信息的利用率,引入挤压与激励网络对卷积层特征向量进行加权表示,从而减少无效信息,达到抗干扰的效果;其次,使用一维全局均值池化层处理末层信息,降低神经网络参数的数量和诊断时间;最后,为了验证所提方法的有效性和实用性,通过实验室仿真平台得到的飞机升降舵液压系统故障数据对该方法进行测试,同时与主流算法进行对比。实验结果表明:本文所提方法测试集准确率高达99.3%,相比其他网络在液压系统故障诊断方面准确率和泛化性有明显的提升,在加入20%噪声环境下本文网络相比传统卷积网络诊断准确率提升4.4%,且具有较强的实用性。

基于Seq2point和SERNet的非侵入式负荷分解及识别

为了提高负荷的分解及识别准确度,提出基于序列到点(sequence-to-point,简称Seq2point)和挤压与激励的残差网络(squeeze-and-excitation residual network,简称SERNet)的非侵入式负荷分解和识别方法.使用残差网络提取信息,引入注意力机制挤压和激励网络,对提取的信息进行自适应校准.通过全连接网络映射得到负荷分解结果,进而识别负荷.算例分析结果表明:与其他4种方法比较,该方法有更高的分解及识别准确度.

基于三维挤压激励模块的视频分类

针对视频分类中时序特征的融合问题,将二维卷积神经网络中的挤压激励(SE)网络与三维卷积残差网络相结合,提出了新的三维挤压激励网络结构模块,该模块比直接转化而来的三维挤压激励模块多了一个时间维度系数,时间维度系数记录了研究对象在时间轨迹上所进行的动作轨迹变化。新模块不仅可以记录某个时间点的特征,而且能够强化多个时间点的关联性。将具有时空纬度的挤压激励网络应用于人物的动作行为识别,检验了新模块的有效性。实验结果表明,新模块可加快损失收敛并有效提高视频分类精度。

基于重要性的特征组合点击率预测模型研究

预测用户对广告或项目的点击率是推荐系统中的关键部分,准确个性化地推荐对提高产品商业价值具有十分重要的作用。因此,提出一种基于重要性的特征组合点击率预测模型(SEAFMDRN),通过利用挤压和激励网络为不同的特征赋予不同的权重,采用注意力机制为二阶特征组合赋予不同的权重,并在深度神经网络中引入深度残差网络来有效提取高阶特征组合。实验结果表明,SEAFMDRN模型在汽车保险预测数据集的预测性能优于其他模型,AUC值有效提升了1.32%~4.47%。

基于U-Net网络改进算法的视网膜血管分割研究

针对视网膜图像血管细小,细节特征丢失、梯度下降、爆炸而导致分割效果差的问题,本文提出了一种引入残差块、循环卷积模块和空间通道挤压激励模块的U-Net视网膜血管图像分割模型。首先通过使用一系列随机增强来扩展训练集并对数据集进行预处理,然后在U-Net模型中引入残差块,避免随着网络深度增加,分割准确率达到饱和然后迅速退化以及优化计算成本;并将U-Net网络的底部替换为循环卷积模块,提取图像低层次的特征,并不断的进行特征积累,增强上下文之间的语义信息,获得更有效的分割模型;最后在卷积层之间嵌入空间通道挤压激励模块,通过找到特征较好的通道,强调这一通道,压缩不相关的通道使得网络模型能够加强关键语义特征信息的学习,通过训练过程学习到有效的特征信息,同时增强抗干扰能力。通过在DRIVE数据集上的验证结果可得,本文所提模型的准确率为98.42%,灵敏度达到了82.36%,特异值达到了98.86%。通过和其他网络分割方法比较,本文所提分割方法具有更优的分割效果。