权重推断与标签平滑的轻量级人脸表情识别

针对轻量级网络在复杂环境下对面部表情的特征提取不够充分、模型参数存在冗余以及单标签数据集无法有效描述复杂情感倾向所带来的歧义表情等问题,提出了一种结合改进ShuffleNet与标签平滑学习的人脸表情识别方法。通过对原始网络的分析与剪裁,得到了改进后更紧凑的K5_Light_ShuffleNet,不仅优化了网络参数,还提高了模型的表征能力。为了增强模型对人脸表情图像局部细节特征的提取能力,抑制非表情特征,在模型中嵌入了设计的轻量化通道空间关键权重推断模块。通过标签平滑学习方法,在不引入额外信息的前提下,利用软标签分布监督网络的学习,以减少由于歧义表情对识别性能所带来的不利影响。实验结果表明,在公开的RAF-DB、AffectNet-7和AffectNet-8数据集上分别达到了86.91%、61.80%和58.75%的表情识别准确率,相较于目前其他人脸表情识别方法,其识别率有一定提高,同时模型参数量和计算量均保持在较低水平,利于其在实际中的应用。

局部特征引导标签平滑与优化的井下弱特征人员重识别

煤矿井下低照度、强光扰、高粉尘等环境条件,以及井下人员服装的相似性和脸部落煤现象,导致井下弱特征人员重识别困难。现有人员重识别方法仅提取全局特征,未充分考虑局部特征,使得井下人员重识别准确率较低。针对上述问题,提出了一种局部特征引导标签平滑与优化的井下弱特征人员重识别方法。该方法首先通过卷积神经网络提取井下人员图像的全局特征与局部特征;然后利用k最近邻相似性计算全局特征和局部特征的互补性得分,来衡量全局特征和局部特征的相似程度;最后根据特征互补性得分对局部特征进行标签平滑及对全局特征进行标签优化,即动态调整每个局部特征的权重,以改进每个局部特征的标签,并对局部特征的预测结果进行汇总,利用更可靠的信息来完善标签以作为全局特征的标签,从而减少图像噪声并增强特征识别能力。实验结果表明,该方法在公开数据集和包含井下人员图像的自建数据集上的平均精度均值(mAP)、第一匹配正确率(Rank-1)和平均逆置负样本惩罚率(mINP)总体优于主流人员重识别方法,具有良好的泛化性和鲁棒性,能有效实现井下弱特征人员重识别。

基于MacBERT和标签平滑的新冠疫情公众情感分析研究

针对BERT预训练与下游任务微调阶段存在不匹配差异,以及人工对文本数据进行情感倾向性标注可能存在误差的问题,提出一种基于MacBERT和标签平滑的网络模型(MacLMC).首先,在BERT的基础上引入MLM as correction策略,利用近义词替换被掩码词,通过MacBERT预训练模型获取词向量;其次,经过双层LSTM学习长距离依赖;再次,采用双通道多卷积核的卷积操作,分别提取信息的最大特征和均值特征;最后,利用标签平滑策略降低模型预测类别的概率,提升模型对于标签的容错能力,提高模型泛化性.实验结果表明:与现有主流模型相比,本文模型在多种数据集上性能表现更佳,能够更好地用于新冠疫情公众情感分析任务.

标签平滑的孪生高分辨率变化检测方法

针对现有变化检测方法编解码过程中出现的噪声失准、物体边界模糊和小目标变化检测率低等问题,提出了一种变化检测方法HAPNet-CD。该方法编码器采用孪生分支,使用HRNetV2作为骨干网,并在其中嵌入对齐扰动辅助差异模块提取变化特征和差异信息,使提取特征过程中始终保持高分辨率特征表示,进而在空间上得到更精确的特征。HAPNet-CD解码器利用变化特征和差异信息构建混合解码器和差异解码器进行解码,通过设计一种基于标签平滑的损失函数,使网络更加关注物体边界和小目标的变化,提高了物体边界和小目标变化检测准确率。在公开数据集DSIFN-CD和LEVIR-CD上进行测试,实验结果表明,相较于其他9种主流方法,HAPNet-CD在DSIFN-CD数据集上,Precision、Recall、F1和IoU指标分别提升了2.55%、4.58%、3.59%和5.9%;在LEVIR-CD数据集上,Precision指标提升了0.54%,Recall、F1和IoU指标均接近最先进水平。

基于并行可分离卷积和标签平滑正则化的脑电情感识别

近年来,基于深度学习和脑电图(EEG)的情感识别方法取得了较好的效果。然而,现有方法依然存在脑电情感特征提取不够全面、受人工错误标注的情感标签影响较大等问题。对此,提出了并行可分离卷积和标签平滑正则化(PSC-LSR)网络模型。首先,通过注意力机制,赋予EEG重要时间点和重要通道更大的权重,得到EEG的浅层情感特征;其次,采用并行可分离卷积模块全面提取EEG情感信息,得到深层情感特征;最后,在优化模型参数时采用了情感标签平滑正则化方法,使模型对错误标签有更大的容错概率,增强了网络模型的泛化性和鲁棒性,提高了脑电情感识别的准确率。提出的方法在两个数据集进行了验证,其中,在DEAP数据集中,唤醒和效价两个维度的平均准确率分别达到了99.23%和99.13%;在Dreamer数据集中,唤醒和效价两个维度的平均准确率分别达到了97.33%和97.25%。

基于块近邻的边界约束标签平滑高光谱图像分类方案

为提高高光谱图像分类精度,结合光谱信息、邻域信息和边界信息提出一种高光谱图像分类方案。利用局部费希尔判别分析算法进行降维操作并获取边界信息。根据块近邻分类器算法结合光谱和邻域2个维度获得判决信息。采用边界信息对块近邻分类器算法获得的分类标签进行标签平滑操作。在3个真实地物高光谱数据集上进行实验,结果表明该方案稳定有效地提高了高光谱图像的分类精度。

基于迁移学习与多标签平滑策略的图像自动标注

针对图像标注数据集标签分布不平衡问题,提出了基于标签平滑策略的多标签平滑单元(MLSU)。MLSU在网络模型训练过程中自动平滑数据集中的高频标签,使网络适当提升了低频标签的输出值,从而提升了低频标注词的标注性能。为解决图像标注数据集样本数量不足造成网络过拟合的问题,提出了基于迁移学习的卷积神经网络(CNN)模型。首先利用互联网上的大型公共图像数据集对深度网络进行预训练,然后利用目标数据集对网络参数进行微调,构建了一个多标签平滑卷积神经网络模型(CNN-MLSU)。分别在Corel5K和IAPR TC-12图像标注数据集上进行实验,在Corel5K数据集上,CNN-MLSU较卷积神经网络回归方法(CNN-R)的平均准确率与平均召回率分别提升了5个百分点和8个百分点;在IAPR TC-12数据集上,CNN-MLSU较两场K最邻近模型(2PKNN_ML)的平均召回率提升了6个百分点。实验结果表明,基于迁移学习的CNN-MLSU方法能有效地预防网络过拟合,同时提升了低频词的标注效果。

监控管理中基于交叉姿态平滑的行人重识别

现有行人重识别缺乏对局部上下文信息之间的关联,且由于局部图像中存在许多与行人身份无关的信息,使用与全局图像相同的标签去学习局部信息会产生许多噪声。为缓解以上问题,提出一种基于交叉姿态平滑的行人重识别方法。整个方法分为两个模块,提出一种关键点语义交叉划分策略获取具有交叉语义关联的局部上下文信息;设计一个基于相对姿态上下文的局部伪标签平滑方法,使模型学习到更多局部区域的细微姿态差异。实验结果表明,所提方法在公开数据集上的表现优于其它最新方法,有效提升了模型对行人姿态细微变化的鲁棒性与鉴别能力。

噪声标签下注意力特征混合的旋转机械故障诊断

实际工程中,受人为标记或数据预处理等原因影响,旋转机械故障数据集易出现噪声标签,导致故障诊断模型性能降低,故提出注意力特征混合的旋转机械故障诊断方法。首先,构建残差神经网络(ResNet)提取样本中的时频特征,通过随机分组和特征交互构建正确标签样本组、部分噪声标签样本组和噪声标签样本组;其次,引入注意力机制计算各样本组内样本相关性对各组样本分配权值,得到能区分部分噪声样本组中噪声标签样本的差异性权值;然后,根据权值对每组样本进行混合(Mixup),通过对噪声标签样本插值并在反向传播中更新注意力层参数降低噪声标签样本所占比例;最后,利用在线标签平滑(OLS)统计模型预测信息更新软标签,通过降低噪声标签样本对模型损失更新的影响,进一步抑制噪声标签样本组的负面影响。在不同程度的噪声标签干扰下的旋转机械故障数据集上进行实验验证,检测精度均达到95%以上,证明了所提方法的有效性。

基于多阶段特征提取的鱼类识别研究

鱼类自动识别在海洋生态学、水产养殖等领域应用广泛。受光照变化、目标相似、遮挡及类别分布不均衡等因素影响,鱼类精准自动识别极具挑战性。提出了一种基于多阶段特征提取网络(Multi-stage Feature Extraction Network,MF-Net)模型进行鱼类识别。该模型首先对图片作弱增强预处理,以提高模型的计算效率;然后采用多阶段卷积特征提取策略,提升模型对鱼类细粒度特征的提取能力;最后通过标签平滑损失计算以缓解数据的不平衡性。为验证模型的性能,构建了一个500类、含32768张图片的鱼类数据集,所建模型在该数据集上的准确率达到86.8%,优于现有的主流目标识别方法。利用公开的蝴蝶数据集对该模型进行泛化性能验证,多组消融实验进一步验证了所提算法的有效性。

基于密集编码标签的遥感图像旋转目标检测算法

针对现有目标检测算法在遥感图像中检测精度低,容易漏检等问题,提出了一种遥感图像旋转目标检测算法,使用YOLOv5m作为基本框架。首先,使用环形平滑标签CSL(Circular SmoothLabel,CSL)将角度回归预测转变为角度分类预测,解决回归预测中的角度周期性和边界可交换性的问题,提升检测精度。其次,使用密集编码标签(DenselyCodedLabel,DCL)替换稀疏编码标签,大幅减少预测层厚度,提升训练速度。实验表明,使用改进后的算法较基准算法mAP提升4.88%,模型训练速度与原模型速度基本相同,证明了算法的有效性。

基于改进YOLOv5的遥感图像目标检测

目前目标检测技术虽然已经趋于成熟,但是对遥感图像的检测仍存在不少挑战。针对遥感图像的背景复杂、目标尺度差异大、目标方向任意等特点造成目标检测精度低下的问题,提出一种基于改进YOLOv5的遥感图像目标检测算法。首先,构建一种联合注意力的多尺度特征增强网络,充分融合高低层特征,使特征层具有语义信息的同时包含丰富的细节信息,并在融合过程中利用设计的特征聚焦模块帮助模型选择关键特征,抑制无关信息。其次,使用感受野模块(RFB)对融合后的特征图进行更新,扩大特征图的感受野,减少特征信息损失。最后,对目标增加旋转角度,并采用圆形平滑标签将回归问题转化成分类问题,提高遥感目标定位的准确性。在用于航拍图像目标检测的大规模数据集(DOTA)上的实验结果表明,与YOLOv5算法相比,所提算法的交并比(Io U)为0.5和0.5~0.95时的平均精度均值(m AP@0.5和m AP@0.5∶0.95)分别提高了7.3和3.3个百分点,能够明显提高复杂背景下遥感图像目标的检测精度,并改善对遥感目标的漏检和误检情况。

基于RepVGG-A0改进的公路车型识别网络

针对当前车型识别过程中检测精度与实时性难以平衡的问题,提出了一种基于RepVGG-A0改进的公路车型识别网络,利用结构重参数化思想融合多分枝网络以提升网络推理速度。使用混合空洞卷积替换传统卷积,强化了模型对大目标的识别能力。在网络主干中插入融合残差结构的坐标注意力(RES-CA)模块,提升了网络对有效特征信息的提取能力,同时避免了梯度消失与梯度退化造成的影响。此外采用了标签平滑正则化方法对损失函数进行改进,降低了模型过拟合对检测结果的影响,提升了模型的泛化性。经验证,本方法在公路车辆数据集BIT-Vehicle上的识别准确率达到了97.17%,较原模型提升了2.67%,优于现有的ResNet-18,VGG等网络模型,同时保证了模型的检测速度。

基于RoBERTa-RCNN和注意力池化的新闻主题文本分类

针对中文新闻主题因缺乏上下文信息而造成语义模糊和用词规范性不高的问题,提出一种基于RoBERTa-RCNN和多头注意力池化机制的新闻主题文本分类方法。利用数据增强技术对部分训练数据进行回译处理,再通过自编码预训练模型和RCNN对文本进行初步和深度的特征提取,并结合多头注意力思想改进最大池化层。该方法采用融合机制,改善了RCNN中最大池化策略单一和无法进行动态优化的缺陷。在三个新闻主题数据集上进行实验,使用更适用于新闻主题分类的Mish函数代替ReLU函数,并利用标签平滑来解决过拟合问题。结果表明,所提方法相比传统分类方法效果突出,并通过消融实验验证了模型在分类任务上的可行性。

基于YOLOv5的角度优化抓取检测算法研究

针对目前机器人抓取检测方法抓取角度预测过于离散,抓取过程可能产生较大偏角,降低抓取检测精度,甚至导致抓取失败的问题,提出了一种基于YOLOv5神经网络模型改进的机器人实时抓取检测方法。以单阶段目标检测模型YOLOv5为基础,提取抓取框坐标及抓取角度。对抓取角度进行更细致的划分,同时引入环形平滑标签以适应角度的周期性,建立相邻角度之间的联系,将YOLOv5检测头进行解耦,并对损失函数进行优化,提高检测精度。在Cornell数据集上进行实验验证。实验结果表明,与经典的抓取检测方法相比,所提算法能够更好地预测抓取角度,提升抓取检测精度;在Cornell数据集上,此模型达到了97.5%的准确率以及71FPS的检测速度。

基于深度学习的马拉松号码簿识别方法研究

在异常行为运动员身份识别任务中,通过号码牌区域定位和号码文本识别两部分完成对号码牌的识别任务。针对号码牌倾斜扭曲、长宽比值变化较小等问题,结合聚类方法设计一种基于旋转目标检测模型rRetinaNet来匹配多种形式的号码牌。采用结合注意力机制的基于CRNN的文本识别算法对号码文本进行识别,提升对不规则号码文本的识别性能。通过文本合成算法生成近似号码文本的图像用于网络的预训练,真实号码牌图像则用于预训练模型的微调。实验结果表明,在自主创建的真实赛事马拉松数据集上,改进后的复合型网络在号码簿的检测与识别精度上均有所提升,通过这两个算法的结合可以有效地解决异常行为运动员身份识别问题。

考虑训练样本分布不均衡的超短期风电功率概率预测

提出一种考虑训练样本分布不均衡的超短期风电概率预测方法。首先构建深度信念混合密度网络,通过深度信念网络独特的预训练和微调机制提取输入变量的隐特征,利用Beta混合概率分布的有界性准确表征风电预测功率的概率分布,实现隐特征与预测功率概率分布参数之间的非线性映射;然后引入训练样本分布平滑策略,其中特征分布平滑技术用于校准输入特征,标签分布平滑技术用于对各样本误差赋予差异化权重,从输入和输出两方面改善训练样本分布不均衡现象对预测结果的不利影响。实际算例结果表明,与常见风电功率概率预测模型相比,所提模型在点预测和概率预测方面均能获得较高的预测精度,尤其能有效提高低密度样本区域的预测精度。

基于航空图像的目标检测算法Trans_YOLOv5

与自然图像的检测算法相比较,航空图像的检测存在目标角度随机、目标尺度变化剧烈、小目标密集、图像背景复杂等问题。针对这一系列难题,提出适用于航空图像检测的Trans-YOLOv5算法。修改YOLOv5算法中数据预处理模块以及后处理方法,增加一个目标角度标签的处理,使其适用于目标角度随机的航空图像。针对后续出现的边界问题,引入CSL(Circular Smooth Label,圆形平滑标签)将标签角度回归问题转换为分类问题,提高角度标签检测的精度。针对航空图像小目标检测问题,将Swin Transformer集成于YOLOv5框架中,提升模型对小目标的检测效果,并配合注意力机制模块,提高全局表征能力,使网络模型更加关注于待检测的目标对象。在DOTAv2.0航空图像数据集上的实验结果验证了所提方法的有效性,检测结果达到60.98%mAP,与原YOLOv5算法检测结果相比提高10.85百分点,与官网公布的竞赛最佳结果相比提高2.01百分点。

渐近真值的标签分布表情识别算法

歧义表情是表情识别中的常见现象,由于歧义表情的存在,表情识别的效果严重受限,主要的原因是数据的单标签无法有效的描述其中复杂的感情倾向,因而标签分布学习是解决该问题的一个可能的方向。针对表情分类中单标签信息量不足的问题,提出了一种渐近真值的标签分布表情识别算法。在不引入额外信息的前提下,充分利用数据库的原本信息完成标签分布的生成和利用。首先,在数据训练时,利用单标签学习,收集数据整体分布的均值;然后,在数据批次的粒度上,逐步逼近数据标签真值;最后,利用生成的数据标签分布重新训练整个网络模型。实验结果表明,该方法对网络模型的精度提升有明显的作用,在与先进算法的对比中也有一定的竞争力。

基于序列交叉融合的多行为会话推荐模型

现有多行为会话推荐研究将会话的微行为序列拆分为物品序列和操作序列以捕获用户兴趣偏好,但未考虑两个序列的交叉影响,导致用户兴趣建模存在偏差,限制了模型性能。针对上述问题,提出一种基于序列交叉融合的多行为会话推荐模型。利用提出的序列交叉融合模块,充分交叉融合物品序列和操作序列各自的兴趣信息。设计基于兴趣相似物品的标签平滑损失函数,将与样本标签物品具有相似兴趣的物品也推荐给用户,提升模型泛化能力。在3个公开数据集上的大量实验验证了该模型性能优于基准模型。