基于Kalman滤波的过程调节与质量监控方法

针对加工过程质量监控问题,提出了基于Kalman滤波原理的过程质量调节方法,推导了Grubbs调节模型和扩展Grubbs调节模型.应用能量原理和信噪比概念,给出了评定过程质量的平滑梯度指标函数及平滑处理方法,并利用该指标函数建立了过程调节与质量监控策略,解决了控制图不能直接参与过程质量调节的局限性.根据给出的过程调节准则,通过监控指标函数所处的阈值区间来确定是否介入或退出过程调节活动,从而避免可能出现的过调节或欠调节现象,实现与统计过程控制(SPC)方法的有效集成.模拟试验和实际应用结果表明,平滑梯度指标函数具有较高的过程质量评定能力,调节模型与质量监控方法是行之有效的.

多项式光滑的支持向量回归机

光滑函数将不光滑的模型变为光滑模型,改善支持向量回归机的回归性能和效率,从而降低计算的复杂性.寻找性能更好的光滑函数是研究光滑向量回归机的一个关键问题.本文用级数展开的方法得出了ε–不敏感的支持向量回归机|x|ε2的一类新的光滑函数.证明了这类函数的性能,它能满足任意阶光滑的要求,也能达到任意给定的逼近精度.实验结果表明,随着光滑阶数的提高,逼近精度和回归性能也相应提高.从而为支持向量回归机和相关研究领域提供了一类新的、性能更好的多项式光滑函数.

用光滑的支持向量机解回归问题

解回归问题通常采用平方损失函数,传统方法在函数类的选择上是一个难点。采用ε-不敏感损失函数,用光滑的支持向量机解回归问题。数值实验表明,只需选一个核函数就可较好地解决这个难点,使支持向量的个数明显少于样本点的个数,简化了回归函数的表达式,回避了传统回归方法选择函数类的困难。所以,光滑支持向量回归机是解决回归问题的一个有效方法。

ε-不敏感的光滑支持向量回归机的收敛性

ε-不敏感的光滑支持向量回归机采用快速的迭代方法进行求解,使回归性能及效率得到了提高,但并没有考虑该回归机的收敛性。针对该问题,采用集合论等方法,通过相关的理论推导,证明该光滑支持向量回归机对任意给定的惩罚参数都是全局收敛的,并给出它的收敛上界,为该光滑支持向量机提供了基本的理论支持。

一种光滑支持向量回归机新函数的研究

为支持向量回归机提供了一个新的光滑函数,即运用三次样条函数和复合函数的方法,得到一种新的光滑支持向量回归机——三次样条光滑支持向量回归机(TSSSVR).对该支持向量回归机的光滑函数进行了逼近性能和收敛性的分析,并说明该光滑函数比以往的光滑函数具有更高的逼近精度和收敛速度.

一种求ε-不敏感支持向量回归机光滑函数的新方法

2008年熊金志等人提出了一种求光滑函数的方法,就理论而言可求得ε-不敏感支持向量回归机的无穷个光滑函数,但该方法每次都需要对光滑函数的导数进行积分,推导过程很繁琐。为克服这个缺点,本文利用支持向量分类机的光滑函数,通过相关的理论推导,用新的递推方式来表示支持向量回归机的光滑函数,简化了原方法的推导过程,得到了一种求支持向量回归机光滑函数的新方法。通过用原方法和新方法分别求光滑函数的两个算例,表明了新方法的有效性。还用新方法导出了光滑函数的一个重要性质,即光滑函数关于光滑阶数是单调减函数,为进一步研究光滑支持向量回归机提供了理论依据。

基于残差结构的SSD口罩检测

新冠疫情环境下,人们外出均需佩戴口罩进行防护,所以目前对人脸口罩检测的研究迫在眉睫。该文提出一种基于残差结构的SSD(single shot multbox detector)网络用于口罩检测,通过在SSD网络的定位分类前添加残差结构,将特征提取网络和分类定位层进行分离,进而使得进入分类定位层的卷积特征更加抽象,可以有效解决SSD网络同时学习局部信息和高层信息双重任务的问题,维护特征提取网络的稳定性,并利用交叉熵损失函数解决戴口罩和未戴口罩的二分类问题,利用smooth L1 loss损失函数解决口罩位置的回归问题。然后将分类和位置回归做加权计算,通过优化传统的SSD位置误差和置信度误差损失函数,实现人脸佩戴口罩特征和人脸未戴口罩特征的定位和分类,从而提高网络训练速度及检测效率。实验结果表明,ReSSD检测口罩的平均检测精度可达92.3%,比SSD网络提高了7.4%,同时在自然场景下也有高效的检测效果。

基于视频的三维人体姿态估计

已有的三维人体姿态估计方法侧重于通过单帧图像来估计人体的三维姿态,忽略了视频中前后帧之间的相关性,因此,通过挖掘视频在时间维度上的信息可以进一步提高三维人体姿态估计的准确率。基于此,设计了一种可以充分提取视频时序信息的卷积神经网络结构,在获得高精度的同时也具有消耗计算资源小的优点,仅仅使用二维关节点的坐标为输入即可恢复完整的三维人体姿态。然后提出了一种新的损失函数利用相邻帧间人体姿态的连续性,来改进视频序列中三维姿态估计的平滑性,同时也解决了因缺少帧间信息而导致准确率下降的问题。通过在公开数据集Human3.6M上进行测试,实验结果表明本文方法相比目前的基准三维姿态估计算法的平均测试误差降低了1.2 mm,对于视频序列的三维人体姿态估计有着较高的准确率。

一种基于立体注意力机制的立体图像超分辨算法

针对因图像采集系统或采集环境本身的限制导致的立体图像模糊、质量低下、感兴趣区域不显著等问题,在最新的基于立体注意力模块的立体图像超分辨算法的基础上,通过在单图超分辨(Single Image Super-Resolution,SISR)的深度网络中引入立体图像左右两个视点间的互补信息以及平滑损失(Smoothness Loss)函数,增强超分辨后立体图像的视觉效果。在该算法中,梯度更小、更加平滑的立体注意力图可以获得更好的立体图像超分辨效果。为证明引入的函数有效,对改进前后的基于立体注意力机制的立体图像超分辨算法进行对比实验和分析,结果表明,引入平滑损失后,SRCNN和SRResNet模型的峰值信噪比(Peak Signal to Noise Ratio,PSNR)值和结构相似性(Structural Similarity,SSIM)值有明显提高。

一种用于提升深度学习分类模型准确率的正则化损失函数

针对现有深度学习分类模型存在由标签边缘化效应引起的过拟合问题,提出了一种新的正则化损失函数--得分聚类损失函数.该函数为每个类别学习一个得分中心,将同类别样本的得分向得分中心聚集.得分中心经过softmax函数归一化后的概率向量,即为最佳的平滑标签.该函数避免了根据经验手工设置标签平滑系数,起到了自动平滑标签的作用,从而减轻了模型过拟合的风险.给出了得分聚类损失函数的定义和推导,并在刚性和非刚性图像分类任务上与其他正则化损失函数进行了实验比较.实验结果表明,应用本文的得分聚类损失函数能显著提高分类模型的准确率.

基于改进损失函数的实体类别平衡优化算法

针对自然语言处理(Natural Language Processing,NLP)任务中,命名实体识别(Named Entity Recognition,NER)存在实体类别样本不平衡的问题,提出一种基于改进损失函数的实体类别平衡优化算法。新算法是对神经网络模型中的损失函数进行优化处理,通过分析命名实体识别数据特点,在平衡正负样本的基础上引入平滑系数和权重系数,保证模型在梯度传递的过程更关注于实体类别较少和带有嵌套的难识别样本,同时减少对样本数较多的、易识别样本的关注。利用公共数据集ACE05、MSRA进行实验对比,结果表明改进的损失函数在数据集ACE05和MSRA上,F 1值分别提高1.53%和0.91%。上述结果表明改进的损失函数能够较好地缓解实体中正负难易样本的不平衡。

融合自适应感受野与多支路特征的鞋型识别算法

随着监控摄像头的普及和图侦技术的快速发展,“鞋印+监控”技战法成为公安机关侦破案件的重要手段。该技战法根据现场嫌疑鞋印推断出嫌疑鞋型,进而在犯罪现场周围监控视频中查找对应鞋型,锁定犯罪嫌疑人。然而现有鞋型识别算法无法充分提取嫌疑鞋印的重要特征,导致识别准确率降低。针对该问题,提出一种融合自适应感受野模块与多支路特征的鞋型识别算法。通过设计一种自适应感受野模块,使网络自适应选择合适大小的感受野特征,增强网络的特征提取能力,同时构建多支路特征融合模型,融合网络的深层和浅层特征,以充分利用有效特征进行鞋型识别,从而提高识别精度。在此基础上,采用中心损失函数和标签平滑损失函数联合训练的方法,在增大类间差距的同时缩小类内差距,增强模型的泛化能力。在多背景鞋型数据集上进行实验,结果表明,该算法Rank-1和mAP精度分别为79.77%和62.18%,具有较优的识别效果,为公安刑侦实战提供了一种可行方案。

基于生成对抗网络的船舶可见光图像到红外图像的转换

为了解决红外制导研究中舰船图像样本数量不足的问题,提出一种面向舰船图像的改进的生成对抗网络(generative adversarial network,GAN),能够生成高质量的红外图像。首先转换可见光图像颜色空间以更好地捕捉夜间低亮度下图像的轮廓信息,然后引入残差块生成网络降低低像素的可见光图像对生成的红外图像的影响并加深网络层数以更好地学习深层映射关系,最后引入更平滑的损失函数加快收敛速度,提高生成红外图像目标边缘清晰程度。在制作的无人机拍摄的红外可见光配对的数据集进行测试,改进后的方法平均生成图像峰值信噪比(peak signal to noiseratio,PSNR)提升20.3%,结构相似性度量(structural similarity,SSIM)提升30.4%。结果表明改进的网络可以生成质量更高的红外仿真图像,用于目标检测等任务有更好的效果。

基于DETR-SGC算法的煤矿变电所安全防护装备检测

为了对煤矿井下变电所人员防护装备穿戴情况进行智能监测,以及避免监测视频受光照不均、粉尘干扰、遮挡等因素影响导致检测精确率降低的问题,提出了平滑幽灵卷积检测变换器(detection Transformer-smooth-L 1 ghost convolution,DETR-SGC)算法进行煤矿变电所安全防护装备检测。首先,在检测变换器(detection Transformer,DETR)算法的位置编码部分,引入幽灵组块通道缩放(ghost batchnormalization sigmoid gated linear unit-squeeze and excitation,GBS-SE)模块,增强算法空间维度特征提取能力;其次,在变换器模块中引入卷积块注意力模块(convolutional block attention module,CBAM),提高通道和空间维度特征提取能力,提升算法的检测精确率;最后,融合平滑L 1范数损失(smooth-L 1)和广义交并比(generalized intersection over union,GIoU)损失函数提升算法的回归精确率。实验表明,DETR-SGC算法的平均精确率、召回率、平均精确率均值分别达到了93.3%、87.9%、91.3%,比原始DETR算法分别提升了10.8%、4.3%、5.9%。因此,该算法能够有效解决煤矿变电所人员安全防护装备穿戴的检测问题。

支持向量回归机的光滑函数研究

光滑函数能将不光滑模型变为光滑模型,改善支持向量机的回归性能和效率.Lee 等人用一个光滑函数逼近ε-不敏感损失函数的平方,提出ε-不敏感的光滑支持向量回归机模型(ε-SSVR).本文为求ε-不敏感支持向量回归机的新光滑函数,运用插值函数和复合函数的方法,首先求正号函数的光滑逼近,然后将其复合成ε-不敏感损失函数平方的光滑函数,得到一类新的光滑函数.并从理论上证明该类光滑函数的逼近精度比以往的光滑函数高一个数量级.实验结果表明回归效果得到改善,从而为支持向量回归机提供一类新的光滑函数.

多监督损失函数光滑化图像超分辨率重建

目的将低分辨率(low-resolution,LR)图像映射到高分辨率(high-resolution,HR)图像是典型的不适定恢复问题,即输出的HR图像和输入的LR图像之间的映射是多对一的,这意味着仅通过增加网络深度来确定HR图像与LR图像之间的特定映射关系是非常困难的。针对该问题,本文提出一种基于多监督光滑化损失函数的图像超分辨率方法。方法该方法主体由LR图像上采样通道和HR图像下采样通道两部分组成。各通道分为两个阶段,每个阶段均包括浅层特征提取模块、基于迭代采样错误反馈机制的采样模块、全局特征融合模块和图像重建模块。将LR图像上采样通道第1阶段结果与HR图像下采样通道第1阶段结果对比,然后将HR原图像和HR图像下采样通道第2阶段结果作为约束构成多监督,使映射函数空间尽可能精确,并将多监督损失函数光滑化保证梯度在全局范围内传递。结果在基准测试集Set5、Set14、BSD100(Berkeley segmentation dataset)、Urban100(urban scenes dataset)、Manga109(109 manga volumes dataset)数据集上进行测试,并与Bicubic、SRCNN(super-resolution convolutional neural network)、FSRCNN(fast super-resolution convolutional neural network)、LapSRN(Laplacian pyramid super-resolution network)、VDSR(very deep super-resolution convolutional networks)、DBPN(deep back-projection networks for super-resolution)和DRN(dual regression networks)等方法的实验结果进行对比。当放大因子为4时,本文算法的峰值信噪比分别为32.29 dB、28.85 dB、27.61 dB、26.16 dB和30.87 dB;在重建图像的可视化分析方面,本文算法相较于对比算法具有更加丰富的纹理和清晰的轮廓。结论实验结果表明,基于多监督光滑化损失函数方法的图像重建结果与其他超分辨率主流算法相比,在重建图像质量和高频细节处理方面均有所提高。

基于改进的ResNet手指静脉识别

针对指静脉提取困难和识别精度不够高等问题,提出了一种基于ResNet改进的手指静脉识别方法。首先,使用深度超参数化卷积(DO-Conv)代替网络中的传统卷积,在减少模型参数的同时提高了网络识别率。然后,将空间注意力模型(SAM)和挤压激励块(SE-Block)融合,应用于改进的残差网络(ResNet)提取图像在通道和空间域上的细节特征。最后,使用标签平滑的交叉熵(LSCE)损失函数来训练模型,实现自动校准网络防止分类出现误差。实验结果表明,改进后的模型不易受到图片质量的影响,在公开数据库FV-USM和SDUMLA上的识别精度分别达到99.4919%和99.4485%,较之前的网络在精度上有明显提高。