基于多尺度卷积的胶囊网络知识图谱嵌入模型

该文基于胶囊神经网络出色的维度信息挖掘能力,加入多尺度卷积以进一步增强其特征提取和交互能力,提出了基于多尺度卷积的胶囊网络知识图谱嵌入模型.首先,通过TransE算法训练得到实体和关系的初始化嵌入向量;其次,通过多尺度卷积生成不同的特征图,将得到的特征图进行特征融合,融合后得到的特征图重组为相对应的胶囊;最后,利用动态路由指定从第一层胶囊到第二层胶囊的连接,经过路由得到的第二层胶囊利用squash函数得到最终向量长度,该向量长度决定三元组的置信度.知识图谱链接预测任务的实验结果表明,较嵌入模型CapsE,本文提出的模型在WN18RR数据集上指标Hit@10提高1.8%,MRR提高1.4%,在FB15k-237数据集上Hit@10提高2.2%,MR提高4.8%.

融合多尺度卷积和侧窗滤波的HY-1C CZI云检测方法

海洋一号C(HY-1C)卫星是中国首颗海洋水色业务卫星,其搭载的海岸带成像仪(Coastal Zone Imager, CZI)具有大幅宽、短重访周期的优势,可实现海洋和海岸带的大面积观测。作为光学传感器,CZI受云影响严重,准确识别云是CZI数据处理的关键,但是CZI缺少红外和短波红外等对云敏感的波段,云检测难度大。针对该问题,本文提出一种融合多尺度卷积和侧窗滤波的轻量化云检测方法,该方法通过多尺度卷积获取云的不同尺度特征,通过侧窗滤波突出边缘特征,减少椒盐噪声的影响,提升云边缘检测的精度。实验结果表明,本文所提出的方法可有效进行云检测,在云边缘提取方面表现较好,F1-score达92.77%,Kappa系数达0.89,与现有云检测方法相比优势明显,且模型训练速度快、参数量少,可为HY-1C CZI遥感影像处理提供有力支撑。

基于多尺度卷积编码器的说话人验证网络

说话人验证是一种有效的生物身份验证方法,说话人嵌入特征的质量在很大程度上影响着说话人验证系统的性能。最近,Transformer模型在自动语音识别领域展现出了巨大的潜力,但由于Transformer中传统的自注意力机制对局部特征的提取能力较弱,难以提取有效的说话人嵌入特征,因此Transformer模型在说话人验证领域的性能难以超越以往的基于卷积网络的模型。为了提高Transformer对局部特征的提取能力,文中提出了一种新的自注意力机制用于Transformer编码器,称为多尺度卷积自注意力编码器(Multi-scale Convolutional Self-Attention Encoder,MCAE)。利用不同尺度的卷积操作来提取多时间尺度信息,并通过融合时域和频域的特征,使模型获得更丰富的局部特征表示,这样的编码器设计对于说话人验证是更有效的。通过实验表明,在3个公开的测试集上,所提方法的综合性能表现更佳。与传统的Transformer编码器相比,MCAE也是更轻量级的,这更有利于模型的应用部署。

基于多尺度卷积MSRCR的蒙古族家具纹样增强研究

针对蒙古族家具纹样采集过程中,受到环境、设备、人为干扰以及纹样自身风化等因素影响,产生对比度低、亮度异常、纹样模糊、色彩失真退化等情况,本文提出一种基于多尺度卷积MSRCR增强的算法。通过二次导向滤波、多通道多尺度卷积、线性加权融合、白平衡等步骤,对MSRCR算法进行改进。结果表明:该方法能有效提升纹样图像质量,改善纹样图像的对比度、亮度,在相关评价指标中也更优。

基于多尺度卷积和注意力机制的枣品种识别

为提高自然场景下枣品种识别方法的准确率,提出一种融合多尺度卷积和注意力机制的枣品种识别模型(Jujube-ResNet-18)。以自然场景下的10类枣品种为对象,根据枣品种图像的特点,该模型在ResNet-18基础上进行改进。引入多尺度卷积模块,增强模型对枣果多尺度特征的提取能力;在每个残差块中加入注意力机制CBAM,提高枣果特征信息权重,减弱复杂背景等无用特征的影响。试验结果表明,Jujube-ResNet-18在枣品种数据集上的准确率为89.5%,参数量和权重大小分别为1.135×10^(7)和43.41 MB。与其他算法相比,Jujube-ResNet-18有更好的特征提取能力、抗干扰能力和较小的模型复杂度,可为自然场景下的枣品种识别研究提供参考。

基于多尺度卷积和注意力的文本图像超分辨率网络

场景文本图像超分辨率的作用在于提高图像中文本的清晰度,以改善文本识别的准确性。现有方法没有考虑文本图像的多尺度特征,并且没有突出对文本特征的重点关注。针对现有方法存在的问题,提出了基于多尺度卷积和注意力机制的文本图像超分辨率网络,网络使用多尺度卷积提取文本图像中的多尺度特征,使用注意力机制以增强对文本特征部分的关注。在真实场景文本图像数据集TextZoom上进行了实验,验证了网络的有效性。

基于多尺度卷积与Informer混合模型的非侵入式负荷监测方法

针对现有非侵入式负荷监测方法存在的负荷分解准确率低、模型泛化性能差的问题,提出一种多尺度卷积与Informer网络相结合的非侵入式负荷监测方法。采用数据分段优化方法对功率信号进行分段,利用多尺度卷积核获取不同时间尺度的特征序列以及自适应提取多维度功率特征,从而形成特征矩阵;基于Informer网络中的概率稀疏自注意力机制在高维空间中充分捕获特性序列的长期依赖关系,从而提高预测准确率;利用分解值修正方法消除功率分解值中的“虚假”激活状态,以进一步提高分解精度。算例结果验证了所提方法的可行性。

结合多尺度卷积块与密集卷积块的遥感图像融合

遥感图像融合的目的在于获得与多光谱图像相同光谱分辨率和与全色图像相同空间分辨率的高分辨率多光谱图像。尽管深度学习在遥感图像融合方面取得了显著的成果,但由于深度模型网络的限制,网络无法充分提取图像中丰富的空间信息,导致融合图像空间信息缺失,融合结果质量低。因此引入了多尺度块,不同尺度的图像特征可以通过不同大小的卷积核学习,从而增加提取特征的丰富性。随后引入了密集卷积块,通过密集连接来达到特征重用的目的,在网络较深时减少了浅层特征信息的丢失。在特征融合阶段,所提方法将网络不同层次的特征图作为特征融合层的输入,提高融合图像的质量。在GE1数据集以及QB数据集上与6种融合算法进行对比实验,实验结果表明所提方法的融合图像更好地保留了空间信息与光谱信息,在主观和客观评价上均优于对比方法。

小样本下多尺度卷积关系网络的轴承故障诊断方法

尽管工业条件下可获取大量轴承状态监测数据,但其价值密度低且多为正常状态,可利用的不同类型故障数据较少。针对少样本条件下难以实现高准确率轴承故障诊断的问题,提出一种基于多尺度卷积关系网络的轴承故障诊断方法。该方法首先利用关系网络建立已标记样本之间的对比关系模型;其次,在网络的第一层利用多个大小不同卷积核提取特征并进行特征融合,以增强模型在数据稀缺的条件下对丰富性和互补性故障特征的提取能力;此外,考虑交叉熵损失函数,以提升模型对不同故障类型中判别性特征的提取能力。在帕德博恩大学轴承数据集下,仅利用50条样本训练模型,所提方法相较于WDCNN、SECNN、孪生网络、原型网络和关系网络对1000条无标记样本的平均测试准确率分别提升33.66%,28.63%,7.62%,7.82%和4.21%。此外,对机车轴承数据集添加SNR为-1 dB的高斯白噪声以模拟强噪声干扰环境,所提方法仅利用20条训练样本对1200条测试样本达到89.83%的较高诊断精度。实验结果显示,在小样本训练条件下,所提方法能够有效提升模型的泛化、抗噪和辨识能力。

基于多尺度卷积神经网络的绩效数据特征提取方法

针对传统医疗机构绩效评估算法存在的主观性强、数据特征提取能力差的缺点,文中基于多尺度卷积神经网络提出一种绩效数据特征提取模型。该模型对传统卷积神经网络进行改进,使用空间化可提升效率的方法构建了胶囊网络,并使用多种尺寸不同的卷积核对数据进行训练,从而保证了特征提取的全面性。在数据训练过程中,使用熵权法对各参数指标进行权重确定,并用麻雀搜索算法进行模型参数优化。在实验测试中,参数优化后的模型预测准确率更高,在所有对比算法中,所提算法的MAE、MAPE、RMSE等误差指标最低,迭代次数也仅为7次,表明模型具有最优性能的同时训练速度也较快。

基于循环多尺度卷积混合器的老电影修复方法研究

本文针对老电影序列的多种损伤及混合退化问题,提出一种循环结构的卷积混合器网络,可通过深度学习技术自动修复老电影中的受损画面。该网络包括时间融合模块和空间恢复模块,其中,时间融合模块通过比对相邻帧的特征来定位当前帧的损伤,并使用光流引导相邻帧填补当前帧的受损区域,空间恢复模块使用多尺度卷积混合器来处理融合后的时间信息,实现对老电影画面的逐帧修复。此外,本文构建了一个用于模拟老电影损伤的数据集,通过损伤纹理模拟老电影非结构化损伤,设计退化模型模拟老电影的结构化损伤。实验结果表明,该方法可以同时保证老电影单帧修复的质量以及整体的时间一致性。

基于多尺度卷积与通道域增强的草莓病害识别方法

为提高草莓病害图像的分类准确性,提出一种基于通道域增强的深度超参数化金字塔卷积残差网络(CEM-DOPConv-ResNet18)。首先,针对草莓病害的多尺度特点,基于金字塔卷积与深度超参数化卷积提出深度超参数化金字塔卷积(DOPConv),在提取多尺度病害特征的同时,缓解参数量增加导致的收敛干扰;其次,提出基于双重池化的通道增强模块,用以提高模型的特征选择能力,增强有用尺度下的特征;最后,将上述方法与ResNet18结合,将原本的3×3卷积替换为DOPConv,同时在残差块中加入通道增强模块,构建出草莓病害分类网络。为验证模型识别性能与模块有效性,在草莓病害图像数据集上进行对比试验和消融试验。对比试验结果表明,与原有ResNet18模型相比,CEM-DOPConv-ResNet18的准确率达97.867%,提高3.045百分点,同时内存占用量下降16.6%;消融试验结果表明,相较于原始金字塔卷积,DOPConv可以优化模型收敛,对通道增强模块具有更高的兼容度。该模型提高了草莓病害的分类准确率,降低了网络复杂度,为病害的精准识别提供了一种有效解决模型。

基于多尺度卷积自注意力的多维时间序列预测

现有的多维时间序列(mutivariate time series, MTS)预测模型大多关注序列变量间的时空依赖关系,没有考虑MTS各变量上取值的典型变化趋势,即局部上下文模式(local context pattern, LCP)。为此设计一种基于因果卷积自注意力和图卷积网络的MTS预测模型,通过多通道多尺度因果卷积提取MTS各变量的多尺度LCP特征,采用多头自注意力机制捕获多尺度LCP间的时序依赖关系,由图卷积网络提取多尺度LCP时序特征之间的空间依赖关系。在4个公开MTS数据集上的结果表明了该预测方法预测性能的优越性。

融合多尺度卷积的端到端宫颈细胞分割

宫颈癌是目前唯一一种病因明确的妇科恶性肿瘤,通常采用宫颈细胞筛查来进行早期排查以及治疗。在细胞筛查过程中,为了发现早期的宫颈异常细胞,需要从显微细胞图像中准确分割出细胞核与细胞质。现有宫颈细胞分割方法存在计算量大、精确率低、数据不平衡所导致的学习困难等问题。为了提高宫颈细胞分割算法的性能,引入了多尺度卷积的思想,采用一种U型编码器-解码器模型,设计了一个端到端的细胞分割算法IR U⁃Net。主要包括:①利用多尺度卷积结构加宽网络,避免人工选择卷积核,能提取多尺度特征,同时在卷积结构中加入残差连接,来减少梯度消失等现象;②通过使用Leaky⁃ReLU减少“神经元死亡”导致的网络稀疏特征多、难以收敛的问题;③采用改进的损失函数Focal⁃Dice Loss以缓解数据不平衡的问题。仿真实验结果表明,改进后的模型相比对照算法在精度上有所提高,分割性能得到改善。

改进多尺度卷积结构与高斯核的E-CenterNet算法

针对ResNet和DLA(deep layer aggregation)为主干网络的CenterNet算法特征提取能力不充分、热力图与目标真实边界框吻合度不高、关键点损失函数未充分考虑预测值对难易样本训练比重的影响等不足,提出一种改进多尺度卷积结构与高斯核的E-CenterNet算法。引入轻量型EfficientNetV2-S作为主干网络,并结合基于金字塔分割注意力网络的多尺度卷积结构对其进行改进,提高特征提取能力;对高斯核进行改进,使CenterNet产生的热力图由固定的圆形改进为随边界框宽高变化的椭圆形,增强算法对边界框宽高差异大的目标的检测能力;提出一种基于关键点预测值的关键点损失函数,提高算法对难样本的训练比例。在Pascal VOC数据集上的实验结果表明:E-CenterNet算法的mAP达到83.3%,比原始算法提升了2.6个百分点,检测性能优于CenterNet算法。

多尺度卷积神经网络小样本轴承故障辨识方法

针对基于深度学习的故障辨识方法工程应用准确率受制于样本数量与质量的问题,提出一种多尺度卷积神经网络(novel multi‑scale convolutional neural network,简称NMS‑CNN)故障辨识方法。首先,对滚动轴承的振动信号进行快速傅里叶变换(fast Fourier transform,简称FFT)获取其频域数据;其次,利用多尺度卷积提取频域数据中的多粒度敏感特征,并使用实例归一化技术(instance normalization,简称IN)对特征图进行归一化;然后,采取注意力机制对多尺度特征进行自适应加权并进一步使用卷积提取深层抽象特征;最后,使用softmax分类器完成故障辨识任务。经过实验验证,所提方法能够在较少训练样本下完成故障辨识任务,并且其抗噪性与泛化性均优于其他智能故障辨识算法。

结合多尺度卷积网络和双端注意力机制的水声目标识别

水声目标识别是被动声呐系统的主要应用之一。为了进一步提升小样本条件下水下目标的识别率,文章提出一种基于多尺度卷积和双端注意力机制相融合的方法。首先,提取梅尔倒谱系数,色度谱和计算谱对比度等特征,建立基于多类别特征子集的三维聚合特征。其次,采用多尺度卷积滤波器算子构造多分辨率卷积神经网络,以更好地适应三维聚合特征的时频结构。另外,采用双端注意力模型捕获样本的全局依赖和局部特性。采用基于指数加权的对数交叉熵函数作为损失函数,提升样本数较少类别的识别率。实验结果表明,该方法在ShipsEar数据上的平均识别率为95.5%,取得了较好的分类效果。

基于多尺度卷积神经网络的变压器故障诊断方法

为了提高变压器故障识别的诊断精度,提出一种基于多尺度卷积神经网络模型的变压器故障诊断方法。首先,在1DCNN结构基础上设计2个多尺度卷积模块,构造变压器故障识别模型的总体结构。其次,针对样本特征较少问题,采用基于比值法的特征扩充方法,将样本特征由5维增强至25维;针对故障样本量少以及故障间样本数分布不平衡问题,采用基于对抗生成网络的样本数增强方法,生成大量模拟样本。最后,利用改造后的数据集对所设计的模型进行训练与测试。结果表明,模型平均准确率为93.24%,与相关主流方法在不同数据集下实验对比,本模型表现效果良好。

多尺度卷积胶囊网络在刀具破损监测中的应用

刀具状态监测是实现加工过程智能化的关键技术之一,其状态直接影响到工件的表面质量和加工效率。在切削加工过程中刀具的细微崩刃不易察觉但却对工件表面质量影响较大,针对该问题提出了一种基于多尺度卷积胶囊网络的方法实现刀具破损状态监测。首先通过采集振动信号来表征刀具的状态,然后在模型中通过多尺度卷积层初步提取信号特征,随后将特征胶囊化输入胶囊层中进一步挖掘特征中的隐藏信息,最终通过分类层识别刀具在不同切削参数下是否发生细微崩刃。实验结果表明,该方法能够在噪声环境中准确识别不同切削参数下切削刃是否微崩,并且识别精度优于卷积神经网络(Convolutional neural network,CNN)和宽核卷积神经网络(Convolution neural network with wide first-layer kernels,WDCNN)。

融入注意力机制的多尺度卷积图像去雾方法

图像的去雾问题是一项富有挑战性的视觉任务。以往的图像去雾方法往往过于依赖雾天图像退化的物理模型,且当前利用卷积神经网络进行图像去雾的模型较为复杂,基于此提出一种不依赖于物理模型的轻量级去雾网络MADNet。该网络主要由融入注意力机制的多尺度卷积模块构成,通过将有雾图像看成是清晰的无雾图像和雾度残留图像组成,让MADNet直接学习目标无雾图像和输入的有雾图像之间的雾度残留物,最后实现端到端的图像去雾。实验结果表明,MADNet在数据集SOTS和NH-HAZE上的结构相似性和峰值性噪比均优于其它对比方法的,在真实场景中也能取得较好的去雾效果。