基于注意力机制和有效分解卷积的实时分割算法

针对现阶段实时语义分割算法计算成本高和内存占用大而无法满足实际场景需求的问题,提出一种新型的浅层的轻量级实时语义分割算法——基于注意力机制和有效分解卷积的实时分割算法(AEFNet)。首先,利用一维非瓶颈结构(Non-bottleneck-1D)构建轻量级分解卷积模块以提取丰富的上下文信息并减少运算量,同时以一种简单的方式增强算法学习能力并利于提取细节信息;然后,结合池化操作和注意力细化模块(ARM)构建全局上下文注意力模块以捕捉全局信息并细化算法的每个阶段,从而优化分割效果。算法在公共数据集cityscapes和camvid上进行验证,并在cityscapes测试集上获得精度为74.0%和推理速度为118.9帧速率(FPS),相比深度非对称瓶颈网络(DABNet),所提算法在精度上提高了约4个百分点,推理速度提升了14.7 FPS,与最近高效的增强非对称卷积网络(EACNet)相比,所提算法精度略低0.2个百分点,然而推理速度提高了6.9 FPS。实验结果表明:所提算法能够较为准确地识别场景信息,并能满足实时性要求。

基于多尺寸分解卷积的车道线检测

为提高复杂场景下车道线检测的精度,提出一种基于多尺寸分解卷积的车道线检测模型。首先采用ResNet34网络作为编码器提取图像局部特征;然后基于分解卷积的原理设计多尺寸分解卷积残差模块,进一步提取多尺度的车道线特征;最后设计车道线预测分支和基于双线性插值的解码器来分别对车道线进行置信度预测和像素级分类输出。在CULane数据集上对模型进行验证,平均调和均值F1达到75.3%,并在实际道路上进行了测试,结果表明,提出的模型在复杂场景下可以有效检测车道线。

视频人脸识别中高效分解卷积与时间金字塔网络研究

随着大量视频监控和摄像头网络的架设,非受限场景下的连续视频帧人脸识别愈发引人关注。传统的连续视频帧人脸识别方法大多存在识别结果易波动和计算资源消耗密集的问题。因此,该文对比了不同的帧间汇聚方式,采用注意力机制优化帧间汇聚过程,并采用3D分离卷积进行视频人脸建模,有效降低了视频人脸识别的计算消耗,提高了识别准确率。此外,提出了一种时间金字塔网络,可以进一步有效挖掘帧间互补信息,以提高识别准确率。该方法的有效性在YTF、PaSC数据集上得到了验证。

基于非对称分解卷积的网络安全检测

近年来,网络安全检测已经取得了很大的进步。然而,网络迅速的发展、流量分布的变化和数据样本中的噪声等问题都对现有方法提出了很大的挑战。针对此,提出了基于非对称分解卷积的网络安全检测(Network Security Detection Based on Asymmetric Decomposed Convolution,ADC-NSD)方法。ADC-NSD方法根据对网络连接数据的训练与学习,生成区别常态与危险状态的安全检测模型,通过对卷积神经网络中的卷积核进行分解,完成对数据进行解析和检测。最后,以KDDCUP99为测试数据集,将ADC-NSD方法与其他机器学习方法进行比较。实验结果表明,ADC-NSD方法能有效地解决网络安全检测问题,总体精确率为98.72%,准确率为99.92%,召回率为94.61%,F1值为97.19%。

基于卷积非负矩阵分解的语音转换方法

为了在语音转换过程中充分考虑语音的帧间相关性,提出了一种基于卷积非负矩阵分解的语音转换方法。卷积非负矩阵分解得到的时频基可较好地保存语音信号中的个人特征信息及帧间相关性。利用这一特性,在训练阶段,通过卷积非负矩阵分解从训练数据中提取源说话人和目标说话人相匹配的时频基。在转换阶段,通过时频基替换实现对源说话人语音的转换。相对于传统方法,本方法能够更好地保存和转换语音帧间相关性。实验仿真及主、客观评价结果表明,与基于高斯混合模型、状态空间模型的语音转换方法相比,该方法具有更好的转换语音质量和转换相似度。

分解多空洞深度卷积的轻量级图像语义分割

为了降低图像语义分割网络的模型复杂度,提出了分解多空洞深度卷积的轻量级图像语义分割模型。首先,针对大小不一的多目标,用感受野不同的金字塔结构提取图像语义特征,在深度卷积过程中对空洞卷积进行分解,以降低参数量和计算量;其次,对不同阶段得到的特征图进行融合,利用子像素卷积进行上采样,将提取的低分率图插入到最后输出的高分辨率特征图中,以改善图像语义分割的精准性;最后,在CamVid数据集上和现有的9种方法进行对比实验,结果表明,该方法参数量和计算量都相对较低,同时语义分割精准性得以提升。

二维卷积非负矩阵分解的初值确定混合算法

为解决二维卷积非负矩阵分解算法存在初值敏感,且传统随机初始化确定的初始值容易使算法收敛到结果相对不好的局部最优值的问题,通过结合K均值聚类、奇异值分解和主成分分析方法,提出了一种适用于二维卷积非负矩阵分解初始值确定的混合算法.首先,利用K均值聚类方法得到聚类中心作为系数矩阵(H矩阵)的初始值,避开了传统初始化不确定系数矩阵带来的分解结果不唯一问题;其次,考虑到相比一维卷积非负矩阵分解算法,二维卷积非负矩阵分解算法的基矩阵(W矩阵)个数更多,利用奇异值分解和主成分分析方法交替产生基矩阵的初始值,克服了单个算法产生的初始化误差问题.在相同参数环境下将本文算法和现有初始化算法的分解收敛性能进行对比实验,结果表明本文算法相比其他同类算法具有更好的分解性能并具有更好的收敛性.进一步加入噪声进行实验,在白噪声为-1 dB～10 dB的不同信噪比环境下,本文算法均能快速实现信号的分离,对于噪声数据具有很强的鲁棒性.采用混合算法确定初值,更有利于实现二维卷积非负矩阵分解的实时性和高性能.

基于卷积非负矩阵部分联合分解的强噪声单声道语音分离

非负矩阵部分联合分解(Nonnegative matrix partial co-factorization,NMPCF)将指定源频谱作为边信息参与混合信号频谱的联合分解,以帮助确定指定源的基向量进而提高信号分离性能.卷积非负矩阵分解(Convolutive nonnegative matrix factorization,CNMF)采用卷积基分解的方法进行矩阵分解,在单声道语音分离方面取得较好的效果.为了实现强噪声条件下的语音分离,本文结合以上两种算法的优势,提出一种基于卷积非负矩阵部分联合分解(Convolutive nonnegative partial matrix co-factorization,CNMPCF)的单声道语音分离算法.本算法首先通过基音检测算法得到混合信号的语音起始点,再据此确定混合信号中的纯噪声段,最后将混合信号频谱和噪声频谱进行卷积非负矩阵部分联合分解,得到语音基矩阵,进而得到分离的语音频谱和时域信号.实验中,混合语音信噪比(Signal noise ratio,SNR)选择以¡3 dB为间隔从0 dB至¡12 dB共5种SNR.实验结果表明,在不同噪声类型和噪声强度条件下,本文提出的CNMPCF方法相比于以上两种方法均有不同程度的提高.

非对称代价函数的稀疏卷积非负矩阵分解方法

提出一种基于非对称代价函数的稀疏卷积非负矩阵分解方法。该方法利用板仓-斋藤距离作为目标代价函数来衡量目标矩阵与重建矩阵的差异,使得较小的矩阵元素具有较小的重建误差,并且该代价函数具有尺度不变性的特点。为了考察其在弱语音成分重建方面的优势,将本文提出的算法应用于耳语音谱分解及重建实验。实验结果表明,与基于欧氏距离和基于Kullback-Leibler(K-L)散度的卷积非负矩阵分解算法相比,本文算法对于弱语音成分具有更好的重构效果,重建后的语音信号具有较大的可懂度。

基于卷积核分解的深度CNN模型结构优化及其在小图像识别中的应用

小图像由于像素少、分辨率低、整幅图像包含信息较少,识别较为困难。目前优秀的深度卷积神经网络模型多为大图像而设计,而用于小图像的模型则存在着层次不够深、难以对特征进行充分抽象的不足。本文基于VGG19模型,依据卷积核分解的原理,设计了一种KDS-DCNN模型,模型深度达到31层,解决了目前超深度模型不能直接用于小图像识别的问题,实验表明该方法不但提升了识别性能,而且还降低了模型的时间复杂度。在CIFAR-10、CIFAR-100和SVHN三个数据集上的验证结果显示,KDS-DCNN模型性能优越,其识别错误率分别降低到29.46%、6.02%和2.17%。

一种平衡准确性以及高效性的显著性目标检测深度卷积网络模型

当前的显著性目标检测算法在准确性和高效性两方面不能实现良好的平衡,针对这一问题,该文提出了一种新的平衡准确性以及高效性的显著性目标检测深度卷积网络模型。首先,通过将传统的卷积替换为可分解卷积,大幅减少计算量,提高检测效率。其次,为了更好地利用不同尺度的特征,采用了稀疏跨层连接结构及多尺度融合结构来提高模型检测精度。广泛的评价表明,与现有方法相比,所提的算法在效率和精度上都取得了领先的性能。

基于可分解的卷积核和快速傅立叶变换FFT的指纹图像增强算法

指纹识别系统在图像增强阶段涉及很多卷积运算,占用大量的计算时间。在不利用专门的DSP处理器进行指纹图像增强处理情况下,常规的卷积运算计算时间非常长。在指纹图像增强过程中,卷积运算主要集中在方向场估计和高波滤波两个阶段。为此本文提出了一种指纹图像增强算法,利用可分解的卷积核和快速傅立叶变换来替换常规的卷积运算,可减少算法的时间复杂度,快速实现指纹图像增强。

奇异值分解与中心度量的细粒度车型识别算法

针对细粒度车型识别图像分类因存在冗余特征而导致识别率低的问题,提出一种基于奇异值分解与中心度量的细粒度车型识别算法。首先,提出一种基于奇异值分解卷积神经网络,对全连接层的权重矩阵进行奇异值分解后重新赋值并微调,可以去除具有相关性的冗余特征,学习到细粒度级别的区分性特征;其次,提出一种学习不同特征的融合损失方法,将中心距离损失和分类损失进行加权融合,使得学习的特征类内之间的距离更小。实验表明,该方法使用 Residual Network(ResNet)框架在Cars-196细粒度车型数据集上测试,准确率能够达到93.02%,优于目前表现较好的双线性和注意力模型。扩展实验证明该方法同样适用于其他网络框架。

连续域卷积操作跟踪算法的改善

针对连续域卷积操作跟踪算法中存在的计算复杂问题和过拟合问题,提出一种降维卷积因式分解方法和一个紧凑衍生模型。本文选取连续域卷积操作跟踪算法中的部分特征通道、因式分解卷积算子,并结合高斯-牛顿法和共轭梯度迭代求取降维矩阵和分类器,以达到降低系统的计算复杂程度的目的。选取服从高斯分布的若干样本,结合联和概率密度函数及混合高斯分布模型,构建一个更具代表性的紧凑衍生模型,既能降低过拟合出现的风险又能保证样本的多样性。通过降低模型更新频率,减少计算复杂度,同时降低模型漂移发生的概率。经实验验证,本文基于四类标准数据集获得的跟踪性能曲线积分比连续域卷积操作跟踪算法最少高出0.8%,最多高出13%。结果表明,降维卷积因式分解法和紧凑衍生模型可以有效地提升系统跟踪性能。

面向助老行为识别的三维卷积神经网络设计

针对室内老人跌倒问题,提出一种室内人体跌倒行为识别方法.首先,提出基于卷积核分解与分组卷积的轻量化3D网络;之后融合浅层2D子网络与轻量化3D子网络,并采用随机滑动组合采样策略改进3D卷积行为识别网络.为进一步提高网络泛化性能,对视频帧进行视觉显著性检测,通过加强背景纹理与人物行为之间关联性提高真实场景识别准确度.实验结果表明:该网络参数量为6.9×106,时间复杂度降低至8.04×109;实现算法在室内跌倒行为识别任务上达到81.5%的准确度.

基于多任务卷积神经网络人脸检测网络的优化加速方法

针对人脸检测网络在安卓设备上速度较慢、检测效果不佳的问题,提出了基于多任务卷积神经网络(MTCNN)的优化加速的方法。一方面,更改Caffe框架的ATLAS数学库为OpenBLAS,利用多核来进行矩阵计算;另一方面,在网络结构上进行优化,通过对特征图进行多尺度的卷积再聚合操作、对不同层的特征图进行特征融合操作来提高网络的学习能力,同时对网络中的卷积核进行分解来减少卷积操作的计算量。在LFW和FDDB数据集上进行测试,实验结果表明:与MTCNN人脸检测算法相比,改进后算法的准确率提高了0.9%,耗时降低了64%,在3288安卓板卡上速度达到了9帧/秒。改进后的算法对遮挡、模糊人脸有更好的鲁棒性,并且在速度上有了很大的提升,在复杂场景下具有出色的检测效果。

基于高效深度瓶颈结构的实时语义分割方法

针对现阶段语义分割方法参数量多、计算成本高,难以满足实际场景需求的问题,提出了一种基于高效深度瓶颈结构的轻量级实时语义分割方法(GDBNet)。首先,利用分解卷积和扩张卷积的有效结合构建出高效深度瓶颈结构,并以一种轻量并高效的方式提取局部上下文信息;然后,将该结构堆叠来获取多尺度的语义信息;最后,通过注意力融合连接模块聚合多尺度的上下文信息并指导特征选择,以此提高分割效果。在不经过任何预训练和后处理的情况下,GDBNet在Cityscapes和Camvid数据集上以140.0 FPS和143.7 FPS的推理速度分别达到了72.91%和68.84%平均交并比的准确度并且参数量仅为0.66 M。该方法在Cityscapes数据集上,相比于同类型深度非对称瓶颈网络(DABNet),准确度提高了2.81百分点,推理速度上升了35.8 FPS,并且参数量降低了0.1 M;在Camvid数据集上,与SPMNet方法相比,准确度提高了1.54百分点,同时参数量和推理速度也更优。实验结果表明:所提方法在满足实时性要求的前提下,能较为准确地识别场景信息。

残差网络在图像分类上的轻量化研究

卷积神经网络由于其出色的性能,在计算机视觉领域被广泛使用。但是由于卷积神经网络其自身特性所限制,常常出现训练所需数据量大、模型训练困难等问题。为了达到模型轻量化的目的,文章改进了网络的基本模块,并将卷积核进行分解,使用卷积层代替全连接层,以达到减少参数量。实验证明所提出的模型分类正确率为90.5%,而且提出的模型在与ResNet18分类正确率相差无几的情况下,大幅度减少参数量和计算量,具有一定的应用价值。

SAU-Net:基于U-Net和自注意力机制的医学图像分割方法

基于深度学习的生物医学图像分割由于其精度的提高,可以更好地辅助医生做精确的诊断.目前主流的基于U-Net的分割模型通过多层卷积进行局部特征的提取,缺失了全局信息,使分割过于局部化而产生误差.本文通过自注意力机制和分解卷积策略对U-Net模型进行改进,提出一种新的深度分割网络SAU-Net,使用自注意力模块增加全局信息,将原U-Net中的级联结构改为逐像素相加,减小维度,降低计算量;提出一种快速简洁的分解卷积方法,将传统卷积分解为两路一维卷积,并加入残差连接强化上下文信息.在BRATS和Kaggle两个脑肿瘤数据集上进行的实验结果表明,SAU-Net在参数量和Dice系数上都有更优的性能.

一种面向船舶智能航行的海上目标实时跟踪算法

海上目标感知的准确性和实时性是实现船舶智能航行的前提和基础.为了满足以上要求,将有效卷积算子(ECO)引入海上船舶目标跟踪中.该算法以相关滤波为基础,响应最大值之处为目标船舶中心所在位置.获得中心位置之后,采用尺度滤波方法估计出船舶目标的最佳尺度,从而完成对目标当前帧的跟踪.利用因式分解卷积的方式分解卷积,降低数据维度,减少计算时间;采用高斯混合模型将样本分成不同类别,降低训练集样本冗余度;采用稀疏更新策略更新样本模型,防止过拟合问题.选取海洋环境下船舶不同运动场景作为实验样本,与几种常用跟踪算法对比,验证了ECO算法在海上船舶目标跟踪上的准确性和实时性.