-
题名基于金字塔知识的自蒸馏HRNet目标分割方法
被引量:1
- 1
-
-
作者
郑云飞
王晓兵
张雄伟
曹铁勇
孙蒙
-
机构
陆军工程大学指挥控制工程学院
陆军炮兵防空兵学院
安徽省偏振成像与探测重点实验室
陆军工程大学指挥控制工程学院计算机与科学博士后流动站
-
出处
《电子学报》
EI
CAS
CSCD
北大核心
2023年第3期746-756,共11页
-
基金
国家自然科学基金(No.61801512,No.62071484)
江苏省自然科学基金(No.BK20180080)。
-
文摘
知识蒸馏能有效地将教师网络的表征能力迁移到学生网络,无须改变网络结构即可提升网络的性能.因此,在性能优异的目标分割主干网HRNet(High-Resolution Net)中构建自蒸馏学习模型具有重要意义.针对HRNet并行结构中深层与浅层信息充分融合导致直接蒸馏难以实现的挑战,本文提出一种基于多尺度池化金字塔的结构化自蒸馏学习模型:在HRNet分支结构中引入多尺度池化金字塔表示模块,提升网络的知识表示和学习能力;构造“自上而下”和“一致性”两种蒸馏模式;融合交叉熵损失、KL(Kullback-Leibler)散度损失和结构化相似性损失进行自蒸馏学习.在四个包含显著性目标和伪装目标的分割数据集上的实验表明:本文模型在不增加资源开销的前提下,有效提升了网络的目标分割性能.
-
关键词
自蒸馏学习
并行结构网络
多尺度池化金字塔
结构化相似性
目标分割
-
Keywords
knowledge distillation
parallel network
multi-scale pooling pyramid
structural similarity
object seg⁃mentation
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
TP183
[自动化与计算机技术—控制理论与控制工程]
-
-
题名基于循环生成对抗网络的超分辨率重建算法研究
被引量:6
- 2
-
-
作者
蔡文郁
张美燕
吴岩
郭嘉豪
-
机构
杭州电子科技大学电子信息学院
浙江水利水电学院电气工程学院
-
出处
《电子与信息学报》
EI
CSCD
北大核心
2022年第1期178-186,共9页
-
基金
国家自然科学基金(61801431)
浙江省属高校基本科研业务费专项资金(GK209907299001-001)。
-
文摘
为了提高图像超分辨率重建的效果,该文将注意力机制引入多级残差网络(Multi-level Residual Attention Network,MRAN)作为CycleGAN的重建网络,提出了基于循环生成对抗网络(CycleGAN)的超分辨率重建模型MRA-GAN。MRA-GAN模型中重建网络负责将低分辨率(LR)图像重建为高分辨率(HR)图像,退化网络负责将HR图像降采样为LR图像,LR判别器负责鉴别真实LR图像和通过退化网络降采样得到的LR图像,HR判别器负责鉴别真实HR图像和通过重建网络重建得到的HR图像,并且改进了CycleGAN原有的判别器判别方式和损失函数。实验结果验证了MRA-GAN模型与现有算法相比,在峰值信噪比(PSNR)和结构相似性(SSIM)等指标上都有所改进。
-
关键词
图像超分辨重建
多级残差网络
循环生成对抗网络
峰值信噪比
结构化相似性
-
Keywords
Image Super resolution Reconstruction(SR)
Multi-level attention mechanism
CycleGAN
Peak Signal to Noise Ratio(PSNR)
Structural SIMilarity(SSIM)
-
分类号
TN911.73
[电子电信—通信与信息系统]
-
-
题名基于双重残差注意力网络的图像超分辨率重构方法
- 3
-
-
作者
张美燕
吴岩
蔡文郁
-
机构
浙江水利水电学院电气工程学院
杭州电子科技大学电子信息学院
-
出处
《传感技术学报》
CAS
CSCD
北大核心
2022年第8期1102-1108,共7页
-
基金
浙江省自然科学基金项目(LZJWY22E090001,LZ22F010004)
国家自然科学基金项目(61801431)。
-
文摘
图像超分辨(SR)方法通常利用深度神经网络学习从低分辨率图像(Low Resolution,LR)到高分辨率图像(High Resolution,HR)的非线性映射重建。但是从LR图像到HR图像的映射往往是一个不适定问题,即存在无限的HR图像可以降采样到同一LR图像。为了解决该问题,对LR图像引入附加约束来减少可能的函数空间,并提出了基于双回归网络—双重残差注意力网络(Dual Residual Attention Network,DRAN)的图像超分辨率重构方法(DRAN-SR)。DRAN模型中原始网络负责将低分辨率(LR)图像重构为高分辨率(HR)图像,对偶回归网络负责估计下采样核和重构LR图像,从而形成一个闭环来提供额外的监督效果。实验结果表明,DRAN-SR比现有方法具有更好的峰值信噪比(Peak Signal to Noise Ratio,PSNR)和结构相似性(Structural SIMilarity,SSIM)。
-
关键词
图像超分辨重构
多级残差网络
双回归网络
峰值信噪比
结构化相似性
-
Keywords
super resolution reconstruction
multistage residual network
double regression network
PSNR
SSIM
-
分类号
TN911.73
[电子电信—通信与信息系统]
-