-
题名基于混合知识分解的增强残差网络
- 1
-
-
作者
唐圣汲
叶鹏
林炜豪
陈涛
-
机构
复旦大学信息科学与工程学院
-
出处
《模式识别与人工智能》
EI
CSCD
北大核心
2024年第4期328-338,共11页
-
基金
国家重点研发计划项目(No.2022ZD0160100)
国家自然科学基金项目(No.62071127,62101137)
+1 种基金
上海市自然科学基金项目(No.23ZR1402900)
上海市科技重大专项计划项目(No.2021SHZDZX0103)资助。
-
文摘
当前如刺激性训练、组知识训练等方法收集残差网络中浅层网络的组知识进行自蒸馏,可提升网络性能,然而上述方法获取的组知识面临知识更新较慢、难以与数据混合技术结合等问题.为了解决此问题,文中提出基于混合知识分解的增强残差网络,通过最小化分解误差,将混合知识分解建模为二次规划问题,从而能从混合知识中获取高质量的组知识.为了提升知识的鲁棒性与多样性,结合多种数据混合技术,构建复合数据混合技术.不同于效率较低的高精度优化算法,采用简单高效的线性知识分解方法,将先前的组知识作为知识基,并将混合知识分解到知识基上,利用增强后的组知识蒸馏采样的子网.在多个主流的残差模型及图像分类数据集上的实验验证文中网络的有效性.
-
关键词
深度学习
神经网络
知识蒸馏
网络增强
残差网络
-
Keywords
Deep Learning
Neural Network
Knowledge Distillation
Network Enhancement
Residual Network
-
分类号
TP37
[自动化与计算机技术—计算机系统结构]
-
-
题名基于两轮自平衡小车的测控系统课程设计教学改革
- 2
-
-
作者
张秦艳
林炜豪
刘春
蔡宁
林雪燕
-
机构
北京邮电大学自动化学院
-
出处
《教育教学论坛》
2020年第15期119-121,共3页
-
基金
北京邮电大学2018年教育教学改革项目立项资助(2018JY-E01)。
-
文摘
测控系统课程设计是北京邮电大学自动化专业本科生主干课程。文章分析了以往课程的不足之处,在"以学生为中心"和创新思想的指导下,利用两轮自平衡小车为实验平台,进行了测控系统课程设计实践教学改革。在新的教学实践中,学生自主选择硬件配置,既有分工合作,又有独立设计。通过教学改革,培养了学生学习主动性和自学能力,增进了合作意识,提高了综合设计能力和创新能力。
-
关键词
测控系统
两轮自平衡小车
教学改革
-
Keywords
Measurement and Control System
two-wheeled self-balanced vehicle
teaching reform
-
分类号
G642.0
[文化科学—高等教育学]
-