-
题名基于多任务自适应知识蒸馏的语音增强
- 1
-
-
作者
张刚敏
李雅荣
贾海蓉
王鲜霞
段淑斐
-
机构
太原理工大学电子信息与光学工程学院
太原理工大学数学学院
-
出处
《太原理工大学学报》
CAS
北大核心
2024年第4期720-726,共7页
-
基金
国家自然科学基金资助项目(12004275)
Shanxi Scholarship Council of China(2020-042)
山西省自然科学基金资助项目(20210302123186)。
-
文摘
【目的】提出一种多任务自适应知识蒸馏的语音增强算法,旨在解决复杂模型在时间和硬件等计算成本方面带来的问题,同时提高语音增强算法的性能。【方法】首先,采用知识蒸馏的思想来解决现有的语音增强模型过于庞大、参数多造成计算成本上升问题;其次,充分考虑不同时频单元之间的差异,引入加权因子来优化传统损失函数提升学生网络性能;为了避免教师网络预测的不确定性影响学生网络的性能,构建多任务自适应学习的知识蒸馏网络,可以更好地利用不同任务之间的关联性优化模型。【结果】实验仿真结果表明,所提出的算法在减少参数量、缩短计算时间的同时,还能有效提高语音增强模型的性能。
-
关键词
语音增强
知识蒸馏
多任务自适应学习
加权损失函数
-
Keywords
speech enhancement
knowledge distillation
multi-task adaptive learning
weigh-ted loss function
-
分类号
TN912.3
[电子电信—通信与信息系统]
-
-
题名自适应多任务学习的自动艺术分析
被引量:1
- 2
-
-
作者
杨冰
向学勤
孔万增
施妍
姚金良
-
机构
杭州电子科技大学计算机学院
浙江省脑机协同智能重点实验室
杭州凌感科技有限公司
杭州电子科技大学人文艺术与数字媒体学院
-
出处
《中国图象图形学报》
CSCD
北大核心
2022年第4期1226-1237,共12页
-
基金
国家自然科学基金项目(61633010,U1909202)
浙江省基础公益研究计划(LGG22F020027)
+1 种基金
浙江省重点研发计划(2020C04009)
浙江省脑机协同智能重点实验室项目(2020E10010)。
-
文摘
目的艺术品数字化为从计算机视觉角度对艺术品研究提供了巨大机会。为更好地为数字艺术品博物馆提供艺术作品分类和艺术检索功能,使人们深入理解艺术品内涵,弘扬传统文化,促进文化遗产保护,本文将多任务学习引入自动艺术分析任务,基于贝叶斯理论提出一种原创性的自适应多任务学习方法。方法基于层次贝叶斯理论利用各任务之间的相关性引入任务簇约束损失函数模型。依据贝叶斯建模方法,通过最大化不确定性的高斯似然构造多任务损失函数,最终构建了一种自适应多任务学习模型。这种自适应多任务学习模型能够很便利地扩展至任意同类学习任务,相比其他最新模型能够更好地提升学习的性能,取得更佳的分析效果。结果本文方法解决了多任务学习中每个任务损失之间相对权重难以决策这一难题,能够自动决策损失函数的权重。为了评估本文方法的性能,在多模态艺术语义理解Sem Art数据库上进行艺术作品分类以及跨模态艺术检索实验。艺术作品分类实验结果表明,本文方法相比于固定权重的多任务学习方法,在“时间范围”属性上提升了4.43%,同时本文方法的效果也优于自动确定损失权重的现有方法。跨模态艺术检索实验结果也表明,与使用“作者”属性的最新的基于知识图谱模型相比较,本文方法的改进幅度为9.91%,性能与分类的结果一致。结论本文方法可以在多任务学习框架内自适应地学习每个任务的权重,与目前流行的方法相比能显著提高自动艺术分析任务的性能。
-
关键词
自动艺术分析
自适应多任务学习
贝叶斯理论
艺术分类
跨模态艺术检索
-
Keywords
automatic art analysis
adaptive multi-task learning
Bayesian theory
art classification
cross-modal art retrieval
-
分类号
TP391.4
[自动化与计算机技术—计算机应用技术]
-
-
题名基于异构数据特征级融合的多任务暂态稳定评估
被引量:5
- 3
-
-
作者
钱倍奇
陈谦
张政伟
刘明洋
王苏颖
牛应灏
-
机构
河海大学能源与电气学院
国网河南省电力公司电力科学研究院
-
出处
《电力系统自动化》
EI
CSCD
北大核心
2023年第9期118-128,共11页
-
基金
国家自然科学基金资助项目(51837004)。
-
文摘
考虑到基于深度学习的暂态稳定评估方法对电力系统输入数据的描述不够全面,异构数据常被忽略,且许多特征信息无法有效融合,为充分利用电力系统各类异构数据以提高模型的精确度和算法性能,提出了一种异构数据特征级融合的深度学习方法。首先,利用多层感知机、图卷积网络、门控循环单元分别对静态多变量数据、拓扑图域数据、时序多变量数据进行特征提取;然后,采用张量融合方法对所提取特征进行特征级融合,并将展平的融合特征输入共享层,利用基于同方差不确定性的多任务学习方法,同时实现了暂态稳定判别与暂态稳定裕度预测。在此基础上,建立了暂态稳定评估模型,并对所提方法的性能进行了评估。最后,采用新英格兰10机39节点系统进行仿真、训练与验证,结果表明所提方法能有效提升评估的准确性与鲁棒性。
-
关键词
暂态稳定评估
异构数据
深度学习
特征级融合
自适应多任务学习
-
Keywords
transient stability assessment
heterogeneous data
deep learning
feature-level fusion
adaptive multi-task learning
-
分类号
TM712
[电气工程—电力系统及自动化]
-