-
题名融合多教师模型的知识蒸馏文本分类
被引量:2
- 1
-
-
作者
苑婧
周杨
胡校飞
孙姝娅
张呈龙
刘龙辉
-
机构
战略支援部队信息工程大学
华北水利水电大学
-
出处
《电子技术应用》
2023年第11期42-48,共7页
-
基金
国家自然科学基金(42001338)。
-
文摘
针对简单文本分类模型精度不高,预训练模型结构复杂,在实际环境中难以直接使用的问题,提出多教师知识蒸馏的文本分类方法。该模型使用“教师-学生网络”的训练方法,教师模型为BERT-wwm-ext和XLNet预训练模型,将两个模型输出的概率矩阵通过权重系数融合为软标签。学生模型为BiGRU-CNN网络,使用均方差函数计算软标签误差,使用交叉熵损失函数计算硬标签误差,通过硬标签和软标签训练学生模型使损失函数值达到最小。实验结果表明,提出的方法精度较学生模型有较大的改进,接近预训练模型,在保证分类精度的前提下减少了运行时间,提高了效率。
-
关键词
文本分类
知识蒸馏
BERT-wwm-ext
XLNet
BiGRU-CNN
-
Keywords
text classification
knowledge distillation
BERT-wwm-ext
XLNet
BiGRU-CNN
-
分类号
TP301
[自动化与计算机技术—计算机系统结构]
-
-
题名无人机遥感技术在测绘工程中的研究
被引量:1
- 2
-
-
作者
孙姝娅
-
机构
华北水利水电大学
-
出处
《中华建设》
2019年第1期162-163,共2页
-
文摘
随着科学技术的发展,无人机遥感技术充分运用于农林植保、物流快递、电力巡线、石油/天然气管道巡检、气象探测、森林防火、警用巡逻、海洋遥感等等诸多行业场景当中,更与测绘工程有着紧密的联结。在测绘工程中运用无人机遥感系统具有更低的运营成本、更高的精准度等优点。通过对无人机遥感技术运用示例的研究,分析了无人机遥感技术在测绘工程中可运用的部分以及实施步骤。引言随着经济社会的不断进步,现代科学技术呈现爆炸式发展,而经过几十年的发展,我国无人机技术不断成熟.
-
关键词
运用
科学技术
工程
研究
遥感技术
测绘
-
分类号
P237
[天文地球—摄影测量与遥感]
-
-
题名博物馆文本常见翻译问题与改进策略
被引量:2
- 3
-
-
作者
宁梓含
孙姝娅
-
机构
江南大学外国语学院
江南大学人文学院
-
出处
《海外英语》
2020年第23期169-170,193,共3页
-
基金
2019年国家大学生创新训练项目:海峡两岸博物馆文创衍生品发展现状调查及内地博物馆文创产品发展思路设计——基于台湾,北京,上海和苏南地区的实地调研(201910295030)。
-
文摘
翻译是博物馆日常工作中的重要内容之一,在全球化不断深入的背景下,好的翻译尤为重要,利于中国文化的传播与交流,其相关问题向来受到研究者的关注。然而通过走访调查,发现目前我国地方博物馆翻译工作还不尽如人意,翻译质量有待提高。该文从国内部分地方博物馆翻译案例入手,分析目前尚存在的常见翻译问题类型,并提出相关改进策略,试图为地方博物馆提供具有一定价值的信息。
-
关键词
博物馆
翻译问题
改进策略
文本
文化
-
分类号
H315.9
[语言文字—英语]
-