-
题名基于自监督对比学习与方面级情感分析的联合微调模型
- 1
-
-
作者
狄广义
陈见飞
杨世军
高军
王耀坤
余本功
-
机构
国能数智科技开发(北京)有限公司
合肥工业大学管理学院
-
出处
《科学技术与工程》
北大核心
2024年第21期9033-9042,共10页
-
基金
国家自然科学基金(71671057)。
-
文摘
方面级情感分析是自然语言处理领域中一项具有挑战性的细粒度情感分析任务。以微调预训练语言模型的方式广泛应用于方面级情感分析任务,并取得了明显的效果提升。然而,现有多数研究设计的下游结构较为复杂,甚至与预训练模型部分隐藏层结构重合,从而限制了整体模型性能。由于对比学习方法有助于改善预训练语言模型在词语级别和句子级别的表示,设计了一种结合自监督对比学习与方面级情感分析的联合微调模型(self-supervised contrastive learning aspect-based sentiment analysis,SSCL-ABSA)。该模型以简洁的下游结构联合两种学习任务,实现从不同角度微调预训练基于Transformer的双向编码器(bidirectional encoder representations from Transformers,BERT)模型,有效促进了方面级情感分析效果的提升。具体地,首先在BERT编码阶段,将评论文本与方面词拼接成两个片段输入BERT编码器,得到各词特征表示。之后根据下游结构需求,对不同的词特征采用池化操作。一方面池化所有词特征用于方面级情感分析,另一方面池化两个片段的方面词特征用于自监督对比学习。最终结合两种任务以联合学习的方式微调BERT编码器。在3个公开数据集上进行实验评估,结果表明SSCL-ABSA方法优于其他同类对比方法。借助t-分布随机近邻嵌入(t-distributed stochastic neighbor embedding,t-SNE)方法,形象地可视化了SSCL-ABSA有效改善了BERT模型的实体表示效果。
-
关键词
方面级情感分析
自监督对比学习
预训练语言模型
BERT编码器
联合微调
-
Keywords
aspect-based sentiment analysis
self-supervised contrastive learning
pre-trained model
BERT encoder
joint fine-tuning
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名颈椎微调联合筋针治疗颈椎病的临床效果观察
被引量:2
- 2
-
-
作者
孙惠霞
沈艳萍
-
机构
江苏省靖江市中医院针灸推拿科
-
出处
《临床合理用药杂志》
2020年第17期157-158,共2页
-
文摘
目的观察颈椎微调联合筋针治疗颈椎病的临床效果。方法选取2018年6月-2019年3月靖江市中医院收治的颈椎病患者60例,采取随机数字表法分为对照组和观察组,每30例。对照组采用常规方法治疗,观察组在对照组基础上采用颈椎微调联合筋针治疗,比较2组治疗效果、不良反应发生情况。结果观察组总有效率为96.7%,高于对照组的70.0%(χ^2=7.680,P<0.01);观察组不良反应总发生率为6.7%,低于对照组的40.0%(χ^2=9.317,P<0.01)。结论颈椎微调联合筋针治疗颈椎病效果较好,可加快患者康复进程,不良反应发生率低,值得临床推广应用。
-
关键词
颈椎病
颈椎微调联合筋针
临床效果
-
分类号
R246.9
[医药卫生—针灸推拿学]
-
-
题名基于深度可分离卷积的人脸表情识别
被引量:12
- 3
-
-
作者
李春虹
卢宇
-
机构
四川师范大学计算机科学学院
-
出处
《计算机工程与设计》
北大核心
2021年第5期1448-1454,共7页
-
文摘
为解决在复杂环境下人脸表情识别模型泛化能力不足、识别精度及效率不高的问题,提出一种基于深度可分离卷积的人脸表情识别方法。利用人脸分割网络分割出人脸图像中与表情识别最相关的感兴趣区域,减少非重要因素影响;利用深度可分离卷积构建两个基分类器,实现模型轻量化;采用联合微调方法融合基分类器,提升模型识别率。实验结果表明,在FER-2013数据集上的识别率达到75.15%,较Kaggle表情识别挑战赛冠军提高了3.95%;在CK+和JAFFE数据集上的识别率高达98.98%、97.14%,验证了其有效性。
-
关键词
人脸表情识别
复杂环境
感兴趣区域
深度可分离卷积
联合微调
-
Keywords
facial expression recognition
complex environment
region of interest
depthwise separable convolution
joint fine-tuning
-
分类号
TP391.41
[自动化与计算机技术—计算机应用技术]
-