期刊导航
期刊开放获取
河南省图书馆
退出
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
1
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式:
文摘
详细
列表
相关度排序
被引量排序
时效性排序
改进的SemBERT特征重组模型
1
作者
龚安靖
陈红英
《计算机系统应用》
2022年第11期207-214,共8页
SemBERT模型实现了对BERT模型的提升,但存在两个明显的缺陷.第一,模型获得向量表示的能力不足.第二,没有从特征的种类出发,直接使用传统特征进行任务分类.针对这两个缺陷,提出了一种新的特征重组网络.该模型在SemBERT内部添加自注意力机...
SemBERT模型实现了对BERT模型的提升,但存在两个明显的缺陷.第一,模型获得向量表示的能力不足.第二,没有从特征的种类出发,直接使用传统特征进行任务分类.针对这两个缺陷,提出了一种新的特征重组网络.该模型在SemBERT内部添加自注意力机制,外接特征重组机制,得到更好的向量表示并且重新分配特征权重.实验数据表明新的方法在MRPC数据集上比经典的SemBERT模型在F1值上提高了1%.实现在小数据集上的明显提升,并且超越了大多数优秀模型.
展开更多
关键词
特征重组
向量表示
自注意力机制
特征权重
深度学习
自然语言处理
下载PDF
职称材料
题名
改进的SemBERT特征重组模型
1
作者
龚安靖
陈红英
机构
华南师范大学计算机学院
出处
《计算机系统应用》
2022年第11期207-214,共8页
基金
广东省自然科学基金(2020A1515010445)
文摘
SemBERT模型实现了对BERT模型的提升,但存在两个明显的缺陷.第一,模型获得向量表示的能力不足.第二,没有从特征的种类出发,直接使用传统特征进行任务分类.针对这两个缺陷,提出了一种新的特征重组网络.该模型在SemBERT内部添加自注意力机制,外接特征重组机制,得到更好的向量表示并且重新分配特征权重.实验数据表明新的方法在MRPC数据集上比经典的SemBERT模型在F1值上提高了1%.实现在小数据集上的明显提升,并且超越了大多数优秀模型.
关键词
特征重组
向量表示
自注意力机制
特征权重
深度学习
自然语言处理
Keywords
feature reorganization
vector representation
self-attention mechanism
feature weight
deep learning
natural language processing(NLP)
分类号
TP391.1 [自动化与计算机技术—计算机应用技术]
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
改进的SemBERT特征重组模型
龚安靖
陈红英
《计算机系统应用》
2022
0
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部