期刊导航
期刊开放获取
河南省图书馆
退出
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
2
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式:
文摘
详细
列表
相关度排序
被引量排序
时效性排序
基于BERT-PGN模型的中文新闻文本自动摘要生成
被引量:
12
1
作者
谭金源
刁宇峰
+1 位作者
祁瑞华
林鸿飞
《计算机应用》
CSCD
北大核心
2021年第1期127-132,共6页
针对文本自动摘要任务中生成式摘要模型对句子的上下文理解不够充分、生成内容重复的问题,基于BERT和指针生成网络(PGN),提出了一种面向中文新闻文本的生成式摘要模型——BERT-指针生成网络(BERTPGN)。首先,利用BERT预训练语言模型结合...
针对文本自动摘要任务中生成式摘要模型对句子的上下文理解不够充分、生成内容重复的问题,基于BERT和指针生成网络(PGN),提出了一种面向中文新闻文本的生成式摘要模型——BERT-指针生成网络(BERTPGN)。首先,利用BERT预训练语言模型结合多维语义特征获取词向量,从而得到更细粒度的文本上下文表示;然后,通过PGN模型,从词表或原文中抽取单词组成摘要;最后,结合coverage机制来减少重复内容的生成并获取最终的摘要结果。在2017年CCF国际自然语言处理与中文计算会议(NLPCC2017)单文档中文新闻摘要评测数据集上的实验结果表明,与PGN、伴随注意力机制的长短时记忆神经网络(LSTM-attention)等模型相比,结合多维语义特征的BERT-PGN模型对摘要原文的理解更加充分,生成的摘要内容更加丰富,全面且有效地减少重复、冗余内容的生成,Rouge-2和Rouge-4指标分别提升了1.5%和1.2%。
展开更多
关键词
生成式摘要模型
预训练语言模型
多维语义特征
指针生成网络
coverage机制
下载PDF
职称材料
基于BERT-SUMOPN模型的抽取-生成式文本自动摘要
被引量:
9
2
作者
谭金源
刁宇峰
+2 位作者
杨亮
祁瑞华
林鸿飞
《山东大学学报(理学版)》
CAS
CSCD
北大核心
2021年第7期82-90,共9页
可读性、准确性较差,生成式摘要存在连贯性、逻辑性的不足,此外2种摘要方法的传统模型对文本的向量表示往往不够充分、准确。针对以上问题,该文提出了一种基于BERT-SUMOPN模型的抽取-生成式摘要方法。模型通过BERT预训练语言模型获取文...
可读性、准确性较差,生成式摘要存在连贯性、逻辑性的不足,此外2种摘要方法的传统模型对文本的向量表示往往不够充分、准确。针对以上问题,该文提出了一种基于BERT-SUMOPN模型的抽取-生成式摘要方法。模型通过BERT预训练语言模型获取文本向量,然后利用抽取式结构化摘要模型抽取文本中的关键句子,最后将得到的关键句子输入到生成式指针生成网络中,通过EAC损失函数对模型进行端到端训练,结合coverage机制减少生成重复,获取摘要结果。实验结果表明,BERT-SUMOPN模型在BIGPATENT专利数据集上取得了很好的效果,ROUGE-1和ROUGE-2指标分别提升了3.3%和2.5%。
展开更多
关键词
BERT预训练语言模型
结构化模型
指针生成网络
EAC损失函数
原文传递
题名
基于BERT-PGN模型的中文新闻文本自动摘要生成
被引量:
12
1
作者
谭金源
刁宇峰
祁瑞华
林鸿飞
机构
大连理工大学计算机科学与技术学院
大连外国语大学语言智能研究中心
出处
《计算机应用》
CSCD
北大核心
2021年第1期127-132,共6页
基金
国家重点研发计划项目(2019YFC1200302)
国家自然科学基金重点项目(61632011)。
文摘
针对文本自动摘要任务中生成式摘要模型对句子的上下文理解不够充分、生成内容重复的问题,基于BERT和指针生成网络(PGN),提出了一种面向中文新闻文本的生成式摘要模型——BERT-指针生成网络(BERTPGN)。首先,利用BERT预训练语言模型结合多维语义特征获取词向量,从而得到更细粒度的文本上下文表示;然后,通过PGN模型,从词表或原文中抽取单词组成摘要;最后,结合coverage机制来减少重复内容的生成并获取最终的摘要结果。在2017年CCF国际自然语言处理与中文计算会议(NLPCC2017)单文档中文新闻摘要评测数据集上的实验结果表明,与PGN、伴随注意力机制的长短时记忆神经网络(LSTM-attention)等模型相比,结合多维语义特征的BERT-PGN模型对摘要原文的理解更加充分,生成的摘要内容更加丰富,全面且有效地减少重复、冗余内容的生成,Rouge-2和Rouge-4指标分别提升了1.5%和1.2%。
关键词
生成式摘要模型
预训练语言模型
多维语义特征
指针生成网络
coverage机制
Keywords
abstractive summarization model
pre-trained language model
multi-dimensional semantic feature
Pointer Generator Network(PGN)
coverage mechanism
分类号
TP391.1 [自动化与计算机技术—计算机应用技术]
下载PDF
职称材料
题名
基于BERT-SUMOPN模型的抽取-生成式文本自动摘要
被引量:
9
2
作者
谭金源
刁宇峰
杨亮
祁瑞华
林鸿飞
机构
大连理工大学信息检索实验室
大连外国语大学语言智能研究中心
出处
《山东大学学报(理学版)》
CAS
CSCD
北大核心
2021年第7期82-90,共9页
基金
国家重点研发计划资助项目(2019YFC1200302)
国家自然科学基金重点资助项目(61632011)。
文摘
可读性、准确性较差,生成式摘要存在连贯性、逻辑性的不足,此外2种摘要方法的传统模型对文本的向量表示往往不够充分、准确。针对以上问题,该文提出了一种基于BERT-SUMOPN模型的抽取-生成式摘要方法。模型通过BERT预训练语言模型获取文本向量,然后利用抽取式结构化摘要模型抽取文本中的关键句子,最后将得到的关键句子输入到生成式指针生成网络中,通过EAC损失函数对模型进行端到端训练,结合coverage机制减少生成重复,获取摘要结果。实验结果表明,BERT-SUMOPN模型在BIGPATENT专利数据集上取得了很好的效果,ROUGE-1和ROUGE-2指标分别提升了3.3%和2.5%。
关键词
BERT预训练语言模型
结构化模型
指针生成网络
EAC损失函数
Keywords
BERT pre-trained language model
Structured summary model
Pointer-generator network
EAC loss function
分类号
TP391.1 [自动化与计算机技术—计算机应用技术]
原文传递
题名
作者
出处
发文年
被引量
操作
1
基于BERT-PGN模型的中文新闻文本自动摘要生成
谭金源
刁宇峰
祁瑞华
林鸿飞
《计算机应用》
CSCD
北大核心
2021
12
下载PDF
职称材料
2
基于BERT-SUMOPN模型的抽取-生成式文本自动摘要
谭金源
刁宇峰
杨亮
祁瑞华
林鸿飞
《山东大学学报(理学版)》
CAS
CSCD
北大核心
2021
9
原文传递
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部