融合主题预测和情感推理的共情回复生成方法

越来越多的研究开始聚焦于共情回复生成,然而现有的研究往往只关注于影响共情的表面情感因素,却忽略了对话中主题的变化和情感背后的原因,这将会导致生成的共情回复与主题不相关或共情性不足,从而降低用户的交互体验。因此提出一种融合主题信息和深层次情感信息的共情回复生成方法。通过主题预测模块进行受上下文控制的主题预测,得到一个候选主题词序列;通过情感推理模块预测出对话上下文的情感标签和检测出对话上下文中与情感原因相关的词,得到一个情感原因词标签序列;在回复生成模块中引入主题词门控注意力机制和情感原因词标签门控注意力机制,动态地选择出用于生成共情回复的主题词和情感原因词,促使对话模型生成主题相关且情感共鸣的共情回复。在数据集EmpatheticDialogues上的实验表明,该方法生成的回复的内容更加丰富、主题更加相关、情感更加共鸣。

知识单元重组视角下的科学主题预测研究

准确的科学主题预测能够明确学科未来的发展方向,为科研领域的发展规划和管理决策提供参考。本文着眼于新生科学主题的预测,基于知识单元重组视角,将主题-特征词的表征关系类比为科学概念-知识单元的表征关系,提出科学主题预测方法。首先,使用LDA(latent Dirichlet allocation)主题模型获取全局主题、特征词与概率矩阵,通过转置向量空间获得特征词向量;其次,运用ARIMA(autoregressive integrated moving average model)模型预测特征词的词频并计算向量调节系数,从而获得特征词预测向量,运用t-SNE(t-distributed stochastic neighbor embedding)算法将预测向量降维,并使用模糊C-均值算法将低维预测向量聚类生成预测主题,实现知识单元的重组;最后,筛选出由多个原始主题聚合而来、具有全新释义的预测主题,将其视为科学主题预测结果。本文以“知识管理-知识组织-知识服务”领域为例进行实证研究,预测出智库、数字人文等在已有领域研究中尚未出现的新词与相关主题,并通过特征词直接聚合与概念集成这两种主题映射模式,获得这些新生主题的基本内涵与相关研究内容。实证结果表明,本文提出的科学主题预测方法能够准确地预测出新生主题。

基于语义表示和动态主题模型的社科领域新兴主题预测研究

[目的/意义]预测社科领域在未来有发展潜力的研究主题对于科研工作者寻找新的学科增长点和政府部门优化资源配置至关重要。文章提出一种基于语义表示和动态主题模型的社科领域新兴主题预测框架,以期丰富和完善主题预测研究的方法体系。[方法/过程]首先,使用BERT模型和UMAP算法对文本进行语义表示和向量降维,再通过动态主题模型对嵌入向量进行聚类,从而获得全局主题;其次,构建新兴主题指标计算公式,基于Neural Prophet模型和非参数检验方法预测新兴主题;最后,通过划分时间窗将全局主题细化为多个局部主题,以定位最近时间段的新兴词汇。[结果/结论]选取“人口老龄化”领域的学术论文和报纸进行实证研究,并采用资料验证法进行方法有效性分析,结果表明该方法能够快速准确地预测社科领域中的新兴主题。

基于技术研发与基础研究关联的中国重点技术领域前沿主题预测

[研究目的]基于技术研发与基础研究的关联挖掘技术领域前沿主题,对于促进基础研究成果转化具有重要意义。但是现有技术领域前沿主题预测或者来自专利或者依据文献分析,存在基础研究与技术研发的脱节。[研究方法]以专利代表技术研发成果,通过专利的非专利引文建立技术研发与基础研究的关联关系,并提出一种综合考虑专利引用基础研究成果时滞及专利科学循环周期预测技术领域前沿主题的方法。[研究结论]研究结果显示:a.可基于技术研发成果集中引用基础研究成果的时滞区间,通过基础研究成果主题预测技术领域前沿主题;b.中国农业技术领域前沿主题包括种质资源发掘保存与创新、畜禽健康养殖与疫病防护、环保型肥料创制等;c.中国材料技术领域前沿主题包括智能材料与结构制备技术、高温超导材料与制备技术;d.中国能源技术领域前沿主题包括大规模输配电和电网安全保障、可再生能源低成本规模化开发利用、氢能及燃料电池技术等;e.中国网络信息技术领域前沿主题包括传感器网络与智能信息处理、智能感知技术、信息安全保障技术等;f.中国制造与工程技术领域前沿主题包括极端制造技术、数字化与智能化设计制造。

融合深度学习和链路预测的交叉性研究主题预测研究

[研究目的]针对交叉性主题探索相关研究在数据处理规模、信息预测功能方面的不足,引入机器学习技术预测交叉性研究主题,以期为探索学科未来发展规律、优化学科资源布局提供参考建议。[研究方法]在链路预测技术的基础上融合深度学习算法,首先从主题内容入手,在LDA潜在主题模型挖掘获得的文档-主题分布结果中筛选出同一篇文档对应的阈值范围内的主题,并依据属于同一篇文档的主题之间相互关联来构造以主题为节点的无向网络图。然后利用相似性链路预测算法进行主题节点间的相似性度量值。最后,采用LightGBM算法对已链接的主题节点数据进行训练并保存模型后对未链接的主题节点关系进行预测。[研究结论]融合深度学习和链路预测的交叉性研究主题识别模型不仅能够获得产生关联的技术主题内容,同时能够预测主题产生关联的概率大小,提高交叉性研究主题识别的准确度。

监督式主题模型及其应用综述

主题模型是一种数据挖掘的方法,可以自动地从大量文件或数据中提取潜在的模式或主题,并将对应的数据分配到相应的模式或主题中。主题模型已广泛应用于文本聚类或分类、主题抽取、主题演变、情感分析和摘要总结等领域。监督式主题模型和非监督主题模型的区别在于是否依赖标注信息。近年来,监督式主题模型在数据挖掘任务中逐渐兴起,使得越来越多的任务倾向于采用监督式方法进行优化。陈述了监督式主题模型相关内容,介绍常用的数据集和评价指标;分别从模型和应用的角度对各种类型的监督式主题模型进行了深入对比分析。最后,阐述了主题模型当前研究所面临的挑战,并对未来监督式主题模型的研究方向进行展望。

基于LSTM神经网络的学科主题热度预测模型

[目的/意义]作为科学学预测的重要组成部分,学科主题热度预测旨在揭示学术前沿和发展趋势,辅助学者发现前沿选题,支持科研管理机构科学立项。[研究设计/方法]提出基于期刊影响因子的学科主题热度计算指标(TP-JIF),构建基于LSTM神经网络的学科主题热度预测模型(TPP-LSTM),并以LIS领域数据为例,通过时间切片的形式抽取、计算学科主题的热度序列,检验不同长度时间序列下模型的各项误差。[结论/发现]相对于RBF-SVM、Linear-SVM、KNN、Naive Bayesian等模型,TPP-LSTM预测模型可有效表征学科主题热度时间序列的特性,当时间序列长度为4年时预测效果相对较好。[创新/价值]提出的基于期刊影响因子的学科主题热度计算指标,能够有效刻画不同学术刊物对学科影响的差异,规避了单纯依据频率计算热度的弊端;构建的学科主题热度预测模型,有效表征了学科主题的时间序列变化规律,减小了各项预测误差,预测效果较好。

基于LDA和LSTM模型的研究主题关联与预测研究——以隐私研究为例

[目的/意义]如何挖掘海量学术论文中的研究主题,梳理研究主题的演化脉络和关联关系,预测主题前沿热点,对掌握科技竞争先机至关重要。[方法/过程]针对当前主题关联和预测研究中存在的不足,提出基于隐含狄利克雷(Latent Dirichlet allocation,LDA)和长短期记忆(Long Short Term Memory,LSTM)模型的研究关联与预测方法,首先基于生命周期理论划分多时序窗口,并利用LDA主题模型挖掘学术文献中的隐性研究主题,分析主题间的关联关系;基于主题预测指标的时间序列特征,运用LSTM模型对主题研究的发展趋势和研究热点进行预测,并结合基金立项和论文发表情况对预测结果进行定性修正。[结果/结论]案例分析结果表明,本文方法可以准确挖掘研究主题,分析主题关联关系,对研究主题研究走势和热点的预测具有实用价值。

基于隐含狄利克雷模型的文献主题演化预测

利用隐含狄利克雷分配模型(LDA),根据科技文献往年的主题变化来分析科技文献主题的演化,是目前主题演化研究的热点。根据科技论文的主题演化具有无后效性的特点,使用马尔可夫链来预测主题的演化信息。该方法利用LDA模型获取不同时段的主题,使用相似度等方法对相邻时间窗口的主题进行关联,并根据主题的强度将主题分为热门主题、普通主题和冷门主题,最后利用马尔可夫链得到主题之间的强度转移概率矩阵,对主题的强度变化趋势进行分析和预测。对NIPS论文集进行实验表明,科技论文主题在长时间演化后,其状态占比趋于稳定,热门主题、普通主题和冷门主题占比将保持在30%、60%和10%左右。说明该方法能有效地根据现有的主题演化结果对主题在未来几年的演化信息进行预测。

基于时间卷积网络的科技需求主题热度预测算法

得益于深度学习的快速发展,大数据分析技术不仅在自然语言处理领域应用广泛,在数值预测领域也更加成熟。为了提高科技需求数据主题热度预测的准确率,本文提出一种基于时间卷积网络(Time Convolution Network, TCN)的科技需求主题热度预测方法(Subject Heat of Science and Technology Demand Prediction Based on Time Convolution Network, SHDP-TCN),该方法融入科技需求的主题特征,并基于TCN及自注意力机制进行时序预测。实验结果表明,在真实的科技需求数据集上,本算法对科技需求主题热度的预测准确率优于自回归积分滑动平均(Auto Regressive Integrated Moving Average, ARIMA)、长短时记忆(Long Short-Term Memory, LSTM)网络、卷积神经网络(Convolutional Neural Networks, CNN)和TCN等算法。

学科领域主题演化与预测研究:理论、方法与价值

[目的/意义]当前学科领域主题演化与预测研究文献快速增长,适时开展国内外最新研究的梳理与述评,助力研究的价值提升。[方法/过程]首先,归纳现有研究理论基础,构建研究总体框架图;其次,依据研究的内在知识逻辑,刻画了主题演化与主题预测的方法路径;最后,在剖析研究价值的基础上,提出未来研究建议。[结果/结论]后续研究需加强科学演化模型、演化扩散理论以及科学—技术关联模型的完善与应用,积极使用深度语言模型以及深度学习算法以提升主题预测的准确性,同时在宏观、中观以及微观三个层面丰富研究对象颗粒度,并注重研究的科技情报实效。

面向科技大数据的科研团队精准立体画像生成方法

针对科研团队精准立体画像构建的现实需求,本文提出了面向科技大数据的科研团队精准立体画像生成方法。该方法包含科研团队识别、科研团队研究主题预测、科研团队精准立体画像生成三个模块。基于迭代的中间中心度排名方法识别科研团队负责人,通过2-派系和滚雪球方法识别科研团队成员,实现科研团队的识别。综合考虑研究领域内科研团队研究主题间的交互影响,提出基于图注意力网络的主题融合的科研团队研究主题预测方法,通过建模相同研究领域的团队间的主题关联,提高科研团队的研究主题预测准确率。科研团队精准立体画像生成模块通过科研团队简介生成、科研合作关系构建、科研团队研究主题及主题趋势词云生成科研团队的精准立体画像。基于提出的方法在通信领域的科研成果数据集上识别出科研团队,预测科研团队的研究主题,生成科研团队精准立体画像并进行可视化展示,验证了所提方法的有效性。

基于专利文献的颠覆性技术识别研究——以人工智能为例

颠覆性技术作为引领经济发展的关键动力与技术创新的重要抓手和突破口,探测其动态发展过程,实现颠覆性技术识别与预测,对国家或企业优化研发布局,积极抢占科技制高点具有重要意义。本文从技术与市场角度出发,构建颠覆性潜力测度指标,结合滑动窗口和LDA(latent Dirichlet allocation)构建探测技术主题颠覆性潜力的动态趋势识别方法,以美国人工智能领域专利文献为样本验证该方法在识别与预测颠覆性技术方面的可用性,并结合颠覆性技术主题中关联强度较高的前10个IPC大组共同表征颠覆性技术内容,进一步检验方法的实践价值。研究结果表明,深度学习、图像识别与处理技术是人工智能领域的颠覆性技术,二者关联紧密,协同发展趋势明显,其中深度学习技术聚焦于电数字数据处理领域,图像识别与处理技术则应用于自动驾驶、医疗诊断、电视通信等主流领域。本文样本实证数据表明,多指标融合方法在颠覆性技术识别方面更具优势;将样本数据的指标测度与发展趋势预测紧密结合,从时间序列的迭代连续性探索历史发展趋势能更好地揭示颠覆性技术的演化细节及其内在依赖性。

浅谈大学生英语阅读能力培养

阅读能力是一个综合的语言理解和运用能力。要学会略读、浏览等方法以及篇章预测、句段预测、识别主题句、判明概述与细说等技巧,以提高英语阅读能力。

基于网页分块的主题爬虫研究

搜索引擎利用爬虫程序获得Web上的资源,Web上大量的网页具有多主题性,网页集之间往往形成隧道,传统的爬虫以网页为单位进行爬行导致无法穿越隧道。为了提高主题爬虫的爬行效率出现了主题预测技术,把网页分块形成更小的爬行单位是其一个重要的研究方向。本文在分析了VIPS算法和TVPS算法的基础上提出了基于网页分块技术的改进算法,此算法结合了网页的视觉特征和HTML标签,提高了分块的质量,并通过实验证明了该算法的有效性。

HA表达与鼻咽癌淋巴结转移的关系研究

[目的]研究HA表达与鼻咽癌淋巴结转移的关系,探索预测鼻咽癌淋巴结转移潜能的有效生物学指标,以指导鼻咽癌的治疗。[方法]RT-PCR方法检测50例鼻咽癌患者HAmRNA表达。[结果]RT-PCR结果显示,N(+)组表达高于N(-)组,相对含量分别为1.503±0.378和1.069±0.374,有统计学差异(P<0.05)。[结论]在鼻咽癌组织中有淋巴结转移组的HAmRNA相对含量显著高于无淋巴结转移组,HA的表达水平有可能成为预测鼻咽癌淋巴结转移的指标。