基于主题感知和语义增强的作文自动评分方法

作文自动评分(AES)是教育领域中应用自然语言处理(NLP)技术的重要研究方向之一,其旨在提高评分效率,增强评价的客观性和可靠性。针对主题相关性缺失和长文本信息丢失问题以及预训练语言模型BERT不同层次能够提取不同维度特征的特点,提出一种基于主题感知和语义增强的作文自动评分模型。该模型采用多头注意力机制提取作文的浅层语义特征并感知作文主题特征,同时利用BERT的中间层句法特征和深层语义特征增强对作文语义的理解。在此基础上,融合不同维度的特征并用于作文自动评分。实验结果表明,该模型在公共数据集ASAP的8个子集上均表现出了显著的性能优势,相比于通义千问等基线模型,其能够有效提升作文自动评分性能,平均二次加权的卡帕值(QWK)达到80.25%。

结合主题感知与通信代理的文本摘要模型

针对传统自动文本摘要模型受循环神经网络长度限制而无法生成高质量的长文本摘要这一问题,提出了一种结合主题感知与通信代理的文本摘要模型。首先,将编码器划分为相互之间存在通信的多个代理,以解决长短期记忆网络输入序列较长而不能联合先验信息生成摘要的问题;然后,使用联合注意力机制加入主题信息,提高生成摘要与源文本的相关性;最后,使用带有强化学习的混合训练方法对模型进行训练,解决曝光偏差问题,直接对评价指标进行优化。实验结果表明,该模型不仅生成了主题突出的长文本摘要,并且得分比目前最先进的模型有一定提升。说明在主题信息的帮助下,该通信代理模型能够更好地生成长文本摘要。

基于主题感知的跨模态序列到序列生成模型

结构化数据和非结构化文本被视为两种不同的模态。数据到文本生成是自然语言生成领域中一个重要的跨模态任务,该任务的目标是对于给定的结构化数据,生成一段文本用以描述结构化数据中包含的关键信息。近年的研究工作通常关注于描述性文本的生成,虽然取得了一定的研究进展,但仅能做到信息的传递而不能带来任何增益。为解决这一问题,本研究数据到分析性文本的生成,并针对该任务提出一个基于主题感知的跨模态序列到序列模型。该模型在编码器-解码器结构的基础上,引入数据表的主题信息以保证生成文本与数据表之间的主题一致性,提高生成文本的质量。为验证模型的性能,提出两个真实数据集,并与其他6个模型进行对比实验,结果表明,提出的模型取得了最好的性能。

突发事件中网络评论的情感-主题随时间的演变研究

网络评论的情感主题演变分析对突发事件中网络舆情的控制极具价值。针对情感主题动态性的特点,构建一个基于LDA的情感主题模型,通过对时间与主题和情感的联合建模来分析情感主题随时间的演变,推导了基于Gibbs抽样过程的推理算法,最后通过微博突发事件数据集的分析结果显示了联合模型较高的准确性和情感主题随时间演变过程中良好的应用性。

基于语义的中文文本关键词提取算法

为克服传统关键词提取算法局限于字面匹配、缺乏语义理解的缺点,提出一种基于语义的中文文本关键词提取(SKE)算法。将词语语义特征融入关键词提取过程中,构建词语语义相似度网络并利用居间度密度度量词语语义关键度。实验结果表明,与基于统计特征的关键词提取算法相比,SKE算法提取的关键词能体现文档的主题,更符合人们的感知逻辑,且算法性能较优。

基于自适应模糊聚类的大数据价值分配研究

研究旨在改进大数据环境下群体计算任务价值分配的准确性,通过对比随机分配算法与主题感知分配算法,提出了一种基于自适应模糊聚类的任务分配策略。结果显示,在多个数据集上,新策略的准确率显著高于随机分配算法,分别从52%提升到约78%、46%提升至80%,并保持了稳定的耗时。研究提出的基于自适应模糊聚类的大数据价值分配算法的分配效果,在任务规模增大时得到提升,显示出较好的可扩展性,在群体计算任务分配中,提供了更为合理和高效的解决方案。研究成果可以有效提高大数据分析计算任务的处理效率及准确率。