基于关键词异构图的生成式摘要研究

生成式摘要是自然语言处理中的重要任务,它帮助人们从海量文本中提取简洁而重要的信息.目前主流的生成式摘要模型是基于深度学习的序列到序列模型,这类模型生成的摘要质量更高.但由于缺乏对原文中关键词和句子之间的依赖关系的关注,现有模型生成的摘要仍然存在语义不明、重要信息含量低等问题.针对这个问题,提出了一种基于关键词异构图的生成式摘要模型.该模型通过从原始文本中提取关键词,将其与句子共同作为输入构建异构图,进而学习关键词和句子之间的依赖关系.文档编码器和图编码器分别用于学习文本知识和异构图中的依赖关系.此外,在解码器中采用分层图注意力机制来提高模型在生成摘要时对显著信息的关注.在CNN/Daily Mail和XSum数据集上进行了充分的实验,实验结果表明,所提模型在ROUGE评价指标上有了显著的提升.进一步的人类评估结果显示,所提模型所生成的摘要比基线模型包含更多的关键信息,并具有更高的可读性.

融合多图卷积与层级池化的文本分类模型

文本分类是自然语言处理中的一个重要问题,其目的是将标签分配给输入的文档。在文本分类任务中,单词间的共现关系提供了文本特性及词汇分布的重要视角,而词嵌入信息能提供丰富的语义信息,并对全局词汇交互和潜在语义关系造成影响。然而,过去的研究未能有效整合这两方面,或过度关注其中一方面。在这样的背景下,文中提出了一种新的方法,用于自适应地融合这两类信息,在考虑结构关系和嵌入信息的同时,找到一个合理的平衡以提高模型效果。该模型首先从词汇共现模式和语义嵌入信息的角度将文本数据构建成文本共现图和文本嵌入图,利用图卷积来增强节点嵌入,图池化层融合节点嵌入并识别保留重要性更高的节点,遵循分层池化模式并按层学习文档级表示,并引入门控融合模块对两个图的嵌入进行自适应的融合。在5个公开的文本分类数据集上进行了大量实验,结果表明了HTGNN在文本分类任务上的优异性能。

基于对比学习的多兴趣感知序列推荐系统

序列推荐的近几年工作通过聚类历史交互物品或者利用图卷积神经网络获取交互的多层次关联信息来细化用户兴趣.然而,这些方法没有考虑具有相似行为模式的用户之间的相互影响以及交互序列中时间间隔不均匀对用户兴趣的影响.基于上述问题,提出一种基于对比学习的多兴趣感知序列推荐模型MIRec,一方面考虑了序列内部的物品依赖和位置依赖等局部偏好信息,另一方面通过图信息聚合机制获取相似用户之间的全局偏好信息;然后将融合局部偏好和全局偏好的用户表示输入胶囊网络中,学习用户交互序列中的多兴趣表示;最后通过对比学习使用户的历史交互序列靠近增强的交互序列,获得对时间间隔不敏感的用户多兴趣表示,为用户提供更准确的推荐.所提模型在2个真实数据集上进行了充分实验,实验结果验证了所提模型的有效性.

基于汉字上下文信息增强词典知识融入的中文命名实体识别

由于中文语言缺少显式的分隔符,使得中文命名实体识别任务面临缺少词语边界信息的难题.为了解决这一问题,现有的主流模型通过引入词典来利用词语边界信息.然而,词典中的词语信息只是根据字词之间的匹配关系融入汉字表示中,忽视了句子信息对于词语选择的影响,与句子语义信息无关的词语不可避免地引入到模型中,使模型感知错误的词语边界信息.为了减少无关词语对于实体识别结果的影响,本文提出了一种新的中文命名实体识别方法 ELKI,通过带有句子语义信息的汉字上下文表示来增强词典知识的融入,从而改善模型感知词语边界的精度.具体地,本文设计了一种新型的交叉注意力网络从词典中挖掘与语义信息相关的词语信息.同时,本文构造了一种门控融合网络来动态地将词典知识融入到汉字的上下文表示中.在Resume、MSRA和OntoNotes三个基准数据集上的实验结果表明本文方法优于其它的基线模型.

基于序列感知与多元行为数据的MOOCs知识概念推荐

大规模在线开放课程(massive open online courses,MOOCs)中,知识概念推荐旨在分析和提取平台上的学习记录,进而为用户推荐个性化的知识概念,避免主观盲目地挑选学习内容导致的低效性.然而,现有的知识概念推荐方法缺乏对用户行为数据的多维度利用,例如序列信息和复杂类型交互.鉴于此,提出了一种基于序列感知与多元行为数据的MOOCs知识概念推荐方法,提取知识概念的序列信息,并与图卷积网络输出的特征通过注意力机制进行聚合,参与用户下一个感兴趣知识概念的预测.此外,利用多元对比学习,将用户兴趣偏好与不同的交互关系融合,准确学习到复杂交互中的个性化特征.在MOOCCube数据集上的实验结果表明,所提出的方法在多项指标上优于现有的基线模型,验证了其在知识概念推荐中的有效性和实用性.

基于句信息增强词信息的方面级情感分类

方面级情感分类属于细粒度的情感分类,旨在判断句子中指定方面词的情感极性。近年来,句法知识在方面级情感分类任务中得到了广泛应用。目前主流的模型利用句法依存树和图卷积神经网络进行情感极性的分类。然而,此类模型着眼于利用聚合后的方面词信息来判断情感极性,很少关注句子的全局信息对情感极性的影响,从而导致情感极性分类结果出现偏差。为了解决这一问题,提出了一种基于句信息增强词信息的方面级情感分类模型,该模型通过对比学习对句向量进行表示学习,以减小句向量对比损失为目标调整词向量的特征表示,最后通过图卷积神经网络聚合意见词信息得出情感分类结果。在SemEval2014数据集和Twitter数据集上进行实验,结果表明,所提模型可以提高分类的准确性,综合验证了该方法的有效性。

基于跨视图对比学习的知识感知推荐系统

知识感知推荐(KGR)领域普遍存在监督信号稀疏问题。为了解决这个问题,对比学习方法被越来越广泛地应用于KGR。但是,过去基于对比学习的KGR模型仍存在一些问题:首先,使用图卷积对所有邻居节点直接聚合,无法排除知识图谱中不必要邻居节点信息的干扰;此外,只关注全局视图的信息,忽略了局部特征,这会导致过平滑问题。为了解决以上问题,提出一种基于跨视图对比学习的知识感知推荐系统(knowledge-aware recommender system with cross-views contrastive learning,KRSCCL)。KRSCCL使用关系图注意力网络构建包含用户、物品和实体节点的全局视图;使用轻量级图卷积网络构建包含用户和物品节点的局部视图,强调局部特征,有效地缓解过平滑问题;最后,在构建的两个视图的图内和图间节点对之间进行对比学习,以充分提取知识图谱信号,优化用户和物品表示。为了验证模型的有效性,在3个不同领域的公开数据集上进行了实验,实验结果表明:关系图注意力网络可以有效排除复杂网络聚合时的噪声问题;引入局部视图可以优化节点表示生成,缓解过平滑问题;KRSCCL模型在这3个数据集上都表现良好,在电影领域数据集Movielens–1M上,推荐的评估指标F1分数较最强基线提升2.0%;在音乐领域数据集Last.FM上,F1分数较最强基线提升0.3%;在书籍领域数据集Book–Crossing上,F1分数较最强基线提升5.1%。证明了本文模型的有效性。

“计算机网络”实验课程的教学探讨

"计算机网络"是计算机应用专业的必修课程之一,而实验课程是其重要而必不可少的环节。分析了计算机网络实验课程存在的弊端,针对实际情况,提出了适合本院实际需求的网络实验课程的教学体系,并取得了良好的教学效果。

大数据下计算机网络虚拟实验智能分析平台设计框架

大数据时代的到来冲击着高校的教育,必将导致高校教学模式的重大改变。为此从"计算机网络"实验课程的虚拟实验平台入手,提出了基于大数据的虚拟实验智能分析的设计框架,为将来设计网络虚拟实验平台提供参考。该框架利用数据挖掘和机器学习技术,为学生实验提供知识推荐、实验指导。与此同时为教师提供基于实验过程的分析反馈报告,以便教师及时了解学生的实验过程,便于指导教师的后续教学。

ACM竞赛与实验教学创新

结合参加ACM国际大学生程序设计竞赛的情况，讨论了ACM竞赛对推进实验教学创新所起的促进作用及一些改革举措。

频域光照归一化的人脸识别

为了降低人脸识别对环境条件的要求,克服光照对人脸识别的影响,通过分析人脸图像的幅频特性和相频特性,提出了频域光照归一化的人脸识别,对任何光照条件下采集的图像经过归一化后,光照与训练库中完全相同,同时保留了人脸的可区分性。人脸之间差异的信息量一般较少,运用最小非零特征向量作为人脸特征。实验仿真表明,与传统方法相比,频域光照归一化人脸识别方法对光照变化具有鲁棒性。

基于图像邻域特性的高斯噪声去噪

针对传统高斯噪声去噪算法残余噪声较大的不足,根据噪声对图像视觉的影响,提出了基于像素邻域相关性的去噪算法。首先运用邻域像素的连续性判断像素点是否位于平滑区内;其次对非平滑区根据边缘和纹理的局部连续性运用形态学提取图像边缘和纹理进而定位噪声点;最后对平滑区内的噪声运用自适应邻域进行去噪处理,对非平滑区的噪声仅利用非平滑区的邻域进行平滑,实现了对高斯噪声先定位再去噪。经实验结果验证:与传统方法相比,该算法较好地抑制了图像平滑区内噪声,提高了去噪后图像的视觉效果。

计算机创新实践教学平台建设探索与实践

针对实践教学软硬件中存在的具体问题,构建了"基础→综合→研究→创新"的多层次创新实践教学平台。根据"四层平台,一个核心,三大建设"的思路,建设了一个多层次、多形式、开放的计算机创新实践教学平台,为实践型、创新型人才的培养提供优质的成长环境。

基于关联记忆网络的中文细粒度命名实体识别

细粒度命名实体识别是对文本中的实体进行定位,并将其分类至预定义的细粒度类别中.目前,中文细粒度命名实体识别仅使用预训练语言模型对句子中的字符进行上下文编码,并没有考虑到类别的标签信息具有区分实体类别的能力.由于预测句子不带有实体标签,使用关联记忆网络来捕获训练集句子的实体标签信息,并将标签信息融入预测句子的字符表示中.该方法将训练集中带实体标签的句子作为记忆单元,利用预训练语言模型获取原句子和记忆单元句子的上下文表示,再通过注意力机制将记忆单元句子的标签信息与原句子的表示结合,从而提升识别效果.在CLUENER2020中文细粒度命名实体识别任务上,该方法对比基线方法获得了提升.

基于“卓越工程师计划”的网络工程实践教学体系研究

实践教学是高等教育的重要组成部分,是培养高素质工程技术人员的"卓越计划"的关键环节。针对基于"卓越计划"的网络工程专业实践教学体系,从实践教学目标体系、实践教学内容体系、实践教学管理体系和实践教学保障体系4个方面进行了深入的探讨,提出了行之有效的"卓越工程师"培养模式和培养方案,促进解决目前网络工程专业人才培养中存在的问题,以培养理论基础扎实、动手能力强的高级复合型人才。

计算机硬件实验教学的探讨与改革

探讨了目前高等学校计算机硬件实验教学的现状和存在的问题,针对这些问题对硬件实验教学的内容及形式、方法提出了一些改革建议,旨在提高实验教学效果,培养学生实验能力。

基于Ethereal的协议分析实验设计

目前高校计算机网络课程中在教学过程中,普遍存在学生感觉协议的学习枯燥无味、难于理解,无法对协议的工作做到眼见为实。为此,设计了基于协议分析工具Ethereal的网络协议分析实验,帮助学生有效地了解协议的工作过程、掌握协议的工作原理、提高理论课程的教学质量和效果。

智能投票系统的UML建模

简要介绍了如何运用UML建模技术来设计智能投票系统,给出了系统的结构和主要功能,并举例就其中的主要模块详细介绍了UML建模。成功实现的智能投票系统验证了该模型的正确性。模型的建立过程对于同类软件的开发具有参考价值。

基于卓越工程师培养的物联网实践教学体系

从物联网工程专业特点和社会需求出发,探讨基于卓越工程师的物联网实践教学的体系结构,提出物联网实践教学体系的构建框架,包括规范和加强实践教学、重视学生课余校内实践活动的开展,结合专业特点开展多种形式的技能竞赛活动等。

融合预训练语言模型的成语完形填空算法

根据上下文语境选择恰当的成语,是自然语言处理领域的重要任务之一.现有的研究将成语完型填空任务看成是文本匹配问题,虽然预训练语言模型能够在文本匹配研究上取得较高的准确率,但也存在明显的缺陷:一方面,预训练语言模型作为特征提取器时,会丢失句子间相互信息;另一方面,预训练语言模型作为文本匹配器时,计算开销大,训练时间和推理时间较长.另外,上下文与候选成语之间的匹配是不对称的,会影响预训练语言模型发挥匹配器的效果.为了解决上述两个问题,利用参数共享的思想,提出了TALBERT-blank.TALBERTblank是将成语选择从基于上下文的不对称匹配过程转换为填空与候选答案之间的对称匹配过程,将预训练语言模型同时作为特征提取器和文本匹配器,并对句向量作潜在语义匹配.这样可以减少参数量和内存的消耗,在保持准确度的情况下,提高了训练和推理速度,达到了轻量高效的效果.在CHID数据集上的实验结果表明:作为匹配器,TALBERT-blank相较于ALBERT,在保证准确率的情况下,更大限度地精简了模型的结构,计算时间进一步缩短54.35%.