利用知识强化语言模型的口语理解方法

基于预训练的语言模型在口语理解(SLU)任务中具有优异的性能表现。然而,与人类理解语言的方式相比,单纯的语言模型只能建立文本层级的上下文关联,缺少丰富的外部知识来支持其完成更为复杂的推理。提出一种针对SLU任务的基于Transformer的双向编码器表示(BERT)的联合模型。引入单词级别的意图特征并使用注意力机制为BERT融合外部知识。此外,由于SLU包含意图检测和槽填充2个相互关联的子任务,模型通过联合训练捕捉2个子任务间的关联性,充分运用这种关联性增强外部知识对于SLU任务的性能提升效果,并将外部知识转化为可用于特定子任务的特征信息。在ATIS和Snips 2个公开数据集上的实验结果表明,该模型句子级别的语义准确率分别为89.1%和93.3%,与BERT模型相比,分别提升了0.9和0.4个百分点,能够有效利用外部知识提升自身性能,在SLU任务中拥有比BERT更为优秀的性能表现。

施氮量对一年生黑麦草生长特性的影响

研究了不同施氮水平(0、100、200和300 kg/hm2,分别表示为N0、N100、N200和N300)对扬州地区一年生黑麦草产量、分蘖数、株高等生长特性及经济效益的影响。结果表明:施氮量为100,200和300kg/hm2时,黑麦草鲜草总产量分别比不施氮增产75%,146%和134%。当施氮量达到200 kg/hm2时,鲜草总产量最高为74 504 kg/hm2;施氮和刈割次数对一年生黑麦草高度、分蘖数、茎叶比等均有影响,第1次刈割时以N0株高最小,且4个施氮处理差异显著,第2次刈割时各施氮处理差异不显著。施氮肥可以显著提高一年生黑麦草经济效益,当施氮量为200 kg/hm2时,净增收益最高为8 981.44元/hm2。随施氮量增加,净增收益下降。

施氮对1年生黑麦草人工草地中硝态氮动态及氮素分配的影响

为了探明江苏扬州地区黑麦草草地土壤剖面氮素的运移规律,提高黑麦草植株对氮素的吸收利用效率,研究了扬州地区1年生黑麦草人工草地中不同施氮水平（0、100、200和300 kg/hm2,分别表示为N0、N100、N200和N300）下土壤中硝态氮含量和分布动态、植株氮素含量等变化情况。结果表明：第1次刈割和第2次刈割黑麦草茎、全株中氮素含量均以N200处理较高,茎中氮素含量分别为2.48%、2.8%,全株为3.68%、2.35%,叶中氮素含量均以N300处理较高,分别为4.02%和3.95%。在1年生黑麦草不同生长时期和不同深度土层中硝态氮含量差异显著,不同时期土壤中硝态氮含量大多随施氮量的增加而增高。随施氮量增加,硝态氮在60~140 cm土层内累积量增加。第1批（2008-12-03）0~140 cm土壤中硝态氮累积量为115.06~282.49 kg/hm2,以后各取样时期土壤中硝态氮累积量依次降低,第3批（2009-03-05）最少,为64.78~111.55 kg/hm2。当施氮量大于200 kg/hm2（超过黑麦草植株含氮量）时,会导致刈割时NO3--N在根层土壤剖面的显著积累,而黑麦草产量、植株氮素含量等均不增加显著。

基于数据挖掘技术的建筑企业信用评价

针对传统方法的不足,分析了应用数据挖掘技术的建筑企业信用评价方法.采用Logistic,决策树和神经网络算法,从250个建筑企业组成的学习样本中挖掘信用好或差的分类规则,从而建立了3个相应的信用评价模型.将所建立的模型用于评价检验样本中的46个建筑企业,采用混淆矩阵比较了各模型的评价表现.结果显示,Logistic,决策树和神经网络模型的评价准确率分别为87.0%,82.6%和82.6%,一致性结果的准确率达到91.7%,并且各模型在稳定性、敏感度等方面具有不同特点.研究表明,数据挖掘技术是一种有效而准确的建筑企业信用评价方法,此外,不同特点的数据挖掘模型为建筑业的信用评价提供了多种选择.

浆液中镁离子含量对脱硫反应特性的影响

通过搭建实验室台架来模拟不同镁离子质量浓度下的脱硫反应,比较其对脱硫反应特性的影响。结果表明:镁离子会对石膏结晶过程产生抑制作用,低质量浓度的镁离子(<2.40 mg/L)主要对前期石膏晶核的诱导生成阶段产生明显抑制作用,高质量浓度的镁离子(>3000 mg/L)则会延缓后期石膏晶体的生长速度;当镁离子质量浓度<0.48 mg/L时,浆液中值粒径颗粒质量浓度增加,同时粒径分布范围变小,有利于石膏浆液脱水,而当镁离子质量浓度>3000~12000 mg/L时变化规律相反;在微量添加镁离子时,试样中石膏的针状结晶数量较少,对浆液石膏脱水影响很小,而当大量添加镁离子后,石膏结晶的针状晶体明显增加,使浆液的持水性提高,对浆液脱水不利。

基于Redis的海量小文件分布式存储方法研究

小文件作为信息传输、存储的重要方式,使用相当广泛,用户对其可靠性和速度的要求也在不断提高。针对目前小文件存储效率较低的问题,首先结合分布式存储系统HDFS的大文件存储优势和Redis缓存技术,提出快速合并小文件的存储方案。把小文件合并为Sequence File存储到HDFS上,采用多元线性回归分析确定负载系数进行负载均衡调节,并在获取文件时使用缓存保证效率。在实验上,搭建相应的文件平台,分别对上传、获取、删除以及内存占用和传统直接上传的方式进行对比分析。可以看出,与传统的直接上传文件到HDFS的方式相比,经过改进的小文件处理方式可以在保证文件可靠性的同时,更快速地处理小文件。

基于深度语义信息的查询扩展

随着互联网时代的到来,搜索引擎开始被普遍使用。在针对冷门数据时,由于用户的搜索词范围过小,搜索引擎无法检索出需要的数据,此时查询扩展系统可以有效辅助搜索引擎来提供可靠服务。基于全局文档分析的查询扩展方法,提出结合神经网络模型与包含语义信息的语料的语义相关模型,来更深层地提取词语间的语义信息。这些深层语义信息可以为查询扩展系统提供更加全面有效的特征支持,从而分析词语间的可扩展关系。在近义词林、语言知识库“HowNet”义原标注信息等语义数据中抽取局部可扩展词分布,利用神经网络模型的深度挖掘能力将语料空间中每一个词语的局部可扩展词分布拟合成全局可扩展词分布。在与分别基于语言模型和近义词林的查询扩展方法对比实验中,使用基于语义相关模型的查询扩展方法拥有较高的查询扩展效率;尤其针对冷门搜索数据时,语义相关模型的查全率比对比方法分别提高了11.1个百分点与5.29个百分点。

改进的互信息量相似度曲线关键帧提取研究

关键帧提取是基于内容视频检索和比对等工作的关键步骤,它的准确性和效率是后续工作的基础。针对目前关键帧提取存在的阈值选择困难、算法复杂等问题提出改进的互信息量关键帧提取算法,构造基于非均匀分块加权HSV直方图的互信息量相似度曲线检测算法,取相邻两高曲率点的中间帧作为关键帧。实验结果表明,该算法无需阈值选择,能实现关键帧自动提取并且只需要一次扫描就能快速得到准确的关键帧。

基于混合注意力机制的中文机器阅读理解

预训练语言模型在机器阅读理解领域具有较好表现,但相比于英文机器阅读理解,基于预训练语言模型的阅读理解模型在处理中文文本时表现较差,只能学习文本的浅层语义匹配信息。为了提高模型对中文文本的理解能力,提出一种基于混合注意力机制的阅读理解模型。该模型在编码层使用预训练模型得到序列表示,并经过BiLSTM处理进一步加深上下文交互,再通过由两种变体自注意力组成的混合注意力层处理,旨在学习深层语义表示,以加深对文本语义信息的理解,而融合层结合多重融合机制获取多层次的表示,使得输出的序列携带更加丰富的信息,最终使用双层BiLSTM处理输入输出层得到答案位置。在CMRC2018数据集上的实验结果表明,与复现的基线模型相比,该模型的EM值和F1值分别提升了2.05和0.465个百分点,能够学习到文本的深层语义信息,有效改进预训练语言模型。

社区问答系统中“问答对”的质量评价

随着互联网的发展,社区问答系统已经成为获取网络信息的一条重要途径,但社区问答系统也存在着"问答对"质量分布不均的问题.本文以百度知道作为研究对像,分析了百度知道中"问答对"的文本特征、统计信息、提问者和回答者之间的关系以及问题和答案的关联度.在分析这些特征的基础上,建立了一个面向社区问答的"问答对"质量分类器,该分类器可以从社区问答系统中自动抽取出高质量的"问答对".

350MW燃煤机组脱硝装置喷氨优化调整及其缺陷分析

按照国家环保要求(燃煤发电机组脱硝装置出口NOx质量浓度≤50 mg/m^(3)),对某350 MW燃煤机组手动调节阀门开度进行喷氨优化调整。优化调整后,A侧和B侧出口折算NOx质量浓度均值分别为23.3 mg/m^(3)(标准状态、干基、6%O2)和35.1 mg/m^(3)(标准状态、干基、6%O2),满足排放标准,喷氨量分别降低13.1 m3/h和17.1 m3/h,氨逃逸分别降低0.78×10^(-6)和1.09×10^(-6);但调整前后同一测点平面不均匀度未有明显改善,相对高值和相对低值的位置不变。经分析,出现这种情况与脱硝装置的系统缺陷有关,建议电厂停机期间更换喷氨管道调节阀,检查喷氨分配管腐蚀情况及催化剂组块间密封情况,定期进行催化剂活性测试,发现问题及时消除。建立物理模型试验或者数值模型模拟,确定科学的导流板安装位置,优化烟气测量装置和控制逻辑,整体提升脱硝装置性能。

基于CNN+LSTMAttention的营销新闻文本分类

针对营销新闻分类识别任务,传统方法采用的长短期记忆神经网络LSTM和卷积神经网络CNN存在分类识别率不高的问题,因此提出一种融合CNN和引入注意力机制的长短时记忆(LSTMAttention)来提高营销新闻识别分类能力。首先通过word2vec获取营销新闻文本词向量形成的矩阵,分别输入到传统机器学习分类模型中,在此基础上使用模型融合技术融合单一模型中分类效果较好的模型,最后得到融合模型和单一模型的分类结果并进行对比。实验结果显示,在基础模型LSTM引入了注意力机制之后准确率,召回率和F1值分别达到67.01%,66.07%,0.680,而CNN和LSTMAttention进行模型融合之后的准确率,召回率和F1值进一步达到了68.29%,71.27%,0.692。表明基于CNN和LSTMAttention融合之后的神经网络模型相较于单一模型,最终分类效果更好,可以达到提高营销新闻文本分类识别效果的目的。

基于MongoDB的CNONIX数据存储方法研究

大量根据CNONIX标准编写的XML格式的数据如何在数据库中存储是目前亟需研究并解决的问题.本文首先介绍非关系型数据库的特点,之后分析CNONIX数据的格式特点,将XML与BSON格式进行比对,提出了基于MongoDB的CNONIX数据存储方案,将XML格式转换为BSON数据后存入MongoDB数据库中.运用Apache JMeter对此方案进行性能测试,并与传统关系型数据库进行对比.结果表明,CNONIX数据在MongoDB数据库中存储简便,且效率较关系型数据库有明显提高,能够解决其在关系型数据库中不易存储的问题.

基于Spring MVC和iBATIS框架的研究与应用

在J2EE Web技术的发展过程中,出现了许多优秀的框架。Spring MVC和iBATIS因其开源并且功能强大受到了J2EE开发人员的喜爱。首先介绍了Spring MVC框架的原理及其特点,然后分析了iBATIS框架的优点。最后,以一个实例阐述了如何在实际的Web系统开发中对Spring MVC集成iBATIS框架进行应用。

基于Heritrix的网络爬虫研究与应用

主要介绍了主题搜索引擎、网络爬虫的基本概念和Heritrix系统的体系结构,分析了Heritrix的工作流程,在Heritrix框架的基础上进行扩展和优化。通过一个实例,实现了对京东网图书信息的抓取,为建立面向图书信息的垂直搜索引擎提供了网页信息资源。

“嵌入式”版权服务组件管理平台设计与实现

综合国内版权服务的研究现状,针对如何对接现有内容系统进行数字作品版权登记的问题,提出了构建"嵌入式"版权服务组件管理平台的新思路,论述了组件管理平台的产生背景、设计思路及实现细节,详细描述了平台的核心业务流程.根据设计完成了平台的开发,并将其实际运用到中国版权保护中心的数字作品版权登记业务中.

基于联邦数据库的数据集成平台研究与改进

本文提出了在联邦数据库模式下增加全局映射模式来集成异构数据的方案,即通过映射规则建立自定义的全局逻辑数据库,实现逻辑数据库与关系数据库数据之间的数据映射,解决异构数据库连接平台与子数据库的数据映射抽取问题。能够根据全局映射的逻辑数据库集成操作每一个子数据库。本文所提出的方案为联邦数据库增加了全局映射模式,是联邦系统的一种改进。

图书自动分类技术研究与实现

提出使用TF-IDF算法与朴素贝叶斯算法相结合,实现图书的自动分类。首先需从互联网中爬取图书信息,主要包括图书基本信息、图书简介、图书目录等;其次,需要对爬取到的图书信息进行预处理,将同类图书的基本信息聚在一起,并进行分词去噪;然后使用TF-IDF算法对每一类图书进行特征提取,获得每一类图书的特征;最后使用朴素贝叶斯算法,并利用训练好的分类特征,计算某本新书的具体分类。实验结果表明,该方法可以简化复杂的图书自动分类过程,提高分类效率,也能保证图书分类的准确性。

丰富特征提取的句子语义等价识别研究

句子语义等价识别任务(SSEI)在问答任务中扮演着至关重要的角色.目前,基于中文的语义等价任务在没有给定场景的前提下直接判断两个问句的语义,仍存在相同的意思也会被错误理解的问题.因此,本文提出了一种丰富特征信息提取的RFEM (richer feature extraction model)模型.首先,在编码层中,使用CNN和LSTM分别提取局部特征、存储历史信息特征,融合后的编码信息经过对齐层中的变体多头注意力机制,更大化地保留了原始信息的完整性;其次,在对齐层中,对融入了残差特征的编码进行优化,避免网络加深引起的梯度消失问题,改进后的模型对于特征提取具备更好的效果.该实验结果在公开中文数据集BQ上达到了82.71%,比目前最好的结果高0.86%,在通过置信区间计算清洗后的BQ数据集上达到了93.2%,比基线结果高5.1%.

CNONIX标准符合性测试平台研发与应用

本文通过对CNONIX标准以及出版发行产业链数据交换需求的分析,提出了基于CNONIX标准的符合性测试方法,重点对具有相关性关系数据元素进行研究分类,以此为基础构建CNONIX标准符合性测试平台,平台流程和功能满足测试规范要求,并对后续进一步数据质量检查进行了探讨。