基于Co-training训练CRF模型的评价对象识别

评价对象是指某段评论中评价词语所修饰的对象或对象的属性。为了识别评论中的评价对象,提出基于Co-training的训练CRF模型方法。该方法首先人工标注少量的原始数据集,使用Co-training方式对未标注数据进行自动识别,以扩大已标注训练数据。通过原始标注数据集和Co-training方式标注数据集,训练CRF模型。在汽车领域中,对待标注汽车评论语料中评价对象识别的精确率为67.483%,召回率为67.832%。

贫数据中基于模型自训练的空气处理设备故障诊断

针对空气处理设备(AHU)故障贫数据,基于深度置信网络(DBN)模型对4种特征选择算法进行对比研究,结果表明最大相关最小冗余算法的特征子集在诊断准确率及子集元素稳定性上表现最优。提出将DBN嵌入自训练框架的故障诊断模型,发现DBN自训练的诊断准确率较单纯DBN最高可提升19.5%。提出均匀抽样及按比例抽样2种自训练伪标签抽样策略,二者的诊断准确率均随抽样数减小而增大,在不同抽样数中的最大差异为3.42%;在所有贫数据样本中,均匀抽样策略始终优于按比例抽样,诊断准确率最大相差1.39%,表明在故障标签匮乏时,采用均匀抽样策略及较小的抽样数有利于提升DBN自训练的诊断性能。

基于视觉注意力的图文跨模态情感分析

针对单模态情感分析无法完全捕获情感信息的问题,提出一种图像和文本跨模态情感分析模型(BERT-VistaNet),该模型没有直接使用视觉信息作为特征,而是利用视觉信息作为对齐方式,使用注意力机制指出文本中重要的句子,得到基于视觉注意力的文档表示。对于视觉注意力无法完全覆盖的文本内容,使用BERT模型对文本进行情感分析,得到基于文本的文档表示,将特征进行融合应用于情感分类任务。在Yelp公开餐厅数据集上,该模型相比基线模型TFN-aVGG,准确率提高了43%,相比VistaNet模型准确率提高了1.4%。

融合部首特征和BERT的汽车生产设备故障领域命名实体识别

针对汽车生产设备故障领域命名实体识别过程中存在内在语义信息缺失,传统字向量抽取特征单一的问题,提出一种融合部首特征和BERT的汽车生产设备故障领域命名实体识别模型.首先创建汽车生产设备故障领域拆字字典,实现部首特征提取,融合BERT预训练模型生成的动态字向量从而得到联合字向量;然后将联合字向量输入到双向长短期记忆(bidirectional long-short term memory,BiLSTM)进行双向编码,获得长序列语义特征;最后通过条件随机场(conditional random field,CRF)进行序列解码,学习标签之间的依赖关系,得到全局最优序列.将该方法在真实汽车生产设备故障领域数据集上进行实验,得到的精确率、召回率、F1值分别为88.4%、90.2%、89.3%.

基于高低频特征分解的深度多模态医学图像融合网络

多模态医学图像融合旨在利用跨模态图像的相关性和信息互补性,以增强医学图像在临床应用中的可读性和适用性。然而,现有手工设计的模型无法有效地提取关键目标特征,从而导致融合图像模糊、纹理细节丢失等问题。为此,提出了一种新的基于高低频特征分解的深度多模态医学图像融合网络,将通道注意力和空间注意力机制引入融合过程,在保持全局结构的基础上保留了局部纹理细节信息,实现了更加细致的融合。首先,通过预训练模型VGG-19提取两种模态图像的高频特征,并通过下采样提取其低频特征,形成高低频中间特征图。其次,在特征融合模块嵌入残差注意力网络,依次从通道和空间维度推断注意力图,并将其用来指导输入特征图的自适应特征优化过程。最后,重构模块形成高质量特征表示并输出融合图像。实验结果表明,该算法在Harvard公开数据集和自建腹部数据集峰值信噪比提升8.29%,结构相似性提升85.07%,相关系数提升65.67%,特征互信息提升46.76%,视觉保真度提升80.89%。

基于深度学习的海洋热点新闻挖掘方法

移动互联网的快速发展和现代移动客户端的普及推动了网络新闻行业、社交媒体和自媒体等的蓬勃发展,为用户提供了多元、丰富的海量信息。随着我国海洋强国战略的稳步推进,国民海洋意识的显著增强,有关海洋领域的多方面信息充斥着网络,相关媒体报道、公众舆论在网上大量涌现,热点事件频频发生。针对多来源、多属性的网络海洋信息,基于多源文本聚类和自动摘要技术,提出一种基于深度学习的海洋热点新闻自动挖掘系统,包括多源涉海数据自动采集、数据预处理、特征提取、文本聚类、自动摘要五大功能模块。具体而言,网络爬虫程序从多个数据源采集多样且分散的海洋数据,自动将数据结构化后存入数据库;根据文本特征的近似程度和文本间的关联关系实现聚类分析,聚类结果为后继摘要生成、主题发现提供数据支撑;基于预训练语言模型强大的上下文理解能力和丰富的语言表达能力,提出基于预训练语言模型的海洋新闻自动摘要生成方法。通过多组实验证明了所提方法在各个评估指标上的有效性,突显出其在多源异构网络海洋新闻挖掘方面的优势。该方法为处理分散的海洋资讯信息、生成可读性更强的内容摘要提供可行的解决方案,对提高海洋信息获取效率、监测公众舆论走向、推动海洋信息的应用与传播具有重要意义。

融合语义和共现特征的Web跟踪器深度识别方法

【目的】Web跟踪器通过嵌入用户访问的网站,收集用户的标识与访问信息,用于个性化推荐服务和网站性能分析等。然而,Web跟踪器对互联网用户来说可能会造成隐私泄漏,让用户有选择的关闭/打开Web跟踪对互联网健康发展至关重要,而Web跟踪器的自动识别是前提与基础。【方法】通过对实际数据的分析,发现Web跟踪器在URL的文本语义和嵌入关联(即共现)两个维度的重要特征,并据此设计了融合关联特征与语义特征的Web跟踪器深度识别方法。该方法首先建立用户直接访问网站和其嵌入URL的嵌入关系二部图,并基于DeepWalk算法提取URL的嵌入特征向量;其次,基于自然语言处理领域的预训练BERT模型提取URL字符串的文本语义特征;最后,使用注意力机制聚合两类特征,并使用多层感知机模型实现URL的分类,识别Web跟踪器。【结果】基于真实数据的实验结果表明,与已有方法相比,本文所提方法提高了识别的准确度,其F1分数可达到0.91。【结论】基于深度学习的Web跟踪器识别方法仅依赖跟踪器URL及其在网站的嵌入关系信息,取得了较高的识别准确度,易于部署。

基于深度强化学习的自动特征提取模型研究

介绍了深度强化学习在自动特征提取领域的应用。首先,简单地概述了现有的特征提供取方法,包括传统的特征取方法、基于深度学习的特征提取方法和基于深度强化学习的特征提取方法;其次,阐述了深度强化学习和图像处理技术;最后,详细地介绍了基于深度强化学习的自动特征提取模型的设计方法,包括数据集准备与预处理、模型架构设计、模型训练过程及参数设置、实验结果分析与评估。该模型能够提高图像处理的准确性和效率,具有较高的推广使用价值。

基于聚类中心的浅层特征融合伪造语音检测

针对现有检测系统在使用wav2vec2.0模型提取特征导致高计算资源消耗和传统打分方法限制泛化性能的问题,提出一种基于聚类中心的浅层特征融合伪造语音检测算法。裁剪wav2vec2.0模型的深层,将浅层特征通过注意力池化以缩短时序长度,用线性层确定融合权重;通过K-means++得到聚类中心,利用当前样本和相应类中心的表示余弦相似度进行训练和打分以判别真伪。实验采用ASVspoof2019和ASVspoof2021挑战赛的逻辑轨道数据集,wav2vec2.0模型参数量减少了60%,等错误率分别达到0.34%和3.67%,在模型精简和泛化性能方面明显优于同类wav2vec2.0模型和传统打分方法。

多特征融合的抗干扰目标跟踪算法研究

针对目标跟踪在遮挡和背景复杂等干扰导致的准确率较低的问题,提出了一种多特征融合的目标跟踪算法。算法采用加权系数的方法将HOG特征、CN特征和ULBP特征自适应的融合各个特征分量信息,对检测到的遮挡目标进行加权滤波重定位,以自适应模型更新策略解决跟踪目标在遮挡时导致的跟踪模板被污染的问题。在公开数据集OTB100上进行了实验验证,与传统KCF跟踪算法对比,上述算法在精确度和正确率分别提升了16.2%和14.9%,证明了上述算法可以更加准确的完成跟踪任务。

基于深度置信网络的电力市场需求预测算法

文章旨在研究并开发一种基于深度置信网络(Deep Belief Networks,简称DBN)的电力市场需求预测算法。随着电力市场的日益成熟和复杂,对电力需求的准确预测对于电力系统的稳定运行和电力市场的有效管理至关重要。深度置信网络作为一种高效的深度学习模型,其在特征提取和模式识别方面的优势使其成为电力市场需求预测的有力工具。

基于模糊C均值聚类算法的浆液循环泵节能运行优化方法研究

在浆液循环泵运行阶段,受客观应用需求波动的影响,其功耗相对较高。为此,提出基于模糊C均值聚类算法的浆液循环泵节能运行优化方法。在浆液循环泵运行数据特征提取阶段,采用基于无监督的深度学习模型,借助随机初始化的卷积核,对输入的数据进行卷积计算,获取低维空间的特征映射,随后通过反卷积确定浆液循环泵运行参数特征;在节能运行优化阶段,引入模糊C均值聚类算法,通过聚类具有相同特征的数据,将相同聚类内功耗最小的参数作为同类运行工况下的优化结果。结果显示,测试循环泵的功耗虽然会随着通过的最大颗粒粒度的增加而呈稳定增大的趋势,但对应的增幅较小,与对照组相比,其分别在节能程度和节能适应性方面表现出了明显优势。

融合多特征的天基典型目标光学识别方法

为满足天基近距离目标高精度探测和识别的需求,提出一种多特征融合的卫星局部识别方法.首先分析卫星局部物理特征,构建了融合形态学多特征参量的局部构件分形聚类参数集,并建立基于聚类特征加权组合的构件聚类模型.利用该模型即可实现通过计算待识别目标隶属于各构件类的匹配性概率来识别目标;在此基础上,针对空间目标光学成像的图像降质、局部遮挡等问题,提出了目标识别算法,并以其在实际应用中的识别概率为依据,结合粒子群算法迭代优化加权系数,提高了识别算法效率与鲁棒性;最后利用4类典型卫星及伽利略卫星缩比模型对识别算法进行了数字仿真和半物理实验验证.实验结果表明,在低对比度、SNR仅为5,且构件存在较严重变形与互遮挡的情况下,算法仍能有效识别卫星构件,识别概率优于0.95.

基于YOLOv5的增强多尺度目标检测方法

针对复杂场景下初始锚框难以匹配目标及多尺度检测能力不强的问题,提出一种基于YOLOv5的增强多尺度目标检测(EM-YOLOv5)方法。通过Kmeans++聚类算法,获得适应当前检测场景下的多尺度初始化锚框,使得网络更容易捕捉到不同尺度目标;在Bottleneck结构中增加多条不同尺度的并行卷积支路,在保留原有特征信息的同时融合多尺度的特征信息,增强模型的全局感知能力。在VisDrone2019、COCO2017和PASCAL VOC2012数据集上对提出的EM-YOLOv5s模型进行测试。实验结果表明,与YOLOv5s模型相比,mAP@0.5∶0.95、mAP@0.5等关键指标均有一定提升,在PASCAL VOC2012上,mAP@0.5∶0.95提升5.2%,而检测时间仅增加1.9 ms,说明EM-YOLOv5模型能够有效地提升通用复杂场景下的目标检测精度。

基于跨本体语义相关的三维模型检索方法

针对某些特定领域的建模中单一的语义检索条件无法得到理想的检索结果,提出了基于跨本体的语义相关度进行检索的算法。首先构建相关领域的本体,然后对已有实例进行分析,通过聚类算法找出模型本体间具有相关性的属性。再通过调查获取用户对实例的评价数据,对深度信念网络进行训练,求出本体间相关语义属性的相关度权值。最终对模型库中的模型计算与检索模型间的相关度作为检索条件,将大于一定阈值的模型作为检索结果。应用该算法,用户一般在检索首页可以找到较满意的模型,大大缩短了检索的时间。

特征选择和聚类分析的图像分类模型

传统方法因图像自身存在较大复杂性,导致分类精度不符合实际图像分类需求。该文通过构建基于特征选择和聚类分析的图像分类模型,提取图像特征建立图像特征样本集;在图像特征样本集中使用基于主成分分析的核心特征量选取方法,获取图像的核心特征;使用均值聚类算法聚类图像的全部核心特征,构建图像核心特征训练样本;最后将该样本使用基于支持向量机的图像分类模型,实现图像分类。经测试,当所构建模型的权重指数为0.9时,对医学图像分类精度高达98.51%;分类差异图像时,所构建模型分类准确度较高,且拒分度低于同类分析模型。

深广神经网络在变压器故障诊断中的应用

针对现有的变压器故障诊断方法无法同时实现对历史数据的记忆能力和对未知数据的泛化能力,且很少考虑故障特征之间交互对诊断结果的影响,提出一种基于深广神经网络的变压器故障诊断方法.在具有记忆能力的广义线性模型中加入离散特征的交叉特征,同时使用具有泛化能力的深度神经网络来捕捉连续特征之间的高阶交互,用联合训练的方法对二者进行参数优化.用优化后的模型处理变压器的油中溶解气体分析(DGA)数据,做出故障诊断,并将实验结果与采用支持向量机、逻辑回归、BP神经网络得到的结果进行对比,证明了所提算法对DGA数据的处理更优,且诊断结果准确率更高.

基于预训练模型的关系抽取研究综述

近年来随着深度学习技术的不断革新,预训练模型在自然语言处理中的应用也越来越广泛,关系抽取不再是单纯地依赖传统的流水线方法。预训练语言模型的发展已经极大地推动了关系抽取的相关研究,在很多领域已经超越了传统方法。首先简要介绍关系抽取的发展与经典预训练模型;其次总结当下常用的数据集与评测方法,并分析模型在各数据集上的表现;最后探讨关系抽取发展的挑战与未来研究趋势。

基于中间图特征提取的卷积网络双标准剪枝

卷积神经网络(CNN)在计算和存储上存在大量开销,为了使CNN能够在算力和存储能力较弱的嵌入式等端设备上进行部署和运行,提出一种基于中间图特征提取的卷积核双标准剪枝方法。在卷积层后插入中间图互信息特征提取框架,分析卷积核的特征提取能力,结合批量归一化层的缩放因子对卷积核的综合重要性进行评估,获取更为稀疏的CNN模型。针对全连接层存在大量冗余节点的问题,提出一种基于节点相似度与K-means++聚类的全连接层剪枝方法,聚类相似度较高的节点,并对剪枝后的连接层权重进行融合,在一定程度上弥补因剪枝所造成的精度损失。在CIFAR10和CIFAR100数据集上的实验结果表明,使用该剪枝方法对ResNet56网络进行剪枝,在损失0.19%分类精度的情况下能够剪掉48.2%的参数量以及46.7%的浮点运算量,对于VGG16网络,能够剪掉94.5%的参数量以及64.4%的浮点运算量,分类精度仅下降0.01%。与VCNNP、PF等剪枝方法相比,所提剪枝方法能够在保持模型准确率几乎不变的情况下,对CNN的参数量和计算量进行更大比例的裁剪。

融合RGB-D信息的三维物体识别算法

图像处理是物体识别的关键环节,不同的模态特征之间具有互补性,同时使用能够提高目标的识别准确率,但现有研究仅仅是将多模态特征直接融合或者人工构造特征描述子进行识别工作,没有区别对待不同模态的不同特征且忽略了特征的内部联系。为了更客观地反映物体三维特性,结合稀疏自编码网络和改进的卷积神经网络,提出一种新的深度学习模型SAE-RCNN与一种分段训练网络的方法,可以提取有辨别力的特征而且避免了网络退化的问题,并将特征在全连接层高效融合,通过分类器Softmax得到实验结果。实验数据采用Washington RGB-D标准数据集。结果表明,SAE-RCNN算法模型的物体识别率达到89.7%,较其他算法取得了更好的识别效果。