结合上下文的细粒度实体分类特征表示方法

细粒度实体分类任务赋予文本中的实体以细粒度类别,能够通过类别信息为实体提供丰富的语义信息,在关系抽取、实体链接和问答系统等下游任务中发挥重要作用。由于实体在句子中的长度和位置是不统一的,无法直接计算实体在上下文中的表示,现有的细粒度实体分类方法将实体提及与其上下文分别进行处理和特征表示,割裂了实体与其上下文之间的语义关联。提出一种结合上下文的实体分类特征表示方法,将实体放回上下文,并解决了实体长度和位置不统一的情况下,实体特征表示的计算问题。实验结果表明,采用结合上下文的实体特征表示方法提取实体在上下文中的特征表示,能够大幅提升细粒度实体分类的性能,该方法在中文细粒度实体分类数据集CFET上的Macro-F1较原文普遍提高了10%以上。

不确定域特征表示的鲁棒性情感分析模型

文本数据在情感分类时往往会出现一些较难分类的模糊数据,这些模糊数据因其不确定性在模型训练时易出现过拟合现象,影响模型的鲁棒性。三支决策理论将初始样本划分为确定域和不确定域,模糊数据所在的不确定域如何选取合适特征表示以便下游任务,是目前三支决策情感分析模型面临的挑战。针对此挑战,提出一个基于三支决策不确定域特征表示的鲁棒性情感分析模型(UFR-SA)。首先,基于三支决策理论划分确定域和不确定域,针对不确定域中的模糊样本,定义异类样本点对,构造多粒度特征表示。其次,设计多特征融合模型,将多粒度特征表示送入多层感知网络,以融合各粒度特征优势。最后,对于确定域和不确定域的测试样本采用分而治之的策略,确定域数据用原始特征表示,不确定域中的模糊数据用融合后的鲁棒性特征表示。在SST-2、SST-5以及CR数据集上的实验结果表明,UFR-SA有效降低了模糊数据对模型的干扰,优于目前最好的模型性能。

异质网络特征表示学习研究综述

异质网络特征表示学习技术在各类机器学习任务中发挥了重要的作用。然而目前针对该研究领域的综述却很少。本文对异质网络特征表示学习领域的最新研究进展作系统性的综述。首先,基于“编码器-解码器”的框架,将现有模型分为六类;然后,对每类模型进行系统性地概览、描述和分析,总结每一类模型的优势和缺陷;最后,总结全文并讨论了该领域的开放性问题。

基于深度学习原子特征表示方法的Janus过渡金属硫化物带隙预测

随着人工智能的发展,机器学习在材料计算中的应用越来越广泛.将机器学习应用到材料性质预测等任务中首要实现的是获得有效的材料特征表示.本文采用一种原子特征表示方法,研究一种低维、密集的分布式原子特征向量,并用于材料带隙预测任务.按照材料化学式中原子种类和原子个数,使用Transformer编码器作为模型结构,通过训练大量的材料化学式数据,从而提取参与训练元素的特征.利用该方法预测Janus结构过渡金属硫族化合物MXY(M代表过渡金属,X,Y是不同硫族元素)二维材料带隙.基于深度学习得到的原子特征向量比传统的Magpie方法和Atom2Vec方法的预测平均绝对误差更小.可视化分析和材料性质预测数值实验表明,本文提出的基于深度学习提取的原子特征表示方法,可以有效表征材料特征,并且应用到材料带隙预测任务中.

基于特征增强和语义相关性匹配的图像文本检索方法

为实现图像文本检索中图像与文本的精确语义连接,提出一种基于特征增强和语义相关性匹配(FESCM)的图像文本检索方法。首先,通过特征增强表示模块,引入多头自注意力机制增强图像区域特征和文本单词特征,以减少冗余信息对图像区域和文本单词对齐的干扰;其次,通过语义相关性匹配模块,不仅利用局部匹配捕获局部显著对象之间的对应相关性,还把图像背景信息融入图像全局特征,利用全局匹配实现精确的全局语义相关性;最后,通过局部匹配分数和全局匹配分数获取图像和文本的最终匹配分数。实验结果表明,基于FESCM的图像文本检索方法在Flickr8k和Flickr30k基准数据集上的召回率总值比扩展的视觉语义嵌入方法分别提升了5.7和7.5个百分点,在MS-COCO数据集比双流层次相似度推理方法提升了3.7个百分点。因此该方法可以有效提高图像文本检索的准确度,实现图像与文本的语义连接。

采用分段特征表示的异常序列检测算法

时间序列的有监督异常检测方法通常依赖于数据的标签,不仅会消耗大量时间进行数据标注,而且难以适用于无法给定标签的数据集。为解决异常序列检测中的标注问题,提出一种采用分段特征表示的异常序列检测方法。该方法采用分段聚合思想对时间序列进行标准化计算,并得到时序数据的特征表示,可提高无标签时间序列异常检测的可靠性。将表示后的特征划分为异常序列相关特征和无关特征,剪枝异常序列无关特征,可减少这些特征对检测结果的不利影响。为有效量化不同序列之间的差异性,提出一种面向时间权重分析的时间序列相似性度量方法,并构建时间序列的相似度矩阵,用于计算序列之间的相似度,可适用于无标签的时间序列中。在此基础上,根据相似度矩阵来计算每个子序列的异常分数,将其用于异常子序列的判定。通过合成数据集和真实数据集的实验对比表明:该方法节省了计算开销,提高了算法运行的时间效率和异常序列检测的准确率。

基于增强特征表示的语义分割神经网络

语义分割是计算机视觉领域中一个基础而重要的话题,针对语义分割中边界分割困难的问题,提出了一种利用类别整体特征以增强模型表征能力的语义分割神经网络结构。通过分析同类别内各像素特征应具有相似性、不同类别内的特征应具有可分性的特点,利用区域提议汇聚各类别区域内的特征,并使用关注特征的方法建立像素点与类别之间的联系,从而增强模型表征能力。通过在公开数据集上的实验分析比较,上述结构能有效提升像素点特征表示能力。

运动序列的时空结构特征表示模型

运动序列是一种与运动信号相关的多维时间序列,各个维度序列之间具有高耦合性的特点。现有的多维序列表征方法大多基于维度间相互独立的假设或缺乏可解释性,为此,提出一种适用于运动序列的时空结构特征表示模型及其两阶段构造方法。首先,基于空间变化事件的转换方法,将多维时间序列变换成一维事件序列,以保存序列中的空间结构特性。接着,定义了一种时空结构特征的无监督挖掘算法。基于新定义的表示度度量,该算法从事件序列中提取一组具有代表性的低冗余变长事件元组为时空结构特征。在多个人类行为识别数据集上的实验结果表明,与现有多维时间序列表示方法相比,新模型的特征集更具代表性,在运动序列模式识别领域可以有效提升分类精度。

基于注意力机制的多特征融合对话行为层次化分类方法

目前深度学习模型在对话行为识别中被广泛采用,通过挖掘多种对话行为特征以提升对话行为分类性能。然而,这些方法忽视了不同对话行为特征之间的潜在关联和相互影响,且对话行为分类过程中也很少考虑对话行为标签之间的语义关联关系,这些都妨碍了对话行为识别的性能提升。针对以上问题,提出一种基于注意力机制的多特征融合层次化分类(MFA-HC)方法用于对话行为识别。首先,提出一种基于无遗忘学习的对话行为层次化分类框架,结合词、词性以及相关语言学统计量等多种细粒度特征来学习训练对话行为分类模型;其次,提出一种基于注意力机制的共性-个性模型捕获不同特征之间的共性和个性特征。在两个基准数据集SwDA(Switchboard Dialogue Act corpus)和MRDA(ICSI Meeting Recorder Dialogue Act corpus)上的实验结果表明:相较于目前整体性能较优的DARER(Dual-tAsk temporal Relational rEcurrent Reasoning network),MFA-HC方法通过捕捉话语中隐含的共性和个性特征,分类准确率分别提高了0.6%和0.1%。

基于一种改进稀疏动态慢特征分析的高速公路服务区空调空气处理单元故障检测研究

高速公路服务区暖通空调空气处理系统表现出很强的双向动态特性,为了通过处理空气处理系统的双向动态特性和对提取的潜在变量施加稀疏性,本文提出一种改进的稀疏动态慢特征分析策略来检测空气处理系统的故障。在提出的稀疏动态慢特征分析中,采用自回归移动平均模型来揭示变量之间的自相关关系。然后应用多路数据分析,通过将扩充的三维数据集转换为展开的矩阵,计算出在多个批处理运行中的分批动态特性。进一步建立动态慢特征分析模型充分处理批运行中的时间动态特性。最后,融入特征稀疏表示技术,通过对负载向量进行稀疏约束,消除了无意义变量之间的耦合。在ASHRAE研究项目RP-1312实验数据集上进行的案例研究验证了所提出的故障检测方案的有效性。

基于多粒度特征的行人重识别方法研究

由于采集的图像中存在遮挡、图像分辨率低、人姿态发生改变等干扰因素,行人重识别的研究极具挑战性。为此,文章提出基于注意力机制与多粒度特征的行人重识别网络。首先,针对行人姿态的改变,设计了一种多粒度特征提取模块,使用多分支网络联合注意力机制提取多层次全局特征与局部特征。其次,针对行人局部未对齐问题,文章提出了一种邻域自适应特征融合模块。此外,为保留更多的有用信息,文章还设计了一个自适应特征池化模块。在两个公开数据集进行了实验,与其他方法的比较结果验证了所提出方法的有效性。

基于差值局部方向模式的人脸特征表示

提出一种基于差值局部方向模式的人脸特征表示方法(difference local directional pattern,简称DLDP):首先,通过Kirsch掩模卷积运算,为每个像素计算8个方向的边缘响应值;然后,计算8个相邻边缘响应值的强度差,前k个最突出的强度差对应的方向编码为1,其他方向编码为0,形成一个8位二进制数表示对应的DLDP模式;此外,针对高分辨率的Kirsch掩模单纯考虑方向性而没有考虑像素位置权重的问题,提出相应的掩模权值设计方法;最后,把每幅图像划分成多个不重叠的局部图像块,通过统计图像块上不同DLDP模式个数生成相应的子直方图,所有子直方图被串联起来表示一幅人脸图像.实验结果表明,该方法在光照、表情、姿态和遮挡方面获得了较好的结果,尤其针对遮挡情况,表现更为突出.

时间序列数据挖掘中特征表示与相似性度量研究综述

分别分析了时间序列特征表示和相似性度量在数据挖掘中的作用和意义,对目前已有的主要方法进行了综述,分析各自存在的优缺点;同时,探讨了将来值得关注的问题,为进一步研究时间序列数据的特征表示和相似性度量提供了方向。

一种基于卷积神经网络的砂岩显微图像特征表示方法

砂岩显微图像分类是地质学研究中一项基本工作,在油气储集层评估等方面有重要意义.在实现自动分类时,由于砂岩显微图像具有复杂多变的显微结构,人工定义特征对砂岩显微图像的表示能力有限.此外,由于样本采集和标注成本高昂,带标记的砂岩显微图像很少.提出一种面向小规模数据集的基于卷积神经网络的特征表示方法FeRNet,以便有效地捕获砂岩显微图像的语义信息,提高对砂岩显微图像的特征表示能力.FeRNet网络结构简单,可降低网络对带标记图像数据量的要求,防止参数过拟合.针对带标记砂岩显微图像数量不足的问题,提出了图像扩增预处理方法及基于卷积自编码网络的权重初始化策略,降低了因数据不足造成的过拟合风险.基于采自西藏地区的砂岩显微图像数据集设计并进行实验,实验结果表明,在带标记砂岩显微图像数据不足的情况下,图像扩增和卷积自编码网络可以有效地改善FeRNet网络的训练效果,通过FeRNet网络提取的特征对砂岩显微图像的表示能力优于人工定义特征.

卫星云图形态特征提取和表示的一种方法

利用可变形模型与形状分解相结合,给出了卫星云图形态特征提取和表示的一种方法。首先用阈值法进行云图分割,再提取出可基本代表云图内容的若干主要云块,之后用圆形可变形模型作用于每个主要云块,并结合形状分解的思想将其用圆形基元的组合来表示。对GMS5云图的实验表明,该方法是简单可行的。

一种用于掌纹识别的线特征表示和匹配方法(英文)

作为一种较新的生物特征,掌纹可用来进行人的身份识别.在用于身份识别的诸多特征中,掌纹线,包括主线和皱褶,是最重要的特征之一.本文为掌纹识别提出一种有效的掌纹线特征的表示和匹配方法,该方法定义了一个矢量来表示一个掌纹上的线特征,该矢量称为线特征矢量(line feature vector,简称 LFV).线特征矢量是用掌纹线上各点的梯度大小和方向来构造的.该矢量不但含有掌纹线的结构信息,而且还含有这些线的强度信息,因而,线特征矢量不但能区分具有不同线结构的掌纹,同时也能区分那些具有相似的线结构但各线强度分布不同的掌纹.在掌纹匹配阶段,用互相关系数来衡量不同线特征矢量的相似性.实验表明,LFV方法无论是在速度、精度,还是在存储量方面都能满足联机生物识别的要求.

用于三维点云表示的扩展点特征直方图算法

局部特征提取在点云相关应用中具有十分重要的作用,因此提出一种用于点云局部特征表示的扩展点特征直方图描述子。针对邻域点的两两点对提出一系列不变量;在特征点上构建一个局部参考坐标框架以获得特征描述子对旋转和平移的不变性;将关键点局部邻域划分成多个子空间,并依据每个子空间中的点对不变量构建一个直方图;将所有直方图串联起来得到扩展点特征直方图特征描述子。采用Bologna公共数据集对扩展点特征直方图特征描述子的性能进行测试,并与多个现有算法进行对比。结果表明,扩展点特征直方图特征描述子获得了良好的性能,其结果优于多个现有的特征描述子。

基于变分自编码器的异构缺陷预测特征表示方法

跨项目软件缺陷预测技术可以利用现有的已标注缺陷数据集对新的无标记项目进行预测,但需要两者之间具有相同的度量集合,难以用于实际开发.异构缺陷预测技术可以在具有异构度量集合的项目间进行缺陷预测,该技术引起了大量研究人员的关注.现有的异构缺陷预测技术利用朴素的或者传统机器学习方法为源项目和目标项目学习特征表示,所学习到的特征表示能力很弱且缺陷预测性能很差.鉴于深度神经网络强大的特征抽取和表示能力,基于变分自编码器技术提出了一种面向异构缺陷预测的特征表示方法.该模型结合了变分自编码器和最大均值差异距离,能够有效地学习源项目和目标项目的共性特征表示,基于该特征表示可以训练出有效的缺陷预测模型.在多组缺陷数据集上通过与传统跨项目缺陷预测方法及异构缺陷预测方法实验对比验证了所提方法的有效性.

结合领域知识和多特征表示的唐卡破损区域分割算法

针对佛像类唐卡中出现的一致性破损区域的分割进行研究。首先对头光区域投影,利用一维函数对称性检测方法得到图像的对称轴,提出基于对称轴的分块分割方法得到初始分割结果;然后利用Gabor变换提取纹理特征,结合Lab空间颜色特征,构造多尺度多特征集合,最后采用K最近邻分类算法(K-Nearest Neighbor,KNN)得到一致性破损区域的模板。研究结果表明:该方法对于具有对称性的佛像类破损唐卡图像中出现的一致性破损区域的分割效果良好。

多视野特征表示的灰度图像彩色化方法

图像彩色化是指预测灰度图像的颜色信息,虽然使用深度学习方法可自动地对灰度图像彩色化,但对图像中不同尺度目标的彩色化质量不高,尤其是在对复杂物体和小目标物体彩色化时,存在颜色溢出、误着色和图像颜色不一致的问题.针对上述问题,文中提出多视野特征表示的灰度图像彩色化方法.首先,设计多视野特征表示模块(Multi-field Feature Represented Block,MFRB),与改进的U-Net结合得到多视野特征表示U-Net.然后,将灰度图像输入U-Net中,并通过与判别器的对抗训练得到彩色图像.最后,利用VGG-19网络在不同尺度上计算图像的感知损失,提高图像彩色化结果的整体一致性.在不同类别的6个数据集上的实验表明,文中方法能有效提高彩色化图像质量,产生颜色更丰富、色调更一致的彩色图像,并在客观评价指标和主观感受上都较优.