基于多标签卷积神经网络的结构损伤识别

准确识别结构多位置损伤一直是结构损伤识别的难题。为提升结构多位置损伤识别的准确率,提出一种基于卷积神经网络(CNN)的多标签分类(MLC)方法(CNN-MLC)进行结构损伤识别。该方法将结构多个位置损伤识别转换为多标签分类问题,每个损伤位置均用一个对应的标签表示;利用CNN强大的特征提取能力,深入挖掘不同损伤工况之间公共损伤位置的相关性,实现结构多位置损伤识别。通过四层框架结构和一座铁路连续梁桥多位置损伤识别验证了CNN-MLC方法的识别准确率,并将其识别结果与基于CNN的多类别分类(MCC)方法(CNN-MCC)和基于示例差异化算法(InsDif)的多标签分类方法(InsDif-MLC)进行了对比。结果表明:框架结构在两位置和三位置损伤工况下,CNN-MLC方法比CNN-MCC方法的识别准确率分别提升2.50%和9.64%,比InsDif-MLC方法识别准确率提升17.50%和29.28%;对于铁路连续梁桥的两位置损伤和三位置损伤,CNN-MLC方法比CNN-MCC方法识别准确率提升1.63%和6.85%,比InsDif-MLC方法识别准确率提升4.18%和18.49%;随着损伤位置数量的增加,CNN-MLC方法的识别准确率显著提升。

类不平衡的公共和标签特定特征多标签分类

多标签分类主要解决实例数据对应多个标签问题,现有多标签方法大多利用所有特征组成的相同数据表示来区分所有标签,由于每个标签自身特点不同,统一的特征不能完全区分标签,给模型训练带来负面作用和时间成本增加,如何利用对每个标签而言最具有辨别力的特征来提高模型分类性能成为一种难题,此外现实中类不平衡问题同样会导致多标签学习模型的性能下降。基于此,提出一种类不平衡的公共和标签特定特征多标签分类方法。首先,找到种子实例的最近邻居,然后通过插值技术得到合成实例的特征来解决类不平衡问题;其次,为了找出对每个标签最具代表性的特征,引入l1,l2,1正则化约束系数矩阵提取标签的特定特征和公共特征;最后,使用标签相关性实现关联标签的模型输出相似,实例相关性保证关联特征共享对应标签分布信息提高分类性能。实验表明所提方法与其他多标签分类方法相比获得了更好的分类精度。

类别特征约束的多目标域表情识别方法

表情识别FER方法通常会受到采集环境和受试者区域、种族等因素的影响。为了提升FER方法的泛化性能,无监督的域自适应表情识别方法UDA-FER成为了研究热点。现有的UDA-FER方法普遍存在2个问题:(1)仅关注对目标域的识别率,导致方法从源域迁移至目标域后,对源域的识别率急剧下降;(2)仅研究基于单个目标域的UDA-FER方法,将现有方法直接应用于多个目标域会导致方法识别率骤降。为解决上述问题,提出了一种类别特征约束的多目标域表情识别方法MTD-FER,实现FER向多个目标域的连续迁移。为了保持对源域的识别率并提高对多个目标域的识别率,MTD-FER设计了类别自适应的伪标签标记CAPL模块和类别特征约束CWFC模块,挑选目标域高质量的样本标记为伪标签,并对齐各个域同类样本的特征,缓解连续迁移导致的灾难性遗忘问题。以RAF-DB为源域,FER-2013和ExpW为目标域,进行大量的实验,证明了MTD-FER的有效性。实验结果表明,与基准方法相比,MTD-FER在多次迁移后,源域识别率提升6.36%,与迁移之前基本持平;在各个目标域性能均有所提升,其中FER-2013性能提升了27.33%,ExpW性能提升了3.03%。

“突然、忽然”的词类标注问题与对策——一项语言学量子转向视域下的研究

汉语词类问题的争论旷日持久,为了更好解决这一纷繁复杂的问题,语言学研究亟需完成从牛顿经典科学思维到量子思维的转向。查阅10部大中型标注词类的权威汉语汉英词典发现“突然、忽然”的词类标注以及释义配例呈现显著分歧。有鉴于此,基于语言学量子转向视域,以双层词类范畴化理论模型为指导,考察了“突然、忽然”在国家语委语料库的真实用法模式,根据其规约化程度提取出了“突然、忽然”在词典的真实词类表征。同时论证了汉语形容词包含副词的词类模式违背了汉语语言事实,并探讨其背后症结所在。针对这些问题,未来汉语词类研究亟需完成语言学量子转向,挣脱简约原则的束缚,积极拥抱双层词类范畴化理论模型,大胆开展语言实证研究。

不确定数据分类的模糊随机森林算法

实际应用中不确定数据的分类问题越来越受到人们的重视,不确定数据不但属性值是不确定的,类标签也可能不确定。提出的不确定离散化算法,使模糊决策树能够处理区间数据,统一了属性值不确定与类标签不确定的差异。由此提出的由模糊决策树构造模糊随机森林的模糊分类算法,既继承了模糊决策树对不确定数据分类的灵活性,又继承了随机森林的集成性、鲁棒性和随机性的优点。实验结果表明,对于不确定性数据分类问题,该算法性能优于现有的一些算法。

接诉即办智能派单业务调度算法研究

随着国家数字化建设的发展,社会治理的智能化、专业化也成为城市科技进步的基本要求,各政府系统须要对人民的诉求做到高效精确的处理。而从当前的各大政府门户网站的诉求通道收集的民众诉求信息,均是通过人工方式判断责任部门,然后将其手动分配给相关部门进行后续问题的核实和处理,大大限制了诉求处理的效率和准确性。而接诉即办智能派单算法利用人工智能和深度学习方法,基于真实的民众诉求信息数据进行训练,自动精准而高效地将诉求分派到相关部门进行后续审查处理,加快了政务处理流程的速度并大大降低了不必要的人力成本,因此该智能调度算法的研究有着重要意义。首先,通过数据去噪和脱敏,将数据进行层级拼接,构建数据标签和标准流程库以进行标签对齐。然后,基于公开数据集训练地址识别基线模型,在工单分类中提出基于类别比例采样的标签融合方法解决数据类不平衡问题,实验结果显示在基线模型的基础上提高了数十个百分点。最后,结合分类模型和地址识别模型,构建智能回复模板,完成接诉即办智能派单的全流程。

超学科视域下汉英词典医学词条的词类标注研究

汉英词典医学词条的词类标注面临重重困难。本文运用双层词类范畴化理论的超学科方法论,对汉英词典中“瘫痪”“治疗”类医学词条的词类标注进行了调查。调查发现:不同汉英词典中相同词条的词类标注分歧率高达81.25%,同一部词典中部分具有对称语义关系词条的词类标注存在矛盾,部分词条的微观结构表征违背兼类与词频的相关性原则和“词类对译”原则,部分配例与词类标注不协调。研究表明,现有汉英词典医学词条的词类标注之所以准确度不够高,是因为受到唯科学主义的束缚,而拥抱超学科方法论(量子思维)方为出路。

基于Transformer的多标签工业故障诊断方法研究

工业故障数据的多维性、类不均衡性和并发性为工业故障诊断带来了三大挑战:一是从多维传感器数据中提取故障特征过度依赖于专家知识;二是不同类型故障样本之间的极端类不均衡性严重限制了分类器的性能;三是多个类型的故障可能同时发生增加了故障诊断问题的复杂性。为了应对这些挑战,提出了一种基于多重自注意力机制改进的Transformer多标签故障诊断模型。结合自适应合成采样(adaptive synthetic sampling,ADASYN)和Borderline-SMOTE1组合过采样方法,充分利用Transformer编码器-解码器结构以及注意力机制的优势,可以从多维传感器数据中自动提取特征并充分挖掘出多维传感器数据与多个故障标签之间的复杂映射关系。经PHM2015 Plant数据集验证表明,该方法在极端类不均衡的工业故障数据中仍可以较好地诊断出工厂生产过程中同时发生的多个故障。

基于样本分布的类别均衡化方法

为解决样本类别不均衡问题,提出基于样本分布的类别均衡化算法。采用单类支持向量机和近邻法学习多数类样本,净化类别不清的分布边界;采用密度聚簇算法对少数类样本聚簇,根据每个类簇的权重决定每个类簇生成的样本数,平衡类簇间的样本数量;根据每个簇的边界样本与非边界样本数量比值,确定每个样本权重,采用SMOTE合成少数类样本。采用UCI数据集实验对比和地震数据分析应用,验证了算法在不同分类模型均可提高分类精度。

非完美多分类标签体系下的领域短文本分类方法研究

近年来,短文本分类技术获得了广泛的研究。但在实际应用中,随着文本数据的积累,人们经常会遇到分类体系问题及其引起的数据分类标注问题,原因在于分类标签体系通常具有动态性,以及体系中的分类标签具有不易区分性。为此,文中结合分类标签数量众多的某省电信投诉工单分析业务进行了具体分析,并提出了一种非完美多分类标签体系的概念模型。在此基础上,针对数据集中的分类标注冲突与遗漏,提出了一种基于高质量种子训练集的检测和半自动修复方法,用于修复分类体系动态性和人工标注错误导致的标注冲突和遗漏,经过6个月的线上运行,在过滤掉10%的分类置信度过低的投诉工单后,基于BERT的分类模型的F1值可达0.9。

基于伪标签回归和流形正则化的无监督特征选择算法

无监督特征选择是无标签高维数据预处理过程中一种有效的数据降维技术,然而大多数无监督特征选择算法忽略了数据样本本身的类簇结构特性,选择具有低判别性信息的特征.基于此,提出一种基于伪标签回归和流形正则化的无监督特征选择算法.具体地,联合伪标签回归和最大化类间散度来保证算法在迭代过程中学习伪标签,同时,自适应学习数据样本之间的局部几何结构,获得更加精准的标签信息和结构信息,进而选择具有高判别性且能保持数据流形结构的特征.在四个公开数据集上的对比实验表明,提出算法的特征选择结果优于现有的一些无监督特征选择算法.

“吐槽”的词类标注与释义研究

语言学界大多研究集中探讨“吐槽”的语义演变问题。本文从双层词类范畴化理论视角出发,采用语料库的调查模式,对“吐槽”的释义情况及词类归属进行探讨。研究发现:(1)汉语词典中“吐槽”释义信息不一致、不准确、不完整;(2)“吐槽”表指称的用法具有很高的个例频率和类型频率,名词用法已经规约化,在抽象的社群语言系统层面,即在现代汉语词典中,概括词“吐槽”应兼属动词和名词。调查表明,现有的汉语词典在“吐槽”的释义及其义项设置上存在问题,应修正其动词释义并将之处理为动名兼类词,动词主流义项的离析用法也应收录词典。汉语词典的编纂应基于语料库使用模式调查才能反映词条的真实用法。

重采样和集成学习相结合的文本多标签分类

医患纠纷类裁判文书的多标签分类是对其进行高效检索和管理的基础,然而,医患纠纷数据集的类别不平衡和标签共生现象直接影响到文书的多标签分类效果。为此,提出了一种重采样和集成学习相结合的文本多标签分类方案。该方案首先提出一种基于标签集合平均稀疏度的样本重采样算法,用于降低标签共生对重采样的影响,从而改善数据集的类别不平衡性;然后,提出一种基于集成学习的多标签分类算法,其基于重采样后的数据集分别训练出多个基分类器,并对各基分类器以一票否决的投票策略进行组合,从而进一步提升分类器的多标签分类效果。实验结果表明,提出的多标签分类方案不仅适用于医患纠纷类裁判文书,而且适用于其他存在类别不平衡和标签共生问题的文本数据集。

多标签文本分类研究回顾与展望

文本分类(TC)是自然语言处理(NLP)领域的重要基础任务,多标签文本分类(MLTC)是TC的重要分支。为了对多标签文本分类领域进行深入了解,介绍了多标签文本分类的概念和流程。将近年来多标签文本分类方法划分为基于传统机器学习方法和基于深度学习方法,梳理了多标签文本分类领域常用的数据集和评价指标,分析了部分多标签文本分类模型的优势和存在问题。介绍了多标签文本分类的研究方向:标签相关性、特定标签特性、类别不平衡、标签丢失和标签压缩。对多标签文本分类的难点和未来的发展方向进行了总结展望。

基于对比学习的标签带噪图像分类

标签噪声会极大地降低深度网络模型的性能.针对这一问题,本文提出了一种基于对比学习的标签带噪图像分类方法.该方法包括自适应阈值、对比学习模块和基于类原型的标签去噪模块.首先采用对比学习最大化一幅图像的两个增强视图的相似度来提取图像鲁棒特征;接下来通过一种新颖的自适应阈值过滤训练样本,在模型训练过程中根据各个类别的学习情况动态调整阈值;然后创新性地引入基于类原型的标签去噪模块,通过计算样本特征向量与原型向量的相似度更新伪标签,从而避免标签中噪声的影响;在公开数据集CIFAR-10、CIFAR-100和真实数据集ANIMAL10上进行对比实验,实验结果表明,在人工合成噪声的条件下,本文方法实验结果均高于常规方法,通过计算图像鲁棒的特征向量与各个原型向量的相似度更新伪标签的方式,降低了噪声标签的负面影响,在一定程度上提高模型的抗噪声能力,验证了该模型的有效性.

汉英词典词类标注与译义对称性研究——以“议论”和“讨论”二词为例

词类范畴化问题是语法研究的核心,现代汉语、现代英语等分析语的概括词的兼类问题是学界研究的热点与难点。汉英词典编纂中,词类标注尤为重要,其中汉英词典词类标注与译义的对称性是美学原则也是科学准则。该文以双层词类范畴化理论为指导,基于国家语委语料库的调查模式,以四部权威双语词典为研究对象,以“议论”和“讨论”二词为例,探讨同义词释义的对称性问题。研究发现,“讨论”表指称的用法有较高的个例频率和类型频率,在社群语言系统层面应属动名兼类词,四部权威双语词典存在漏标“讨论”一词的名词用法的现象。还发现汉英词典词类标注以现代汉语词典为蓝本,词典编纂方式欠佳,未体现对称性原则。该文旨在理清“议论”和“讨论”两词的词类标注,探讨双语词典词类标注与译义不对称的原因,以期提高双语词典的编纂质量。

过采样在腰椎间盘退变多义性诊断中的应用

腰椎间盘退变的诊断对腰椎疾病的防治意义重大,其诊断过程常存在多义性问题,通过引入标签分布可以标注多义性诊断信息。然而,腰椎间盘退变标签分布样本集的类别不平衡现象可能影响分类器的性能。本文提出了一种标签分布过采样算法,通过数值实验,验证了过采样后的训练样本集可以提高腰椎间盘退变多义性分类器的性能,从而证实所提出的标签分布过采样算法的有效性。

一类离散无向图模型诱导的概念类的样本压缩方案

样本压缩方案是许多学习算法共性的一个自然抽象.离散无向图模型是分类中常用的模型之一.本文考虑一类离散无向图模型诱导的概念类的带标签压缩方案.对于包含两个顶点X_(1),X_(2),无边的无向图,X_(1)∈{0,1}X_(2)∈{0,1,...,k_(2)-1}(k_(2)∈N,k_(2)≥2),构建了大小为k_(2)+1的带标签样本压缩方案,证明了所建方案是适当的.

一种改进的针对合著关系网络的链接预测方法

主要针对那些实体类标号属性未知的社会网络进行链接预测。由于实体的类标号属性与具体的社会网络有关,因此具体解决对作者之间合著关系网络图的链接预测问题。首先,给出了合著关系图的结构表示,然后把一个作者是否是多产的定义为合著关系图中作者实体的类标号属性。另外,还提出了一种改进的利用有指导学习进行链接预测的方法。在改进的链接预测方法中为每对作者新引入了一个特征属性——是否至少有一个是多产的。当所要预测的合著关系图中作者实体的类标号属性不完全已知时,用改进后的ICCLP算法对合著关系进行预测,以提高链接预测的性能。改进后的ICCLP算法中采用上面提到的改进后的链接预测方法。

基于多尺度张量类标子空间的人脸识别算法

提出一种基于多尺度张量类标子空间的人脸特征提取算法,提高人脸识别对光照的鲁棒性,同时不破坏原始数据固有的高阶结构和数据之间的相关性。采用多尺度小波变换组建人脸三维张量样本,将三维人脸张量空间投影到低维张量子空间,对高维人脸进行降维和特征提取,应用多线性主成分类标算法对样本进行类标号,同时使用最近邻算法完成人脸识别。利用CAS-PEAL-R1东方人脸库进行评测,实验结果表明,该识别算法比经典的主成分分析、线性判别分析和多尺度Gabor识别算法具有更好的识别效果。