基于度量学习的多模态谣言检测

目前主流的多模态谣言检测模型,主要侧重于建模过程中模态的特征提取与拼接方法研究,而各模态局部特征关系、模态内与模态间的信息交互往往被忽略,这在一定程度上影响到了谣言检测的效果。针对该问题,提出了一种基于度量学习的多模态谣言检测方法。考虑到各模态局部特征关系对模态整体特征表示的影响,采用了句法分析和注意力机制技术分别挖掘文本和图片的局部特征关系;同时,将度量学习应用到谣言检测中,通过三元组学习和对比学习找出模态内与模态间的关联信息。在Twitter和Weibo两个公开的数据集上进行了性能测试实验,准确率分别达到92.8%和85.2%,结果表明将各模态局部特征关系、模态内与模态间的信息交互加入谣言检测模型中能够进一步提升谣言检测的精准度。

基于度量学习的电路焊点缺陷检测方法

针对目前电路焊点缺陷检测方法效率低、准确度差、焊点图像样本量小的问题,提出了一种基于度量学习的快速识别焊点缺陷的方法.首先利用工业相机搭配远心镜头获取焊点图像.通过挖掘焊点图像特征,设计交点检测法来分割焊接单元图像,制作焊点缺陷数据集.在此基础上,设计焊点图像全局特征与局部表征提取方法来对焊点的两类特征进行融合,并对注意力机制进行改进,加入到全局特征提取模块中.对焊点缺陷的检测实验结果表明该方法最终实现了准确率达到98.4%,满足焊点缺陷检测的实际生产要求.

小样本下基于改进度量学习的轨面状态识别

为解决小样本下轨面状态识别过程中存在的关键特征信息提取不充分、区分度信息易丢失的问题,提出一种基于改进度量学习的轨面状态识别方法。该方法在特征提取网络部分引入金字塔拆分注意力机制,实现特征图空间信息多尺度提取、跨维度通道注意力与空间注意力特征交互,以解决轨面状态样本少导致的关键特征信息提取不充分的问题。利用深度局部拼接符对查询集与各类支撑集特征图进行局部特征两两拼接,代替传统度量学习的全局特征拼接,筛选背景等干扰信息,较大程度地保留有显著区分度的特征信息。在自建小样本轨面状态数据集上进行性能验证,并与常规小样本学习方法进行对比实验,实验结果表明,本文方法能够有效识别轨面状态,识别准确率、精度、召回率、F1值分别达到97.96%、98.61%、98.07%、98.34%,相比于性能较好的小样本学习方法 DN4网络,各项指标分别提升了5.75个百分点、5.83个百分点、5.95个百分点、5.89个百分点。

基于优化度量学习算法的电子元件智能分栋系统的实现

当今社会电子产品的更新迭代速度加快,造成大量电子废弃物,为避免资源浪费,回收可重复利用的电子元件的分栋工作变得日益重要。传统的分栋方法效率低并易受人为因素的影响。现开发一种基于优化度量学习算法的电子元件智能分栋系统。该系统引用核分类器改进优化度量学习模型,可提高电子元件识别效率和精度,能充分挖掘电子废弃物中可回收利用价值,并带来巨大的循环经济效益。

基于特征变换和度量网络的小样本学习算法

在小样本分类任务中,每个类别可供训练的样本数量非常有限.因此在特征空间中同类样本分布稀疏,异类样本间边界模糊.提出一种新的基于特征变换和度量网络(Feature transformation and metric networks,FTMN)的小样本学习算法用于小样本分类任务.算法通过嵌入函数将样本映射到特征空间,并计算输入该样本与所属类别中心的特征残差.构造一个特征变换函数对该残差进行学习,使特征空间内的样本特征经过该函数后向同类样本中心靠拢.利用变换后的样本特征更新类别中心,使各类别中心间的距离增大.算法进一步构造了一种新的度量函数,对样本特征中每个局部特征点的度量距离进行联合表达,该函数能够同时对样本特征间的夹角和欧氏距离进行优化.算法在小样本分类任务常用数据集上的优秀表现证明了算法的有效性和泛化性.

基于元度量学习的小样本输电线路图像部件缺陷分类方法

对巡检图像缺陷准确分类是输电线路自动巡检领域中的关键技术之一。针对因缺陷类别图片数量少而导致传统深度学习方法容易出现过拟合与精度低的问题,提出了一种基于元度量学习的小样本输电线路图像部件缺陷分类方法。首先,搭建了基于小样本学习的图像分类网络,采用基于深度残差结构的卷积层来增强网络特征表达能力。然后,在度量模块中引入基于皮尔森相似度的k-近邻算法与局部特征描述符重加权机制,以提高网络分类能力。最后,为验证所提方法的有效性,利用巡检图像构成的数据集对本文方法和其他基于元度量学习的小样本分类方法进行实验对比分析。结果表明:该文提出的方法在分类性能上有明显优势。同时,本文算法的平均准确率在每类缺陷的测试样本仅有15张图片的情况下达到80.24%。

基于深度度量学习的强泛化开关仪表识别算法

针对电厂开关检测方法无法应对现实开集环境,对稀有类别识别准确率低的现状,将目标识别问题转化为相似性度量问题,并提出新算法。新算法基于深度度量学习的三元组网络,利用加入SE Block的ResNet-18提取特征,并利用跨批次挖掘增强学习效果。为评估算法性能,创建了一个包含3300张开关图片的数据集,并使用新算法在该数据集上进行了闭集测试、开集测试、小样本测试。结果表明:新算法在闭集状态下具有良好的区分能力,不仅能准确识别训练集中的类别,还能有效区分训练时未遇到的及出现频率较低的状态。由此表明,该算法不仅适用于现实世界的开集环境,而且能显著提升对小样本数据的识别精度。

基于协同网络与度量学习的标签噪声鲁棒联邦学习方法

针对联邦学习中标签噪声问题的研究较少,目前的主流方法是,服务器端引入基准数据集对客户端的模型进行评估,对客户端的聚合权重、特征类中心进行控制等,但大多数方法区分噪声客户端/噪声样本的能力尚有提升空间。文中提出了一种基于协同网络与度量学习的标签噪声鲁棒联邦学习方法。该方法由以下3部分组成:1)客户端互评分机制:客户端为彼此模型评分,构建评分矩阵,进一步将其转化为邻接矩阵,以区分干净/噪声客户端。2)协同网络模块:通过构建两个协同对等的联邦网络模型,使用简森-香农散度为协同网络彼此的训练区分干净样本与噪声样本。3)联邦-协同网络三元组损失:为噪声样本设计损失函数,约束同一噪声样本协同网络的输出特征。在CIFAR-10和CIFAR-100两个公开数据集上进行实验验证,结果表明所提方法在准确性上具有优势。

一种基于度量学习的自适应非侵入式负荷识别方法

现有非侵入式负荷识别技术大多基于最优化和模式识别算法,两种算法在模型泛化能力和未知负荷识别上均存在一定缺陷。针对这一问题,文中提出一种基于度量学习的非侵入式负荷识别模型,通过卷积神经网络将负荷电流特性映射到度量空间,在网络训练时使用三元组损失实现特征的集聚,对度量空间特征进行相似度判别实现负荷辨识。所提方法可实现对未知负荷的有效识别,并具有较强的泛化能力;另一方面,度量学习作为小样本学习的方法之一,能够减轻对训练样本的依赖,具有较高的实用性。

一种面向商品检索的多尺度度量学习方法

商品图像检索是一个典型的大规模度量学习任务,其特点在于商品零售平台需要定期上架新类型的商品,且同一类型的商品外观会不时发生变化。已有的工作表明:传统基于单一的度量学习虽然可以将商品检索模型的识别范围扩展到未知商品类别上,但是其性能仍然受限。为此,提出了一种基于多尺度监督信息的深度度量学习商品检索方法。该方法利用商品多个尺度的标签信息训练并使用协同注意力机制对不同尺度的深度特征进行有效融合,提高了深度学习模型挖掘重要信息的能力,从而有效提高了其在细粒度级别下的检索性能。在大规模商品检索数据集上的实验结果表明,该方法在mAP和Rank-1上分别为43.0%和65.9%。相比于传统度量学习方法分别提升了6.4%和7.8%。

基于复数向量余弦相似度KNN和深度度量学习的高精度无源室内定位

AI及深度学习的发展为未来6G实现高精度室内定位系统提供了新思路。通过分析CSI数据的物理特性,提出了一种基于复数向量余弦相似度的改进KNN算法,显著提升了无源定位的性能。进一步地,采用度量学习方法,设计了Structured Embedding Loss损失函数,并引入Softmax Structure Loss优化神经网络模型,实现了端到端的高效训练和推理。实验结果表明,这些创新方法显著提高了无源定位的精度和鲁棒性,定位准确率和Macro-F1评分分别达到99.15%和99.1%,为无源定位、无线信号处理等领域提供了新的研究视角和技术路径。

基于生成对抗网络与度量学习的数据驱动频率安全评估

随着大容量远距离高压直流输电工程的建设和大规模可再生能源的接入,电力系统的频率安全面临严峻挑战。为了对频率安全进行快速准确的在线评估,提出一种基于度量学习与生成对抗网络技术的数据驱动频率安全评估模型。首先,选取关键频率安全指标作为模型输出,并构建输入特征集。然后,使用改进的基于Wasserstein距离度量的生成对抗网络(Wasserstein generative adversarial network, WGAN)学习电力系统历史运行场景分布信息,生成覆盖系统典型运行方式的运行场景以构建训练样本集。计及电力系统复杂运行方式下单个机器学习模型对频率安全评估的不适用性,基于核回归度量学习(metric learning for kernel regression, MLKR)算法构建由多个子模型构成的频率安全组合评估模型。最后使用简化的山东电网算例,验证了所提方法的有效性。

基于多模态和度量学习的小样本图像分类方法

在小样本图像分类中,由于样本数量有限,神经网络难以进行充分训练,同时仅使用单一的判别方法容易产生相似性偏差,分类准确率较低。针对上述问题,提出一种多模态和度量学习相结合的小样本图像分类模型。使用卷积神经网络提取查询集和支持集图像的特征,通过度量模块判断图像与图像间的相似度;通过多模态模块对已知类别图像的文本信息与查询图像进行跨模态对比,从而计算查询图像与每个类别文本信息的相似度;最后结合两种相似度,基于多模态信息得出最终预测结果。在MiniImagenet和CUB-200-2011两个数据集上进行小样本分类试验,同时与6种先进的小样本分类模型进行对比,结果显示,所提模型的分类准确率优于其他模型。试验结果证实了所提模型的有效性。

基于深度度量学习的导弹气动系数预测

传统多输出深度神经网络在导弹气动性能系数预测任务中,通常采用均方误差(Mean square error,MSE)和平均绝对误差(Mean absolute error,MAE)来训练网络,但在小样本及无物理方程约束的情况下,MSE与MAE对导弹性能系数之间的约束和不同导弹样本之间的区分就会降低。针对该问题,提出一种基于深度度量学习的K最近邻大边距损失函数(K-nearest neighbor large margin,KNNLM),它通过边距约束将大差异输出样本推开,拉近相近输出样本,以此来解决样本及样本间的约束区分问题。以导弹气动外形及工况参数作为输入,4种气动系数作为输出,在反向传播神经网络(Backpropagation neural network,BPNN)和多任务学习神经网络(Multi-task learning neural network,MTLNN)中分别采用MSE、MAE、KNNLM进行实验对比,实验结果表明:KNNLM在BPNN和MTLNN中的精度相比于MSE和MAE最大能够提升14.44%和16.35%,最少提升3.72%。KNNLM能够在少样本及无物理知识约束的情况下,能更好地对导弹样本进行约束区分,使深度神经网络模型的预测精度更高,且鲁棒性更强。

基于拓扑结构的度量学习与拓扑传播的miRNA-疾病关联预测算法

miRNA的突变和异常表达可能导致各种疾病,因此预测miRNA与疾病的潜在相关性对于临床医学和药物研究的发展具有重要意义。拓扑结构是miRNA-疾病预测算法的重要组成部分,然而当前算法并未有效利用拓扑结构导致预测结果并不理想。与此同时,如何有效地融合多源数据也是当前的研究趋势。针对上述问题,提出一种自适应融合异质节点结构信息算法(MMTP),通过利用节点的一阶邻居和元路径诱导网络学习结构特征,并利用度量学习和拓扑传播自适应地融合异质节点结构信息,以提升miRNA-疾病预测精度。5折交叉验证实验结果表明,MMTP在HMDD v3.2数据集上的受试者操作曲线下面积(AUC)为94.81,高于其他模型。并且在基于肾癌的案例研究中,该模型所预测的前30个miRNAs全部得到证实。上述研究证明,所提的MMTP模型可有效预测miRNA-疾病相关性。

基于度量学习的跨摄像头运动目标重定位方法研究

近年来,我国柴油车尾气排放污染日趋严重。为了改善大气环境,需要对排放黑烟的柴油车进行监测。然而,在城市交通道路场景下,黑烟柴油车检测经常由于车辆间相互遮挡等因素,难以通过后向视频确定黑烟柴油车身份。此外,柴油车重定位相关数据的严重不足导致数据局限性较大。针对以上问题,提出了一种跨摄像头场景下的黑烟柴油车重定位方法。该方法通过引入IBN模块构建特征提取网络,提升网络模型对柴油车图像外观变化的适应性。然后,设计基于豪斯多夫距离度量学习的损失函数对特征差异性进行度量,在优化过程中增加类间距离并降低遮挡样本的影响。最后,构建了多种场景下的柴油车重定位基准数据集,并在该数据集上对所提出的方法进行实验。实验结果表明,所提出的方法取得了83.79%的相对精度,具有较高准确率。

基于深度度量学习的异常流量检测方法

网络异常流量识别是目前网络安全的重要任务之一。然而传统流量分类模型是依据流量数据训练得到,由于大部分流量数据分布不均导致分类边界模糊,极大限制了模型的分类性能。为解决上述问题,文章提出一种基于深度度量学习的异常流量检测方法。首先,与传统深度度量学习每个类别单一代理的算法不同,文章设计双代理机制,通过目标代理指引更新代理的优化方向,提升模型的训练效率,增强同类别流量数据的聚集能力和不同类别流量数据的分离能力,实现最小化类内距离和最大化类间距离,使数据的分类边界更清晰;然后,搭建基于1D-CNN和Bi-LSTM的神经网络,分别从空间和时间的角度高效提取流量特征。实验结果表明,NSL-KDD流量数据经过模型处理,其类内距离显著减小并且类间距离显著增大,类内距离相比原始类内距离减小了73.5%,类间距离相比原始类间距离增加了52.7%,且将文章搭建的神经网络比广泛使用的深度残差网络训练时间更短、效果更好。将文章所提模型应用在流量分类任务中,在NSL-KDD和CICIDS2017数据集上,相比传统的流量分类算法,其分类效果更好。

深度度量学习综述

随着深度神经网络的兴起,深度度量学习(DML)引起广泛的关注。为了深入了解深度度量学习,首先,整理和分析传统度量学习方法的局限性。其次,从3个类型探讨DML,包括基于样本对、代理和分类的类型:基于样本对的类型包括散度方法、排序方法和基于生成对抗网络(GAN)的方法;基于代理的类型主要从代理样本、类别方面进行讨论;基于分类的类型中主要讨论了跨模态度量学习、类内类间边距问题、超图分类,以及与其他方法(如基于强化学习和基于对抗学习的方法)的结合。再次,介绍评估DML性能的各种指标,同时总结和对比DML在不同任务(包括人脸识别、图像检索和行人重识别等)中的应用。最后,探讨DML面临的挑战,并提出一些可能的解决策略。

基于元度量学习的小样本空战目标意图识别方法

针对战场复杂环境下通过较少空战对抗数据识别作战意图的问题,提出基于元度量学习框架的作战意图识别方法。该方法通过构建基于双向门控循环单元网络,实现对空战时序数据的有效特征提取,进而提出注意力机制,促使网络实现对小样本空战数据时序核心特征的充分提取,从而获取类间差异,达到较高的空战意图识别的准确率和速度。仿真实验表明,所提方法对于空战目标意图识别具有较好的准确率和实时性,在小样本数据的情况下能够实现较好的识别性能。

基于Yu范数深度迁移度量学习的夹送辊剩余寿命预测

针对夹送辊历史数据少和相关寿命预测方法匮乏的问题,提出基于Yu范数深度迁移度量学习的夹送辊剩余寿命预测方法。首先使用Yu范数深度度量学习(DMN-Yu)对振动信号提取深层特征,并以主成分分析法(PCA)和自组织映射神经网络(SOM)相结合对特征进行约简,构建一维健康因子(HI);再结合长短时记忆网络(LSTM)模型,通过迁移策略利用共享隐含层的方法对目标夹送辊进行预测分析。实验验证,经过深度迁移学习的LSTM模型预测效果更好,对夹送辊设备的健康状态评估及剩余使用寿命预测具有一定的指导意义。