基于物联网平台的动态权重损失函数入侵检测系统

随着物联网(IoT)接入设备越来越多,以及网络管理维护人员缺乏对IoT设备的安全意识,针对IoT环境和设备的攻击逐渐泛滥。为了加强IoT环境下的网络安全性,利用基于IoT平台制作的入侵检测数据集,采用卷积神经网络(CNN)+长短期记忆(LSTM)网络为模型架构,利用CNN提取数据的空间特征,LSTM提取数据的时序特征,并将交叉熵损失函数改进为动态权重交叉熵损失函数,制作出一个针对IoT环境的入侵检测系统(IDS)。经实验设计分析,并使用准确率、精确率、召回率和F1-measure作为评估参数。实验结果表明在CNN-LSTM网络架构下采用了动态权重损失函数的模型与采用传统的交叉熵损失函数的模型相比,前者比后者在使用数据集的地址解析协议(ARP)类样本中在F1-Measure上提升了47个百分点,前者比后者针对数据集中的其他少数类样本则提升了2个百分点~10个百分点。实验结果表明,动态权重损失函数能够增强模型对少数类样本的判别能力,且该方法可以提升IDS对少数类攻击样本的判断能力。

基于注意力和自适应权重的车辆重识别算法

为了解决车辆重识别算法受类内差异性与类间相似性的干扰无法充分表示车辆特征的问题,提出基于注意力机制和自适应损失权重的车辆重识别算法.该算法采用改进的主干网络ResNet50_ibn,避免了颜色、光照、视角等客观因素的干扰,提取关于目标的不变性特征.搭建基于注意力机制的组表示网络,融合特征间的相互依赖关系,从不同分组的特征表示中提取更加丰富的特征信息.设计自适应损失权重计算损失函数,使用多损失函数策略对网络模型进行训练.该算法在公开数据集VeRi776与VehicleID上的首位击中率和平均精度均值分别达到了96.0%、79.8%和81.5%、80.9%.实验结果表明,利用该算法提取的特征更具判别性,综合性能优于现有的其他车辆重识别算法.

具有间隔分布优化的最小二乘支持向量机

最小二乘支持向量机(Least Squares Support Vector Machine,LSSVM)通过求解一个线性等式方程组来提高支持向量机(Support Vector Machine,SVM)的运算速度。但是,LSSVM没有考虑间隔分布对于LSSVM模型的影响,导致其精度较低。为了增强LSSVM模型的泛化性能,提高其分类能力,提出一种具有间隔分布优化的最小二乘支持向量机(LSSVM with margin distribution optimization,MLSSVM)。首先,重新定义间隔均值和间隔方差,深入挖掘数据的间隔分布信息,增强模型的泛化性能;其次,引入权重线性损失,进一步优化了间隔均值,提升模型的分类精度;然后,分析目标函数,剔除冗余项,进一步优化间隔方差;最后,保留LSSVM的求解机制,保障模型的计算效率。实验表明,新提出的分类模型具有良好的泛化性能和运行时间。

多尺度多任务注意力卷积神经网络滚动轴承故障诊断方法

针对振动信号时间尺度不一、故障特征分布差异及信息冗余等问题,提出一种多尺度多任务注意力卷积神经网络(MSTACNN)的滚动轴承故障诊断方法。首先,在参数共享单元构建多尺度卷积神经网络,提取多任务之间共享信息的多尺度通用特征;其次,利用多任务学习机制对故障类型、故障尺寸以及运行工况同时训练,规避单任务学习效率低下问题;然后,采用注意力机制对多尺度特征信息进行筛选,识别并保留有效特征;最后,设计了一种自适应损失权重算法,动态调整子任务的损失权重,控制不同任务的学习进度,实现了对轴承故障类型、故障尺寸以及运行工况同时识别的目标。在西储大学数据集和帕德博恩大学数据集分别对方法有效性进行验证,其中故障类型的识别准确率分别达到了99.95%和98.41%。实验结果表明,所提方法均展现出较高的识别准确率、良好的收敛速度和稳定性,具有较强的特征提取学习能力和泛化性能。

带有半渐进式分层提取机制的轻量化多任务模型

多任务学习目前广泛被应用于各大领域,然而大部分效果较佳的模型都有着复杂的网络层级和架构,导致这些多任务学习模型很难被应用于资源有限的设备上,例如:经费有限但是人口基数大的国家或地区进行人口普查预测、便携设备的翻译等任务。为解决这一问题,提出半渐进式分层提取的轻量化多任务模型。模型首先通过对顶层任务独有的专家模块进行剪枝,将原先负责提取每个独立任务深层信息的工作交由每个任务的塔层模块进行。这一做法使得模型既能轻量化,同时也保留了将任务共享参数和任务独有参数分离及分层次提取信息的特点。为了弥补剪枝后模型性能及准确率上的下降,参考不确定性对损失加权的思想,引入动态联合损失进行优化,使得模型可以不断预测任务之间重要性对每个任务的损失进行权值调整。同时,也对部分超参数进行调优。通过模型在公共数据集UCI人口普查-收入数据集上的评估,最终证明模型有着与轻量化之前不分上下的性能。

一种基于个性化成对损失加权的新颖推荐

推荐系统的目的是为了基于用户喜爱,为用户提供最高匹配度的潜在项目.但如果用户和项目提供者喜欢单一的热门项目,那么用户不能发现新颖性项目,会给用户和项目的提供商双方造成巨大损失.现有的新颖推荐工作主要集中在对由精度为基础的基础模型生成的前N个列表进行重新排序.结果,这些框架是两阶段的,并且结果基本上限于基础模型.另外,在训练基本模型时,通用的BRP损失函数以相同的方式对待所有对,始终抑制应该建议的有趣负项.针对BPR损失函数的局限性,在此提出了一种个性化的成对新颖性加权方法,该方法能够对1阶段的新推荐进行端到端的训练.该方法解决了损失函数中所有负项的一致抑制问题,并在损失函数中明确引入了用户个人偏好信息.充分利用了用户和项目的新颖性信息,并将其显式地集成到损失函数中,使模型能够区分感兴趣的未知项目和不喜欢的项目.有效地提高了具有边缘损失的新颖性.基础模型将在损失权重的指导下学习用户偏好,并在1阶段生成新的建议列表.综合实验表明,该方法在几乎不降低准确性的情况下有效地提高了新颖性.

基于目标总损失量择优的有限解集多目标决策方法

基于灵敏稳健性设计思想,定义了单目标优化时的单目标损失量和多目标优化问题中的目标总损失量;继而对基于重要度的损失权重系数确定方法进行详细研究,并提出了基于目标总损失量择优的有限解集多目标决策方法,旨在选择候选解集中受不确定因素和设计变量误差的影响最小、敏感性最低的Pareto解为最终方案;最后以卫星附件控制系统为例进行仿真,充分验证了此方法的有效性和可行性。

多分支特征映射的遥感图像目标检测算法

由于遥感图像具有背景复杂、目标较小且密集、尺度连续变化大等特点,通用目标检测器难以较好地适应,导致检测效果不佳。针对以上问题,基于YOLOv5s模型,提出一种多分支特征映射的遥感图像目标检测算法。首先,利用结构重参数化技术设计一种结合门控通道转换的RepVGG模块,采用其串联结构替换原主干网络的C3模块,聚合全局上下文信息,增强特征表达和特征提取能力;其次,使用自适应指数加权池化方法以及逆过程重构特征融合网络的采样方式,最大化地保留特征信息,改善较小目标的检测效果;最后,引入EIoU和Focal Loss组合作为模型的损失函数,优化预测框的回归速率以及难易样本的损失权重分配,进一步提高定位精度。在DIOR和NWPU VHR-10数据集上的实验结果表明,提出算法的平均精度均值分别达到92.2%、92.5%,较YOLOv5s分别提高了3.5个百分点、5.6个百分点,达到了更好的检测效果,同时实时性也满足实际场景下的遥感图像目标检测。

YOLOv5预测边界框分簇自适应损失权重改进模型

目标检测的精确程度是计算机视觉识别任务的主要影响因素.针对单阶段目标检测模型YOLOv5存在的检测精度问题,从多任务损失优化角度,提出一种在不同分辨率特征图上基于同一目标的预测边界框分簇自适应损失权重改进模型.该模型由GT(ground true)目标边界框UID分配器、GT目标边界框UID匹配器、边界框位置及分类损失权重算法构成,通过改善YOLOv5的位置精度和分类精度实现模型整体精度的提升.实验结果表明,改进模型的平均精度均值(mean average precision, mAP)较YOLOv5.6标准模型相对提升5.23%;相较于更为复杂的YOLOv5x6标准模型,改进模型mAP取得8.02%的相对提升.

面向Android恶意应用静态检测的特征频数差异增强算法

随着Android应用程序数量的快速增长,面向Android应用程序的安全性检测已成为网络安全领域的热点研究问题之一。针对恶意应用静态检测的特征选择,给出了良性特征、恶意特征、良性典型特征、恶意典型特征、非典型特征等概念,设计提出了特征频数差异增强算法FDE。FDE算法通过计算特征出现在良性与恶意应用中的频数,去除静态特征中的非典型特征。为合理验证算法的目标效果和性能优劣,分别设计了基于平衡数据与非平衡数据的实验,对于非平衡数据,引入了权重损失函数。实验结果表明,FDE算法可有效去除静态特征中的非典型特征,筛选出有效特征,权重损失函数可有效提高非平衡数据中的恶意数据识别率。

基于密钥共享的复杂网络围界入侵点检测研究

针对复杂网络应用的广泛性与必要性,以及管理维护人员安全意识的薄弱性,攻击者对复杂网络围界的攻击逐渐泛滥,为了增强复杂网络环境的安全性,提出基于密钥共享的复杂网络围界入侵点检测方法。根据构建复杂网络的感知层、网络层和应用层结构,通过外部流量的监听来判断入侵点检测系统是否被攻击,分别采用CNN和LSTM对网络特征进行提取,为了解决数据分布不平衡问题,提出动态权重损失函数。从单跳入网络和多跳入网络两方面对复杂网络节点进行认证,通过对信任中心与节点的分析,保证了复杂网络入网节点的合法性与安全性。为进一步保证复杂网络安全性,在网络节点入网后,对信任中心与节点间共享的密钥进行周期性更新处理,并采用单向散列链模式更新报文和增加校验信息,只有报文是正确且安全的,才会对报文进行解密。最后从安全性、性能、效率和容忍性等方面对算法进行分析,验证所提方法具有一定的有效性与合法性。

基于卷积神经网络的交通标志识别方法

交通标志识别在自动驾驶过程中起着十分重要的作用。为了解决识别精度低的问题,提出一种基于卷积神经网络的识别方法,通过改进深度相互学习网络完成对交通标志的识别,使用ResNet-19网络作为特征提取部分,使用全局平均池化层作为分类器部分,使用交叉熵损失和相对熵损失作为损失函数部分,并增加超参数α与δ来衡量这两个损失在训练中的权重;同时,引入一种使用不同初始值的批量归一化层训练的技巧,以此来提高模型的收敛速度。试验研究中,改进的方法用在德国交通标志识别测试集上达到了98.90%的识别精度,比改进前精度提高了2.17%,与目前优秀的交通标志识别模型相比,本方法精度仍有一定的提高。试验结果表明在复杂的环境中,本方法可以准确地识别交通标志,这为后续相关研究提供了良好的技术支持。

复杂场景下深度表示的无人机目标检测算法

复杂地物背景下的无人机检测是“低小慢”目标检测任务中的难点问题。针对环境物体的扰动、无人机目标小而导致无人机目标检测算法准确率低,提出一种基于深度表示的复杂场景无人机目标检测方法。针对无人机目标位置检测不准确的问题,采用广义交并比度量目标真实位置与候选目标位置的偏差。针对正负样本不均衡和易分样本多而导致的学习效果差的问题,通过焦点损失的调制系数,降低负样本和易分样本的损失贡献。调整位置损失与类别损失的权重,提升位置准确性。为了验证性能,建立了一个无人机数据集。实验表明该算法在无人机数据上比YOLOv3提升了20.04%,在PASCAL VOC上比SSD和Retinanet的检测精度提升巨大。

基于Keypoint RCNN改进模型的物体抓取检测算法

机器人抓取在工业中的应用有两个难点:如何准确地检测可抓取物体,以及如何从检测出的多个物体中选择最优抓取目标。本文在Keypoint RCNN模型中引入同方差不确定性学习各损失的权重,并在特征提取器中加入注意力模块,构成了Keypoint RCNN改进模型。基于改进模型提出了两阶段物体抓取检测算法,第一阶段用模型预测物体掩码和关键点,第二阶段用掩码和关键点计算物体的抓取描述和重合度,重合度表示抓取时的碰撞程度,根据重合度可以从多个可抓取物体中选择最优抓取目标。对照实验证明,相较原模型,Keypoint RCNN改进模型在目标检测、实例分割、关键点检测上的性能均有提高,在自建数据集上的平均精度分别为85.15%、79.66%、86.63%,机器人抓取实验证明抓取检测算法能够准确计算物体的抓取描述、选择最优抓取,引导机器人无碰撞地抓取目标。

GCN-PU:基于图卷积网络的PU文本分类算法

针对PU(Positive and Unlabeled)文本分类问题,提出了一种基于图卷积网络的PU文本分类算法(GCNPU),基本思想是给未标注样本加以不同的损失权重。将未标注样本全部视为负类样本,用以训练基于卷积神经网络的文本分类器;取卷积神经网络的倒数第二层的向量为文本的特征向量,以及对应的类别概率,作为图卷积网络的输入;利用图卷积网络得出的类别概率计算每个未标注样本的损失权重,重新训练文本分类器。不断重复上述三个步骤,直到算法参数稳定。在公开数据集20newsgroup上的实验结果表明,GCN-PU算法优于现有的方法,尤其在正类样本较少的情况下。

基于智能图像识别技术的边缘计算在电力施工项目的应用

电力施工项目中的人员安全识别及防盗防损等工作,是庞大的电力施工项目的薄弱环节。采用结合中心损失权重的人脸图像识别深度学习算法,该算法可以减少神经网络学习过程中的类型,降低计算和网络层级,提升整体的工作性能和识别的准确率。基于此设计了基于智能图像识别与边缘计算相结合的视频监控系统,该系统通过实际应用测试可以极大的减少存储和计算空间,识别正确率高,具有极大的推广和应用价值。