面向边缘部署场景的轻量神经网络修复算法

随着深度学习技术的不断进步,神经网络在各领域得到广泛应用,特别是在边缘计算环境中,例如智能交通和新型电网等典型场景.然而,神经网络的可靠性问题限制了其在真实世界的广泛应用.在复杂的边缘环境中,预训练模型往往因未涵盖所有可能的边缘情况而性能下降.因此,针对部署中的神经网络进行高效修复成为一个关键的研究课题.传统修复方法通常涉及整个模型的重新训练,这在边缘场景中具有诸多局限性.首先,不同地理区域的设备可能面临独特的自然噪声,使得统一模型难以适应所有环境.其次,深度神经网络的大规模参数使得其训练和部署时资源消耗巨大,且更新期间的服务中断将降低系统的可用性.为解决这些问题,本文提出了一种轻量级的补丁式神经网络修复算法.该算法通过引入个性化的补丁来增强神经网络对不同边缘环境中自然噪声和边角案例的鲁棒性.具体的,在故障定位阶段,类比于程序插桩中通过注入代码以检测、改进和分析软件行为,本文提出了神经网络插桩技术.通过将模型探针插桩进神经网络,观测其内部运行情况,实现了对错误样本的故障定位.在故障修复时,通过插入无监督搜索得到的神经网络补丁来纠正原始神经网络的输出.此外,本文提出了故障预测模块以提前预测潜在的错误输出,从而仅在必要时激活补丁.在基于2个数据集、15种噪声以及4个神经网络模型的实验中,与现有修复算法相比,本文方法在修复性能上取得了 6.64%至20.00%的提升.同时,本文方法所需的训练样本量减少了超过90%,而所需更新的参数量最高减少了 91.94%.这种有效且轻量的特性为解决边缘计算环境中神经网络的可靠性问题提供了有效途径.

深度神经网络修复策略综述

随着智能信息时代的发展,深度神经网络在人类社会众多领域中的应用,尤其是在自动驾驶、军事国防等安全攸关系统中的部署,引起了学术界和工业界对神经网络模型可能表现出的错误行为的担忧.虽然神经网络验证和神经网络测试可以提供关于错误行为的定性或者定量结论,但这种事后分析并不能防止错误行为的发生,如何修复表现出错误行为的预训练神经网络模型依然是极具挑战性的问题.为此,深度神经网络修复这一领域应运而生,旨在消除有缺陷的神经网络产生的错误预测,使得神经网络满足特定的规约性质.目前为止,典型的神经网络修复范式有3种:重训练、无错误定位的微调和包含错误定位的微调.介绍深度神经网络的发展和神经网络修复的必要性;厘清相近概念;明确神经网络修复的挑战;详尽地调研目前已有的神经网络修复策略,并对内在联系与区别进行分析和比较;调研整理神经网络修复策略常用的评价指标和基准测试;展望未来神经网络修复领域研究中需要重点关注的可行方向.

基于指针神经网络的细粒度缺陷定位

软件缺陷定位是指找出与软件失效相关的程序元素.当前的缺陷定位技术仅能产生函数级或语句级的定位结果.这种粗粒度的定位结果会影响人工调试程序和软件缺陷自动修复的效率和效果.专注于细粒度地识别导致软件缺陷的具体代码令牌,为代码令牌建立抽象语法树路径,提出基于指针神经网络的细粒度缺陷定位模型来预测出具体的缺陷代码令牌和修复该令牌的具体操作行为.开源项目中的大量缺陷补丁数据集包含大量可供训练的数据,且基于抽象语法树构建的路径可以有效捕获程序结构信息.实验结果表明所训练出的模型能够准确预测缺陷代码令牌并显著优于基于统计的与基于机器学习的基线方法.另外,为了验证细粒度的缺陷定位结果可以贡献于缺陷自动修复,基于细粒度的缺陷定位结果设计两种程序修复流程,即代码补全工具去预测正确令牌的方法和启发式规则寻找合适代码修复元素的方法,结果表明两种方法都能有效解决软件缺陷自动修复中的过拟合问题.

基于加权组合算法的点云孔洞修补

为了对无人机航测数据中的点云孔洞进行修补,将最小二乘支持向量机算法LS-SVM和遗传算法GA优化的反向传播神经网络算法BP进行线性组合,构建一种加权组合模型,用于散乱点云数据中的孔洞修补。通过两种修补方法的误差进行两者的加权组合,建立出与两种修补方法误差相关的加权组合模型,并将加权组合模型的修补结果与单一使用最小二乘支持向量机、遗传算法优化的BP神经网络两种修补方法的修补结果进行残差和内外符合精度的比较与分析。结果表明:采用加权组合模型得到的点云修补结果内外符合精度较高,且具有更强的稳定性,为无人机获取的点云数据提供了一种有效的孔洞修补方法。

不同输入变量对光伏功率异常数据修复的影响分析

光伏电站及分布式光伏设备输出功率数据记录因量测设备异常、通信故障、信号干扰等因素会出现异常,影响电网决策。因此,本文提出基于遗传算法优化初值的反向传播神经网络,利用GA-BP神经网络进行异常数据修复,建立线性内插法数据修复模型作为对照组,研究了以数值气象记录(辐照强度、气温、相对湿度、风速及风向)、天气类型、邻近相似电站功率等参数的不同组合作为神经网络的输入变量对修复效果的影响。实例分析表明,采用全部的输入变量可取得较好的修复效果。

基于图像数据的缺失活动日志修复CNN方法

由于异常值和缺失值的扰动影响,业务流程系统可能会产生低质量的事件日志。针对缺失活动的日志修复问题,现有日志修复研究主要从缺失活动的重构方面进行展开,很少有从预测缺失活动角度进行修复工作。鉴于此,提出一种结合迹行为特征的卷积神经网络模型,用来修复迹中的缺失活动。其核心思想是按照时间属性和活动属性两个维度,根据活动之间的行为关系,将业务流程的事件日志转换为空间数据,继而转化为图像矩阵,并通过卷积神经网络模型训练来预测缺失活动。所提方法从事件日志的角度出发,不依赖于任何有关生成事件日志的业务流程模型先验知识,最后利用真实和人工生成事件日志将所提方法与已有研究进行对比分析,实验结果表明所提方法在活动修复精确度上优于已有研究结果。

基于深度学习的高速铁路工务设备巡检修数字化应用

高速铁路工务设备是铁路运输的基础,其使用状态直接关系到运输的安全性。为提升工务段巡检员和管理层的巡检效率和决策的准确性,解决巡检预警状态缺乏直观性、周期天数设置不合理以及春秋季专项检查缺乏电子化等问题,本文研究了两项关键技术,以构建数字化技术体系。首先利用深度学习建立了基于卷积神经网络的病害自动识别模型,并通过对几个高速铁路沿线车间的数据进行采集与验证分析,证明该模型在巡检员上传病害影像后,能够自动识别病害。训练精度高达97%,验证精度达到76%。其次,本文基于大数据技术,结合卷积神经网络和长短期神经网络建立设备状态判断模型,并构建出巡检周期预测算法。通过分析两个高速铁路工务段的数据,结果显示,设备状态识别模型能够通过捕捉巡检记录中的关键信息,准确判断设备运行状态,预测巡检次数的平均相对误差为14.3%,精度为85.7%。最后,通过高速铁路工务设备巡检修数字化实现案例,充分证明了两项应用的设计与融合方案能够为高速铁路工务设备的巡检修作业提供充分的技术支持,并能为实时而高效的检修决策提供全面可靠的数据依据。

一种LM-BP加速搜索的周跳探测与修复方法

针对传统三频周跳探测与修复方法中的不敏感、漏检以及效率较低等问题,提出一种基于莱文伯格-马夸特(LM)-反向传播(BP)神经网络加速搜索法的伪距相位组合与电离层残差组合联合周跳探测与修复方法:利用2个伪距相位组合以减少不敏感周跳数量,利用1个电离层残差组合以提高小周跳探测敏感度;在构成3个线性无关的组合观测值后,使用LM-BP加速搜索算法进行周跳探测与修复。实验结果表明,相对常规的伪距相位组合与电离层残差组合联合方法,该方法能够提高周跳探测与修复性能,可探测小至1个的周跳,探测与修复整体时效有较大提升。

基于BP神经网络与BOLL通道的结构监测数据识别修复

通过BOLL通道法巧妙地引入第三方数据,与原始数据互相验证分析,以此构建上下轨线,求取偏离值得到改进型BOLL通道法进行相关的非均匀温度场异常温度识别过滤,再结合IDW算法验证对非均匀温度场缺失温度数据的补全效果,并且基于BP神经网络模型提出两种应力修复方法,对应力监测数据进行修复,然后对修复效果进行研究,验证方法的实用价值.研究结果表明:改进型BOLL通道法在处理非均匀温度场方面具有独特的区域自适应性,在去除异常温度数据的同时较好保留了非均匀温度场研究的突变温度细节;IDW算法综合考虑了测点温度的非均匀性,对于温度场缺失温度数据的补全具有较好效果;同时基于BP神经网络构建温度相关性、多测点相关性的应力修复方法,对非均匀温度场监测中的应力数据进行修复,其结果具有相当的可靠度.

基于同位替换的深度程序生成模型测试及修复方法

程序的编写是软件开发中的主要活动.提高程序编写的效率一直是软件工程研究关注的重要问题.基于深度学习的程序生成是提高程序编写效率的重要途径.该类方法借鉴了自然语言处理中的基于深度神经网络的机器翻译方法,试图将输入的自然语言描述自动转换为对应程序.然而,现有程序生成方法的生成效果很难让人满意.在这类方法中,对输入自然语言描述的微小改动可能使得输出的代码发生巨大改变.这种变化会给开发者带来理解上的困难.为了解决这个问题,本文提出了一种感知上下文语境的测试和修复算法(COTE).COTE将变异和蜕变测试相结合以实现程序生成系统中相应问题的自动测试并在测试的基础上实现自动修复.本文在常用程序生成工具CodeGPT上对COTE进行验证.实验结果表明:在COTE的测试下,CodeGPT大约有39%的输入存在问题;同时,COTE可以自动修复其中33%~42%的问题.

基于RCNN的图像修复技术

目前,失真图像在图像获取、转存和传输过程中发生图像信息丢失问题日益严重,然而目前很多基于深度学习的图像修复方法都需要大量的数据集支持才能实现图像修复的高复原度这一指标,严重耗费时间和资源。提出一种新型循环卷积融合神经网络模型来实现图像恢复,将原本的卷积层重构后获得的特征图导入循环模型进行信息获取,并通过U-net网络结构实现重建以得到结果。在失真数据集TID2008和TID2013上的实验结果证明,数据集较少的情况下,修复效果相对于传统方法更佳。

SSA-BP神经网络在无人机点云孔洞修补的应用

为了解决无人机点云数据中的孔洞修补问题,本文提出了基于麻雀搜索算法(SSA)优化BP神经网络的无人机点云孔洞修补方法。首先利用麻雀搜索算法对传统的BP神经网络进行初始权重与阈值的优化,再将麻雀搜索算法优化后的BP神经网络算法(SSA-BP)运用于无人机点云数据中孔洞的修补。为了验证算法的可行性,将SSA-BP神经网络与传统的BP神经网络、最小二乘支持向量机(LSSVM)两组算法进行精度比较。试验结果表明:SSA-BP神经网络算法的修补精度高于另外两组对比算法,且SSA优化后的BP神经网络稳定性更强,在复杂地形孔洞的修补中仍具有较好的修补效果。

基于径向基函数神经网络的模型跟随自修复控制

提出一种基于径向基函数（ＲＢＦ）神经网络的模型跟随非线性自修复控制方法。该方法可不必精确已知故障的位置及程度，即可重构控制律使系统在故障情况下的输出精确跟踪期望参考模型的输出，并采用神经网络控制器以补偿故障引起的非线性因素的影响。仿真验证表明，本文方法可保证闭环系统具有良好的重构性和鲁棒性。

基于RBF神经网络的三角网格曲面孔洞修补

针对由测量数据重建得到的三角网格曲面存在孔洞的问题,提出了一种基于径向基函数(RBF)神经网络的修补方法。该方法首先检测出孔洞,通过对孔洞特征多边形实施三角化获得新增三角片顶点;在孔洞边界周围采集三角片顶点,将其作为样本点集来训练RBF网络;将训练好的RBF网络用于新增三角片顶点坐标的优化,最终实现孔洞的修补。修补实例表明,该算法对流形曲面上封闭孔洞的修补精度较高,修补效果良好。

基于神经网络的复合材料胶接修补参数优化

胶接参数对于胶接修补的效果影响非常明显,但是采用传统的数值计算方法不容易分析得到优化值。针对复合材料层合板胶接修补参数优化,采用改进的BP神经网络建立参数优化预测模型。层合板胶接修补的有限元分析为神经网络预测模型提供训练样本,通过神经网络预测胶接参数对修补效果的影响,并用试验结果验证预测结果的准确性。结果表明所建的模型是准确有效的,最后采用预测模型得到优化的胶接修补参数为:补片的直径为孔径的2.41倍、补片厚度为母板厚度的0.608倍、补片的铺排方式为:(0/90/±45/90)S。

三维面形测量中的基于神经网络的数据修补技术

提出了一种基于神经网络的数据修补方法。在BP算法的基础上 ,利用遗传算法强大的全局搜索能力使网络学习跳出局部极小值 ,从而提高了样本的训练质量和速度。试验结果表明 ;该算法精度高、速度快 ,优于以往文献中提出的数据修补方法 ,在机器视觉、工业检测。

基于生成网络的遥感图像超分辨率的研究

提出了一种基于生成器网络的遥感图像超分辨率方法。该方法对网络的权重随机初始化,无需使用数据集进行预训练。输入待修复的低分辨率图像,通过迭代训练网络,生成网络输出边缘更为清晰的超分辨率图像。对遥感图像上复杂纹理的修复也达到了更清晰的预期效果。实验结果表明,生成网络能在遥感图像超分辨率上达到经过大量数据集训练的卷积神经网络相似甚至更好的表现。

基于RBF神经网络的交通流数据修复研究

完整的传感器数据是交通管理和控制的基础,但由于传感器自身或传输线路故障等原因,常常导致数据缺失,亟需对传感器缺失数据进行修复。鉴于此,以离散和连续缺失的线圈检测器交通流量数据为研究对象,构建基于RBF神经网络的数据修复模型。并将其结果与利用非线性回归模型、BP神经网络模型进行修复的结果相比较。RBF神经网络模型在离散缺失3个数据、连续缺失3个数据和连续缺失5个数据情况下,平均百分比绝对误差分别为0.67%,0.66%和1.33%,修复值和实测值的总体相关性为0.992,修复精度优于非线性回归模型和BP神经网络模型。研究结果表明,RBF神经网络模型与其他方法相比可更精确地进行交通数据修复。

基于类神经网络模型的电路自主修复方法

为进一步提高电子系统在恶劣环境下的生存能力,对利用演化硬件实现电路自主修复的方法进行了研究。首先,根据FPGA芯片与多层前馈神经网络的相似性,建立了一个可用于数字电路演化的门级电路模型,设计了专用的二进制列向量编码方法;然后,给出了实现电路自主修复的工作流程,探讨了进行电路故障诊断和修复的途径,提出了快速重构与演化相结合的电路修复方法。Matlab仿真试验表明：基于类神经网络模型的遗传算法较适合进行演化修复操作;修复效果分析表明：快速重构与演化修复相结合的修复方法比单纯依靠演化修复更为便捷。

基于BP神经网络的舰船修理价格估算研究

舰船装备价格管理是舰船保障的重要环节,建立舰船装备修理价格估算模型具有十分重大的意义;充分考虑舰船修理价格影响因素,利用BP神经网络的非线性处理能力,建立了基于BP神经网络的舰船修理价格估算模型.计算实例表明:应用神经网络估算舰船修理价格具有精度高、客观性和动态性好的特点.