期刊文献+
共找到7篇文章
< 1 >
每页显示 20 50 100
源码处理场景下人工智能系统鲁棒性验证方法 被引量:1
1
作者 杨焱景 毛润丰 +2 位作者 谭睿 沈海峰 荣国平 《软件学报》 EI CSCD 北大核心 2023年第9期4018-4036,共19页
人工智能(artificial intelligence, AI)技术的发展为源码处理场景下AI系统提供了强有力的支撑.相较于自然语言处理,源码在语义空间上具有特殊性,源码处理相关的机器学习任务通常采用抽象语法树、数据依赖图、控制流图等方式获取代码的... 人工智能(artificial intelligence, AI)技术的发展为源码处理场景下AI系统提供了强有力的支撑.相较于自然语言处理,源码在语义空间上具有特殊性,源码处理相关的机器学习任务通常采用抽象语法树、数据依赖图、控制流图等方式获取代码的结构化信息并进行特征抽取.现有研究通过对源码结构的深入分析以及对分类器的灵活应用已经能够在实验场景下获得优秀的结果.然而,对于源码结构更为复杂的真实应用场景,多数源码处理相关的AI系统出现性能滑坡,难以在工业界落地,这引发了从业者对于AI系统鲁棒性的思考.由于基于AI技术开发的系统普遍是数据驱动的黑盒系统,直接衡量该类软件系统的鲁棒性存在困难.随着对抗攻击技术的兴起,在自然语言处理领域已有学者针对不同任务设计对抗攻击来验证模型的鲁棒性并进行大规模的实证研究.为了解决源码处理场景下AI系统在复杂代码场景下的不稳定性问题,提出一种鲁棒性验证方法 (robustness verification by Metropolis-Hastings attack method, RVMHM),首先使用基于抽象语法树的代码预处理工具提取模型的变量池,然后利用MHM源码攻击算法替换变量扰动模型的预测效果.通过干扰数据和模型交互过程,观察攻击前后的鲁棒性验证指标的变化量来衡量AI系统的鲁棒性.以漏洞预测作为基于源码处理的二分类典型场景为例,通过在3个开源项目的数据集上验证12组AI漏洞预测模型鲁棒性说明RVMHM方法针对源码处理场景下AI系统进行鲁棒性验证的有效性. 展开更多
关键词 源码结构化分析 源码对抗攻击 AI系统鲁棒性验证
下载PDF
基于蒙特卡罗方法的控制律鲁棒性验证 被引量:4
2
作者 匡群 黄一敏 《系统仿真学报》 CAS CSCD 北大核心 2008年第S2期351-354,共4页
指出了蒙特卡罗方法在飞行控制系统控制律的鲁棒性验证中的作用。应用蒙特卡罗方法对某型无人机控制律的鲁棒性验证中各参数不确定性项进行建模和仿真,在建模中主要考虑了质量数据库、系统输入量以及气动数据库的不确定性这些随机因素... 指出了蒙特卡罗方法在飞行控制系统控制律的鲁棒性验证中的作用。应用蒙特卡罗方法对某型无人机控制律的鲁棒性验证中各参数不确定性项进行建模和仿真,在建模中主要考虑了质量数据库、系统输入量以及气动数据库的不确定性这些随机因素。这种鲁棒性验证的方法也可应用于一般的飞控系统中,这种方法综合考虑了鲁棒性验证中的各项参数的不确定性组合,更加符合实际问题中的情形,也可以简化鲁棒性验证的操作。 展开更多
关键词 蒙特卡罗方法 飞行控制系统 鲁棒性验证 控制律
下载PDF
基于节点特征对抗性攻击的图对比学习鲁棒性验证
3
作者 邢宇杰 王啸 +2 位作者 石川 黄海 崔鹏 《清华大学学报(自然科学版)》 EI CAS CSCD 北大核心 2024年第1期13-24,共12页
最近的许多工作已经表明图神经网络在面对图结构扰动以及节点特征扰动的对抗攻击时表现出非鲁棒性,其预测结果可能是不可靠的,图对比学习方法中也存在这一问题。然而已有的鲁棒性测度方法通常与攻击算法、数据标签以及下游任务相关,这... 最近的许多工作已经表明图神经网络在面对图结构扰动以及节点特征扰动的对抗攻击时表现出非鲁棒性,其预测结果可能是不可靠的,图对比学习方法中也存在这一问题。然而已有的鲁棒性测度方法通常与攻击算法、数据标签以及下游任务相关,这些在自监督设置下图对比学习的鲁棒性测度中是应当尽量避免的。该文提出了基于节点特征对抗性攻击的图对比学习鲁棒性验证算法,来验证节点特征扰动下的图卷积网络的鲁棒性。考虑到图对比学习模型中正负例对的特性,将图对比学习鲁棒性验证问题定义为对抗样本与目标节点及其负例之间相似度比较的问题,并将该问题形式化建模为一个动态规划问题,从而解决了对攻击算法、数据标签以及下游任务的依赖问题。为了求解该动态规划问题,针对图数据通常采用的二元特征,设计了相应的扰动空间;考虑到图对比学习中负例样本空间过大的挑战,设计了负例样本采样策略来提升求解问题的效率;由于二元离散特征和非线性激活函数使得动态规划问题难于求解,对它们分别采用放松到连续数据域和非线性激活放松的方式,并采用寻找对偶问题的方式进一步提高求解效率。通过充分的实验说明了所提出的图对比学习鲁棒性验证算法的有效性;同时验证了针对特定攻击算法设计的图对比学习模型的鲁棒性不具有可泛化性,面对其他的攻击算法可能表现得更加脆弱;还通过参数实验说明了设计的负例样本采样策略是合理的。 展开更多
关键词 图对比学习 图卷积网络 鲁棒性验证 对抗攻击 对抗训练
原文传递
基于决策边界分析的深度神经网络鲁棒性评估与优先次序验证
4
作者 林韧昊 周清雷 +1 位作者 扈天卿 王一丰 《计算机学报》 EI CAS CSCD 北大核心 2024年第4期862-876,共15页
随着深度学习技术在现实世界的广泛应用,人们对基于深度神经网络的系统安全性提出了更高要求.鲁棒性是神经网络的重要安全性质,对网络鲁棒性的量化分析和验证是深度学习模型安全性研究的关键问题.针对神经网络验证技术中难以解决的效率... 随着深度学习技术在现实世界的广泛应用,人们对基于深度神经网络的系统安全性提出了更高要求.鲁棒性是神经网络的重要安全性质,对网络鲁棒性的量化分析和验证是深度学习模型安全性研究的关键问题.针对神经网络验证技术中难以解决的效率问题,提出了一种新颖的优先次序优化方法.结合局部鲁棒性的规约方式,在一组待验证输入内选择具有更高验证需求的不稳定点代替常规的逐点验证模式.根据对鲁棒性问题与决策边界距离的关联性分析,提出了一种基于网络输出单元值大小的鲁棒性评估方法作为优先验证的输入点选择依据.在此基础上将其扩展为输入的预分析模块与验证工具集成,进而设计了基于优先次序的验证框架.在常用的验证基准上进行了实验,结果表明,该方法的决策边界分析理论与突变测试结果一致,鲁棒性评估中选择不安全样本的平均准确率高于90%,通过减少安全样本的验证开销使验证效率提高了148.6%~432.6%. 展开更多
关键词 深度神经网络 鲁棒性验证 优先次序模式 决策边界 鲁棒性度量指标
下载PDF
K-近邻分类器鲁棒性验证:从约束放松法到随机平滑法
5
作者 王璐 姜远 《中国科学:信息科学》 CSCD 北大核心 2021年第1期27-39,共13页
本文研究K-近邻分类器的鲁棒性验证问题.形式化鲁棒性验证的目标是计算分类器在给定样本点上的最小对抗扰动的精确值或者最小对抗扰动的非平凡下界.我们将计算K-近邻分类器的最小对抗扰动形式化为一组二次规划问题.二次规划问题的数目... 本文研究K-近邻分类器的鲁棒性验证问题.形式化鲁棒性验证的目标是计算分类器在给定样本点上的最小对抗扰动的精确值或者最小对抗扰动的非平凡下界.我们将计算K-近邻分类器的最小对抗扰动形式化为一组二次规划问题.二次规划问题的数目随近邻参数K的增大呈指数级增长,精确求解该组二次规划问题往往不可行.约束放松法通过放松优化的约束项,可以在多项式时间内求解最小对抗扰动的下界.然而,本文通过理论分析和实验发现,当近邻参数K取值较大时,约束放松法求得的下界往往过于宽松,甚至会出现K越大下界越小的反直觉结果.为解决这一问题,本文提出使用随机平滑法对K-近邻分类器进行鲁棒性验证.随机平滑法利用了K-近邻分类器对高斯(Gauss)白噪声鲁棒的特点,获得了较为理想的鲁棒性验证效果.基准数据集上的实验结果表明,相比于最新的鲁棒神经网络,"随机平滑的"K-近邻分类器展现出了更好的验证鲁棒性. 展开更多
关键词 监督学习 对抗机器学习 对抗鲁棒性 鲁棒性验证 K-近邻分类器
原文传递
语音识别在倒谱领域中的验证
6
作者 段波 尹卓华 +1 位作者 许卫 王顺琼 《昆明冶金高等专科学校学报》 CAS 2012年第5期37-40,共4页
为了验证语音识别系统的鲁棒性,对其过程进行监控,设置了一个假想情景:用一个人来模仿别人的讲话,通过混合转换装置,在倒谱领域中,声音转换能够对音频信号进行计算和修改,通过实验得知身份识别系统的鲁棒性是可以实现的。
关键词 语音识别 倒谱领域 交流仿真 混合转换 生物测量验证鲁棒性
下载PDF
Experimental demonstration of concatenated composite pulses robustness to non-static errors 被引量:1
7
作者 Xing-Long Zhen Tao Xin +1 位作者 Fei-Hao Zhang Gui-Lu Long 《Science China(Physics,Mechanics & Astronomy)》 SCIE EI CAS CSCD 2016年第9期46-51,共6页
We examine the robustness of composite pulses to non-static classic noise in the NMR facility. Though these pulses are proposed to eliminate static, systematic errors, they are shown to be robust to time-varying noise... We examine the robustness of composite pulses to non-static classic noise in the NMR facility. Though these pulses are proposed to eliminate static, systematic errors, they are shown to be robust to time-varying noise with high-cut frequency up to near 10% of the Rabi frequency in a recent theoretical work. The CP pulses that are only robust to one kind of error have been implemented in various experiment platforms. In this paper we have compared the performance of reduced CinSK rc pulse, which is designed to cancel both the pulse length error and the off resonance error, to that of the primitive n pulse in a hybrid error environment. In order to achieve this target we have simultaneously injected noise to the RF output wave. The filter function formalism is employed to predict the evolution fidelity decay, which shows great consistency with the experiment data. Our work not only validates the superiority of reduced CinSK pulse but also indicates its sensitivity to the initial states, providing practical guidance in the noise suppression domain. 展开更多
关键词 composite pulse filter function quantum control NMR
原文传递
上一页 1 下一页 到第
使用帮助 返回顶部