针对自动驾驶智能模型的攻击与防御

近年来,以深度学习算法为代表的人工智能技术为人类生产生活的方方面面带来了巨大的革新,尤其是在自动驾驶领域,部署着自动驾驶系统的智能汽车已经走进入们的生活,成为了重要的生产力工具.然而,自动驾驶系统中的人工智能模型面临着潜在的安全隐患和风险,这给人民群众生命财产安全带来了严重威胁.本文通过回顾自动驾驶智能模型攻击和防御的相关研究工作,揭示自动驾驶系统在物理世界下面临的安全风险并归纳总结了相应的防御对策.具体来说,本文首先介绍了包含攻击面、攻击能力和攻击目标的自动驾驶系统安全风险模型.其次,面向自动驾驶系统的三个关键功能层——传感器层、感知层和决策层,本文依据受攻击的智能模型和攻击手段归纳、分析了对应的攻击方法以及防御对策,并探讨了现有方法的局限性.最后,本文讨论和展望了自动驾驶智能模型攻击与防御技术面临的难题与挑战,并指出了未来潜在的研究方向和发展趋势.

基于P2DER模型的网络安全主动协同防护系统框架

针对网络安全防护问题,以P2DR模型为参考提出一种主动安全防御模型P2DER,将网络安全态势评估及威胁评估作为整个安全防御周期中一个关键环节。在该模型的基础上,给出系统的安全组件协同控制框架、主动协同控制策略制定方法以及系统部署情况。该系统以理论模型为依据,具有较强的可实施性和操作性。

人工智能系统安全与隐私风险

人类正在经历着由深度学习技术推动的人工智能浪潮,它为人类生产和生活带来了巨大的技术革新.在某些特定领域中,人工智能已经表现出达到甚至超越人类的工作能力.然而,以往的机器学习理论大多没有考虑开放甚至对抗的系统运行环境,人工智能系统的安全和隐私问题正逐渐暴露出来.通过回顾人工智能系统安全方面的相关研究工作,揭示人工智能系统中潜藏的安全与隐私风险.首先介绍了包含攻击面、攻击能力和攻击目标的安全威胁模型.从人工智能系统的4个关键环节——数据输入(传感器)、数据预处理、机器学习模型和输出,分析了相应的安全隐私风险及对策.讨论了未来在人工智能系统安全研究方面的发展趋势.

基于排序学习的网络舆情演化趋势评估方法研究

社交网络中的舆情事件关乎社会的和谐与稳定,分析事件的演化趋势并进行管控能够有效降低恶性舆情事件的影响.但是,高效的舆情管控却面临标注数据少、管控资源有限的难题,采用人机混合增强技术,充分利用少量标注样本中的专家知识,是建立舆情演化态势评估模型的可行思路之一.据此,提出一种基于排序学习的舆情事件演化趋势重要性评估算法,在模型训练过程中,充分利用标注数据中的专家知识以及有标签数据和无标签数据的关联关系,筛选重要舆情事件进行管控,提升管控资源利用效能.首先,结合舆情管控经验和需求,从“人”“事”“势”等三要素出发,构建易获取、可量化、有含义的舆情事件演化态势评估指标体系;其次,基于图卷积神经网络构建舆情演化趋势评估模型,利用局部敏感Hash算法挖掘数据的空间结构信息,并利用图卷积求取数据及其邻域的混合特征;最后,针对有标签数据和无标签数据设计相应的损失函数,实现标注数据中专家知识和无标注数据中空间结构信息的综合利用.在公开数据集MQ2007-semi和MQ2008-semi上验证了算法的有效性,在自主构建的舆情数据集上验证了算法的实用性和泛化性.实验结果表明,所提算法可以根据少量的专家知识或标注数据,实现网络舆情事件演化态势的评估,为资源有限条件下的舆情事件管控提供决策支撑.

基于信息推理的网络新闻在线评论情绪分类

网络评论数据的情绪倾向性信息对于企业商业智能系统、政府舆情分析等诸多领域有着广阔的应用空间和发展前景。该文基于语言类比超空间(HAL空间),利用信息推理方法,给出了一种短语级别的评论数据情绪倾向分类模型。该模型首先从评论文本中抽取符合预定义模式的短语,然后运用基于HAL空间的概念组合算法,将短语组合为概念C,最后使用信息推理算法,对概念C按情绪分类。实验表明,与SVM算法和Term-Count算法相比,该文的模型对于网络在线新闻评论数据分类效果较好。

基于Cyber-net与学习算法的变电站网络威胁风险评估

现有网络安全风险研究仍然存在基础概率不准确和严重性模型缺失等问题。文中首先基于变电站电力监控系统框架提出"边界-本体防护"模型来描述系统入侵威胁,根据历史数据的机器学习结果完善基础入侵概率模型,基于广义随机佩式网和电力监控系统的网络安全拓扑得到特定状态转移图Cyber-net。然后,根据系统的运行结果和马尔可夫链稳态概率量化电力系统信息安全和工程安全的相关关系,提出网络安全综合风险评估模型,并通过暂态故障计算提高了风险模型的准确性。最后,通过算例仿真和灵敏性分析验证了模型的有效性和适用性,总结出了可行防御策略和潜在应用场景。

基于异构信息双向传播的网络视频分类方法

针对以往大多数网络视频分类研究只将文本和视觉特征进行简单融合的问题,提出了基于异构信息双向传播的网络视频分类方法。首先基于K均值方法将视频关键帧聚类成多个簇,在帧层次上对视频数据进行建模;将每个簇中代表性关键帧的文本信息传播至该簇作为其文本解释,完成从文本至视觉模态的传播;对每个关键帧,将其对应簇的文本解释传播至该关键帧,完成从视觉至文本模态的传播;最后基于支持向量机(SVM)对网络视频进行分类。在信息的双重传播中两类异构数据得到了密切的融合。实验结果表明该方法有效地提高了网络视频分类的准确率。

考虑传输安全裕度的电力系统发电经济调度

对于考虑不确定性风电等新能源接入的电力系统调度,合理的潮流分布对降低线路过载风险、提高经济调度的鲁棒性具有重要意义。为此,提出传输安全裕度和备用可用性的概念,并建立考虑传输安全裕度的经济调度模型,通过引入合理的成本约束,保证运行成本与传统调度时相比不会显著增加。从传输安全裕度、备用可用性、安全裕度与运行成本的关系3个方面进行数值测试,验证方法的有效性。结果表明,该方法可提高传统调度中阻塞或重载线路的安全裕度,有效避免因线路传输容量限制而导致的备用不足问题,从而提高调度计划应对不确定性扰动的能力,因此该模型可获得安全性和经济性更好的平衡。

基于可穿戴设备感知的智能家居能源优化

智能家居能源优化作为智能电网在居民侧的延伸是智能家居领域的重要分支.智能家居能源优化的目标是通过优化调度家居用电设备,满足用户的舒适需求和降低用电费用.其中,用户舒适度与人的行为密切相关,具有很强的主观性和不确定性,对用户行为及舒适度需求的分析是智能家居能源管理系统中的难点.因此提出了一种基于可穿戴设备传感数据分析的智能家居能源优化方法,主要包括:基于可穿戴设备传感器数据实时分析用户行为;利用神经网络建立用户行为到舒适度需求的映射,更新用户的舒适度需求;建立家居系统动态模型,并基于智能家居环境传感器数据对模型参数进行动态估计;提出基于模型预测控制(model predictive control,MPC)的智能家居能源优化求解方法.同时开发了智能家居能源优化的原型系统,通过搭建的智能家居实验平台,设计了4种典型用户行为情景,验证了所提方法对智能家居经济性和舒适性的提升.

基于风电消纳能力评估的安全约束经济调度方法

由于风电出力的高不确定性,大规模风电并网改变了现有的电源结构,使电力系统的安全稳定运行面临巨大挑战。准确评估次日各时段风电消纳能力对于合理制定日前调度计划具有重要意义。基于场景分析方法建立了单个风电接入点的含风电日前经济调度模型,提出了综合考虑负荷需求、备用需求、机组参数以及线路传输容量的电网风电消纳能力评估方法。通过求解混合整数线性规划模型得到综合考虑鲁棒性和经济性的评估结果,可为制定调度计划提供依据。基于IEEE 24节点系统的算例测试验证了所提方法的有效性。

适用于新型电力系统调度和规划的数学模型框架及碳排放指标分析

目前我国全社会总碳排放量中约35%~40%来自电力系统,因此,构建新能源高渗透率的新型电力系统,降低电力生产中的碳排放,是实现“2030碳达峰、2060碳中和”目标的必然选择。在双碳战略目标下的新型电力系统建设过程中,有两个问题尤为重要:第一,新型电力系统恰当的数学模型框架是什么样的?这是解决新型电力系统规划、运行调度、分析计算等问题的基础;第二,怎样准确评估新型电力系统碳减排潜力和在此基础上怎样准确识别系统中制约碳减排的瓶颈因素?文中从新型电力系统规划及运行调度角度对以上两个问题进行分析。首先,我们从新型电力系统源、网、荷、储4个方面对比总结了现有的各组成要素模型,对应当采用的系统框架提出了建议;接着,在新型电力系统数学模型框架基础上,提出了理想碳排放量、各因素对碳排放的灵敏度指标定义及其应用方法,这些指标将有助于为新型电力系统建设提供参考。

面向机器学习模型安全的测试与修复

近年来,以机器学习算法为代表的人工智能技术在计算机视觉、自然语言处理、语音识别等领域取得了广泛的应用,各式各样的机器学习模型为人们的生活带来了巨大的便利.机器学习模型的工作流程可以分为三个阶段.首先,模型接收人工收集或算法生成的原始数据作为输入,并通过预处理算法(如数据增强和特征提取)对数据进行预处理.随后,模型定义神经元或层的架构,并通过运算符(例如卷积和池)构建计算图.最后,模型调用机器学习框架的函数功能实现计算图并执行计算,根据模型神经元的权重计算输入数据的预测结果.在这个过程中,模型中单个神经元输出的轻微波动可能会导致完全不同的模型输出,从而带来巨大的安全风险.然而,由于对机器学习模型的固有脆弱性及其黑箱特征行为的理解不足,研究人员很难提前识别或定位这些潜在的安全风险,这为个人生命财产安全乃至国家安全带来了诸多风险和隐患.研究机器学习模型安全的相关测试与修复方法,对深刻理解模型内部风险与脆弱性、全面保障机器学习系统安全性以及促进人工智能技术的广泛应用有着重要意义.本文从不同安全测试属性出发,详细介绍了现有的机器学习模型安全测试和修复技术,总结和分析了现有研究中的不足,探讨针对机器学习模型安全的测试与修复的技术进展和未来挑战,为模型的安全应用提供了指导和参考.本文首先介绍了机器学习模型的结构组成和主要安全测试属性,随后从机器学习模型的三个组成部分即数据、算法和实现,六种模型安全相关测试属性即正确性、鲁棒性、公平性、效率、可解释性和隐私性,分析、归纳和总结了相关的测试与修复方法及技术,并探讨了现有方法的局限.最后本文讨论和展望了机器学习模型安全的测试与修复方法的主要技术挑战和发展趋势.

虚假数字人脸内容生成与检测技术

近年来,以深度学习算法为代表的人工智能技术在安防视频监控、个人隐私保护、自动驾驶等领域广泛应用.尤其在人脸识别等领域,深度学习方法显示出超越人类感知及辨别的能力,为人类的日常生活带来了诸多便利.然而,利用人工智能生成、对抗、伪造等技术产生的虚假数字人脸给个人隐私安全、社会安全乃至国家安全等方面带来了诸多风险和挑战.本文通过回顾虚假数字人脸内容生成与检测的相关研究工作,揭示其对国民、国家安全造成的潜在威胁.具体来说,本文首先介绍虚假数字人脸内容的攻击对象及攻击类型,从两种攻击对象—人工智能系统及人类感知系统,两大攻击类型—人脸对抗样本及人脸深度篡改,归纳、分析相应的生成、攻击及检测、防御技术.最后,本文讨论和展望虚假数字人脸内容生成与检测技术未来的研究方向和发展趋势.

基于宽容训练和隐私保护的快速监控视频检索模型

监控视频关键帧检索和属性查找在交通、安防、教育等领域具有众多应用场景,应用深度学习模型处理海量视频数据在一定程度上缓解了人力消耗,但是存在隐私泄露、计算资源消耗大、时间长等特点.基于上述场景,提出了一个面向大规模监控视频的安全、快速的视频检索模型.具体地,根据云端算力大、监控摄像头算力规模小的特点,在云端部署重量级模型,并使用所提出的宽容训练策略对其进行定制化知识蒸馏,将蒸馏后的轻量级模型部署在监控摄像头内,同时使用局部加密算法对图像敏感部分进行加密,结合云端TEE技术和用户授权机制,在极低资源消耗的情况下实现隐私保护.通过合理控制蒸馏策略的“容忍度”,能够较好地平衡摄像头视频输入阶段和云端检索阶段的耗时,在保证极高准确率的前提下,保证极低的检索时延.相比于传统检索方法,该模型具有安全高效、可伸缩、低延时的特点.实验结果显示,在多个公开数据集上,该模型相比于传统检索方法提供9×-133×的加速.

基于车辆行驶行为特性建模的电动汽车充放电策略与分析

为分析电动汽车充放电对区域配电网的影响,减小充电负荷对电网的负面冲击,对离家时间、到家时间、每日行程个数和单个行程距离4个关键要素进行建模,建立了车辆行驶行为特性模型。基于行驶行为特性,通过两阶段优化模型,对电动汽车充放电代理商(aggregator)建立了考虑电池充放电寿命损耗的"最小费用?最小波动"(minimum-costleast-fluctuation,MCLF)的充放电策略。该方法的目标是在满足用户需求的基础上,减少充放电代理商的运营费用,并将充放电负荷波动降到最低。仿真实验结果验证了该方法的有效性,并且表明:当电池成本降至现阶段的1/4,放电电价提高到0.6元/kW?h,电动汽车参与对电网放电才会有显著的经济收益;谷电价时长为8 h可以有效减小电动汽车充电对电网造成的冲击。

分时电价下的高耗能企业发用电响应

高耗能企业通常是所在地区的用电大户,具备一定量可调度负荷,许多高耗能企业还建设有自备电厂。针对分时电价下高耗能企业发用电响应问题,讨论了各时段之间的价格关系对高耗能企业发用电响应行为的影响,进而建立了高耗能企业自发电调度和负荷转移一体化调度模型。针对案例企业情况,讨论了不同价格信号下企业的发用电决策,并讨论了能够促使企业将用电向谷时转移并在峰时多发电的电价信号。研究表明,电网在制定基于价格的需求响应机制时如果充分考虑企业的自发电成本、负荷转移成本等信息,电网可以通过价格手段引导高耗能企业的发用电决策,从而实现电网和企业的双赢。

基于天气分类的风电场群总体出力特性分析

分析风电场群总体出力特性有助于缓解大规模风电接入后的系统调峰压力,提高风电接纳水平。研究了在不同天气类型下,风电场群总体出力的特性规律。基于气象再分析数据,利用主成分分析和层次聚类法,对影响风电场群地理区域的天气类型进行分类,识别出若干种典型的天气类型。然后结合实际风电出力数据,对不同天气类型下的风电总体出力的波动性和平滑效应进行分析,揭示了天气类型与总体出力特性之间的内在联系。以蒙西电网6个风电场为研究对象,分类得到影响上述风电场的8种典型的天气系统,并对这8种天气类型下风电场群总体出力的特性进行研究。最后基于IEEE 24节点系统分析了在不同天气类型下,风电场群总体出力接入后对系统调峰能力的影响,并根据分析结果对电网调度提出了建议。

基于鲁棒优化的含风电工业微电网经济调度模型

风电是广泛使用的清洁可再生新能源,将风电引入工业微电网中,对其节能减排有着重要意义。以含风电的工业微电网为研究对象,基于鲁棒优化方法,以发用电成本最低为目标,以生产计划与火电机组出力计划为决策量,建立了含风电工业微电网自发电经济调度双层模型,并利用Benders分解算法对其进行求解。文中还应用某工业微电网数值算例进行测试,结果表明模型能有效平抑负荷波动,降低微电网发用电成本;验证了该鲁棒优化模型在最差情况下优于确定性模型,并且可根据需求改变不确定代价权衡保守性与最优性。

基于因子隐马尔可夫模型的负荷分解方法及灵敏度分析

负荷分解是智能电网的关键技术,对负荷预测、需求侧管理及电网安全有重要意义。传统负荷分解方法的准确率受限于负荷特征的维度、采样频率和负荷的稳定性。文中提出了基于因子隐马尔可夫模型的负荷分解方法,利用该模型对负荷进行建模,对Viterbi算法进行了扩展并求解负荷状态,进而基于整数规划实现对总负荷的最优分配。该方法对负荷数据的稳定性和采样频率不敏感,可适用于家居和工业电力用户。同时,深入研究了Viterbi算法求解最优状态与观测扰动之间的影响关系,并进一步得到最优状态对于当前观测的允许扰动范围,这对负荷分解最优状态的可靠性评估有重要意义。

基于大气动力模型的多风电场出力场景生成方法

具有时空相关性的多风电场未来出力的场景,在大规模风电接入下的日前、日内滚动经济调度问题中有着重要的应用。文章基于物理机理的解析模型提出一种生成多风电场未来时段出力场景的方法。该方法以大气运动方程和风速降尺度方程为基础,建立了描述风电场群高空大气与地表风运动关系的随机动态系统。结合地面实时量测风速信息,采用扩展卡尔曼滤波算法对系统状态进行估计,并对各风电场未来风速的联合概率分布进行预测。再利用蒙特卡洛仿真、风电功率曲线和场景约简技术生成具有时空相关性的各风电场未来时段的出力场景。算例中以美国密苏里州四个风电场为例进行仿真测试,并将该方法与高斯连接函数法进行对比和评价,验证了所提方法的有效性。