基于生成对抗网络的目标检测黑盒迁移攻击算法

目标检测被广泛应用到自动驾驶、工业、医疗等各个领域.利用目标检测算法解决不同领域中的关键任务逐渐成为主流.然而基于深度学习的目标检测模型在对抗样本攻击下,模型的鲁棒性存在严重不足,通过加入微小扰动构造的对抗样本很容易使模型预测出错.这极大地限制了目标检测模型在关键安全领域的应用.在实际应用中的模型普遍是黑盒模型,现有的针对目标检测模型的黑盒攻击相关研究不足,存在鲁棒性评测不全面,黑盒攻击成功率较低,攻击消耗资源较高等问题.针对上述问题,提出基于生成对抗网络的目标检测黑盒攻击算法,所提算法利用融合注意力机制的生成网络直接输出对抗扰动,并使用替代模型的损失和所提的类别注意力损失共同优化生成网络参数,可以支持定向攻击和消失攻击两种场景.在Pascal VOC数据集和MS COCO数据集上的实验结果表明,所提方法比目前攻击方法的黑盒迁移攻击成功率更高,并且可以在不同数据集之间进行迁移攻击.

大坝监测数据的时序预测与补全

大坝安全数据的时间序列预测和补全是大坝安全监测中两个常见问题。在实际应用中,应对这两类问题已有相应的经验模型,但由于经验模型过于简单,经验模型在上述两类问题上的效果并不理想。采用机器学习中的决策树模型和神经网络模型,为上述两类问题提供全新的解决方案。基于某水电大坝实测数据,对不同坝段的大坝安全数据进行预测和补全,结果表明本文模型相比于传统经验模型预测与补全精度均显著提高,同时,该模型还可以对模型输出结果进行不确定性分析,增强了结果的可靠性。

深度伪造影像鉴定综述

深度伪造的图像及视频对个人隐私、社会稳定和国家安全构成了严重威胁。对深度伪造的图像和视频进行鉴别和判断并提供鉴定意见,是依法处置此类违法犯罪的前提。文章主要介绍了深度伪造的识别方法、鉴定的相关要求、现有影像鉴定方法、在深伪鉴定领域的不足,并进一步提出了利用传统影像鉴定、影像载体的电子数据鉴定、鲁棒可信的识别模型、多特征融合、源头追溯认证等方法,作为开展深度伪造影像鉴定的参考。

DeepFake技术背后的安全问题:机遇与挑战

人工智能的发展给社会生活带来了巨大的改变.然而,随着这些应用的推广,人工智能的安全问题也日益显露出来.最近,以DeepFake为代表的深度伪造技术,严重威胁着社会安全和公众隐私.首先阐述了DeepFake技术的发展背景和技术原理.然后分析了近年来DeepFake技术在商业、政治、色情和娱乐等方面造成的影响.为了应对这些影响,国内外机构都对与DeepFake相关的技术作出回应,其中,研究机构致力于从技术角度来检测利用DeepFake制作的深伪音视频,维护内容安全.

大模型浪潮下人工智能发展的困境与突破

近年来,随着算力、数据、算法等基础层资源日益丰富,人工智能已成为产业变革的核心驱动力。根据中国信通院估算,2022年我国人工智能核心产业规模已达到5080亿元人民币,人工智能产品形态不断丰富,应用边界不断拓宽,人工智能正在赋能经济社会发展各个领域。