生成式伪造语音安全问题与解决方案

生成式人工智能算法的发展使得生成式伪造语音更加自然流畅,人类听力难以分辨真伪.首先分析了生成式伪造语音不当滥用对社会造成的一系列威胁,如电信诈骗更加泛滥、语音应用程序安全性下降、司法鉴定公正性受到影响、综合多领域的伪造信息欺骗社会大众等.然后从技术发展角度,对生成式伪造语音的生成算法和检测算法分别进行总结与分类,阐述算法流程步骤及其中的关键点,并分析了技术应用的挑战点.最后从技术应用、制度规范、公众教育、国际合作4方面阐述了如何预防以及解决生成式伪造语音带来的安全问题.

多模态部分伪造数据集的构建与基准检测

针对现有视频伪造数据集缺少多模态伪造场景与部分伪造场景的问题,构建一个综合使用多种音、视频伪造方法的、伪造比例可调的多模态部分伪造数据集PartialFAVCeleb。所提数据集基于FakeAVCeleb多模态伪造数据集,并通过拼接真伪数据构建,其中伪造数据由FaceSwap、FSGAN(Face Swapping Generative Adversarial Network)、Wav2Lip(Wave to Lip)和SV2TTS(Speaker Verification to Text-To-Speech)这4种方法生成。在拼接过程中,使用概率方法生成伪造片段在时域与模态上的定位,并对边界进行随机化处理以贴合实际伪造场景,并通过素材筛选避免背景跳变现象。最终生成的数据集对于每个伪造比例可产生3970条视频数据。在基准检测中,使用多种音视频特征提取器,并分别进行强、弱监督两种条件下的测试,其中弱监督测试基于层次多示例学习(HMIL)方法实现。测试结果显示,各个测试模型在伪造比例较低数据上的性能表现显著低于在伪造比例较高数据上的性能,且弱监督条件下各模型的性能表现显著低于强监督条件下的表现,这验证了该部分伪造数据集的弱监督检测困难性。以上结果表明,以所提数据集为代表的多模态部分伪造场景有充分的研究价值。

结合深度伪造特征对比的人脸伪造检测

随着AIGC(Artificial Intelligence-Generated Content)技术的不断发展,其伪造技术的多样性对现有检测方法发起巨大的挑战.现有大部分的检测方法是基于各种先进的卷积神经网络提取的人脸伪造特征进行检测,泛化能力不足以解决未知方法伪造的图像鉴伪.因此文中提出结合深度伪造特征对比的人脸伪造检测方法,对未知的伪造技术具有较好的适应能力.方法分为两个阶段:一方面挖掘不同伪造手段的相似特征,提出基于元学习的相似特征融合网络,利用元学习的学习能力获取不同伪造手法之间的相似性特征;另一方面结合具体任务下的独特伪造特征,提出具体任务下的独特性微调方法,提高模型对未知伪造方法的适应能力.在跨伪造手法和跨库测试上实验表明文中方法性能有所提升,在面对未知手段攻击时具有较优的检测能力.

人工智能时代“深度伪造辩护”对刑事诉讼的挑战及其应对

深度伪造辩护是在深度伪造技术及生成式人工智能发展基础之上出现的一种刑事辩护方法。深度伪造辩护的出现,可能消解刑事诉讼中对证据的信任基础,同时可能导致在刑事诉讼中出现“说谎者红利”的情形,甚至可能影响对案件事实的认定。面临人工智能时代“深度伪造辩护”对刑事诉讼的冲击,必须适时对刑事诉讼辩护制度进行改革。在程序法方面,需要由证据真实性审查,转向程序规则之限制;在实体法方面,应增设相关“深度伪造辩护”的罚则;在律师执业纪律规范方面,应将行政性监管罚则进行具体化。

伪影间共性机理驱动的多域感知社交网络深度伪造视频检测

深度伪造技术在社交网络上的滥用引发了人们对视觉内容真实性与可靠性的严重担忧。已有检测算法未充分考虑社交网络上深度伪造视频的退化现象,导致深度伪造检测性能受以压缩为主的伪影信息干扰与上下文相关信息缺失等挑战性问题的限制。压缩编码与深度伪造生成算法上采样操作会在视频上留下伪影,这些伪影可导致真实视频与深度伪造视频间的细粒度差异。该文通过分析压缩伪影与深度伪造伪影的共性机理,揭示了二者间的结构相似性,为深度伪造检测模型抗压缩鲁棒性的增强提供了可靠理论依据。首先,针对压缩噪声对深度伪造特征的干扰,基于压缩伪影与深度伪造伪影频域表示的结构相似性,设计了频域自适应陷波滤波器以消除特定频带上压缩伪影的干扰。其次,为削弱深度伪造检测模型对未知噪声的敏感,设计了基于残差学习的去噪分支。采用基于注意力机制的特征融合方法增强深度伪造判别特征,结合度量学习策略优化网络模型,实现了具有抗压缩鲁棒性的深度伪造检测。理论分析与实验结果表明,与基线方法相比,该文算法在压缩深度伪造视频上的检测性能具有明显提升,并可作为一种即插即用模型与现有检测方法结合以提高其抗压缩鲁棒性。

深度伪造音频检测综述

随着生成式人工智能技术的快速普及和发展,社交媒体领域充斥着大量由语音合成、语音转换等技术生成的深度伪造音频。这些高自然度的深度伪造音频为真伪媒体内容分辨带来了巨大挑战。为了解决这一问题,国内外已经组织了多样化深度伪造音频检测挑战赛,以促进音频反欺骗领域的发展。区别于已有综述局限于音频真伪二分类,本文跨越传统二分类,对深度伪造音频检测领域的相关工作做出了全面的总结。即将深度伪造音频检测领域分为三个子领域:全局伪造音频检测、局部伪造音频定位、深度伪造音频溯源,分别对三个子领域现有的数据集领域问题、解决方法进行了梳理和总结。最后,提出了深度伪造音频检测领域可能面临的挑战,对下一阶段的研究进行展望,期望为未来研究人员提供可靠参考。

深度伪造视频中的信息特征萃取及其关联计算

[研究目的]人工智能的快速发展为深度伪造信息识别研究带来了新的挑战,通过精细萃取深度伪造信息特征和充分挖掘信息特征的关联机制,可以为人工智能生成信息治理提供科学的参考依据。[研究方法]以217条国内外深度伪造案例视频为研究对象,利用程序化编码萃取深度伪造视频的信息特征,运用复杂网络和随机森林算法揭示信息特征的结构关联和影响关联,并构建融合深度伪造信息特征及关联计算的动态理论模型。[研究结论]结果发现深度伪造信息具有预警特征、技术特征、内容特征和参与特征4个聚合维度、12个二阶特征和125个子特征,其中技术特征和预警特征是区别于一般虚假信息的独特特征。预警特征是结构关联网络中的关键节点,与技术特征强关联;参与特征和内容特征结构关联度高;深度伪造告知和技术与深度伪造信息关注度之间存在强烈的关联性。

写字机器人伪造档案的鉴别及防范

利用写字机器人伪造档案是近年来出现的一种新型的档案伪造手段。伪造者借助写字机器人字迹书写、笔迹模仿和图案绘制等功能,在纸上书写字迹或绘制印章图案,从而形成假档案。尽管写字机器人伪造的档案十分逼真,但是仍会在字迹上留下有别于人为书写的机器特征,这些特征可作为鉴别档案是否由写字机器人制作的依据。在科技快速发展的今天,档案工作者要保持对以写字机器人为代表的新型伪造档案手段的关注,通过加强人事档案管理与流程控制、开展跨行业交流等措施应对此类档案伪造风险。

面向AI安全的深度伪造视频检测技术

针对实际应用伪造类型多样化,而检测过程中只检测单一伪造数据类型等问题,提出了一种新的数据预处理方法,解决了视频中运动图像容易连续重叠的问题;针对人脸模糊伪造,侧面人脸伪造和遮挡人脸伪造问题,利用小卷积核代替大卷积核的方法训练出自己的Deeper网络;针对帧插入、帧复制、帧修改、帧内篡改四种常见的深度视频伪造,尤其是在测试领域差距较大的情况下,容易产生泛化性不足的问题,设计了一种改进的基于双流分析的深度伪造视频检测模型。

硅胶伪造指印识别方法研究

研究硅胶伪造指印识别要点,为识别硅胶伪造指印提供依据。分别制作硅胶伪造指纹膜,然后用硅胶仿生指纹膜和同一手指在相同情况下蘸取印泥,在A4纸上垂直按压形成印泥指印,比较硅胶伪造指印与真实指印的特征差异。结果表明,真实指印的单根乳突纹线颜色深浅之间有过渡,有立体感,或者有细微漏白,而硅胶伪造指印没有以上特征;真实指印中汗孔的反映性不稳定,有时也没有反映,而硅胶伪造指印中,汗孔特征一般无法反映;纹线粗细、纹线间隔、空白特征和细节特征等受捺印力度等因素的影响,两者之间没有明显差异。在识别硅胶伪造指印过程中,可以将单根乳突纹线墨迹分布特征和汗孔特征作为识别硅胶伪造指印的主要依据,其他特征可以作为重要参考,应从多方面综合分析需检指印。

深度伪造与公民权利的冲突与平衡

深度伪造主要包括视频深度伪造、音频深度伪造和文本深度伪造等类型。作为一种新技术,深度伪造极易侵犯公民权利,与公民权利存在冲突。面对深度伪造与公民权利之冲突,域外国家和地区大都通过立法加以调整与规制,以实现二者之间的平衡。在深度伪造与公民权利平衡方面,我国相关立法有所涉及,但检视整个立法,存在着诸多问题,难以起到平衡深度伪造与公民权利之冲突的作用。因此,有必要立足我国实际,借鉴、吸收域外国家和地区深度伪造立法的有益经验,不断完善我国规制深度伪造的相关立法。

厦门大学纪荣嵘教授团队在深度伪造检测领域取得新进展

近日,厦门大学信息学院纪荣嵘教授团队在深度伪造检测领域取得新进展,相关研究成果以“Continual Face Forgery Detection via Historical Distribution Preserving”为题发表在International Journal of Computer Vision(IJCV)。近年来,面部伪造技术迅速发展,带来了严重的安全威胁。现有的面部伪造检测方法试图学习具有广泛适应性的特征,但在实际应用中仍然存在不足。此外,在历史训练数据上微调这些方法既耗时又需要大量存储资源。该论文聚焦于一个新颖且具有挑战性的问题:持续性面部伪造检测(Continual Face ForgeryDetection,CFFD),其目标是有效地从新的伪造攻击中学习,而不忘记之前的伪造攻击。

基于增强Swin Transformer的深度伪造人脸检测

针对传统卷积神经网络感受野的大小受限和特征交互学习能力弱,基于卷积神经网络的伪造人脸检测技术提取到的特征相对单一的问题,提出了基于增强Swin Transformer的深度伪造人脸检测方法,引入了局部多头自注意力和全局多头自注意力机制,结合了Swin Transformer的优势,能够有效地捕获图像上下文信息和视频时序关系,具有较强的全局感受野和长距离依赖建模能力。在DFDC数据集的实验结果表明,该方法优于基线方法,具有较好的深度伪造人脸检测能力。

基于孪生网络的鲁棒性深度伪造检测方法

目前,使用深度伪造技术合成伪造人脸图像的案例非常广泛,深度伪造技术通过对人脸图像进行面部替换或表情更改,从而实现深度伪造的目的。这类深度伪造图像的肆意传播,可能对社会和个人造成许多不良后果。因此,不少学者着手研究深度伪造检测方法。虽然现有的检测方法在高质量图像的检测上能实现非常高的准确率,但是在检测经过图像压缩操作的低质量人脸图像时,其检测精度会大幅下降。研究旨在改进现有深度伪造检测方法鲁棒性不足的问题。为此,提出了一种基于孪生网络的深度伪造检测方法,其思想是使用孪生网络来学习高质量图像和低质量图像之间公共伪造特征,通过牺牲部分高质量图像的特征提取能力,来提高网络对低质量图像的表征能力,从而使网络在不同压缩率伪造图像的检测上都具有较高的准确率。实验结果表明,所提方法在多个不同压缩率数据集上的综合平均准确率达到90%以上,优于多个现有检测方法。通过消融实验证明所提方法简单有效,且适用于不同的主干网络。

基于生成对抗网络的深度伪造跨模型防御方法

为了降低深度伪造技术滥用带来的社会风险,提出一种基于生成对抗网络的主动防御深度伪造方法,通过在原始图像上增加微弱扰动制作对抗样本,使多个伪造模型输出产生明显失真。提出模型由对抗样本生成模块和对抗样本优化模块组成。对抗样本生成模块包括生成器和鉴别器,生成器在接收原始图像生成扰动后,通过对抗训练约束扰动的空间分布,降低扰动的视觉感知,提高对抗样本的真实性;对抗样本优化模块由基础对抗水印、深度伪造模型和鉴别器等组成,通过模拟黑盒场景攻击多个深度伪造模型,提高对抗样本的攻击性和迁移性。在常用深度伪造数据集CelebA和LFW上进行训练和测试,实验结果表明,相比现有主动防御方法,提出方法在实现跨模型主动防御的基础上,防御成功率达到85%以上,并且对抗样本生成效率比传统算法提高20~30倍。

融合空间特征的多尺度深度伪造检测方法

随着深度学习的快速发展,深度伪造技术作为一种基于深度学习生成模型的图像篡改技术迅速兴起。深度伪造视频图像的泛滥给国家和社会安全带来了负面影响,使得深度伪造检测技术的重要性日益凸显。然而,现有基于卷积神经网络(CNN)或ViT的深度伪造检测技术普遍存在模型参数量大、训练速度慢、容易过拟合、应对视频压缩或噪声的鲁棒性差等问题。为此,提出一种融合空间特征的多尺度深度伪造检测方法。首先采用自动白平衡(AWB)算法对输入图像进行对比度调整,以增强模型的鲁棒性;然后利用MViT和CNN分别提取输入图像的多尺度全局和局部特征;接着提出一种改进的稀疏交叉注意力机制,对用MViT提取的全局特征和用CNN提取的局部特征进行融合,提升模型的识别效果;最后针对融合后的特征,通过多层感知机(MLP)进行分类。实验结果表明,该方法在Deepfakes、FaceSwap和Celeb-DF(v2)数据集上的帧水平AUC分别达到0.986、0.984和0.988,且在跨压缩率实验中表现出了较强的鲁棒性,模型改进前后的对比也验证了所提各模块对检测结果的提升作用。

人工智能深度伪造技术的法律风险防控

作为生成式人工智能的深度伪造技术给社会带来了新的风险与挑战。从类型学上看,深度伪造技术同时引发了基于个体权利谱系的微观法律风险、基于市场经济秩序的中观法律风险和基于国家公共安全的宏观法律风险,并依此形成了多样化和梯次性的法律风险格局。为有效化解风险,各国存在“自下而上型”分散治理模式、“自上而下型”垂直治理模式以及“多方参与型”合作治理模式。我国可通过“软法+硬法+算法”相结合的综合治理模式,实现对前述法律风险的有效防控:在软法层面,完善科技伦理制度,明确科技伦理的实体规范和程序规范;在硬法层面,通过“风险预防”与“风险控制”,强化风险防控的刚性约束;在算法层面,实现从样本数据采集到深度伪造内容发布的全过程技术监督,发挥技术的规范功能。

集群式深度伪造信息攻击情报感知方法研究

[目的/意义]AIGC背景产物之一的集群式深度伪造信息由于主观恶性及难发现、难识别与难控制特点而易引发剧烈现实危害,其攻击情报感知尤为重要。[方法/过程]以GJK算法为基座设计深度伪造信息识别方案、以曼哈顿距离为依据建立集群式特征分析模型、以画像技术为框架提供情报结构化体系,实现攻击意图判定下的感知方法设计。为检验方法有效性,将其纳入以兵棋推演为支撑、以CMO软件为工具的仿真过程,在环境配置、交互式想定单元给定与应用匹配基础上予以执行。[结果/结论]仿真结果表明,方法设计能够有效实现深度伪造信息识别、集群式特征分析与情报画像提取功能。为使研究发挥更大效益,结合仿真结果探讨情报感知能力建设策略。[创新/局限]创新在于提供一套完整的集群式深度伪造信息攻击情报感知方法;不足在于,内容侧重于方法研究,未对理论问题进行过多论述。

基于帧内-帧间自融合的双流泛化人脸伪造检测方法

现有人脸伪造检测方法往往在已知伪造类型上表现良好,但面对未知数据时检测性能有所下降,模型易受到过拟合的影响,检测泛化性不足。针对此问题,提出一种基于帧内-帧间自融合的双流泛化人脸伪造检测方法,从数据增强和检测器改进2个方面提高检测泛化性。设计帧内-帧间自融合模块,分别利用同帧人脸、帧间人脸进行数据增强:帧内自融合子模块利用同帧人脸生成训练数据,从而避免人脸图像身份信息干扰;帧间自融合子模块利用伪造视频的帧间不一致性,进一步构造多样性丰富、逼真的训练数据集,从而有效防止模型的过拟合,确保检测模型的泛化能力。此外,设计基于通道注意力机制的双流特征融合网络,在网络的浅层提取RGB特征、高频特征并进行融合来挖掘伪造信息,在提升模型性能的同时缓解网络的参数增长。将模型在4个数据集上与9种主流检测方法进行对比实验,结果表明:在跨数据集实验中,所提方法较次优方法AUC均值提高1.52个百分点,EER均值降低1.5个百分点;在跨伪造方法实验中,所提方法在4种伪造方法子数据集上均取得最优或次优效果。实验结果验证了该方法优秀的泛化能力。

一种基于预训练模型的语音深度伪造算法识别方法

为提高语音深度伪造算法识别模型的准确性和对未知伪造算法识别的泛化性,文章提出一种基于预训练模型的识别方法。基于真伪语音数据集,微调训练HuBERT预训练模型,并基于模型输出的深层嵌入特征构建流形空间,通过度量不同伪造算法下语音数据流形空间的测地线距离进行伪造算法的判定。实验表明,所提方法可以较为有效地实现对已知和未知伪造算法的识别。