人工智能时代“深度伪造辩护”对刑事诉讼的挑战及其应对

深度伪造辩护是在深度伪造技术及生成式人工智能发展基础之上出现的一种刑事辩护方法。深度伪造辩护的出现,可能消解刑事诉讼中对证据的信任基础,同时可能导致在刑事诉讼中出现“说谎者红利”的情形,甚至可能影响对案件事实的认定。面临人工智能时代“深度伪造辩护”对刑事诉讼的冲击,必须适时对刑事诉讼辩护制度进行改革。在程序法方面,需要由证据真实性审查,转向程序规则之限制;在实体法方面,应增设相关“深度伪造辩护”的罚则;在律师执业纪律规范方面,应将行政性监管罚则进行具体化。

融合空间特征的多尺度深度伪造检测方法

随着深度学习的快速发展,深度伪造技术作为一种基于深度学习生成模型的图像篡改技术迅速兴起。深度伪造视频图像的泛滥给国家和社会安全带来了负面影响,使得深度伪造检测技术的重要性日益凸显。然而,现有基于卷积神经网络(CNN)或ViT的深度伪造检测技术普遍存在模型参数量大、训练速度慢、容易过拟合、应对视频压缩或噪声的鲁棒性差等问题。为此,提出一种融合空间特征的多尺度深度伪造检测方法。首先采用自动白平衡(AWB)算法对输入图像进行对比度调整,以增强模型的鲁棒性;然后利用MViT和CNN分别提取输入图像的多尺度全局和局部特征;接着提出一种改进的稀疏交叉注意力机制,对用MViT提取的全局特征和用CNN提取的局部特征进行融合,提升模型的识别效果;最后针对融合后的特征,通过多层感知机(MLP)进行分类。实验结果表明,该方法在Deepfakes、FaceSwap和Celeb-DF(v2)数据集上的帧水平AUC分别达到0.986、0.984和0.988,且在跨压缩率实验中表现出了较强的鲁棒性,模型改进前后的对比也验证了所提各模块对检测结果的提升作用。

一种基于预训练模型的语音深度伪造算法识别方法

为提高语音深度伪造算法识别模型的准确性和对未知伪造算法识别的泛化性,文章提出一种基于预训练模型的识别方法。基于真伪语音数据集,微调训练HuBERT预训练模型,并基于模型输出的深层嵌入特征构建流形空间,通过度量不同伪造算法下语音数据流形空间的测地线距离进行伪造算法的判定。实验表明,所提方法可以较为有效地实现对已知和未知伪造算法的识别。

基于帧间量化参数强度值检测深度伪造人像视频

深度学习算法的发展为伪造人像视频的创作增添了“助力”,应运而生的深度伪造检测成为学界和业界关注的焦点。基于深度学习的伪造视频检测技术需要耗费大量时间与算力训练分类器,深度学习网络的黑盒性和不可解释性也困扰着深度伪造人像视频取证研究。围绕深度伪造人像视频的真实性取证问题,本文提出一种基于视频帧间量化参数强度值的检测方法,并通过二元Logistic回归方程给出参考阈值。实验结果表明:本文的方法在检测利用DeepFaceLab换脸平台合成的深度伪造人像视频中表现出良好的准确率和鲁棒性。所提方法有助于对可疑人像视频真实性进行判断,为涉案人像视频提供取证依据。

深度伪造音频检测综述

随着生成式人工智能技术的快速普及和发展,社交媒体领域充斥着大量由语音合成、语音转换等技术生成的深度伪造音频。这些高自然度的深度伪造音频为真伪媒体内容分辨带来了巨大挑战。为了解决这一问题,国内外已经组织了多样化深度伪造音频检测挑战赛,以促进音频反欺骗领域的发展。区别于已有综述局限于音频真伪二分类,本文跨越传统二分类,对深度伪造音频检测领域的相关工作做出了全面的总结。即将深度伪造音频检测领域分为三个子领域:全局伪造音频检测、局部伪造音频定位、深度伪造音频溯源,分别对三个子领域现有的数据集领域问题、解决方法进行了梳理和总结。最后,提出了深度伪造音频检测领域可能面临的挑战,对下一阶段的研究进行展望,期望为未来研究人员提供可靠参考。

人工智能深度伪造技术的法律风险防控

作为生成式人工智能的深度伪造技术给社会带来了新的风险与挑战。从类型学上看,深度伪造技术同时引发了基于个体权利谱系的微观法律风险、基于市场经济秩序的中观法律风险和基于国家公共安全的宏观法律风险,并依此形成了多样化和梯次性的法律风险格局。为有效化解风险,各国存在“自下而上型”分散治理模式、“自上而下型”垂直治理模式以及“多方参与型”合作治理模式。我国可通过“软法+硬法+算法”相结合的综合治理模式,实现对前述法律风险的有效防控:在软法层面,完善科技伦理制度,明确科技伦理的实体规范和程序规范;在硬法层面,通过“风险预防”与“风险控制”,强化风险防控的刚性约束;在算法层面,实现从样本数据采集到深度伪造内容发布的全过程技术监督,发挥技术的规范功能。

基于孪生网络的鲁棒性深度伪造检测方法

目前,使用深度伪造技术合成伪造人脸图像的案例非常广泛,深度伪造技术通过对人脸图像进行面部替换或表情更改,从而实现深度伪造的目的。这类深度伪造图像的肆意传播,可能对社会和个人造成许多不良后果。因此,不少学者着手研究深度伪造检测方法。虽然现有的检测方法在高质量图像的检测上能实现非常高的准确率,但是在检测经过图像压缩操作的低质量人脸图像时,其检测精度会大幅下降。研究旨在改进现有深度伪造检测方法鲁棒性不足的问题。为此,提出了一种基于孪生网络的深度伪造检测方法,其思想是使用孪生网络来学习高质量图像和低质量图像之间公共伪造特征,通过牺牲部分高质量图像的特征提取能力,来提高网络对低质量图像的表征能力,从而使网络在不同压缩率伪造图像的检测上都具有较高的准确率。实验结果表明,所提方法在多个不同压缩率数据集上的综合平均准确率达到90%以上,优于多个现有检测方法。通过消融实验证明所提方法简单有效,且适用于不同的主干网络。

涉深度伪造技术案件的打击与治理策略

随着人工智能技术的迅速发展,深度伪造技术逐渐被大众所熟知。当前,在各类案件中,犯罪分子利用深度伪造技术实施犯罪,由于所伪造的音视频具有较高的真实性,加之当前利用该项技术进行犯罪的案例较少,故而使得被害人难以在第一时间有效辨别其真伪,易造成较大损失。本文针对深度伪造技术在各类案件中的滥用情况及对其打击与治理展开研究,阐明深度伪造技术原理及研究现状,对深度伪造技术在案件中的应用场景与犯罪类型进行讨论,针对深度伪造技术在案件中的使用提出技术打击、完善制度建设等策略。

深度伪造人工智能的刑事风险应对

深度伪造技术是被称作“生成式对抗网络”(GAN)的人工智能深度学习人类样本,将个人的外貌、声音等生物识别信息伪造合成虚假内容的人工智能技术。目前我国刑法对于深度伪造技术的规制主要存在两种模式。一是对非法获取、出售、提供个人生物信息的上游犯罪进行风险预防的前置性保护模式,二是对利用深度伪造的虚假信息实施诈骗、诽谤等下游犯罪进行事后评价的后端处置模式。但上述两种规制模式都未对非法利用深度伪造技术的行为进行刑事规范,难以规制“合法获取 + 不法利用”生物识别信息的行为,无法实现刑法的规范保护目的。因此,应当对非法利用深度伪造技术行为进行定性分析,加强对个人生物识别信息的刑法保护,将非法利用行为纳入侵犯公民个人信息罪的行为类型,弥补非法利用深度伪造技术的刑法规制空白。

“三端共治”模式下滥用深度伪造技术的刑法规制

作为一种音视频欺骗技术,深度伪造技术的高度仿真性、操作便捷性、高速进化性以及人身关联性使其与个人信息保护密不可分,且存在极大的异化风险,如导致科技向善理念失守、侵犯公民人身财产权益、引发公众信任危机、妨害司法公正、危害公共安全。由于当前我国刑法对该行为的规制仍存在个人信息保护缺弱、打击非法使用行为疲软等不足,故应当根据深度伪造技术运用的流程构建“三端共治”模式,即前端对个人生物识别信息进行提级保护、中端治理非法使用行为、末端准确认定下游犯罪,从而有效治理滥用深度伪造技术的犯罪行为,引导科技向善。未来还应当基于“三端共治”模式细化相关规定、增强公民的信息素养,并提高深度伪造检测技术,实现技术与法律的综合治理。

深度伪造技术对文检综合领域带来的挑战及应对

随着人工智能技术的发展,通过AI合成伪造内容已成为较成熟的技术点。深度伪造技术可以应用于视频和图像,亦可用于生成伪造的文检材料。目前使用深度伪造技术在文检、指纹、虹膜等综合领域的应用已经出现,但是缺乏相应的检测与防御技术。主要介绍了目前的深度伪造技术与文检技术的现状,列举了几种最新的深度伪造技术在文检综合领域的应用,同时指出了当前深度伪造技术给文检带来的挑战,并给出了初步的检测与防御思路。

基于线索效用理论的用户虚假信息感知与互动行为研究——面向深度伪造信息

[研究目的]作为一种新形式的虚假信息,深度伪造信息有着更难以辨别真假的特点,影响着网络安全空间的发展。该文将从用户感知和行为角度来探索深度伪造类虚假信息的影响和对抗策略。[研究方法]根据线索效用理论,发掘并整合了三个外部线索:分享者信任度、分享者观点、附加提示,并设计了两个组间实验。[研究结论]310个实验样本的数据通过MANCOVA方法进行分析后验证了8个假设,分享者信任度、分享者观点、附加提示都会影响用户对深度伪造信息的感知真实性和互动行为(点赞、评论、转发),这表明用户判断深度伪造信息时会综合效用三个外部线索,同时附加提示的有效性也证明了干预手段在多线索集聚情景下的有效性,为提高用户识别深度伪造信息的能力,减少虚假信息的传播提供了可实践化的参考。

AdfNet:一种基于多样化特征的自适应深度伪造检测网络

视频篡改造成的危害一直在危及人们的生活,这使深度伪造检测技术逐渐得到广泛关注和发展。然而,目前的检测方法由于使用了不灵活的约束条件,无法有效捕获噪声残差;此外,也忽略了纹理和语义特征之间的关联,以及时序特征对检测性能提升的影响。为了解决上述问题,文中提出了一种用于深度伪造检测的、具有多样化特征的自适应网络(AdfNet),它通过提取语义特征、纹理特征和时序特征帮助分类器判断真伪;探索了自适应纹理噪声提取机制(ATNEM),通过未池化的特征映射与基于频域的通道注意力机制,灵活捕获非固定频段的噪声残差;设计了深层语义分析指导策略(DSAGS),通过空间注意力机制突出篡改痕迹,并引导特征提取器关注焦点区域的深层特征;研究了多尺度时序特征处理方法(MTFPM),利用时序注意力机制给不同视频帧分配权重,捕获被篡改视频中时间序列的差异。实验结果表明,所提出的网络在FaceForensics++(FF++)数据集HQ模式中的ACC值为97.41%,相比当前主流网络有较为明显的性能提升;并且在FF++数据集上保持AUC值为99.80%的同时,在CelebDF上AUC值可达到76.41%,具有较强的泛化性。

深度伪造技术应用的公共安全挑战与治理

面向公共安全领域深度伪造技术应用带来的安全问题,分析了相应的风险和挑战,概述了视频、音频、图像、文本各类型伪造应用和伪造检测技术现状,以及相关法律法规、标准规范情况,提出了技术研究、规制管理、宣传教育三个方面的系统性治理措施建议,展望了未来技术发展趋势和安全治理方向。

多模态深度伪造及检测技术综述

随着各种深度学习生成模型在各领域的应用,生成的多媒体文件的真伪越来越难以辨别,深度伪造技术也因此得以诞生和发展.深度伪造技术通过深度学习相关技术能够篡改视频或者图片中的人脸身份信息、表情和肢体动作,以及生成特定人物的虚假语音.自2018年Deepfakes技术在社交网络上掀起换脸热潮开始,大量的深度伪造方法被提出,并展现了其在教育、娱乐等领域的潜在应用.但同时深度伪造技术在社会舆论、司法刑侦等方面产生的负面影响也不容忽视.因此有越来越多的对抗手段被提出用于防止深度伪造被不法分子所应用,如深度伪造的检测和水印.首先,针对不同模态类型的深度伪造技术以及相应的检测技术进行了回顾和总结,并根据研究目的和研究方法对现有的研究进行了分析和归类;其次,总结了近年研究中广泛使用的视频和音频数据集;最后,探讨了该领域未来发展面临的机遇和挑战.

后真相时代深度伪造技术的信任问题与信任重构

在后真相时代,信任被异化,人们很难追究信息的真假,而在碎片化的表象和情绪化的斗争中,依据自身的情感与信念建立一种主观的、非理性的评判。在此背景下,深度伪造技术快速发展,并带来了一系列信任问题,包括行业混乱导致媒体信任度降低、政府组织逐渐陷入塔西佗陷阱、社会诚信体系遭到侵害和腐蚀等。为推进后真相时代深度伪造技术的信任重构,可从建立市场行业的道德共识、塑造行业自律能力,完善社交媒体的监督措施、提高政府的公信力,培育社会公众的信息素养、加强民众鉴别能力,规范技术自身的发展方向、加大协同共治力度等方面,探讨后真相时代深度伪造技术信任重构之对策。

人工智能深度伪造技术对个人名誉权的侵害与法律保护——基于《民法典》的探讨

《民法典》针对名誉权保护领域存在的突出问题作了较为详细的规定:厘清名誉和名誉权的内涵、协调个人名誉保护与公共媒体监督之间的关系、明确文艺创作与名誉权保护的关系、赋予民事主体更正删除权。在现有法律框架内,作为人工智能分支的深度伪造技术对个人名誉权造成侵犯:个人信息泄露,破坏受害人心理屏障;搜集材料困难导致证明个人名誉权损害较难;个人合法权利受侵,行使更正权受限;物质损害补偿难以抚慰受害者。针对上述问题与成因,亟待从《民法典》的角度,加强对个人信息安全保护,继续推进网络实名制;举证责任倒置,减轻举证负担;优化网络侵权规则,设定初步审查义务;采取事后救济,完善民事精神赔偿等,以实现深度伪造技术下《民法典》对个人名誉权的有效保护。

深度伪造技术的传播风险及其治理

社交媒体的流行与网络数字图像的大幅增长推动了图像处理技术的发展,基于生成式对抗网络(GAN)的深度伪造(deepfake)技术在文本生成、面部交互、语音模拟和身体操控方面有着强大功能。然而,深度伪造技术也隐囿着个人权益侵犯、社会生态污染和国家安全威胁等传播风险。在推动深度伪造技术向善的命题中,需要个人、平台、社会与国家等多主体展开不同层次的价值引导实践,通过多方协同参与治理,努力破解“技术利维坦”难题。

基于三维人脸数据增强的深度伪造检测方法

随着深度伪造技术的发展,深度伪造视频的制作及传播变得越来越容易,给社会带来了巨大的安全风险,深度伪造检测算法成为当前网络安全领域的重要方向。聚焦于提出一种泛化性能更好、效率更高、可解释性更强的深度伪造检测算法,主要针对DFDC、FaceForensic++及Celeb-DF三个深度伪造视频数据集进行实验并以这三个数据集集中训练出检测模型,首先使用人脸检测算法MTCNN提取人脸图像,进而将EfficientNet网络与Transformer架构相结合作为检测模型,通过采用三维人脸数据增强、注意力机制以及全局局部融合方法对模型进行训练和测试。模型在未使用型集成、知识蒸馏等方法的基础上,达到了与最优检测效果相当的检测水平。

深度伪造技术对网络空间安全的影响与防范分析

深度伪造技术是一种利用深度学习算法,将一张人脸图像或视频中的面部表情和特征,替换成另一张人脸图像或视频中的面部表情和特征的技术。这项技术可以以低成本的方式制作任何人物的逼真素材,为人们带来娱乐的同时,其背后可用作非法途径的隐患也对网络空间安全造成了威胁。本文首先介绍了深度伪造技术目前的发展现状,简要阐述其技术原理、业界公开数据集以及成熟的换脸软件。其次,就近期深度伪造技术引发的案例,分类讨论了当前形势下深度伪造技术对网络空间安全带来的威胁。接着,从技术角度,详细阐述了深度伪造检测方案的基本范式、技术思想与分类以及优劣。最后,从法律规范、平台互联以及科普教育等社会科学的角度,提出了针对深度伪造攻击的具体防范举措,为未来规范深度伪造内容提供了思路。