人工智能“换脸”风险的法律治理模式

人工智能“换脸”技术被误用和滥用,给个人权益、社会稳定乃至国家安全带来的风险不容小觑。立足本土语境,借鉴国外相关政策与法规,以“换脸”传播的介质与场域——互联网平台为中心,来构建人工智能“换脸”的法律治理模式。从平台责任着手,首先明确互联网平台作为“换脸”的管理主体,平台守好监控、审核关;其次,强化平台的法律责任特别是刑事责任,通过立法给平台施加更多的审查义务;最后,同样立足平台,由政府部门指派的网络安全专员与符合条件的用户、平台管理人员在平台组成仲裁委员会,政府-平台-用户协作建立“换脸”仲裁机制。

视觉机器时代的视觉真相及其反思——以AI换脸视频为例

人工智能图像技术已经愈发成熟,应用于AI眼镜、视频图像处理、旅游业宣传等诸多领域之中,引领人类视觉文化传播的新格局。ZAO App的走红以及全球多起恶意换脸视频事件的发生,揭示了全球人工智能技术大背景下,视觉真相正遭受机器、技术带来的挑战。本文将从用户视觉消费、技术、资本以及人的主体性的角度出发,探讨其对视觉真相造成的多维影响。呼吁唯有技术的推动、价值的坚守和工具理性的结合,才是视觉机器自身的价值所在。

“MAD”多注意力网络伪脸显廓系统

更为高级的人工智能换脸技术——局部人脸替换已经被研发、实现,这种技术能够保持原人脸被识别的同时仅仅替换面部某些部位,依然保证替换者的特征被识别。利用局部人脸替换技术进行身份伪造,会严重威胁社会安全和稳定。多注意力网络伪脸显廓系统采用高分辨率网络与多注意力网络相结合的方式,可以检测出目标人脸是否为虚假人脸以及其换脸区域,保证了虚假人脸的检测准确性、局部换脸检测的实用性,解决了局部换脸的虚假人脸伪造身份问题。方案在已有研究的基础上推陈出新,成本相对较低,一定程度上可用于解决人工智能换脸造成的法律问题,具有很好的可行性、实用性。

应对AI换脸风险的多维认证方法

文章研究设计一种多维认证方法,以解决视频通话中AI%(人工智能)换脸带来的身份认证问题。该方法整合指纹识别、虹膜识别和证件认证,构建一个综合性的身份验证体系,实时、准确验证对方身份。实验结果表明,多维认证方法在准确性、实时性和用户体验方面均具有显著优势,能够有效应对AI%换脸技术带来的身份认证挑战,为金融、医疗、政府和企业安全等多个领域提供安全可靠的身份验证方案。