人工智能武器的法律问题探究——以“致命性自主武器系统”为例

未来战争将是智能化战争,在此背景下致命性自主武器系统(Lethal Autonomous Weapon Systems,LAWS)应运而生。它将机器学习、算法与武器结合,具备完全自主的打击、防御、根据战场作出决策的能力。国际社会尚未对LAWS的定义达成共识,但可以想象的是,随着技术的发展,LAWS将可以代替人类士兵完成一系列作战任务。不仅能够排除环境影响因素,减少作战人员伤亡,还可以改变军费结构,大大降低人力物力的损耗。与此同时也带来了违反人道、法律责任归属模糊等诸多问题。目前的军控条约不能有效限制人工智能武器的发展,我们应重新审视这一新武器的出现,重视对人工智能武器的法律审查。各国专家、学者应加强交流,呼吁国际间成立专门监管机构或多边机构负责对人工智能军事应用的管理。

人工智能武器在战时状态下的合法性研究

随着科技的不断发展,人工智能的普及方便了人们的日常生活。然而,军事武器方面的人工智能使用却令人担忧,也就是所谓的人工智能武器。该等武器的出现原本旨在减少武装冲突中的人员伤亡,但是,人们渐渐希望该等武器可以完全取代人在战场上的功能,发明出一劳永逸的不需要进行人工控制的机器人,也就是全自主武器。本文对人工智能武器的定义与类型进行了讨论,并深入分析了该等武器对现行国际法体系的冲击,特别是与国际人道法各项基本原则的冲突,包括区分性原则、适当性原则和军事必要性原则,最后针对上述问题与冲突提出适当的解决方案,以规制人工智能武器未来的发展。

人工智能武器犯罪类型界分与风险控制

随着人工智能技术不断发展,武器系统已成为人工智能研发应用新领域。当前人工智能武器的发展路径呈现二元化趋势:“武器+AI”与“AI+武器”。从大数据算法到深度学习,多类型化的人工智能武器犯罪问题也使“科技改变战争”这句话有了另一面向的隐喻。以人工智能武器“主动性”为标准,划定人工智能武器犯罪类型是应对安全风险的核心问题。从挑战国际法规则、改变战争核心逻辑、异化交战权属性等方面,研判人工智能武器犯罪风险,是事关时代的理论演进。基于安全价值认知,面向源头治理,从立法规制、技术标准、监护制度等预防性、综合性策略入手,积极构建针对已然和未然犯罪的防范体系,渐进形成人与人工智能在“行为控制”与“决策能力”上的和谐关系。

人工智能武器对《新武器、作战手段和方法法律审查指南》的桃战和推动

国际人道法中规定,战斗员选择作战手段和方法的权利不是无限的。《新武器、作战手段和方法法律审査指南》(以下简称《审查指南》)是红十字国际委员会(ICRC)出台的作为《第一附加议定书》第36条的具体实施措施,旨在协助各国建立或改进有关程序,判断新武器、作战手段和方法的合法性。

论致命性人工智能武器对国际人道法原则的挑战及规制路径

各国和国际组织对致命性人工智能武器提出了不同的概念,导致了致命性人工智能武器的概念内涵仍未达成统一意见。各国对致命性人工智能武器的定义差异越来越大,增加了专家组讨论的难度。中国在《常规武器公约》缔约国会议上提议致命性人工智能武器概念的可行路径,经过探讨致命性人工智能武器的特征以明确致命性人工智能武器定义。此外,致命性人工智能武器能否遵守国际人道法存在争议,以区分原则、比例原则的基本要素着手审视致命性人工智能武器的合法性,透彻分析致命性人工智能武器对国际人道法造成的挑战。为了更好监管致命性人工智能武器,必要的人机交互原则可以预防致命性人工智能武器因脱离人的控制而造成滥杀滥伤。

人工智能武器对国际人道法的新挑战

人工智能武器在国际法上仍然属于新生事物,"智能"或者"自主性"是其区别于传统武器的本质属性,从这个意义上,任何一种在"关键功能"上具备自主性的武器系统,也就是说能够在没有人类参与的情况下选择和攻击目标的武器或者武器系统都可以被称为人工智能武器。从国际人道法的角度来看,人工智能武器主要带来了两个方面的挑战:一是武器系统选择和攻击目标能否尊重国际人道法规则?二是如果武器系统的使用明显违反国际人道法,能否归责于个人或国家,并追究他们的责任?为了确保国际人道法得到遵守,各国一方面应当建立对新武器的国内法律审查机制,另一方面应当推动起草和制定有关人工智能武器的国际条约。

人工智能和网络武器的发展

人工智能的研究大概与互联网发展是同期的,时间大约在上个世纪50年代。得益于网络空间发展聚集的数据、计算能力和信息通讯技术在商业、社会和军事领域的广泛适用,近年来人工智能迅速发展。人工智能在自然语言翻译方面已经取得了较大的进展,笔者也利用谷歌翻译软件翻译了发言提纲,但是提纲并不能直接使用。人工智能并不能替代人类的本职工作,通过对人工智能的直观使用,对于理解和研究其概念和发展具有一定的参考意义。首先,从网络武器发展经验来看。

人工智能:国际社会对机器人的接受度分析

国际社会中很多人对于机器人是存有忧虑的,实际上并非如此,相反地,机器人更多地会提升世界伦理维度。在很多影视作品中,对机器人的描述往往耸人听闻,完全与具体的产业实践不一样。从哲学的角度来看,对于哲学和人工智能之间的区别不仅需要对哲学的基本概念加以澄清,也需要对人工智能本身进行澄清。人工智能的核心在于智能这一核心概念。比如,个体存在各种各样的忧虑或者是对于万事万物的不充分了解,从另一个角度来看,也可以理解为个体不存在任何的智慧。

论电磁发射开启电磁武器时代

本文认为武器的本实质是能量变换器;从能量科学发展进步的角度首次揭示出"电磁武器"概念及其科学体系;并指出电磁武器体系的最后形成是电磁发射研发的结果;科学地定义并给出电磁武器的种类及其所包涵的内容;还依据分析了第四代武器是电磁武器的必然性;以及总结提出"电磁武器"的现实意义和历史价值。

智能战争时代,谁来开火?

科幻电影《终结者》中,原本作为军方作战网络的'天网'在强人工智能推动下逐渐具备了自我意识,因而演变成未来世界机器人的领袖,带领着掌握'开火权'的机器人肆意残害人类。场景虽然科幻,但也表现出人们对于智能化战争时代,对拥有高度智能的无人作战系统的深切担忧。人与武器的关系是军事领域亘古不变的重要话题。随着被誉为'人类智慧最后堡垒'的围棋领域被人工智能攻破。

自动杀人机器福兮祸兮?

一个大雪纷飞的日子,在爱沙尼亚与俄罗斯的交界,两国士兵在边界例行巡逻。双方皆配备履带机器人,这种机器人配有自动枪械和光学系统,还可分辨外来的威胁,例如人类或是交通工具。当双方士兵与机器人在凹凸不平的地面慢慢交会时,一名爱沙尼亚士兵不慎跌倒时误发射了他的突击步枪。俄罗斯机器人记录到枪声后将此举解释为攻击行动,随即决定进行适当回应。不到一秒钟,爱沙尼亚和俄罗斯的机器人在算法的命令下,将武器转向人类目标然后发射。