联合国CCW框架下致命性自主武器系统军控辩争的焦点与趋势

在人工智能革命背景下致命性自主武器系统(LAWS)军控逐渐成为国际热点议题,联合国《特定常规武器公约》(CCW)会谈机制作为其核心平台召开了三次非正式专家会议和三次正式政府专家组会议。技术层面,主要探讨了LAWS的定义和特点,各方基本同意LAWS军控不应当妨碍民用人工智能技术创新,但对目前是否应制定及如何制定LAWS可行定义等问题存在分歧;伦理层面,讨论焦点在于LAWS对于人权和道德的冲击,各方基本认为不应将生死决定权让渡给机器,但对机器是否作为道德主体等问题存在分歧;法律层面,主要关注LAWS对现有国际人道法的冲击,各方基本同意现有国际人道法依旧适用于LAWS管控,但在是否需要除现有国际法之外增加监管机制等问题上存在分歧;军事层面,主要探讨了LAWS扩散风险对战略稳定性的冲击及存在的局限性等问题,各方基本同意研发部署LAWS的责任在于国家和指挥官,但在预防性禁止还是暂时放任,甚至鼓励发展LAWS等问题上存在分歧。展望未来,这一军控机制可能推动制定各方接受的LAWS工作定义,探索将伦理道德嵌入LAWS的可能性与方法,建立LAWS的法律审查机制,拟定暂停部署LAWS的政治宣言或法律文书。由此,中国应继续积极参与CCW框架下LAWS军控探讨,推动管控相关战略风险及伦理法律挑战,以维护自身国家利益和人类安全福祉。

致命性自主武器系统军备控制态势分析

致命性自主武器系统是指不需要人类操作员干涉,能够自主选择目标并进行攻击的一类武器系统,“平台无人、自主运行、致命攻击”是其主要特征。随着人工智能技术的快速发展,完全自主的致命性武器系统日益受到国际社会的关注,并开始成为国际军备控制问题的焦点。本文主要从技术的视角探讨致命性自主武器系统的军备控制问题。首先,介绍致命性自主武器系统的定义、发展动因以及军控问题的由来;其次,针对国际人道法提出的区分原则、比例原则、预防原则,分析当前自主武器系统在自主目标识别、确认和攻击环节存在的技术问题;最后,分析美国、俄罗斯、欧盟等世界主要国家和地区的军控态度,并探讨我国自主武器系统发展的策略建议。

致命性自主武器系统军控——困境、出路和参与策略

致命性自主武器系统对国际安全和人道主义构成重大挑战,日益成为国际社会关注的重要议题。当前,致命性自主武器系统军控仍然面临概念不清、政治障碍、军事诱惑及问责困难等诸多问题,难以实质性推进。基于对致命性自主武器系统概念、原则和机制的分析,国际社会宜从现有国际法和军控体系出发,以联合国《特定常规武器公约》机制为主导,厘清主要概念,遵守明确区分原则、比例原则,健全相关机制,推动致命性自主武器系统军控稳步前行。中国需重视参与和推动这一议题的探讨,提升在致命性自主武器系统军控谈判中的话语权;同时,中国也要树立底线思维,做好致命性自主武器系统军控受挫的相关准备,加快推进中国特色军民融合式人工智能发展进程。

致命性自主武器系统及军控思考

随着新科技革命的发展，人工智能在军事领域的应用日益广泛并催生一系列致命性自主武器，因而对国际人道主义和人权、国际法以及国际军控机制El益构成威胁与挑战。对此，国际社会应多措并举、折冲樽俎，大力推进致命性自主武器系统军控谈判。中国应会同有关各国一道，积极推动联合国多重机构提前多层次、主导性介入谈判过程，明确强调通过友好协商寻求各方都能接受的方案，积极支持成立确保透明、问责和法治原则的多边国际监管体系，稳步推进致命性自主武器系统军控的艰难谈判。

致命性自主武器系统议题下有意义的人类控制原则

《常规武器公约》框架下政府专家组会议对致命性自主武器的讨论,确定了有意义的人类控制原则的中枢地位。有意义的人类控制原则之所以被提出,是因为人工智能带来武器系统自主化的背景下,使用武器人的行为与武器系统攻击存在不一致性,后者并不一定是前者的必然结果。为消除伦理危机,实践中在两个方面阐述有意义的人类控制原则:一方面从军控角度出发,建立自开发至使用全流程监管,以期实现武器攻击反映操作员、指挥官意图的目标;另一方面从国际刑法、国家责任法角度出发,落实人(国家)的责任不得被转移至机器的原则。有意义的人类控制原则在约束国家行为以及追究个人刑事责任、国家责任两个层次发挥作用,对我国法律的完善及未来塑造规制致命性自主武器的国际法规则,均有重要参考意义。

致命性自主武器系统的伦理挑战与风险应对

致命性自主武器系统是无需人类干预,便能自主搜索、识别、决策,并作出致命性打击的武器系统。在经典正义战争理论视域下,致命性自主武器系统对伦理的挑战主要涉及"算法区分"困境,军事需要与附带伤害难题,以及致命决策去人类化导致的责任鸿沟问题。可围绕设计研发、应用监管、责任溯源三方面加强风险应对。为避免致命性自主武器系统的发展超出人类控制,各国应保留"开火权",并积极推动相关法律规约的制定,中国也应积极应对致命性自主武器系统引发的伦理挑战,推动军控进程,努力维护国家安全和世界和平。

自主无人系统的军事应用风险与挑战

自主无人系统是一种能观察、善思考、会决策且具有一定自学习能力的新一代无人系统,可以单独或与其他有人系统或无人系统协同遂行目标搜索、识别、定位、跟踪、干扰、打击、评估等任务。如果自主无人系统携带致命性载荷,并且无须人类干预,则会带来潜在的误杀和滥杀风险。介绍自主能力、自主无人系统、致命性自主武器系统的概念和内涵,分析自动防御武器系统误判事故、大规模杀伤性微型无人机群设想、致命性自主无人机杀人事件等三个典型案例,深入探讨自主无人系统存在的战场目标感知、可解释性、可预测性与可靠性、人机信任、战场道德等5个方面的问题。

人工智能军事化发展态势及其安全影响

当前,全球人工智能军事化发展呈现美国先发领跑、各国竞逐追赶的竞争态势。为维护国家安全利益和谋取军事竞争主动权,各主要国家相继出台军用人工智能战略发展规划,打造海陆空天以及网络空间的多维一体的智能化装备力量,构建覆盖统筹协调、研究开发以及转化推广等方面的专职机构,推动了全球军用人工智能技术及应用的蓬勃发展,不可避免地引发了一系列全球性安全问题。首先,人工智能技术的军备竞赛引发安全困境,各国在发展致命性自主武器系统以及智能化核武器系统等领域面临“两难困境”,军用人工智能系统的“能力-脆弱性”悖论凸显;其次,人工智能技术增加了先发制人攻击的可能性,加剧了危机爆发、升级的风险,冲击了既有的国际军备控制体系,从根本上对全球战略稳定构成严峻挑战;最后,致命性自主武器系统日益取代人类成为战争主体,使战争伦理和战争文化面临深刻危机。面对安全风险和挑战,人工智能领域的军备控制应当从核军控中汲取经验,通过大国间自上而下地构建战略互信和知识精英群体自下而上地塑造共识,共同推进人工智能军事化的安全治理。

新的战争形态下国际人道法适用研究——以比例原则为中心

作为国际人道法的“保底原则”,比例原则集中体现了国际人道法的本质特征,在国际人道法中居于总括和统属诸原则的主导地位。国际社会在应对外空武装冲突、网络武装冲突和致命性自主武器系统对国际人道法带来的挑战时,应以比例原则为中心制定规制准则。第一,在加强外空安全国际立法的同时,根据外空特点对国际人道法作出新的解释、补充新的规则;第二,积极防范网络武装冲突,加强对网络武装冲突的规制研究,由红十字国际委员会对国际人道法规则作出适用网络武装冲突的新解释;第三,禁止研发“完全自主”的智能武器,建立严格的自主武器系统审查制度,在联合国《常规武器公约》机制下达成关于自主武器系统的议定书。