算法可解释性的价值及其法治化路径

随着自主学习算法技术的纵深迭代,自动化决策已广泛嵌入人类社会的决策系统中。然而,由于其专业性和黑箱性,算法决策自动化对人类法律秩序构建的程序正当性及问责机制形成威胁,最终对人性尊严构成根本挑战。算法可解释性是将算法系统纳入社会规范系统约束的关键理念,其实现程度对维护法治秩序和保护被决策主体的权益至关重要。当下实现算法可解释性的主要制度依托包括设置比例化的透明度不同程度地打开黑箱、构筑多方协同审查机制落实责任主体、制度化直观关系保证“人在回路”。这些举措的落脚点在于维护算法技术的内在善。

算法可解释性:一个技术概念的规范研究价值

算法可解释性,是被现有算法规制理论所忽略的技术概念。由于缺乏对这一概念的引入和诠释,算法风险的准确判断与归纳、规制工具的主次位阶性、设置合理的规制效果目标等方面,均存在不同程度的认识偏差。对这一概念的技术视角分析确有必要,算法解释有两大差异较大的技术类型,算法解释的技术能力划定了可解释的最大边界,当前技术条件不一定满足算法规制的需求,原因是解释技术的开发并不是为算法规制专门设计的。这一论断有助于厘清既有的算法规制理论,在算法风险层面,解释技术直接破解的只是算法黑箱问题;在规制工具层面,一切制度工具应考虑解释技术的可行性;在规制目标层面,要结合解释针对的用户、场景和用途设置预期。

基于机器学习可解释性算法的石嘴山矿区煤层气井排采主控因素分析

文章基于宁夏石嘴山矿区3口煤层气直井排采资料,利用机器学习算法分析了排采日报记录的8个变量对日产气量的影响。结果表明:按照对煤层气井日产气量影响强弱排序,10个变量依次为井底流压、套压、液位、冲次、电流、泵效、日产水量、累计产水量、累计产气量和日流压降幅,累计产水量、累计产气量与冲次对煤层气井日产气量存在正效应影响,井底流压和液位对煤层气井日产气量存在负效应影响,其余参数对煤层气井日产气量影响微弱。

算法自动化决策对正当程序原则的挑战与因应——基于行政执法的场景展开

随着人工智能、大数据技术的快速发展,算法自动化决策逐渐应用于行政执法领域。其在行政执法过程中发挥着多重优势,提高了行政执法效率,推动了数字政府的建设,但同时使行政正当程序原则在一定情形下出现“失灵”:算法黑箱使行政公开无法践行、公民的程序性权利被压缩、证据证明力等受到挑战。为应对新型技术对行政正当程序原则的冲击,有关部门应增强算法透明度和可解释性、通过程序机制后移贯彻正当程序原则的要求、通过专业机构的评估与认证提升证据证明力,以此调适新技术的运用与行政正当程序原则的冲突,确保算法自动化决策在行政法治框架下作出。

基于图算法半监督学习的反洗钱模型可解释性研究

讨论异常检测、图算法EnvolveGCN在AML中的运用;利用两大数据集,对基准算法进行试验;特别是图结构数据中半监督学习可利用标签传播等。对策建议使用机器学习金融科技赋能反洗钱工作。

商业自动化决策算法解释权的功能定位与实现路径

商业自动化决策广泛应用,算法的评分影响用户贷款、就业、信誉等诸多权益。算法的自动化决策应具备可解释性,已经成为学术共识并在多国实践中展开。然而,算法解释面临着从技术方案转为法律制度的挑战,以及算法解释对象不清、标准不明、可能造成商业秘密泄露等质疑。自动化决策的算法解释权生产社会信任,救济用户权利,在算法治理体系中扮演着保障私权利的安全网的角色。具体的制度设计而言,自动化决策的算法解释应以用户行为干预为导向,解释的内容包括算法、数据与其他决策理由等多项内容,而非技术源代码。个体启动的算法解释应嵌入平台结构设计中,以具有重大影响、未达到人类参与决策程度的评价类算法为范围,并与个人数据保护制度耦合。本着兼顾效率与公平的原则,应适当限定算法解释权的适用范围,明确算法解释的内容,并以合乎程序标准与实质标准的方式提供。在程序上应由平台先行处理。

从算法“黑箱”走向算法透明:基于“硬法—软法”的二元法治理模式

算法是“程序设计+数学规则”的集合,其“黑箱”特性虽然并非算法风险的唯一原因,但却是规制算法风险必须要解决的问题。强调开放与控制并重的“硬法—软法”范式能够为算法“黑箱”的治理提供一种新的立法框架。基于理论层面,硬法规范的初次外在规制决定了算法“黑箱”治理的裁量边界,软法规范的二次内在规制能够为政府的算法“黑箱”治理行为开放公众参与机制和提供内在参照标准。基于实践层面,欧盟与美国已形成的算法软硬法混合治理格局能够为中国建立算法“黑箱”的“硬法—软法”二元法治理模式提供借鉴。算法“黑箱”治理的软法规范应包括增强算法模型的可解释性和向社会公开算法源代码,同时,宜借鉴“遵守或解释”机制,要求算法开发者/运营者在不遵守软法规范时应作出合理解释说明。算法“黑箱”治理的硬法规范应包括算法权利(最为密切的是算法解释权、算法自动化决策拒绝权),以及借助算法备案、影响评估和合规审计启动算法问责。

论司法场景下构建算法可解释机制的思路与原则

目前,科技与司法的融合正如火如荼,作为智慧法院大厦基石的算法正深度参与司法活动。然而算法辅助决策过程与法官心证过程混同,算法黑箱特性与司法公开冲突,算法决策结果问责机制不明确等问题不容忽视。从司法领域应用需求出发,算法可解释性机制作为一种可能的解决方案被提出,制度构建有赖于总体思路和原则依循的准确、清晰界定。是以,算法可解释机制构建以树立场景化规制理念和形成可信任机制为总体思路,以公开性、辅助性、相对性、层次性为原则依循,构建科学合理的可解释性机制。

基于算法透明度和可解释性优化的算法治理制度构建

随着新一轮算法监管的开展,如何更好地构建算法治理的制度体系成为难题,其中通过优化算法透明度和可解释性进行规制的呼声有所加强。然而实践层面对是否有利用法律规制算法问题的必要性持怀疑态度,同时如何利用算法透明度和可解释性具体实践尚不明晰,因而采取谨慎态度;学理层面则尚未能够理解应用算法透明度和可解释性进行规制应有的目标取向并忽视了必要的限度要求,因而争议不断。目前,算法治理的制度构建多集中于算法本身,缺少面向主体的制度构建,故而实践性、可操作性不强。笔者基于客观技术的局限性以及互联网领域产生的新型权力框架分析,认为当前算法透明度和可解释性的起点在于公开,并围绕公开构建两条内外依托、协同治理的算法优化路径。基于该路径的应用,需要政府加快转变治理理念,平台企业重视算法合规体系建设,个体与集体性组织协同助力合法权益的有效保障。

算法侵害类型化研究与法律应对——以《个人信息保护法》为基点的算法规制扩展构想

算法的普遍应用给个人及社会带来如下类型的侵害:算法标签、算法归化、算法操纵、算法歧视与算法错误。传统部门法分析框架无法对算法侵害进行完全的、有效的规制。GDPR和我国最新通过的《个人信息保护法》提供了源头数据规制与数据赋权制衡的应对方略,不仅规定了数据处理原则、个人数据权利,还专门引入自动决策概念,设置专条进行规制,形成了从部门法到数据法的算法初步规制框架。但我国《个人信息保护法》的个人数据保护和个人赋权制衡的进路过于狭隘,难以对系统性的、多维的算法侵害及算法自动决策进行全面、系统的规制,故有必要对《个人信息保护法》第24条自动决策条款进行扩展,引入人工干预权,进一步丰富数据权利束,并超越个人数据权利思维,从算法侵害风险防御视角出发,进行整体性的、纵向的、动态的算法规制,积极探索算法可解释性、可问责性的解决方案,加强算法责任研究,沟通算法事前规制与事后规制,并形成二者的闭环,以应对算法社会普遍存在的算法侵害风险。