算法解释制度的体系化构建

算法解释在算法治理中举足轻重。算法解释承载着权益保障、社会交往和风险治理三重意义,其在技术层面上的障碍正在逐渐被突破,可以通过多种技术机制实现。在算法治理活动中,应根据常规场景、关键场景和争议场景分别限定选择解释的路径选择和技术方案,通过冻结机制、抽样机制和镜像机制固定算法解释,并使之接受外部的验证与审查,确保算法解释真实、有效。算法解释的系列机制应被进一步构建为体系化的算法解释制度,在这一制度框架内,对解释路径与精度、解释时限、解释瑕疵责任等要素的合理配置,可以实现社会效益与规制负担的精细平衡。

数字金融的算法风险及其法律规制

算法与金融的深度融合是金融产业数字化转型的关键驱动力,但同时也引发了算法歧视、算法权力、算法共谋、算法趋同等一系列新型风险。这些风险具有隐蔽性、系统性和根源多样性的特征,导致传统金融法制在法律主体、调整对象、算法权利、算法责任等方面表现出局限性。究其根源,在于算法黑箱削弱了金融消费者和监管者的风险识别和防范能力,并导致算法责任追究困难。因此,对数字金融算法风险的法律规制应以算法黑箱为切入点,以促进算法发展和防范算法风险统筹为目标,以算法透明性为基本原则,确保透明是合理的、有意义的且具有层次差异。在法律主体方面,应加强监管部门的专业性和协调机制,引入多方主体协同共治;在调整对象方面,应对算法本体和参与主体进行双维规制;在算法权利方面,应加强金融消费者数据保护与算法规制的衔接;在算法责任方面,应构建以算法设计与应用监管并重的双层监管结构,以确保数字金融算法安全可信的实现。

人工智能时代的算法黑箱与信任重建

信任是人机互动和人际互动的基石。然而,由于算法黑箱的不透明性和不可解释性,人工智能系统及其服务在赋权和便利一部分人的同时,算法滥用、算法误用和算法垄断也在侵蚀、排斥和边缘化另外一部分人的利益。就此而言,算法即重构、程序即政治,在智能化环境中,信任被破坏和侵蚀不仅存在于人机互动之间,人与人之间的传统信任关系也因在线匿名和算法驱动而陷入衰退。正是考虑到人工智能带来的种种社会信任挑战,以算法规制为核心的人工智能治理首先应着眼于以人为本构建可信赖人工智能生态体系,并基于技术秉性和道德法律框架重建人机信任关系和人际信任关系。

智媒时代互联网广告的算法“黑箱”与治理路径探析

随着互联网技术的更新迭代,人工智能、算法等技术逐渐嵌入日常随处可见的广告中,也因其“黑箱”问题给广告治理带来权力滥用、技术异化、隐私窥视等难题。算法“黑箱”的封闭性、歧视性和风险性等特征使算法在应用中直接影响互联网广告的制度。破解这些难题的路径在于:规制算法权力、改革算法生态、设立数据收集壁垒、推进“黑箱”透明。

基于改进蚁群算法的对抗样本生成模型

传统的文本生成对抗方法主要采用位置置换、字符替换等方式,耗费时间较长且效果较差。针对以上问题,该文提出一种基于改进蚁群算法的对抗样本生成模型IGAS(Improved ant colony algorithm to Generate Adversarial Sample),利用蚁群算法的特点生成对抗样本,并利用类形字进行优化。首先,构建城市节点群,利用样本中的词构建城市节点群;然后对原始输入样本,利用改进的蚁群算法生成对抗样本;再针对生成结果,通过构建的中日类形字典进行字符替换,生成最终的对抗样本;最后在黑盒模式下进行对抗样本攻击实验。实验在情感分类、对话摘要生成、因果关系抽取等多种领域验证了该方法的有效性。

“避男标签”:小红书女性用户的算法抵抗研究

互联网平台的发展使算法日益成为一种新型社会权力,影响着人们在数字社会的行为决策,也激发了人们对算法的警惕和抵抗。本文聚焦小红书平台的“避男标签”现象,探究小红书女性用户如何基于算法想象,使用特定的话题标签开展算法抵抗。研究发现,女性使用“避男标签”是为躲避网络社区的男性凝视和网络骚扰,在具体实践中主要通过多元化标签内容以实现多维度的算法抵抗。但“避男标签”的效果并不稳定,需要及时调整,开展动态的算法博弈。总体来看,女性通过创造性使用平台功能开展算法抵抗,是为了寻求性别平等、包容友好的网络空间。而解决问题的关键不仅仅在于个体的能动抵抗,还要积极推动网络空间治理。

大数据证据质证形式化的问题检视与制度矫正

随着大数据证据的司法运用逐渐增多,其质证阶段的证据偏在现象严重、质证流程不够规范、专业技术论证缺失等形式化问题凸显,原因在于控辩能力的差异性、质证规则的局限性及算法运行的黑箱性。基于此,应从强化控方义务、保障辩方权利、改善裁判规则等方面优化主体权责结构;从更新专家辅助人制度、细化非法证据排除规则、明晰交叉询问规则等方面完善庭审质证规则;从推进算法有限公开、加强算法可理解性、增设数据访问权利等方面克服算法黑箱流弊,以矫正大数据证据质证制度。

医疗人工智能中的算法黑箱及其核心伦理问题

医疗人工智能中的算法黑箱在机器的实践中造成了突出的伦理问题与风险,算法黑箱这一概念的本质是人类对人机关系失控的形象化描述,医疗人工智能算法黑箱的核心伦理问题在于人机关系的失控。关于问题的解决,本文在反思以透明化为代表的技术叠加方案的基础上,提出解决问题的核心策略必须立足于机器所面向的医疗实践,超越技术视域的局限性,寻求有意义的控制,使机器的实践回归医疗人工智能技术发展的根本目标,更好地满足现实医疗需求和促进人类健康福祉。

金融强国目标下数字金融平台算法黑箱的系统治理机制

在金融强国目标与人工智能技术的驱动下,数字金融平台快速兴起并将算法技术深度应用于传统金融行业。数字金融平台是数字金融与平台经济的融合产物,其通过输出技术或提供场景与金融机构开展合作活动,具有天然的技术偏好与金融属性,有效促进金融产品与服务的数字化与普惠性。然而,任何事物都具有双面性,不是非此即彼的结果,而是利弊同在的产物。通过采用案例分析方法发现,算法技术深度应用于数字金融平台总是存在着一定的误差或测不准(算法黑箱),具有不同于传统企业的太大不能倒、太多不能倒、太强不能倒的系统性风险特征,并在三方系统(平台端、用户端与监管端)形成了算法黑箱风险:算法黑箱具有平台迷雾风险,阻碍平台端的稳定发展;算法黑箱具有技术遮蔽风险,加剧用户端的风险缺陷;算法黑箱具有监管真空风险,制约监管端的公权治理。因此,为实现金融强国的目标,防范化解数字金融平台算法黑箱的系统性风险,基于三方控制理论与国际算法黑箱风险的系统治理经验,我国应当从三方系统(平台端、用户端、监管端)构建数字金融平台算法黑箱的系统治理机制。

算法产业促进与治理法(建议稿)

算法是人工智能乃至智能化的核心技术,与算力、数据一起被称为智能时代或数字经济的“三驾马车”。算法在促进经济社会发展的同时,也产生了算法黑箱、算法歧视、“大数据杀熟”、算法合谋垄断、算法奴役、“信息茧房”等新型社会问题。我国关于算法的立法规定散见于《电子商务法》《个人信息保护法》《反垄断法》等法律法规和部门规章之中,缺乏系统性和协调性,且对诸多问题未作规定。我国宜对算法产业促进与安全监管等进行专门立法,立法的主要内容包括总则、算法产业促进、算法安全监管、算法企业的权利与义务、算法救济、法律责任、附则等。本建议稿以算法安全与发展的平衡协调为基本理念,着眼于算法产业生态建设和系统治理,建立算法安全事前、事中、事后相结合的一体化监管体系,按照算法的应用场景、安全风险、社会影响等因素建立算法分类分级管理制度;确立监管沙盒、算法安全检测评估与认证、算法审计、算法公平性验证、算法追溯、算法终结、算法问责、算法救济、算法合规等安全保障机制,实时分析算法技术与应用的安全风险并动态采取预警和处置措施;针对算法黑箱等具体问题采用可信解释等解决方案,确保算法决策的科学性、合理性、可靠性;在规范算法研发与应用活动的同时引入产业政策扶持、容错免责及技术局限免责等鼓励创新的措施,推进算法在经济社会领域的深度融合与应用,以保护公民、法人和非法人组织的合法权益,维护国家安全和社会公共利益,探索并推动科学立法以维护算法公平与正义。

数字金融算法黑箱的法律风险检视与应对

数字金融作为现代金融体系的重要支柱,以其数字化、智能化、普惠化的特征优势,带动金融行业创新发展。算法作为数字金融的核心驱动力,在提升效率、优化决策等方面展现了巨大潜力,却因不透明性、难解释性和责任模糊性等特性成为影响金融市场稳定的一个风险源。本文深入分析数字金融算法黑箱的法律责任构成要件,考察其认定困难、监管滞后及伦理困境等法律风险,借鉴国际经验,提出多维度应对策略:立法明确责任主体,规范责任边界和承担方式;构建数字金融算法全链条规制体系,提升算法透明度与可解释性;筑牢金融算法监管防线,优化全流程监管机制;倡导算法伦理规范,做到技术创新与风险防控并重,推动数字金融持续健康发展。

算法解释权:赋权争议、适用逻辑与适用机制

自动化决策算法在商业领域的应用日渐广泛,算法治理成为法学研究的热点。在算法治理探索的路径上,算法解释权的引入具有重要意义。我国《个人信息保护法》第24条第3款规定了具有中国特色的算法解释权,但在权利构造上依旧模糊。因此需要围绕算法解释权的构成要件展开分析,从主体、时间和内容三个方面着重讨论算法解释权的适用机制,有助于为算法解释权适用提供充分的理论依据和具体的操作指引。

基于主动声源搜寻的AUV引导方法研究

自主水下机器人(Autonomous Underwater Vehicle,AUV)可以在更深的海域中进行大范围的搜寻,加快深海搜救进度。为了解决AUV在复杂海洋环境下搜索过程中的问题,提高AUV在深海大范围搜寻主动声源过程中的搜寻效率,提出一种基于AUV的主动声源搜寻方法。将AUV搜寻主动声源的过程分为:疑似海域的大范围多目标搜索规划和实时引导搜寻2个阶段。本文主要研究在实时引导搜寻阶段采用基于改进差分进化算法进行动态引导规划,同时考虑引导中避免进入声源声影区导致声源信号丢失的影响,提高AUV声源搜寻效率。通过仿真结果,本文方法与传统的蝗虫优化算法以及粒子群算法对比,规划路径收敛速度更快,路径长度更短,满足AUV在深海大范围搜寻主动声源的搜寻任务效率需求。

从风险控制到风险规制:量化基金公司算法黑箱的规制进路

在风险社会背景下,传统工业社会向现代算法社会迈进。在算法的深度应用下,各种量化基金公司迅猛发展,一定程度上促进了传统基金产品的运行效率与投资效果,但因为算法的不可知性、遮蔽性等因素,量化基金公司同样产生算法黑箱问题。传统规制体系在算法黑箱的规制范式上存在不足:在规制目标上,现有规制过于强调风险控制;在规制主体上,现有规制缺乏有效的沟通协调机制;在规制手段上,现有规制未形成综合的规制手段。通过采用风险规制理论,能够有效因应当前金融风险防范的目标、对象、手段的规制问题。为化解量化基金公司算法黑箱带来的问题挑战,我国有必要从风险控制向风险规制转向,从风险规制目标、主体与手段层面切入,全面构建量化基金公司算法黑箱的规制进路。

Generative AI生成司法决策的可靠性困境及其应对

在人工智能时代,Generative AI能否取代人类裁判者已经成为了一个热门话题。但该技术直接生成司法决策却在可靠性方面存在困境。根据信息不对称理论,Generative AI的算法原理和数据库具有黑箱属性,可以通过不对称的信息对人类形成不对称的权力,最终将真实数据导出为不可靠的虚假信息。在技术依赖的前提下,人类自我意识的逐渐封闭将进一步放大Generative AI信息不对称的优势,最终形成司法决策不可靠的困境。为了破解上述困境,需要从人机之间信息对称的视角出发,勘定Generative AI介入司法决策活动的边界,合理界定Generative AI和裁判者之间的功能定位和职能范围,严格审查Generative AI的输入和输出内容。

人工智能司法裁判的困境与进路

人工智能在司法裁判领域的应用,无论是实践层面还是政策规定层面,皆已引发广泛关注。在司法裁判的立案、庭前、庭审、裁决以及执行等环节,人工智能均发挥了积极作用。我国相关政策对人工智能在司法裁判中的应用给予了积极鼓励。然而,值得注意的是,当前人工智能技术的司法应用仍面临诸多挑战,如“算法黑箱”、算法偏见、缺乏有效监督以及责任承担机制等问题尚未得到妥善解决。因此,有必要明确人工智能在司法裁判中的角色定位,并通过制定相关规范文件,促使人工智能在司法裁判中发挥更大作用。

司法大数据证据运用中律师有效辩护的困境及其化解路径

随着大数据时代的到来,大数据证据在侦破犯罪等方面的独特优势,令其应用已然成为刑事司法实践中无法回避的环节。同时,大数据证据的运用也使得律师的有效辩护面临挑战,主要表现为:一方面,大数据证据的应用对律师阅卷权、质证权、取证权等传统权利造成冲击,律师有效辩护的空间和可能性被不断压缩和降低;另一方面,大数据证据算法运作过程的不可知引发了“算法黑箱”“算法歧视”“算法失灵”等问题,加大了律师的有效辩护难度。针对于此,有必要从有效辩护的前提、重点、保障入手,增加控方数据开示义务以保障律师全面而有效阅卷;合理改造律师对大数据证据的质证、取证思路以实现有针对性的有效辩护;赋予控方有限度的算法公开义务以确保律师在知情前提下实现有效辩护。

从失范到规范:生成式人工智能的监管框架革新

生成式人工智能在技术变革下引发的失范性风险,对既有人工智能监管框架提出了挑战。从底层技术机理出发,可知当前生成式人工智能呈现出“基础模型-专业模型-服务应用”的分层业态,分别面临算法监管工具失灵、训练数据侵权风险加剧、各层级间法律定位不明、责任界限划分不清等监管挑战。为此需以分层监管为逻辑内核,对我国既有人工智能监管框架进行革新。在监管方式上应善用提示工程、机器遗忘等科技监管工具;在责任划定上应进行主体拆解与分层回溯,从而规范“基础模型-专业模型-服务应用”的分层监管框架,以期实现有效监管,促进生成式人工智能的高质量发展。

嵌入与治理:主流意识形态话语智能化传播的算法审视

算法推荐作为人工智能技术领域的重要形态,已成为日渐影响主流意识形态话语传播效度的新型场域。当算法嵌入主流意识形态话语传播领域,以个性化算法推荐技术驱动话语传播主体全员互动化、话语传播内容全息展露化、话语传播方式全觉沉浸化、话语传播空间全域覆盖化。但算法推荐诱发话语权力越位,导致“算法驱动”解构话语传播主体的引导作用、“算法黑箱”引发话语传播内容的边缘化、“算法鸦片”削弱话语传播方式的效能指数、“算法圈层”阻隔话语传播空间的拓展范围。为实现主流意识形态话语传播从“追逐算法”转向“驾驭算法”,要通过主体掌控算法、价值引领算法、技术规制算法、制度监管算法等治理手段,有序建构主流意识形态话语智能化传播图景。

基于遗传算法的建筑热阻容模型辨识及室内温度预测

为了准确预测建筑物室内温度,采用集总参数法构建了建筑热阻容(RC)模型,并推导出了相应的微分方程组,使用遗传算法对模型进行了辨识。RC模型测试集温度平均绝对误差为0.14℃,R^(2)为0.99。比较了RC模型与2种黑箱模型对室内温度的预测结果,RC模型预测结果更准确。讨论了灰箱模型和黑箱模型的适用条件,建议根据需求和数据情况并考虑模型的复杂度、预测精度、解释性等因素,选择合适的建模方法。