算法解释制度的体系化构建

算法解释在算法治理中举足轻重。算法解释承载着权益保障、社会交往和风险治理三重意义,其在技术层面上的障碍正在逐渐被突破,可以通过多种技术机制实现。在算法治理活动中,应根据常规场景、关键场景和争议场景分别限定选择解释的路径选择和技术方案,通过冻结机制、抽样机制和镜像机制固定算法解释,并使之接受外部的验证与审查,确保算法解释真实、有效。算法解释的系列机制应被进一步构建为体系化的算法解释制度,在这一制度框架内,对解释路径与精度、解释时限、解释瑕疵责任等要素的合理配置,可以实现社会效益与规制负担的精细平衡。

数字金融的算法风险及其法律规制

算法与金融的深度融合是金融产业数字化转型的关键驱动力,但同时也引发了算法歧视、算法权力、算法共谋、算法趋同等一系列新型风险。这些风险具有隐蔽性、系统性和根源多样性的特征,导致传统金融法制在法律主体、调整对象、算法权利、算法责任等方面表现出局限性。究其根源,在于算法黑箱削弱了金融消费者和监管者的风险识别和防范能力,并导致算法责任追究困难。因此,对数字金融算法风险的法律规制应以算法黑箱为切入点,以促进算法发展和防范算法风险统筹为目标,以算法透明性为基本原则,确保透明是合理的、有意义的且具有层次差异。在法律主体方面,应加强监管部门的专业性和协调机制,引入多方主体协同共治;在调整对象方面,应对算法本体和参与主体进行双维规制;在算法权利方面,应加强金融消费者数据保护与算法规制的衔接;在算法责任方面,应构建以算法设计与应用监管并重的双层监管结构,以确保数字金融算法安全可信的实现。

智媒时代互联网广告的算法“黑箱”与治理路径探析

随着互联网技术的更新迭代,人工智能、算法等技术逐渐嵌入日常随处可见的广告中,也因其“黑箱”问题给广告治理带来权力滥用、技术异化、隐私窥视等难题。算法“黑箱”的封闭性、歧视性和风险性等特征使算法在应用中直接影响互联网广告的制度。破解这些难题的路径在于:规制算法权力、改革算法生态、设立数据收集壁垒、推进“黑箱”透明。

人工智能时代的算法黑箱与信任重建

信任是人机互动和人际互动的基石。然而,由于算法黑箱的不透明性和不可解释性,人工智能系统及其服务在赋权和便利一部分人的同时,算法滥用、算法误用和算法垄断也在侵蚀、排斥和边缘化另外一部分人的利益。就此而言,算法即重构、程序即政治,在智能化环境中,信任被破坏和侵蚀不仅存在于人机互动之间,人与人之间的传统信任关系也因在线匿名和算法驱动而陷入衰退。正是考虑到人工智能带来的种种社会信任挑战,以算法规制为核心的人工智能治理首先应着眼于以人为本构建可信赖人工智能生态体系,并基于技术秉性和道德法律框架重建人机信任关系和人际信任关系。

基于改进蚁群算法的对抗样本生成模型

传统的文本生成对抗方法主要采用位置置换、字符替换等方式,耗费时间较长且效果较差。针对以上问题,该文提出一种基于改进蚁群算法的对抗样本生成模型IGAS(Improved ant colony algorithm to Generate Adversarial Sample),利用蚁群算法的特点生成对抗样本,并利用类形字进行优化。首先,构建城市节点群,利用样本中的词构建城市节点群;然后对原始输入样本,利用改进的蚁群算法生成对抗样本;再针对生成结果,通过构建的中日类形字典进行字符替换,生成最终的对抗样本;最后在黑盒模式下进行对抗样本攻击实验。实验在情感分类、对话摘要生成、因果关系抽取等多种领域验证了该方法的有效性。

“避男标签”:小红书女性用户的算法抵抗研究

互联网平台的发展使算法日益成为一种新型社会权力,影响着人们在数字社会的行为决策,也激发了人们对算法的警惕和抵抗。本文聚焦小红书平台的“避男标签”现象,探究小红书女性用户如何基于算法想象,使用特定的话题标签开展算法抵抗。研究发现,女性使用“避男标签”是为躲避网络社区的男性凝视和网络骚扰,在具体实践中主要通过多元化标签内容以实现多维度的算法抵抗。但“避男标签”的效果并不稳定,需要及时调整,开展动态的算法博弈。总体来看,女性通过创造性使用平台功能开展算法抵抗,是为了寻求性别平等、包容友好的网络空间。而解决问题的关键不仅仅在于个体的能动抵抗,还要积极推动网络空间治理。

医疗人工智能中的算法黑箱及其核心伦理问题

医疗人工智能中的算法黑箱在机器的实践中造成了突出的伦理问题与风险,算法黑箱这一概念的本质是人类对人机关系失控的形象化描述,医疗人工智能算法黑箱的核心伦理问题在于人机关系的失控。关于问题的解决,本文在反思以透明化为代表的技术叠加方案的基础上,提出解决问题的核心策略必须立足于机器所面向的医疗实践,超越技术视域的局限性,寻求有意义的控制,使机器的实践回归医疗人工智能技术发展的根本目标,更好地满足现实医疗需求和促进人类健康福祉。

算法产业促进与治理法(建议稿)

算法是人工智能乃至智能化的核心技术,与算力、数据一起被称为智能时代或数字经济的“三驾马车”。算法在促进经济社会发展的同时,也产生了算法黑箱、算法歧视、“大数据杀熟”、算法合谋垄断、算法奴役、“信息茧房”等新型社会问题。我国关于算法的立法规定散见于《电子商务法》《个人信息保护法》《反垄断法》等法律法规和部门规章之中,缺乏系统性和协调性,且对诸多问题未作规定。我国宜对算法产业促进与安全监管等进行专门立法,立法的主要内容包括总则、算法产业促进、算法安全监管、算法企业的权利与义务、算法救济、法律责任、附则等。本建议稿以算法安全与发展的平衡协调为基本理念,着眼于算法产业生态建设和系统治理,建立算法安全事前、事中、事后相结合的一体化监管体系,按照算法的应用场景、安全风险、社会影响等因素建立算法分类分级管理制度;确立监管沙盒、算法安全检测评估与认证、算法审计、算法公平性验证、算法追溯、算法终结、算法问责、算法救济、算法合规等安全保障机制,实时分析算法技术与应用的安全风险并动态采取预警和处置措施;针对算法黑箱等具体问题采用可信解释等解决方案,确保算法决策的科学性、合理性、可靠性;在规范算法研发与应用活动的同时引入产业政策扶持、容错免责及技术局限免责等鼓励创新的措施,推进算法在经济社会领域的深度融合与应用,以保护公民、法人和非法人组织的合法权益,维护国家安全和社会公共利益,探索并推动科学立法以维护算法公平与正义。

金融强国目标下数字金融平台算法黑箱的系统治理机制

在金融强国目标与人工智能技术的驱动下,数字金融平台快速兴起并将算法技术深度应用于传统金融行业。数字金融平台是数字金融与平台经济的融合产物,其通过输出技术或提供场景与金融机构开展合作活动,具有天然的技术偏好与金融属性,有效促进金融产品与服务的数字化与普惠性。然而,任何事物都具有双面性,不是非此即彼的结果,而是利弊同在的产物。通过采用案例分析方法发现,算法技术深度应用于数字金融平台总是存在着一定的误差或测不准(算法黑箱),具有不同于传统企业的太大不能倒、太多不能倒、太强不能倒的系统性风险特征,并在三方系统(平台端、用户端与监管端)形成了算法黑箱风险:算法黑箱具有平台迷雾风险,阻碍平台端的稳定发展;算法黑箱具有技术遮蔽风险,加剧用户端的风险缺陷;算法黑箱具有监管真空风险,制约监管端的公权治理。因此,为实现金融强国的目标,防范化解数字金融平台算法黑箱的系统性风险,基于三方控制理论与国际算法黑箱风险的系统治理经验,我国应当从三方系统(平台端、用户端、监管端)构建数字金融平台算法黑箱的系统治理机制。

算法解释权:赋权争议、适用逻辑与适用机制

自动化决策算法在商业领域的应用日渐广泛,算法治理成为法学研究的热点。在算法治理探索的路径上,算法解释权的引入具有重要意义。我国《个人信息保护法》第24条第3款规定了具有中国特色的算法解释权,但在权利构造上依旧模糊。因此需要围绕算法解释权的构成要件展开分析,从主体、时间和内容三个方面着重讨论算法解释权的适用机制,有助于为算法解释权适用提供充分的理论依据和具体的操作指引。

从风险控制到风险规制:量化基金公司算法黑箱的规制进路

在风险社会背景下,传统工业社会向现代算法社会迈进。在算法的深度应用下,各种量化基金公司迅猛发展,一定程度上促进了传统基金产品的运行效率与投资效果,但因为算法的不可知性、遮蔽性等因素,量化基金公司同样产生算法黑箱问题。传统规制体系在算法黑箱的规制范式上存在不足:在规制目标上,现有规制过于强调风险控制;在规制主体上,现有规制缺乏有效的沟通协调机制;在规制手段上,现有规制未形成综合的规制手段。通过采用风险规制理论,能够有效因应当前金融风险防范的目标、对象、手段的规制问题。为化解量化基金公司算法黑箱带来的问题挑战,我国有必要从风险控制向风险规制转向,从风险规制目标、主体与手段层面切入,全面构建量化基金公司算法黑箱的规制进路。

Generative AI生成司法决策的可靠性困境及其应对

在人工智能时代,Generative AI能否取代人类裁判者已经成为了一个热门话题。但该技术直接生成司法决策却在可靠性方面存在困境。根据信息不对称理论,Generative AI的算法原理和数据库具有黑箱属性,可以通过不对称的信息对人类形成不对称的权力,最终将真实数据导出为不可靠的虚假信息。在技术依赖的前提下,人类自我意识的逐渐封闭将进一步放大Generative AI信息不对称的优势,最终形成司法决策不可靠的困境。为了破解上述困境,需要从人机之间信息对称的视角出发,勘定Generative AI介入司法决策活动的边界,合理界定Generative AI和裁判者之间的功能定位和职能范围,严格审查Generative AI的输入和输出内容。

司法大数据证据运用中律师有效辩护的困境及其化解路径

随着大数据时代的到来,大数据证据在侦破犯罪等方面的独特优势,令其应用已然成为刑事司法实践中无法回避的环节。同时,大数据证据的运用也使得律师的有效辩护面临挑战,主要表现为:一方面,大数据证据的应用对律师阅卷权、质证权、取证权等传统权利造成冲击,律师有效辩护的空间和可能性被不断压缩和降低;另一方面,大数据证据算法运作过程的不可知引发了“算法黑箱”“算法歧视”“算法失灵”等问题,加大了律师的有效辩护难度。针对于此,有必要从有效辩护的前提、重点、保障入手,增加控方数据开示义务以保障律师全面而有效阅卷;合理改造律师对大数据证据的质证、取证思路以实现有针对性的有效辩护;赋予控方有限度的算法公开义务以确保律师在知情前提下实现有效辩护。

从失范到规范:生成式人工智能的监管框架革新

生成式人工智能在技术变革下引发的失范性风险,对既有人工智能监管框架提出了挑战。从底层技术机理出发,可知当前生成式人工智能呈现出“基础模型-专业模型-服务应用”的分层业态,分别面临算法监管工具失灵、训练数据侵权风险加剧、各层级间法律定位不明、责任界限划分不清等监管挑战。为此需以分层监管为逻辑内核,对我国既有人工智能监管框架进行革新。在监管方式上应善用提示工程、机器遗忘等科技监管工具;在责任划定上应进行主体拆解与分层回溯,从而规范“基础模型-专业模型-服务应用”的分层监管框架,以期实现有效监管,促进生成式人工智能的高质量发展。

基于遗传算法的建筑热阻容模型辨识及室内温度预测

为了准确预测建筑物室内温度,采用集总参数法构建了建筑热阻容(RC)模型,并推导出了相应的微分方程组,使用遗传算法对模型进行了辨识。RC模型测试集温度平均绝对误差为0.14℃,R^(2)为0.99。比较了RC模型与2种黑箱模型对室内温度的预测结果,RC模型预测结果更准确。讨论了灰箱模型和黑箱模型的适用条件,建议根据需求和数据情况并考虑模型的复杂度、预测精度、解释性等因素,选择合适的建模方法。

人工智能赋能高校思政课教学的生成、风险及对策

人工智能的飞速发展为高校思政课教学的加速跃升带来了前所未有的机遇。伴随着思政课教学全过程、全场景的数据采集和智能分析,人工智能从智能化教学场景打造、个性化学习资源供给、智慧化学生测评体系建设三个维度充分发挥其优势,促进思政课教学模式创新发展。但是,应系统审视人工智能赋能思政课教学在"场景-资源-测评"三方面存在的技术风险,比如:智能化教学场景的滥用,对大学生数据隐私权的侵犯以及算法黑箱背后的数据依赖。面对这些问题,要加快人工智能在思政课教学中的深度转化,实现智能化教学场景的合理运用、大学生学习数据的合理使用以及透明算法下价值对技术的主导,从而促进人工智能与思政课教学的深度融合,构建人机协同的思政课教学新生态。

破除数字平台企业算法黑箱治理困境:基于算法透明策略扩散研究

自进入数字经济时代,“算法黑箱”特性的负面作用日益凸显,我国为此对数字平台企业提高算法透明度提出了新的政策要求。基于此,本文以我国针对数字平台企业“算法黑箱”的治理政策为蓝本,运用复杂网络演化博弈,建立了数字平台企业优化算法透明度策略扩散模型,并得到以下结论:①政府的监管对数字平台企业是否优化算法透明具有关键作用,但数字平台企业数量规模增大会使政府监管和惩罚作用降低;②消费者监管起到辅助作用,且随着企业数量规模扩大变得更为重要;③优化算法成本以及披露算法的风险均是阻碍数字平台企业优化算法透明度的重要因素,且企业抵御风险能力会随着数量规模扩大而降低。最后,根据结论提出对策建议,为我国数字平台企业“算法黑箱”治理困境的破除提供一定的参考。

论算法黑箱的规制——基于算法解释视角

随着算法社会的到来,算法黑箱引起的私主体权利受损、司法救济危机、算法歧视等问题愈发严重。以专利模式保护算法难以合理打开黑箱,不仅损害所有者商业秘密利益,也无法保障相对人的平等权益。为协调各方利益,需构建算法的事前与事后解释制度,对算法进行全面规制。一方面,有限度地公开源代码并进行审查,从一般意义上促进算法公平正义价值的发挥;另一方面,赋予特定主体救济权,妥善处理公众知情权与个人数据隐私之间的紧张关系。

黑盒遗传算法下异构网络信息安全漏洞深度挖掘

为设计有效测试信息用例,深度、全面挖掘异构网络信息安全漏洞,提出黑盒遗传算法下异构网络信息安全漏洞深度挖掘方法.其核心基于威胁概率计算的异构网络态势感知方法,在分析异构网络环境后,计算目前网络攻击状态与历史攻击状态之间相关性,分析网络威胁概率判断网络态势;针对属于异常态势的网络,基于黑盒遗传算法的漏洞深度挖掘模型,使用驱动Fuzzing测试工具,设计有效测试信息用例,将测试信息用例从异构网络链路层,发送至目标服务器,根据目标服务器所接收数据包中测试信息用例的缺失状态,便可判断信息安全是否存在漏洞.经测试,所提方法在挖掘信息安全漏洞时,所设计的有效测试信息用例的比例明显增大,对多种漏洞信息均可准确挖掘,具备深度、全面挖掘异构网络信息安全漏洞能力.

人工智能的司法裁判运用:价值、困境与对策

随着人工智能技术不断赋能司法裁判领域,司法人工智能提升司法审判效率,缓解“案多人少”矛盾,提高司法裁判质量,实现同案同判目标,规范司法办案流程,减少司法腐败发生的优势逐步显现。但在正视司法人工智能优势的同时也应理性看待其发展现状,要清醒地认识到当前司法人工智能的运用前景仍具有诸多不确定因素,存在着司法数据数量不足、质量不高的数据垄断问题以及司法人工智能算法黑箱的技术难题,面临着与司法公正理念背道而驰的算法歧视问题以及司法人工智能有限理性的价值挑战,遭遇着法官因自由裁量空间受侵蚀、司法责任分配有争议而主体性地位受到挑战以及当事人隐私权、知情权与获得技术支持权难以保障的法治困境,亟待解决。为实现司法人工智能未来的良性发展,首先应当从人工智能“辅助”人类的基本立场出发,厘清司法人工智能适用于简单案件及程序性事项的辅助界限,强调法官司法责任的主体地位,督促法官积极履职并避免司法责任制被架空;其次应完善对人工智能技术的规制,以数据和算法为抓手双管齐下,既要通过增加司法数据数量、丰富司法数据形式、提高司法数据质量、构建司法数据共享平台来实现司法数据质高量足共享的目标,又要保障算法透明度、提高算法精确度、建立算法审查制度以解决算法黑箱以及算法歧视问题;复次应保障当事人的隐私权、知情权以及获得技术支持的权利;最后还应借鉴国外经验并立足我国实际情况,加强对“法律+人工智能”复合型人才的培养力度,为司法人工智能的长远发展打造人才储备军,从而实现人工智能技术与司法裁判的深度融合,进而构建起我国人工智能在司法裁判领域的新格局。