人工智能时代的算法黑箱与信任重建

信任是人机互动和人际互动的基石。然而,由于算法黑箱的不透明性和不可解释性,人工智能系统及其服务在赋权和便利一部分人的同时,算法滥用、算法误用和算法垄断也在侵蚀、排斥和边缘化另外一部分人的利益。就此而言,算法即重构、程序即政治,在智能化环境中,信任被破坏和侵蚀不仅存在于人机互动之间,人与人之间的传统信任关系也因在线匿名和算法驱动而陷入衰退。正是考虑到人工智能带来的种种社会信任挑战,以算法规制为核心的人工智能治理首先应着眼于以人为本构建可信赖人工智能生态体系,并基于技术秉性和道德法律框架重建人机信任关系和人际信任关系。

医疗人工智能中的算法黑箱及其核心伦理问题

医疗人工智能中的算法黑箱在机器的实践中造成了突出的伦理问题与风险,算法黑箱这一概念的本质是人类对人机关系失控的形象化描述,医疗人工智能算法黑箱的核心伦理问题在于人机关系的失控。关于问题的解决,本文在反思以透明化为代表的技术叠加方案的基础上,提出解决问题的核心策略必须立足于机器所面向的医疗实践,超越技术视域的局限性,寻求有意义的控制,使机器的实践回归医疗人工智能技术发展的根本目标,更好地满足现实医疗需求和促进人类健康福祉。

金融强国目标下数字金融平台算法黑箱的系统治理机制

在金融强国目标与人工智能技术的驱动下,数字金融平台快速兴起并将算法技术深度应用于传统金融行业。数字金融平台是数字金融与平台经济的融合产物,其通过输出技术或提供场景与金融机构开展合作活动,具有天然的技术偏好与金融属性,有效促进金融产品与服务的数字化与普惠性。然而,任何事物都具有双面性,不是非此即彼的结果,而是利弊同在的产物。通过采用案例分析方法发现,算法技术深度应用于数字金融平台总是存在着一定的误差或测不准(算法黑箱),具有不同于传统企业的太大不能倒、太多不能倒、太强不能倒的系统性风险特征,并在三方系统(平台端、用户端与监管端)形成了算法黑箱风险:算法黑箱具有平台迷雾风险,阻碍平台端的稳定发展;算法黑箱具有技术遮蔽风险,加剧用户端的风险缺陷;算法黑箱具有监管真空风险,制约监管端的公权治理。因此,为实现金融强国的目标,防范化解数字金融平台算法黑箱的系统性风险,基于三方控制理论与国际算法黑箱风险的系统治理经验,我国应当从三方系统(平台端、用户端、监管端)构建数字金融平台算法黑箱的系统治理机制。

从风险控制到风险规制:量化基金公司算法黑箱的规制进路

在风险社会背景下,传统工业社会向现代算法社会迈进。在算法的深度应用下,各种量化基金公司迅猛发展,一定程度上促进了传统基金产品的运行效率与投资效果,但因为算法的不可知性、遮蔽性等因素,量化基金公司同样产生算法黑箱问题。传统规制体系在算法黑箱的规制范式上存在不足:在规制目标上,现有规制过于强调风险控制;在规制主体上,现有规制缺乏有效的沟通协调机制;在规制手段上,现有规制未形成综合的规制手段。通过采用风险规制理论,能够有效因应当前金融风险防范的目标、对象、手段的规制问题。为化解量化基金公司算法黑箱带来的问题挑战,我国有必要从风险控制向风险规制转向,从风险规制目标、主体与手段层面切入,全面构建量化基金公司算法黑箱的规制进路。

破除数字平台企业算法黑箱治理困境:基于算法透明策略扩散研究

自进入数字经济时代,“算法黑箱”特性的负面作用日益凸显,我国为此对数字平台企业提高算法透明度提出了新的政策要求。基于此,本文以我国针对数字平台企业“算法黑箱”的治理政策为蓝本,运用复杂网络演化博弈,建立了数字平台企业优化算法透明度策略扩散模型,并得到以下结论:①政府的监管对数字平台企业是否优化算法透明具有关键作用,但数字平台企业数量规模增大会使政府监管和惩罚作用降低;②消费者监管起到辅助作用,且随着企业数量规模扩大变得更为重要;③优化算法成本以及披露算法的风险均是阻碍数字平台企业优化算法透明度的重要因素,且企业抵御风险能力会随着数量规模扩大而降低。最后,根据结论提出对策建议,为我国数字平台企业“算法黑箱”治理困境的破除提供一定的参考。

论算法黑箱的规制——基于算法解释视角

随着算法社会的到来,算法黑箱引起的私主体权利受损、司法救济危机、算法歧视等问题愈发严重。以专利模式保护算法难以合理打开黑箱,不仅损害所有者商业秘密利益,也无法保障相对人的平等权益。为协调各方利益,需构建算法的事前与事后解释制度,对算法进行全面规制。一方面,有限度地公开源代码并进行审查,从一般意义上促进算法公平正义价值的发挥;另一方面,赋予特定主体救济权,妥善处理公众知情权与个人数据隐私之间的紧张关系。

社会监管理念下金融科技算法黑箱的制度因应

大数据、区块链和人工智能等底层技术为金融科技的发展提供了强大动力,但其在技术实现过程中因算法的复杂性、不透明性和人为操纵所形成的“算法黑箱”,导致了金融科技在应用过程中巨大的欺诈风险。破解算法黑箱的核心要素在于解决算法的可靠性、透明性、可解释性及可问责性问题,通过树立社会监管理念,按照赋权和规范的双重路径,实现政府、市场投资者、第三方专业机构及算法开发者和运营者对算法决策的协同治理,是破解金融科技应用中算法黑箱的有效方案。

数字孪生算法黑箱的生成机制与治理创新

把“物理实体、连接、数据、虚拟模型、服务”作为数字孪生模型的五个维度,与“输入、处理、输出”算法运作的三层过程结构相结合,提出一个数字孪生算法运作的“五维三构”模型。这一模型有助于理清数字孪生算法黑箱的生成机制并探寻其有效治理的路径。数字孪生机器学习算法的复杂性、数字孪生数据交互融合的动态性、数字孪生技术内嵌价值非中立性等因素,是造成其算法黑箱的内外部原因。数字孪生算法黑箱本质上是由于技术进步所带来的不确定性风险,人们对数字孪生算法决策的担忧也正是源于这种不确定风险的存在。因此,采取以算法解释权的运用应对数字孪生机器学习算法的复杂性、以交流与协作的方式应对数字孪生数据交互融合的动态性、以伦理与法律的规制应对数字孪生技术内嵌价值非中立性的治理路径,以有效减少数字孪生算法黑箱带来的不确定性风险,增强人们对数字孪生算法决策的可信任度。

打开算法黑箱:建构“人-机协同”的新闻伦理机制——基于行动者网络理论的研究

本文用控制论详细分析了算法黑箱的产生机理,剖析智能新闻生产、分发、接收过程中技术黑箱的运作逻辑及其带来的伦理风险,用拉图尔行动者网络理论讨论技术道德化的可能性与路径,主张将价值理性嵌入人工智能打造新闻道德智能体,在不同阶段对算法主体实施“监控、预警与奖惩”的伦理干预,构建“人-机协同”算法新闻伦理机制。

数字孪生时代的法律与问责——通过技术标准透视算法黑箱

我国的数字化转型正进入数字孪生时代,现实世界与虚拟世界出现"虚实相生"甚至"以虚运实"的趋势。在数字孪生系统的分层体系下,通过算法黑箱将模型和数据封装于交互界面之后是一种常见的工程模式,在化简技术复杂性的同时也导致"规则隔音"现象日益严重。决策规则的隐而不显致使事后法律问责难以奏效,而追求算法透明的披露手段在与技术复杂性和商业秘密的冲突中不断妥协,逐渐成为强弩之末。实际上,无论事前规制还是事后问责都需要以法律系统与算法系统的良性互动为前提。借助技术标准的场景性、灵活性、技术性等优势,可以制定信息交换的结构性元规则促进算法与法律的跨系统沟通。此外,应当通过算法标准自我声明机制推动软法的"硬化",规范算法贴标逐渐消灭"无标生产",构建软法硬法混合算法规制模式。

金融数据安全背景下的智能投顾算法黑箱监管体系构建

智能投资顾问通过金融科技、大数据引领商业模式创新,是人工智能在财富管理领域的重要应用。由于核心技术算法黑箱具有天然不透明性,使得在保护中小投资者利益时,产生了侵权责任承担困难、附加金融服务存在监管真空和算法学习周期性导致决策滞后的监管困境,导致传统法律监管体系发生部分失灵。分析我国使用智能投顾中小投资者的交易习惯,发现其抵御风险、投资能力明显高于传统股票投资者,更加注重服务质量,在适当性管理方面也要求具备更高的审慎和评估能力,投资者金融信息和知情权是保护的重点。监管治理体系以《数据安全法》和《个人信息保护法》为基本法律依据,在构建目标上,注重促进技术发展与保障金融安全之间的有效平衡;在算法设计源头上,制定专业监管框架、实施算法事前审查、提高投资者信息能力;在算法使用过程中,对接证券信息披露标准、保护数据与隐私权和规范附加金融服务;在法律责任追究上,通过主体责任、信义义务和算法问责制来综合规范。

人工智能时代算法黑箱的法治化治理

算法作为人类利用机器抓取、处理并输出数据的手段,其所得结果受到编写者主观偏差,技术偏差等多种影响。因算法编写的高度专业性,用户无法知悉有关于自身信息数据被抓取,处理以及应用的细节,这样的不透明性显然对用户的权益与社会秩序造成影响,对我国的法律机制也带来极大挑战。针对算法的运行模式,剖析算法黑箱带来的个人信息数据侵权、算法偏见及司法救济三重危机。通过对欧盟《通用数据保护条例》与欧洲《人工智能伦理与数据保护宣言》对算法黑箱的治理条款,针对上述三重危机从技术角度、法律角度与伦理角度对算法黑箱进行法治化管理,以实现算法黑箱法治化治理层面的合法性与最佳性耦合。

人工智能算法黑箱的法律危机及应对策略

随着人工智能技术的飞速发展,人工智能算法逐渐操纵了人们的日常生活,也因其黑箱问题给法律规制带来诸多难题。算法黑箱的封闭性、歧视性和风险性等特征使得算法在应用中直接影响立法决策的准确、司法决策的公正、行政监管的规范。破解这些难题的路径在于,制定算法透明制度,健全算法审查和算法披露制度,设立算法全流程监管机构,从而更好应对人工智能算法黑箱的法律风险。

算法黑箱之规制——基于金融法视角

算法作为人工智能的重要组成部分,不断提升人工智能的智能化、自动化、自主化水平,从而使人工智能在网络购物、休闲娱乐、金融理财等领域的应用日益深化。但算法黑箱作为算法的负面效应之一,不仅侵害金融消费者的知情权,为金融机构谋取不正当利益提供便利,而且严重削弱金融监管机构履行正常的监管职能,扰乱正常的金融秩序,给金融市场带来系统性风险。为此,应从立法部门、监管机构、金融机构的维度出发,基于维护金融消费者的合法权益这一目标,构建一个多方参与、系统协同、监管有效、保障有力的算法黑箱应对体系。

绕过算法黑箱:通过算法代言人建立算法信任的进路初探

人工智能的工程化离不开支撑其运作的复杂算法。但是复杂算法的内部结构就像不透明的黑箱,难以取信于人。为了应对这个问题,人们主要有两个提升算法透明度的方向:一个是寻求技术上的突破,从而彻底解决算法黑箱问题;另一个是通过人为解释,让不透明的算法变得可以被信任。由于人们目前的技术水平暂时无法解决算法黑箱问题,比较有希望的方案是在算法的可解释性方面进行研究。鉴于此,人们可以依据延展心灵理论确定算法的代言人,让代言人利用自己对人类和算法的双重了解,灵活多样地解释算法的输出。这一方案能够在承认黑箱存在的同时,展示算法的可解释性,进而让人们有选择地建立对算法的信任。

智媒时代互联网广告的算法“黑箱”与治理路径探析

随着互联网技术的更新迭代,人工智能、算法等技术逐渐嵌入日常随处可见的广告中,也因其“黑箱”问题给广告治理带来权力滥用、技术异化、隐私窥视等难题。算法“黑箱”的封闭性、歧视性和风险性等特征使算法在应用中直接影响互联网广告的制度。破解这些难题的路径在于:规制算法权力、改革算法生态、设立数据收集壁垒、推进“黑箱”透明。

论人工智能算法黑箱的法律风险及应对策略

人工智能技术,尤其是深度学习和机器学习算法,使其具有了一定的自主性,但也导致了内部决策过程的不透明,即算法黑箱。算法的不公开、不透明,被称为算法黑箱。算法黑箱问题带来的主要挑战,包括隐私保护泄露、责任归属认定模糊及现有法律体系的适用性问题。算法黑箱问题不仅使用户难以理解和信任人工智能系统的决策,也给法律监管和伦理审查带来了重大挑战。基于此,本文提出了分层分类监管、监管沙盒、自律机制和多元共治等应对策略,以促进人工智能算法的健康发展和良好治理。

从“黑箱”到“透明箱”:AI文学创作过程的伦理审视

当AI开始涉足文学创作,其“黑箱属性”便成为一道难以逾越的鸿沟。机器如何理解情感?算法如何诠释人性?文章通过对比分析经典文学作品与AI生成文本,揭示“黑箱操作”可能导致的版权争议、个人经验与情感缺乏以及文化同质化的隐忧等伦理风险,倡导构建“透明箱机制”,即内部建立一套可解释的AI创作框架,外部营造监管与反馈并行的环境,让AI技术与人文精神实现和谐共生,技术的力量服务于而非凌驾于人文精神之上。

人工智能平台的算法黑箱与治理图景

在以大数据与人工智能为代表的信息技术驱动下,各种类型的算法技术快速突破并深度嵌入各类服务行业,促进了服务行业的新模式发展、新技术应用与新产品研发,从而推动了人工智能平台的崛起。然而,算法具有内在的技术缺陷,这导致人工智能平台因算法技术而衍生算法黑箱问题。基于算法技术在人工智能平台的应用现状,为化解其算法黑箱带来的问题挑战,非常有必要以社会利益论解构算法黑箱治理的必要性,结合域外国家和地区(欧盟、英国、美国、新加坡)算法黑箱的法律与伦理等层面的治理经验,我国可以从算法透明、算法问责、算法伦理层面完善人工智能平台算法黑箱的治理图景:健全算法透明体系,打开人工智能平台的算法黑箱;完善算法问责机制,明确算法黑箱的责任认定;构建人工智能平台伦理规范以加强算法伦理建设。

行动者网络理论视域下的算法黑箱与风险治理

人工智能算法不透明或无法解释导致的“算法黑箱”被视为引发算法偏见、歧视或操纵等社会风险的重要原因。既有研究在使用黑箱隐喻时,多将算法视为一种“实体性存在”(代码或模型),谋求通过代码公开或模型解释等方式打开黑箱。然而基于行动者网络理论考察发现,算法本质上是社会与技术性行动者关联互动形成的“关系性存在”。黑箱并非算法技术本身的属性,而是以算法为核心的社会科技系统或行动者网络的特征。为了揭示可能被黑箱隐匿的风险,需要打开黑箱以呈现算法行动者网络中的行动者及其关系。相应地,算法风险治理需要确立算法设计与应用的公共性原则,构建开放包容的算法行动者网络,并实现基于批判性反思的算法信任。