人工智能的伦理风险防范及其算法审计应用

人工智能是现代计算机科学领域发展下的重要产物,可从理论、方法、技术等层面实现人的智能延伸。在为社会发展提供便利的同时,人工智能的泛化应用也催生了对应的伦理风险,诸如算法歧视、责任界定困难等,需以特定防范举措加以控制。分析人工智能催生的伦理风险及其成因,以算法审计的应用作为化解风险的路径,在厘清其应用原则的前提下,可拟建科学实践路径,以供参考。

算法伦理的治理新范式:算法审计的兴起、发展与未来

算法伦理风险日益凸显,被寄予厚望的“算法透明”却在问题的揭示与治理方面遭遇现实瓶颈。以反推逻辑从算法外部进行问题检测的“算法审计”应运而生,亟需通过实践部署来发挥应然的社会价值。本研究梳理了算法审计的概念缘起与发展现状,重点以歧视偏见、信息失真、隐私侵犯和结果误判四个伦理问题为牵引,对代理审计、抓取审计、众包审计、日常审计和载体审计等检测路径展开了适用性分析。对标算法治理的现实诉求,检视算法审计的实践困境,探寻未来发展进路。藉由事前拓展问题覆盖、事中升级分析方法和事后强化力量制衡,着力提升算法审计的前瞻性、因果性和协同性,优化算法审计的伦理治理效能。

模型算法审计:理论内涵、国际经验与审计框架

模型算法是大数据、人工智能等数字化技术和数字经济发展的核心要素,对数字化转型起着关键性作用。模型算法的应用越来越广泛,在提升管理水平和自动化程度的同时,也对模型算法风险监管提出了严峻挑战。美国、英国、欧盟、加拿大等已陆续出台模型算法监管规定和审计指引,英国、荷兰等最高审计机关已开展模型算法的审计实践。本文基于以上分析,提出模型算法审计的概念内涵,尝试构建了适合我国的模型算法“五维”审计框架,回答了未来我国模型算法审计“谁来审”“审什么”“怎么审”“审计的条件”以及“审计的原则”等五个方面的问题,以期为今后开展模型算法审计实践提供理论参考。

论我国算法审计的法治化建构

算法审计具有技术审计、合规审计、风险审计、责任审计等复合属性。算法规制理念旨在规范“算法权力”,防止因算法滥用产生不良社会影响,实现算法正义。基于算法规制的视角,对算法审计进行法治化建构迫在眉睫且意义重大。算法审计的法治化建构,需要超越算法的技术性定义,关注算法输入数据的质量与评估算法产生的社会影响,遵循包括但不限于以下基本思路:鉴于既有审计类型无法包含算法审计,须规定算法审计独立审计类型;由于算法审计专业性强且市场发育不足,目前阶段应当建立公共机构主导的算法审计模式;为了有效裁决算法纠纷,有必要确立算法审计诉讼类型;面对算法治理存在侵蚀人的自主性倾向,亟待凝聚算法伦理社会共识。

大数据时代算法审计构想

在现代语境里,算法是解决问题的自动化程序,在公共管理、司法裁判、金融系统、以及商业领域等都得到广泛应用。算法应用一方面提高了社会整体的运行效率,另一方面也因其复杂的技术性特征导致了社会管理的失序。当前,我国算法规制体系立法较为松散、监管主体不够明析,而审计作为一种独立而成熟的审查制度,在算法设计监督、算法数据保护以及算法决策法律问责中都大有可为,可解决算法监管体系松散、监管责任不明等问题。在审计监管模式下,可由专业人员制定审计计划,根据特定的审计标准进行风险评估和事实审查,给出审计结论,制作审计报告、进行审计公开,对相关人员实施问责以及开展后续审计质量追踪。由第三方审计、平台自我规制与行业自律相结合,算法监管可迎来新的突破。

注册会计师参与数字平台企业算法审计的思考

作为数字经济的核心技术,算法如同一把“双刃剑”,在推动数字经济飞速发展的同时也伴生诸多算法风险,因此算法治理是促进数字经济健康发展的重要机制,而算法审计是算法治理的有效工具。近年来颁布的一系列法律法规为注册会计师参与数字平台企业算法审计提供了制度依据。注册会计师参与算法审计可以提高算法信息质量,落实算法责任主体,是我国数字经济健康发展多元监管协同治理机制的重要组成部分。参与的路径包括协助监管部门开展算法风险等级评估、为平台企业提供内部算法审计服务和接受公众委托提供算法合规鉴证,而其作用的发挥需要进一步完善相关法律与人才制度。

数字经济时代平台型企业非价格竞争存在的问题及对策优化研究——基于算法审计的视角

数字经济时代,随着平台的广泛应用,监管的重要性逐渐凸显。平台型企业非价格竞争是当前数字平台监管较容易忽视的领域。本文以此为背景,通过对平台型企业非价格竞争的分析,总结其主要形式,探讨平台型企业非价格竞争存在的主要问题。并针对平台型企业非价格竞争的问题,进一步分析了当前平台经济政策的现状,提出通过算法审计来解决平台型企业非价格竞争问题的思路,并对算法审计的解决方式进行了分析,以期能够为数字平台企业监管制度的完善提供思路和建议。

生成式人工智能视阈下算法审计的制度构建与路径创新

随着文心一言、通义千问、ChatGLM等我国生成式人工智能算法研发与应用的落地,加快构建并完善面向生成式人工智能的算法治理已成为完善算法监管体系的题中之义。在算法治理体系之中,算法审计制度有利于算法异化与算法风险的纠偏问责,促进算法公平与数字正义的实质透明,并实现算法公开与商业秘密的张力弥合,从而成为算法规制的关键制度配置。在全流程治理视角下,唯有“用算法审计算法”,实现书面合规审计与技术合规审计的协同并举,才能在算法内外部对算法的透明度、公平性、可控性、包容性和可问责进行多维视角的有效评估。而在算法审计实践之中,现行法仍需完善刚柔并济的差序规制格局,巩固分类分级的精准治理,以实现算法审计内外兼修的制度衔接,促进算法治理从碎片化监管迈向更为一体化、敏捷化、精准化的治理格局。

资讯类推荐算法的算法审计路径、伦理与可审计机制

智媒时代资讯类推荐算法的权力膨胀引发法律和伦理隐忧,算法偏差引发推送歧视、价值观偏离等问题。如何检测、证明算法偏差成为规制算法权力的前提,算法审计应运而生。算法审计可分为依托平台和依托用户两种审计路径。算法审计要遵守公共利益原则、介入无害原则、最小必要原则和情境理解原则,以与恶意黑客行为划清界限。在算法透明遭遇障碍的当下,针对资讯类推荐算法的可审计机制可有效协调算法利益相关者的关系,深入参与到网络信息内容生态治理之中。

通过算法审计规制自动化决策以社会技术系统理论为视角

自动化决策并非纯粹的技术工具,而是一种社会技术系统,由社会子系统和技术子系统构成,其引发的风险具备社会性,有必要进行规制。以个体赋权、信息规制、技术问责为代表的传统规制路径缺乏社会技术思维,容易陷入“破损谬误”泥淖,难以因应自动化决策的风险与挑战,无法有效实现法律及伦理规范提出的规制目标。算法审计作为一种社会技术方法,能够很好地契合自动化决策的社会技术系统属性,具备诸多方法论优势和国际实践经验。从建构社会技术系统工程的角度出发,根据审计学的一般原理,我国可以从规范指引、实施主体、方法选择和实施结果四个方面推动算法审计实现制度化发展,并在此基础上探索基于场景的算法审计,实现可信赖的自动化决策。

日常算法审计与计算基础设施修复——基于倒置视角的考察

在“深度媒介化”的社会背景下,作为计算基础设施的算法系统试图通过其标准化的计算过程和理性话语,对人与非人进行筛选、排序、区分和定义,人类社会逐渐对其形成交易性、功能性、制度性与意向性四维依赖。面对计算基础设施潜在的问题行为及权力关系,日常算法审计以用户在特定生活情境中与算法的交互为基础,通过识别问题行为、连接支持网络和启动修复性干预三种工作机理,迫使基础设施发生倒置,并从代码规则、公共价值与社会秩序三个层次进行修复。在这一过程中,日常算法审计实质上构成了计算基础设施的关键部分,并揭示了基础设施的生成性本质。然而,由于日常算法审计“事后修复”的性质及囿于固有权力结构的限制,仍须正确审视其边界和局限性。

人工智能伦理风险及其治理——基于算法审计制度的路径

基于算法内核,人工智能产生了诸如算法歧视、算法黑箱等一系列伦理问题。这是主观上人们理性失衡与过度追逐利益的恶果,是客观上算法技术缺陷与算法工程师水平局限的结果,也是法律规制落后与伦理教育缺位的后果。但现阶段算法技术的发展处于较为尴尬的境地:一方面,它已产生极大伦理隐患,具有治理的现实紧迫性;另一方面,它又处于技术上升期,过度约束可能阻碍产业发展。对此,算法审计制度以其适度约束力和有限透明的特点,可解决当前人工智能算法伦理治理的两难困境。

算法审计的制度逻辑和本土化构建

在全球算法治理实践中,算法审计制度弥合算法透明与专有技术保护之间的治理冲突,助力企业自我规制与政府规制的双轨协同,推动法律、技术和伦理三元共治机制的有效落地。算法作为被审计对象,具有场景化、动态化、跨域性特质。算法审计应以算法全生命周期为链条,分类分级地采取动态审计原则。基于多中心主体协同治理范式,算法审计可以分为科技企业开展的内部审计以及监管机关和第三方开展的外部审计。基于审计路径,算法审计可以分为代码审计、抓取审计、马甲审计、协作式审计和非侵入式审计。围绕算法安全综合治理顶层设计,算法审计框架应由“总体风险的控制与治理”模块以及“过程风险的控制与治理”模块组成。我国在构建算法审计制度时,还应注重强制算法审计与自愿算法审计的有效衔接,推动依托平台审计与用户审计的双轨并行以及构建算法审计与平台算法问责的精准对接。

算法规制的路径创新:论我国算法审计制度的构建

算法是数字经济发展和数字社会运转的核心要素,算法异化不仅可能损害公共利益,也将提高数字社会的运行风险。算法审计是有力规范和监督算法权力、防范数字风险、控制算法异化的制度工具,在全球得到认可和适用。算法审计是技术审计,其审查对象包括算法模型、数据及与之有关的设计开发运行活动。算法审计是合规审计,其目的是检测算法价值观是否符合法律要求,从而推动算法向善。算法审计是风险审计,其以风险为导向,对不同风险等级的算法需规定不同的审计要求。我国应该制定《算法规制法》,将算法审计纳入算法问责框架,对算法审计的实施主体、实施条件、实施机制、实施后果进行规定。

分类分级治理算法的基本内涵及实践进路

随着数字经济的蓬勃发展,作为其核心技术的算法治理问题愈发凸显,如何兼顾各方利益、寻找恰当方法和工具成为重要课题。基于对分类分级基本含义、范畴及适用标准的整理、比对及分析,可以得出算法分类分级治理合乎算法的技术功能与社会影响,具有承担起算法综合治理核心功能的价值与定位。然而,在实践中算法分类分级治理仍存在算法用户个人权益保障不足、算法自主共谋加剧归责不能、算法解释限度把握不清等问题,应以算法审计为切入点完善算法个人权益保护机制、以分类分级原则固定算法问责点、构建不同层次的算法解释制度,推动治理机制健全、监管体系完善、算法生态规范的算法综合治理格局日渐成型。

国内主流搜索引擎的算法审计研究

在数字信息生态中,商业化搜索引擎和商业性信息网站分别扮演着日益重要的角色。本研究采用算法审计方法,以“新冠病毒”这一公共议题为例,对国内主流搜索引擎的检索结果进行审计,基于大数据和图计算识别二者间的商业关联,并计算上述关联关系是否导致搜索引擎信息过滤、排序的偏向或降低搜索结果的多样性。研究证实,商业关联会导致搜索引擎算法偏向,即搜索引擎首先倾向于呈现来自相同利益主体网站的信息,其次是利益相关主体网站的信息,并赋予二者更优先的排序;利益关联对内容多样性的影响因搜索引擎而异。研究同时发现,在目前的互联网信息检索服务中,商业信息网站处于“内容提供商”和“广告商”之间的模糊地带;搜索引擎和商业信息网站之间基于商业关联形成的“渠道—内容”合谋构成了对数字生态公共性的挑战。

嵌入算法价值观:新闻生产算法系统的价值敏感设计研究

“算法转向”让新闻业面临一个现实问题,即如何将新闻价值观嵌入算法,让算法系统的价值观与媒体的价值观匹配。本文从技术哲学的“经验转向”和批判算法研究出发,探讨算法何以有价值观,并将价值敏感设计与“情境分析-价值观识别-技术转译-原型设计”的算法设计流程结合,提出将新闻价值观嵌入算法的具体机制,并对价值敏感设计进行省思,指出价值敏感设计嵌入的是有限度的价值观,价值敏感设计成功的关键在于利益相关者的协同参与,并提出透明性、可解释、可审计的价值敏感设计伦理原则。

算法嵌入监管的法治化路径研究——以证券违法活动的算法监管为例

以算法为监管手段的证券数字监管,可以通过对证券业务数据样本的处理、分析,找出异常交易行为下隐藏的不法意图,为证券监管机构提供事前、事中、事后监管措施。但监管规则含义泛化、数据质量标准不一、算法非中立性和“黑箱”的存在,给算法带来了法律风险,影响了算法推理、决策和结果在法律程序中的地位和作用。从英国金融行为监管局(FCA)的实践经验来看,设计机器可执行规则是提高证券监管效率的重要手段;统一数据标准是提升算法可信度的重要措施;算法合法化监管是保证算法中立的关键。结合我国证券违法活动的算法监管现状,可从三个层面完善算法嵌入监管的法治化路径,一是在规则层面,实现算法代码与监管规则的深度融合;二是在数据治理层面,完善算法输入层和识别层的数据治理程序;三是在法律程序层面,建立算法审计机制和算法可解释性机制。

算法自动化决策下的个体权利保护困境与出路

数字经济时代下随着人工智能技术的发展,决策算法逐渐实现自动化,在解放人力资源的同时大幅提升了社会效率,推动着数字经济发展。但伴随而来的是算法权力的膨胀,令个体面临信息茧房、算法歧视、隐私泄露等多重威胁,算法为个体制造的权利保护困境近年来逐渐被学者所关注,立法者企图通过构建免自动化决策权以及算法解释权等权利创设路径帮助个体走出困境,但奈何算法技术黑箱的存在以及个体在数字领域的弱势地位的阻碍使行权难度过大,单一的赋权模式终究无法有效应对自动化决策风险。为此,我们亟需建立以事前预防为基点,以算法影响评估制度和算法审计规制细化落实为重点的自动化决策算法监管路径。

反思与重塑:个人信息算法自动化决策的规制逻辑

算法在便利社会生活、推动数字经济发展的同时,也带来了个体遭受算法决策不公的问题。包括拒绝自动化决策权、算法解释权在内的权力化创设不仅在实践中存在争议,也无法有效应对算法迭代发展中决策产生的集体性风险。为有效消弭技术鸿沟带来的认知差异,监管制度构建应以事先预防为基点,以算法影响评估制度的完善与算法审计规则的落实为中心,强化技术监管的协同治理,最终构建起精细化、多层次的监管体系。