治理算法化的证成与风险:如何理解人工智能的治理属性

人工智能对于治理领域产生的变革要求在理论上予以重构与创新,将人工智能置于治理的内部“理论证成”与外部“风险识别”的二阶结构中提出并论证治理算法化这一分析框架,不失为一条在人工智能时代探讨治理变革的有益进路。治理算法化成立的先决条件除了“可计算化”模块的努力之外,更重要的是重塑治理的边界。其源起既是治理信任补强之需,亦有个体化时代建构集体行动之必要。治理算法化应始终秉持以人为尺度的应用逻辑。治理算法化存在“道”与“术”的异步困境,即存在商业逻辑优先于治理逻辑、算法偏见内化为公共理性、技术权力泛化为液态监控以及拟态真实取代治理情境等风险。因此,治理算法化仍须进一步促进技术与人的和谐关系。

分类分级治理算法的基本内涵及实践进路

随着数字经济的蓬勃发展,作为其核心技术的算法治理问题愈发凸显,如何兼顾各方利益、寻找恰当方法和工具成为重要课题。基于对分类分级基本含义、范畴及适用标准的整理、比对及分析,可以得出算法分类分级治理合乎算法的技术功能与社会影响,具有承担起算法综合治理核心功能的价值与定位。然而,在实践中算法分类分级治理仍存在算法用户个人权益保障不足、算法自主共谋加剧归责不能、算法解释限度把握不清等问题,应以算法审计为切入点完善算法个人权益保护机制、以分类分级原则固定算法问责点、构建不同层次的算法解释制度,推动治理机制健全、监管体系完善、算法生态规范的算法综合治理格局日渐成型。

治理算法:算法风险的伦理原则及其治理逻辑

智能时代的特点是数据与算法在社会经济运行中发挥越来越重要的作用。然而,算法赋能社会的同时,也伴生了“信息茧房”、算法歧视、算法“黑箱”等内生风险,因此需要深刻理解算法的伦理面向,以确立算法风险的治理原则,进而构建科学有效的算法治理体系。文章基于国内外算法治理实践,从算法治理的“权力—权利”价值与“技术—社群”路径两个维度,阐述了算法风险治理及其伦理关切的四个核心面向:可控、透明、安全、公平。算法伦理风险产生于算法权力和用户权利的失衡,因此算法治理的价值在于规制算法权力并保障用户权利。算法治理的路径包括技术改进与社群约束,通过优化算法系统设计与完善算法的规制体系等方式,促进算法向善,防范或化解算法支配、算法“黑箱”、算法歧视等风险,并保障算法使用的安全性。

从算法治理到治理算法:国家治理现代化的技术审视——基于技术政治学的分析视角

不管是深刻认知社会的规范而系统的学术研究,还是追求国家治理效能的持续改善,都需要从现代政治学,特别是技术政治学的视角对算法治理进行深入而系统的探究。算法治理具有两面性,既通过数据化、标准化和流程化等建构逻辑,强化、提升国家治理的效能,也带来个体主体性的消解、国家权威性的弱化和社会歧视性的出现等诸多治理风险。通过对算法治理的风险研判和因果循证,本文建议为规避算法治理的内生和衍生风险、增强算法治理的实效性和针对性,治理算法应该以协商民主路径赋予公民更多机会、权利和资源参与决策和议程。

算法治理的情感嵌入及实现路径

算法治理是当前国家与社会治理的重要手段,但算法治理理性化和刚性化治理特征带来了治理温度和柔度的下降,而情感治理这一柔性治理模式则可以化解上述问题,与算法治理相辅相成。从算法治理的内涵及算法治理带来的安全感危机、关怀感赤字、公平感失衡出发,运用嵌入性理论,明确情感嵌入算法治理的内涵和必要性,将情感嵌入算法治理的理念、过程和制度。在以上基础上提出情感的“感知—对话—动员”机制,通过强化情感感知、开展情感对话以及拓展情感动员的手段,破解算法治理中的情感缺失困境,促进算法治理和情感治理的耦合,构建起一个既精准高效又富有温度的治理框架,以达成“善治”目标。

档案治理算法化的风险审视与规制路径

智能技术已经成为赋能档案治理不可或缺的工具。算法作为智能技术的运转核心,使档案治理呈现出算法化的特点。但算法嵌入档案治理可能会带来诸多风险,如算法黑箱扩大档案技术空间盲区、算法偏见致使档案决策结果有偏倚、算法应用与档案制度更新有脱节、算法信任存疑阻碍档案相关技术落地等。为化解档案治理算法化暴露出的风险,可从形塑公平正义的算法价值观、构建面向算法立法的档案制度、探索多方协同机制破解算法挑战、平衡算法应用的工具理性和价值理性等路径展开。

积极伦理观下算法歧视治理模式的革新

算法技术已借助大数据技术被广泛应用,成为影响人们日常生活的重要角色,其也因技术中立性不断遭受现实挑战而呈现出事实上的歧视性。重新审视算法歧视及其治理路径是发挥算法积极作用、避免算法消极影响的重要前提。传统伦理观念影响下的算法歧视治理模式存在价值观念偏航、治理结构失衡及技术治理落后的问题,影响算法歧视治理实效。社会发展促进了伦理观念的革新,积极伦理观的树立可以为算法技术向善的实现提供理论指引。算法治理结构的优化及反歧视技术水平的提高是纠正算法歧视的重要前提,理念、制度及技术三维措施的综合运用方可在算法领域实现科技向善的伦理目标。

算法歧视的敏捷治理——以D短视频平台为例

敏捷治理作为社会治理的新范式,是对回应式治理和集中式治理的进阶和超越,是塑造未来数智世界和元宇宙治理的现实路径。以敏捷治理化解算法歧视的技术与伦理风险,实现算法治理成为一项重要的理论和现实议题。通过参与式调查对D短视频平台的内容展开田野调查,深度剖析短视频平台算法运作的逻辑机理,总结归纳算法歧视的形态和成因,探索尝试算法治理的可行举措和实践进路。研究发现,基于用户偏好、平台优先等平台价值观念是D短视频平台算法运作的隐形逻辑;主观设计下歧视性推送和定价是D短视频平台算法歧视的突出表现;灵敏感知、快速响应、持续发展的敏捷治理机制是逾越“算计”陷阱的有效手段。因而,为应对算法歧视的风险挑战,政府亟须以敏捷治理赋能算法歧视治理,塑造多元参与、多管齐下的治理格局,实现整体智治、协同共治、动态管治,从而实现算法“善治”,优化算法治理的中国方案。

智能时代政府治理算法化的优势、困境与应对策略

在当下复杂的社会治理需求和决策环境下,算法的技术优势在促进政府治理体系和治理能力现代化的同时,正逐渐将系统型官僚推向算法型官僚。但碍于算法在技术、权力和社会维度的局限性,政府治理算法化易出现权利救济和决策理解困难、权力代理和主体责任游离、违背公平原则和民主进程倒退等难题。因此,有必要从管理视角规范政府治理算法化的过程,保证负责任的算法化;从法律视角明确政府治理算法化相关主体的责任,确保可责任的算法化;从文化视角强化伦理教育和技术教育,提升公众算法德性和素养,共同规范政府治理算法化的进程。

如何实现“黑箱”下的算法治理?——平台推荐算法监管的测量实验与策略探索

近年来,平台推荐算法的快速发展和广泛应用深刻改变了互联网信息内容的供给方式,同时也引发了一系列算法风险与现实问题。平台推荐算法治理与监管成为政府规范算法应用的重点内容之一,无论是算法备案制度的探索,还是实现算法透明化的设想,均面临着一定的困难和挑战。在不打开算法“黑箱”的前提下,平台推荐算法规制与监管是否有可行之道?论文基于机器行为学思想,采用实验方法,以用户视角对推荐结果进行跟踪记录,通过实验数据的对比分析,验证了平台推荐算法结果差异的可测性。基于实验结果,论文提出了通过对不同平台推荐结果进行大规模数据测试和检验,测量平台推荐算法运行逻辑与推荐效果,从而实现“黑箱”下有效的逆向监管,以期丰富未来算法治理的选择。

我国算法风险及其治理研究综述

数智时代,算法已然渗透人类社会的每一个角落.算法驱动数字化、智能化转型的同时,也催生出一系列问题,日益加剧的算法风险亟需有效治理.首先,将算法风险划分为法律司法、政治治理、信息传播、商业经济4大领域,然后剖析算法风险形成机理,涵盖算法黑箱、算法歧视以及权力异化3个维度,最后提出算法风险治理框架,具体可分为技术规制、权责规范以及生态优化3条路径,较为系统地展现了我国算法风险及其治理的研究进展与发展动向,为推进我国算法风险治理理论研究与体系建设提供参考.

常态化监管与算法分类分级治理模式更新

作为人工智能的核心要素,算法成为了加速新质生产力生成不可或缺的关键技术。在对算法实施分类分级治理的过程中,我国对数字经济监管也走向常态化监管。分类分级理念及原则所涵摄的安全、创新发展及可信可控的价值要求与算法治理的基本目标具有高度一致性,与常态化监管的实践特征具有高度契合性。然而,当前常态化监管思路与算法分类分级治理尚未充分融合。究其原因,主要在于算法治理面临技术迭代与监管模式调整的双重变化,存在治理规则适应技术变化乏力、多元主体治理协同力量不足、治理手段与工具难以适配现实需求等挑战,还难以实现常态化监管与算法分类分级治理的有效融合。为此,文章建议在现行算法安全综合治理格局下,根据常态化监管的理念、原则及架构,对新技术、新业态、新模式发展下算法治理作出调整,转变当前算法治理的基本价值目标、完善治理具体规则、明确治理主体与治理对象及其相应义务与责任、创新治理工具,通过刚性约束与柔性治理相结合、多主体共商共建共治共筑相平衡、丰富治理手段与创新治理工具相同步等举措,不断健全常态化监管下算法分类分级治理模式,提升算法分类分级治理实效,实现算法安全发展、创新发展、规范发展的目标。

算法权力在治理体系中的产生与规制

在数字化转型的背景下,算法成为社会运行的重要规则并影响了整个治理体系的运转逻辑。算法在治理体系中的嵌入实质上是一种与制度相互型构的过程,算法强化行政组织的决策权和执行权、推动平台权力产生,并在一定程度上实现对行政人员职能替代的同时,既有的治理结构和制度安排也塑造了算法官僚这种新的组织形态,并形成了算法权力这种新的权力形态。这种权力算法化的运转逻辑在提升治理效能的同时也在权力配置、运转等方面引入了新的治理风险,可以基于权力理论从制度制约、伦理制约、权力制约和权利制约等方面进行针对性的规制。

图书馆算法治理的价值、内涵与实现机制

文章从价值分析角度指出算法治理是图书馆治理实现虚实同构的核心范式,是图书馆治理工具与治理价值的双重飞跃,也是图书馆治理机制的跨越式转型。基于关系机制、发展进程和本质意蕴3个维度分析图书馆算法治理的内涵,探讨包含代码规则管理、算法决策控制和算法风险规制的图书馆算法治理实践机制,并提出相应保障机制,即构建平台型组织,规范算法参与治理的权责,平衡数据利用与权益保护的关系。

算法治理下平台版权分级过滤义务探析

技术的发展带来版权规则的不断演进,厘清平台“必要措施”司法适用的认定规则和“必要措施”适用的考量因素,都成为新的治理要求的体现。考虑到技术实施的可行性、用户权益的保护以及与现有法律体系的衔接,有必要设计一个科学合理的版权过滤义务机制,明确适用主体、对象和方式,确保既能有效预防侵权行为,又能保护用户的合法权益。平台在算法推荐和版权过滤方面的责任认定,要综合考虑平台的性质、算法适用的场景以及平台对内容的控制能力等因素,应当在享受技术带来的红利的同时,也要防范技术可能引发的侵权风险,通过优化算法、采取必要措施等方式,积极履行其在版权保护方面的义务。

数字时代劳动者权益保护算法治理:生成逻辑与优化路径

数字时代,劳动场景和劳动过程管理发生重大变化,对算法治理提出新要求。当前,以算法对劳动过程的控制为切入点,探讨数字化劳动场景下算法治理的生成逻辑与优化路径意义重大。研究发现,数字化劳动场景下算法对劳动过程的控制主要沿着劳动时间、劳动空间以及绩效考核三条进路展开。而劳动过程控制的这些变化则带来劳动者对离线休息、安全健康和抽成正义等权益的保护诉求。在算法保护新机制和权益保护新内容的双重驱动下,劳动者权益保护面临“算法良治”新挑战,亟需优化劳动时间、劳动空间和绩效考核等维度的算法规则,推动劳动算法治理从无序走向有序,从乱治走向良治。

算法治理视阈下的可问责性和可解释性

对于算法应用可能带来信息茧房效应、隐私泄露和算法偏见等问题的担忧日益引起社会关注,为了引导算法和人工智能技术的发展更好地服务于社会,一些国家和国际组织纷纷出台算法监管政策。本文通过对19个国家和国际组织的81项算法与人工智能监管政策进行文本分析发现:各国监管政策集中回应的三大诉求是透明性、可问责性、公平性,其中可问责性和可解释性是大多数国家共同关注的伦理维度。本研究通过揭示各国算法监管政策在可问责性方面的共同关注和可解释性方面的国别差异,旨在为制定更加科学有效的监管政策提供参考。

算法嵌入治理的公共价值创造测度与融合思维转型

关乎民众需求和公共利益,算法治理的优化就不再局限于计算效率和信息预测分析精准度的提升,是否能更为有效地创造公共价值、服务民众,以人民至上理念为基本原则展开智能化引导与管理,成为算法技术在公共治理领域绩效提升的更基本的标准与要求。其是否表现出有别于传统治理模式的首要一点就应体现于“善治”,既能实现绩效价值完成对必要公共利益的维系与提升,保证民众获得感,又能致力于过程规范性、公平性和透明度改善,强化民众信任度。在以马克思主义为指导的中国特色社会主义制度下,人民性应成为算法治理的又一重点特征。由此,对其测度必须始终围绕“人民”展开,以人民获得感、感受度为根本进行绩效价值和程序价值的有效评价,对于算法治理实现公共价值创造的测度也就变成对“民众服务度”的科学测算。即需要以整体公共价值的变化为出发点和落脚点,从“绩效合理性”和“程序科学性”两方面把关,坚持以惠民为基本价值取向,完善跨边界价值共创体系;结合算法规制特点和网络空间运行特点积极构建“算法问责机制”,同时丰富公共价值最大化内涵,动态关注“绩效”与“程序”两类价值的平衡性与协调性,以算法公开为程序价值提升的重要目标,增强社会多元主体的公共事务参与度。

数字社会算法治理研究展望

[目的/意义]算法治理是数字社会建设的重要议题之一。本文旨在反映算法治理的研究进展,提供未来算法治理的研究方向。尽可能避免算法对个体及社会造成的威胁与伤害,在算法治理社会之前治理算法本身。[方法/过程]分别以Web of Science和CNKI作为外文与中文文献检索工具,利用Citespace对国内外相关文献进行计量和可视化分析,对算法与算法治理的原理与概念做出界定,对算法治理的主要议题与研究现状进行综述与展望,提出现有算法治理问题的对策建议。[结果/结论]算法治理研究处于起步阶段,未来需以伦理为基础与核心,开发能与算法相抗衡的“抗算法”治理技术,加强企业自律与第三方机构参与,重点关注社会秩序所受算法影响的问题解决,实现对算法的多领域、多主体、多层级协同治理等将成为数字社会算法治理的未来研究热点。

国内外算法风险研究:框架、特征及展望

[目的/意义]随着ChatGPT的横空出世,算法应用越来越多地支配着人类的生活,算法黑箱、算法操控、算法共谋、算法偏见、算法歧视等风险也随之而来,这些风险严重影响社会稳定乃至国家安全。对全球算法风险的形势进行研判能够有助于防范与识别算法风险,并为应对全球算法风险治理难题提供中国智慧与构想。[方法/过程]通过系统梳理国内外主要数据库915条核心文献,构建基于“学科领域—研究主题—治理工具—治理措施”的算法风险研究框架,并分析算法风险具有学科的交叉性、复杂的交织性、突出的人为性、泛化的不确定性等特征。[结果/结论]从加强情报学学科对算法风险研究、加强对人工智能算法可解释性研究、加强算法应用向善和算法服务从善研究、加强对全球算法风险治理中国智慧与构想研究4个方面对算法风险研究问题进行展望。