人工智能风险治理:模式、工具与策略

人工智能技术在近二十年飞速迭代,由此产生的风险治理挑战呼唤治理模式与治理工具的创新。规制型治理、创新型治理、自治型治理、市场导向型治理、集中式治理、敏捷治理是目前较为成熟的风险治理模式,法律规制、伦理规范、数据算法、社会场景等领域的新兴风险催生更具体、更灵活的风险治理工具,以适应新涌现的风险治理需求。中国坚持人工智能技术创新与风险治理的协同改进和动态均衡,逐步向敏捷治理模式转变,各具体领域的风险治理工具呈现全面性、及时性、精准性的特征。中国应从治理理念更新、多元主体协同、强度刚柔并济、工具灵活有效、追求可信目标等方面提升风险应对能力,并将国家、政府、企业、公众纳入风险治理模式构建全过程,实现治理工具在各领域的多维组合性使用。

城市社区治理风险的生成及应对

城市社区是社会治理的基本单元,也是风险治理的基本单元。因治理手段不当、治理能力不足或治理资源缺失,形成了以日常生活性风险、社区秩序稳定风险和治理主体公信力流失风险等为主要类型的城市社区治理风险。城市社区治理风险的客观存在,给城市社区治理尤其是城市社区治理质量提升带来了不可忽视的影响。城市社区治理风险的形成,与城市社区治理规模过大、治理对象复杂、治理资源有限和治理规范不足等要素密切相关。提升城市社区治理质量,增强城市居民社区生活体验感和治理成效获得感,需要对城市社区治理风险进行分类治理、培育治理共同体意识和推进整体治理。

人工智能风险的试探性治理:概念框架与案例解析

有效治理人工智能风险与发挥其溢出带动的“头雁效应”同等重要。工具主义和结构主义两种竞争视角下的治理路径,都难以作为人工智能水平领域治理的主导逻辑。采用“技术双向性”的研究思路,构建“技术—制度”协同演化的试探性治理概念框架,以深度伪造技术风险治理为典型案例进行探索性解析。研究发现,人工智能风险治理是一个技制迭代协同演化的过程。具体而言,技术治理由“被动检测”逐渐发展到“主动检测”;制度治理从“间接监管”逐渐转向“直接监管”;技制迭代发展由“治标型协调”演化形成“治本型协同”。有效治理人工智能风险需要树立弹性思维观念,把历时分析和辨证思考引入治理过程,及时、合理地配置技术工具和制度工具。

数字时代的地方金融风险与政府治理变革——“不完全发包”概念的引出

数字时代,地方金融、社会风险与国家治理之间的关系出现了新的变化。自下而上迅猛发展的数字金融在增进社会福祉的同时带来新型社会风险,对国家治理中的属地管理和垂直管理模式都带来挑战,推动着政府治理变革。面对新型风险与治理挑战,政府治理变革主要体现在央地协同、上下共治、平台治理三个方面,它们分别意味着条块关系、层级关系和政企关系的新变化。这种数字时代的新型政府治理模式总体上具有“不完全发包”的特征,亟待深入研究。

构建具有韧性的风险治理与应对体系

当今世界不确定性因素日益增多,各种风险彼此渗透、错综复杂,传统安全风险与非传统安全风险并存。面对日益复杂多变的风险环境,需要坚持以总体国家安全观为指导,厘清自然环境因素、人与社会因素、政治经济因素以及科学技术因素导致的各类安全风险,从法规、组织、技术、文化维度,强化多元主体参与的风险治理,建立完善重大风险监测预警平台,构建具有韧性的全面风险应对体系,为推进中国式现代化提供坚实的安全保障。

生成式人工智能训练数据的风险与治理研究

生成式人工智能技术目前正处于蓬勃发展时期,但其在训练数据收集和处理时,潜在的合规、泄露和偏见等风险时刻威胁着生成式人工智能技术的健康发展、扰乱社会秩序,成为生成式人工智能治理必须解决的问题。我国目前对生成式人工智能训练数据风险治理既有政策支持,又有法律保障。在这些基础上,行政机关可以建立生成式人工智能基础模型信息库,预防训练数据合规风险;也可以开发、使用合成数据,扩大训练数据来源,规避训练数据泄露风险;还可以通过适当细化训练数据审核制度和逐步实施生成式人工智能企业数据信用制度的方式,规范生成式人工智能训练数据使用行为,降低风险发生概率。

我国算法风险及其治理研究综述

数智时代,算法已然渗透人类社会的每一个角落.算法驱动数字化、智能化转型的同时,也催生出一系列问题,日益加剧的算法风险亟需有效治理.首先,将算法风险划分为法律司法、政治治理、信息传播、商业经济4大领域,然后剖析算法风险形成机理,涵盖算法黑箱、算法歧视以及权力异化3个维度,最后提出算法风险治理框架,具体可分为技术规制、权责规范以及生态优化3条路径,较为系统地展现了我国算法风险及其治理的研究进展与发展动向,为推进我国算法风险治理理论研究与体系建设提供参考.

平台场域内中等收入人群“滑落”风险形成与治理机制——基于美团外卖骑手的案例研究

在中等收入人群绝对规模增加的过程中,也存在着“滑落”现象,以往对于中等收入人群的研究多从收入分配制度、人力资本等角度展开。通过美团案例的研究发现,中等收入人群“滑落”的根源为生态成员权责范围的模糊,“稳中”还需依赖平台治理。处于市场优势地位的美团,在供求失衡的市场机制和算法技术的支持下,通过灵活用工模式规避雇佣责任,但这种劳资关系并非稳定的和可持续的。外卖骑手可以通过自我赋能、维护自身主体性、多栖战略等途径抵御“滑落”,同时,制度缺口填补、平台与政府协同治理、平台企业垄断规制和多元主体赋权的方式也可以阻断外卖骑手的“滑落”通道。外卖骑手“滑落”是研究橄榄型社会结构构建的经典案例,对我国完善平台治理结构和发展共同富裕具有积极意义。

组织韧性:城市社区风险治理的机制优化

面对复杂多变、日益严峻的风险挑战,组织韧性是城市社区提升风险防治能力与实现可持续发展的重要方面。如何整合城市社区组织关系、制度规范、社会资源和集群文化以有效提升组织韧性,在应对各种风险挑战和冲击时快速适应、恢复以至在新的基础上实现跃升,成为我国城市高质量发展和社会治理现代化的重要命题。基于组织韧性视角,应以城市社区风险的有效防范与治理为出发点,从组织架构、组织制度、组织技术和组织文化等多元维度系统地探索组织韧性赋能城市社区风险治理的具体路径,并通过采取具有针对性的措施提升城市社区自组织结构、过程、能力和治理模式方面的韧性,从而夯实城市应急治理的制度根基。

风险治理视域下韧性乡村建设的生成逻辑与前进路径

韧性乡村建设聚焦于常态与应急相结合的乡村风险治理体系,对于提升乡村整体韧性能力、应对各种常态化风险挑战以及实现乡村可持续发展具有重要价值。基于制度分析与发展(IAD)框架,从风险情境、制度结构以及理性行动三个维度探析韧性乡村建设的生成逻辑,并结合帕森斯AGIL功能模型从常态化风险治理机制的适应功能、乡村整体韧性的目标达成、多元化治理主体联动的整合协同以及数字技术赋能韧性乡村的模式维持四个方面提出韧性乡村建设的实践路径,厘清韧性乡村的常态化风险治理机制、目标导向、行动参与者以及良性运作手段等核心问题。面对常态化风险的冲击和干扰,韧性乡村建设通过采取理性行动、发挥多元化主体联动以及全周期风险治理的优势,提升乡村在经济、生态、文化等各方面的韧性能力,以应对各种常态化风险的挑战。

生成式人工智能虚假信息风险与治理研究

以ChatGPT为代表的生成式人工智能改变了人机交互、信息获取、信息传播的方式,但大语言模型的“幻视”问题也给虚假信息治理带来了新的挑战。训练数据瑕疵、算法黑箱以及大语言模型的“涌现能力”等因素致使虚假信息风险呈扩大趋势,对个人权益保护、社会稳定以及国家安全构成了严重威胁。《生成式人工智能服务管理暂行办法》明确要求不得利用生成式人工智能生成虚假信息,但在虚假信息的监管主体、监管职责及法律责任等方面缺乏具体规定,不足以有效应对生成式人工智能下的虚假信息风险。为破解当下困局,应当秉持包容审慎的治理态度,立足我国法治实践现状,从规范体系、治理主体、责任承担和制度环境等维度构建生成式人工智能虚假信息的治理框架。

全球人工智能风险治理的趋势与特征——基于25份政策文件的文本量化分析

人工智能已经成为新一轮科技革命和产业变革的重要驱动力量。选取2016年以来全球各国或组织出台的25份人工智能风险治理政策展开文本量化研究,构建“风险议题—治理主体—政策工具”三维分析框架,分析全球人工智能风险治理政策的主要内容、基本特征和发展趋势后发现,全球人工智能风险治理政策侧重于解决社会风险问题,对技术风险和法治风险的关注仍待强化;治理主体多样化,但参与度不均衡;以强制型政策工具为主,引导型、市场型政策工具为辅,自愿型政策工具运用偏少。因此,应优化政策工具整体布局,形成多元主体参与协调机制,健全人工智能安全等级和风险预估机制。

生成式人工智能(AIGC)的社会风险及治理研究

生成式人工智能(AIGC)尚处于探索发展阶段,其在社会应用过程中机遇和挑战并存。基于此,文章以ChatGPT(Chat Generative Pre-trained Transformer)为代表,对生成式人工智能的社会风险及治理进行研究,分析其在赋能社会发展时所引发的多方面风险,如虚假信息泛滥、个人隐私泄露、技术依赖以及数字鸿沟问题,同时从治理理念、数据合规、技术基础和服务保障方面阐述了应对风险的对策建议。

环境风险治理的制度化与“制度化自反”

制度化是环境风险治理的有效路径,但制度化也会因为“制度化自反”而成为新的环境风险源。环境风险治理制度化体现在认知理性化、行为规范化和组织系统化等方面,获得了科学认知并开展有序的治理行动。但面对高度复杂性和高速流动性的环境风险时,制度化路径失效了,反而在应用中出现制度化的自反,制度化的路径成了新的环境风险的根源。环境风险治理中制度化自反表现为:风险认知理性化引发风险认知偏见,参与程式化带来民主形式化,组织规范运行却出现异化。总体来看,环境风险治理需要从制度主义转向行动主义,在行动主义框架下消除制度化的自反。具体来说,需要确立合作行动的治理理念,健全风险治理规则,构建合作行动组织体系,优化技术治理工具。

风险视域下如何建设韧性社区治理共同体:目标、路径与任务——基于政治—价值—技术三维驱动的分析

社区治理共同体是我国城市治理体系和治理能力现代化建设的重要战略支撑。当前,城市发展面临风险加剧与不确定性增强的挑战,将韧性概念引入社区治理共同体建设,有助于进一步明确社区治理共同体建设目标,提升社区治理共同体在常态与非常态治理情境中的韧性能力。在社区治理共同体应对危机的不同阶段,韧性能力具体表现为危机前的敏捷反应力、危机中的强大抵御力、危机后的快速调适力和贯彻始终的持久学习力。风险视域下我国韧性社区治理共同体建设受政治、价值、技术等多重因素驱动,这决定了韧性社区治理共同体建设的三条主要路径,即制度路径、文化路径和技术路径。建设社区治理共同体,应重点落实治理组织韧性提升、治理主体韧性培育、治理技术韧性改造等关键任务。

团结抵御风险:韧性安全城市的社会治理之维

现代性的发展不可逆转,与之伴随的是不确定性强、复杂性高、危害性大且难以感知的现代风险。这构成了现代化的所谓自反性,对具有循规蹈矩、规避责任等结构性问题的科层制提出了严峻挑战。从社会的角度看,社会原子化和经济生活的高度组织化之间的反差,是风险社会的结构性成因。社会团结的缺失,又进一步加大了风险治理的困难。文章从社会团结理论出发,分析个体化危机对以行政力量为主导的应急管理模式构成的深层次挑战,提出应将应急管理引向为安全治理。通过吸纳社会力量,构建安全治理共同体,以提升安全治理韧性水平。改造个体间社会关系、通过治理行动促进多元主体团结、优化政府条块关系、培育社会共同体意识,是提升风险治理效能的关键路径。党建引领是打造治理团结的关键因素。通过制度、机制、组织和文化的相互促进,实现个体的凝聚动员以及多方治理主体的价值整合与行动协同,确保在风险情境下发挥最大合力。

政务元宇宙赋能公共治理:治理契机与风险因应

政务元宇宙是虚拟世界与现实世界虚实相生的政府治理新模式和公共服务供给新体系。凭借其超强大技术群支撑,政务元宇宙在公共治理领域不仅能够表现出强大的组织整合功能、任务激励功能及社区自治功能,还能驱动组织内部变革与外在治理的双重转型。从组织内部变革来看,政务元宇宙将推动政府服务效能优化、政民互动更加高效及治理规则不断创新。从外在治理转型来看,政务元宇宙将实现公共治理领域信用体系重塑、安全体系重构、价值体系重建与治理体系精细化。随着虚拟世界对现实世界影响力的不断增强,传统科层制度与治理范式将遭遇不同程度的挑战,如数字技术依赖引发政治安全、数字人身份引发虚拟世界监管难题、数字世界新规使得传统科层规则悬置。国家须积极布局政务元宇宙,通过推动关键数字资产国有化及算力设施国家化以打破数字技术外部依赖;以国家信用为背书加快构建数字人身份监管新规定;增加国家在元宇宙空间的话语权与行动能力以打破科技巨头规则垄断。

老龄社会健康风险与韧性治理

随着中国进入老龄社会,人口老龄化呈现规模大、增速快、水平高、差异大和结构稳的显著特点。老年群体健康问题凸显,老龄社会健康风险成为亟待关注的重要治理议题,传统治理模式效果欠佳,需要引入韧性治理以快速、积极和高效地应对风险冲击和挑战。中国老龄社会健康风险是在人口老龄化迅速加深和老年群体健康问题显现双重叠加下产生的,以老年人健康问题为核心,给人口和社会可持续发展带来高度不确定性、损失性和复杂性的多维风险,具有基础性、系统性和全人群全周期性等特点。为此,老龄社会健康风险的韧性治理需要以老年群体韧性实现的动态过程为核心,以全人群全周期、动态调适和分类管理为原则性理念,以过程管理为主要手段,以多元主体协同为基本结构,以预防、减轻和化解健康风险及其后果为根本目标,化危为机。未来,中国在老龄社会健康风险治理上还需要坚持全球视野和跨学科视角,为健康老龄化的全球治理贡献中国经验。

我国省级公共图书馆用户隐私风险及其治理策略

文章通过构建公共图书馆用户数据生命周期模型,分析我国省级公共图书馆公开披露的用户信息处理规则文本内容,对照法律规范中有关个人信息处理的规定,判定剖析公共图书馆用户数据生命周期各阶段存在的隐私风险,并从用户、图书馆、第三方机构角度提出公共图书馆用户隐私风险治理策略,即提升隐私素养能力,建立各参与者间的协同共识,构建隐私风险可控机制,增强事后救济处置能力。

智慧图书馆生成式AI大模型风险治理机制研究

[研究目的]探讨智慧图书馆中生成式AI大模型的风险治理机制,以期为有效治理提供模式、策略和框架,助力图书馆的数字化转型和服务创新。[研究方法]对生成式AI大模型在智慧图书馆中相关风险隐患和来源进行全面分析,提出相应的治理策略。结合敏捷治理和韧性治理理论,构建适用于智慧图书馆生成式AI大模型风险治理的多元协同参与的敏捷-韧性模式。针对生成式AI大模型在模型开发与训练、服务部署与维护、内容创建与审核、内容共享与传播、用户管理与教育和安全评估与监控不同生命周期治理阶段,提出相应的治理框架。[研究结论]研究表明,提出的多元协同参与的敏捷-韧性治理模式和生成式AI大模型全生命周期风险治理框架帮助图书馆在不同阶段采取相应的治理措施,通过建立适用于智慧图书馆的生成式AI大模型风险治理机制,旨在保障图书馆生成式AI大模型的安全和高效,进而促进智慧图书馆的持续发展。