人类命运共同体视角下人工智能风险全球治理的国际法规制路径探究

2023年10月中国发布的《全球人工智能治理倡议》是以构建人类命运共同体为视角,提议各国加强信息交流与技术合作、共同做好风险防范、促进人工智能技术向善,开启了人工智能全球治理的新篇章。鉴于人工智能技术所呈现的跨国家、跨领域、跨文化等全球化属性,作为维护全球和平与稳定基石的国际法由此成为推进人工智能全球治理、防范人工智能国际风险和伦理风险的重要力量。然而,目前国际法在人工智能全球治理中依然面临着严峻的风险和挑战,其中主要包括:国际战略博弈加剧、人工智能算法独裁、人工智能技术垄断、人工智能规则霸权等国际政治安全风险;国际贸易摩擦加剧、全球结构性失业、数据跨境流动规制冲突等国际经济安全风险;人工智能军事伦理困境、人工智能战争人权侵犯、人工智能武器技术扩散等国际军事安全风险;等等。为此,需要通过国际软法与国际硬法协同共治、建立和完善数字经济国际规则、加强人工智能武器领域人权保护等方式,构建全方位、多层次、立体化的人工智能国际法体系,为人工智能全球治理提供坚实的国际法治保障,在安全稳定的前提下促进人工智能健康可持续发展。

人工智能风险的全流程规制逻辑及制度因应

人工智能风险并非确定性、单一性的风险,而是蕴含着生成多元性、演化交替性、结果未知性的体系性风险,这成为人工智能风险全流程规制的逻辑基础。全流程视域下,人工智能风险可类型化为算法设计风险、数据要素风险、平台控制风险、网络安全风险、自动决策风险等具体样态。人工智能风险规制立法应基于全流程规制视角,在规制范围上,加强全周期贯穿,实现人工智能风险的穿透规制;在规制进路上,注重全过程传导,实现人工智能风险的渐进规制;在规制内容上,强化全要素统筹,实现人工智能风险的一体规制。

人工智能风险治理中知识产权限制的应用

当前人工智能风险治理研究多集中于决策式人工智能,立于“权力限制”视角,提出以公法监管为主的多元治理模式。不过,面对生成式人工智能的技术风险,商业秘密、著作权等知识产权往往成为监管的“法律黑箱”。由此,可基于“权利限制”的立场,通过知识产权限制实现技术风险治理。从知识产权限制“公共产品”“有益产品”理论逻辑与司法的变迁可知,限制制度设立应当考虑技术利用所涉及的基本权利与成本收益,在此基础上设立合理使用、非自愿许可等制度,填补“三步检验法”中第一步的价值空缺。具体到人工智能风险治理,则可考虑设立“人工智能合理使用条款”,更新“反向工程”条款等核心限制制度,创设“技术缺陷披露”“大数据信息申报”“语料训练知识产权注意义务”等辅助限制制度,并随之完善相应的司法裁判规则。

重构人工智能风险治理:从内部视角到外部视角

学界对人工智能风险治理的研究集中在基于内部视角的人工智能合规制度,无法全面揭示人工智能风险治理的制度内核。从风险治理的外部视角出发,将人工智能合规置于政企关系的框架下,人工智能合规的基本理念将不再是纯粹的自我规制,而是自我规制与政府规制的互动。在这种视角转变下,平台企业与政府之间形成关于人工智能治理任务分配的“发包”关系,体现为一种平台发包制,可以具体展开为四个子制度:授权机制是平台发包制的制度前提,即政府基于信任授予平台企业规制权力,这种授权是通过隐私政策证成的;评估机制用于衡量平台企业的人工智能风险治理能力;激励机制与考核机制都旨在提高平台企业的人工智能风险治理能力,前者通过锦标赛理论推动平台企业参与依据人工智能风险治理能力的竞争,后者通过金字塔理论推动平台企业形成体现人工智能风险治理能力的指标。

南水北调配套工程运行管理中的智能风险管理体系研究

在国家发展中,水资源调配被视为极其重大的战略,相应地,智能风险管理成为实施该战略的关键要素。文章聚焦于南水北调配套工程运行管理中采用智能化手段进行风险识别与应对,归纳出来四类主要风险:技术、环境、管理以及社会。并根据每一种特定类型摸索出一系列基于智能化的管控方法。其中包括建立健全的智能设备维护系统、智能生态监测平台、基于大数据分析的人员培训管理体系以及借助人工智能实现水资源优化分配。文章指出,通过持续不断地优化和实施这些策略,可以有效保障南水北调工程能够长期稳定运行,为我国实现水资源可持续利用提供坚实有力保障。

交通基础设施PPP项目智能风险评价模型研究

文章基于模糊综合评价方法和神经网络模型,在分析影响交通基础设施PPP项目运营的主要风险并建立其风险评价指标体系的基础上,提出交通基础设施PPP项目的智能风险评价模型。针对交通基础设施PPP项目风险评价的常用方法对主观经验依赖较强、不同项目间评价结果的可借鉴性不强的现状,本研究的评价模型能通过自主学习模糊综合评价的评价结果而实现风险评价智能化。通过实证分析,证实交通基础设施PPP项目智能风险评价模型具有可行性,并建议根据项目运营情况完善风险评价体系、统一不同项目间的模糊综合评价的评分标准、建立和完善智能风险评价模型的训练样本数据库以及根据项目实际风险情况及时调整评价分数来提高智能模型精度等建议,以期为交通基础设施PPP项目的智能风险评价提供理论指导。

基于智能风险管理的银行社会责任风险控制研究--以广州农商银行为例

从智能风险管理视角,融入智能分析工具,构建银行社会责任风险管理框架,以实现风险的事前、事中和事后控制。

人工智能风险研究:一个亟待开拓的研究场域

随着人工智能技术的发展及应用领域的不断拓展,其所引发的风险问题逐渐得到学界的关注。概述了当前人工智能所引发的风险事实类型,以及未来的AI重大风险——强人工智能风险的可能实现形式,并指出,当前的风险治理模式在很大程度上难以遏制未来人工智能风险的不断扩展,如伦理约束失效、企业自治失灵、技术恐怖主义、创新无禁区困境等。认为学界应积极推进人工智能风险及其治理研究这一专业领域的形成与建设,并对其分析准则、AI风险类型,以及治理体系构成等问题进行了论述。

医院后勤机电设备智能风险管理研究

机电系统的安全运行是医院生命支持系统管理的核心内容,准确预测医院后勤机电设备的运行风险,对机电系统的安全运营及整个医院的高质量发展具有重要意义。该文基于深度学习提出一种医院后勤机电设备智能风险管理方法。文中深入分析了影响机电设备运行风险的因素,并利用信息化技术构建全面的风险管理指标体系,设计了适用于实际风险预测及评价的风险管理模型结构和参数。最后对医院后勤机电设备智能风险管理领域存在的问题和发展趋势进行了探讨。

智能风险管理框架下的HT公司债务风险控制

智能风险管理是企业风险管理理论的新发展,本文在阐述企业债务风险传递机理的基础上,以HT公司的债务风险控制实践展示了债务风险智能管理模型。HT公司运用智能风险管理框架构筑的监督、债务风险控制框架、风险管理流程、执行四个层面的债务风险控制模式和机制,取得了良好的债务风险管理成效。债务风险智能管理框架的运用丰富了债务风险控制的方法,也为企业做好债务风险控制提供了参考。

插胃管前智能风险评估在神经内科患者预防误吸中的应用

目的探讨插胃管前智能风险评估在神经内科患者预防误吸中的应用效果。方法回顾性分析2020年10月至2021年9月萍乡市人民医院神经内科的90例留置胃管患者的临床资料,依据是否采用智能风险评估将其分为对照组和观察组,每组均为45例。对照组采用常规误吸风险评估,观察组采用智能风险评估。比较两组患者的误吸发生率、胃管留置时间、住院时间和吞咽功能。结果两组患者干预前的吞咽功能比较,差异无统计学意义(P>0.05);观察组的误吸发生率为8.89%,低于对照组的26.67%,差异有统计学意义(P<0.05);观察组的胃管留置时间[(17.89±3.20)d]、住院时间[(20.82±2.76)d]均短于对照组[(21.78±3.24)d、(25.64±3.16)d],差异有统计学意义(P<0.05);观察组干预后的吞咽功能评分为(2.21±0.05)分,低于对照组的(3.24±0.10)分,差异有统计学意义(P<0.05)。结论插胃管前智能风险评估能够有效预防神经内科患者误吸发生,改善患者吞咽功能,有效缩短胃管留置时间和住院时间。

社会责任视域下企业智能风险管理与内部控制研究--基于2013-2019年江苏上市公司的数据

本文选取代表企业承担社会责任情况的26个效益指标,基于2013—2019年沪深A股江苏上市公司数据及第三方公开披露评价数据,实证研究了承担社会责任对企业风险的影响,构建了企业智能风险预警模型,探索内部控制路径。研究发现,首先,构建的三个模型中,LOGIT-LIBSVM智能风险度量模型综合预测能力最好;其次,承担对股东、债权人、消费者、职工、社会公众的责任可以降低企业风险,且股东责任对企业风险影响程度最大;最后,构建的风险表达式可以直接测算出目前企业风险大小,结合模型对各类风险实时监控、预警,为内部控制重点方向提供指引。

人工智能风险及其规避措施分析——基于马克思“人的技术化”思想

人工智能时代的到来,大幅度提升了社会生产效率,提升了人们的生活水平。在人们热衷于人工智能产品的使用时,一些人工智能风险的发生带给人们生活的烦恼。通过分析几种人工智能风险,并基于马克思的人的技术化思想分析人工智能风险发生的原因,进而提出了如何规避人工智能风险,从而促进人工智能的合理发展。

杆塔智能风险预警系统在内蒙电网的应用

本文介绍了杆塔智能风险预警系统在内蒙电网的应用情况以及其重要性。传统的人工巡检方式难以及时发现和处理风险,因此开发一个智能风险预警系统对提升电力系统安全至关重要。杆塔智能风险预警系统利用先进的监测技术和人工智能算法,能够实时监测和分析高压输电系统的安全风险,包括极端降雨导致的杆塔倾斜和倒塌、鸟类造成的短路故障和绝缘子串污闪事故、阴雨天引发的接地电流过大等风险。与传统的人工巡检方式相比,杆塔智能风险预警系统具有显著优势,能够及时发现风险,生成准确的预警信息,通过人工智能算法预测风险发生概率和影响范围,降低误报率和漏报率,具备自动驱赶鸟类和自动监测接地电流等功能,能够在极端天气下持续工作,提高监测效率和准确性。然而,杆塔智能风险预警系统在应用中仍存在建设和运维成本高、准确性和稳定性需优化和改进、数据安全性和隐私保护等问题。综上所述,杆塔智能风险预警系统在内蒙电网的应用具有重要意义,通过该系统能够及时发现和处理风险,保障电力系统安全运行,最大程度减少故障损失和工业生产影响。未来可进一步完善技术和功能,推动该系统在全国范围内的应用,促进电力系统智能化和可持续发展。

大数据背景下电力信息网络智能风险预警

在本次研究中,主要对大数据背景下的电力信息的网络智能的风险预警措施进行分析,希望有助于电力信息系统的可持续发展。

发射机房智能风险评估系统

发射机房智能风险评估系统利用计算机技术将风险评估工作交由机器自动生成风险评估表和维护工作表,实现机房风险评估的智能化、自动化,同时还实现了风险预测和数据查看等功能。

风险社会视域下教育人工智能风险及其治理

技术从来就不是客观和中立的。教育人工智能在驱动教育创新、推动教育现代化发展的同时,其引发的风险也不容忽视。从风险社会理论视角分析发现,人工智能对教育的变革功能具有自反性立场,教育人工智能风险是一种根源于技术自反性现代性的现代风险。教育人工智能风险的危害结果表现形态复杂多样,但其根本上还是对人以及人与人之间关系的危害,属于伦理风险。从人工智能应用于教育的过程分析,教育人工智能风险主要表现为:由于技术自身设计不成熟、错误或漏洞导致的技术内生型风险,由于技术的误用和滥用导致的技术应用型风险,由于技术管理不当导致的技术管理型风险。为有效治理教育人工智能风险,需要构建多元主体参与的复合型治理体系,从伦理引导、政策规范、法律约束、技术应对和事实追踪等方面综合施策。

人工智能基础模型安全风险的平台治理

人工智能基础模型的安全治理是人工智能法治化发展面临的重要命题。人工智能基础模型平台作为安全治理的主体,其发现、评估和缓解人工智能系统潜在风险的能力至关重要,具有调整和优化自身模型的作用。国内外人工智能基础模型平台积极布局安全风险治理,但仍然面临治理架构缺乏权威性和代表性、伦理规范过于抽象、测试算力不足、风险评估困难、平台存在利己偏好等挑战。有必要立足于中国人工智能基础模型平台安全治理的实际,完善压力驱动、动力保障、能力强化等机制,更好发挥人工智能基础模型平台对安全治理的特有优势和能动作用,支撑人工智能技术及其应用健康有序发展。

面向风险的人工智能监管进展、创新与启示:基于欧盟视角的观察

随着人工智能技术发展和市场化应用下的风险衍化,人工智能监管产生并独立于人工智能治理,成为化解人工智能风险的基础理念与新兴领域。欧盟首创面向风险的人工智能监管新范式,并借助国际合作、伦理约束与风险监管框架等方式实现欧盟人工智能监管的领导力和行动力。考虑到人工智能技术与社会需求的参差,欧盟优化人工智能监管主体、监管流程以及监管内容以达到人工智能动态风险的有效监管。面对复杂的人工智能风险态势,我国可借鉴欧盟经验,在政策决定层面,基于本土国情制定面向风险的人工智能法律政策与框架体系;在应用实践层面,构建司法机关、市场监督机关以及企业等主体的交互协同机制;在产业结构层面,通过市场赋能推动人工智能监管职能下沉和产业创新发展;在通识教育层面,培育人工智能素养作为防范人工智能风险的监管“安全阀”,实现公正、和谐和创新的未来人工智能发展。

冶金矿山尾矿库安全风险智能监测系统的建设与实施

冶金矿山尾矿库的安全管理非常有必要,企业需要在高瞻远瞩和顶层设计中立足于安全管理的现实需要创建风险智能监测系统,确定安全监测等级、安全监测系统构成以及监测频率,建立健全人工安全监测系统及在线安全监测系统,在现场巡查的过程中保障监测系统的正常运行和管理,确保冶金矿山尾矿库安全管理工作能够顺利落地,积极规避各类安全风险。