生成式人工智能的科技安全风险与防范

生成式人工智能作为科技变革和产业赋能的重要引擎,凭借其强大的自然语言处理能力而具备广泛的应用前景。生成式人工智能具有以下科技安全风险:数字霸权和科技资源垄断等国家安全风险;算法黑箱和算法歧视等算法安全风险;人机互动过程人的自主决策意识丧失的科技伦理风险;跨境流动过程产生的数据和知识产权侵权风险。为构建可信任的生成式人工智能,应共同打造多元共治的生成式人工智能安全风险治理局面,形成风险识别及防范的逻辑闭环。在国家层面应以系统安全观为战略指引,分阶段稳步推进生成式人工智能科技安全立法。在行业层面应以场景理论为导向,分情景开展生成式人工智能的风险识别及其防控。在企业层面应将风险意识植入企业内部文化,探索多模块多层次的风险治理模式,落实企业合规责任。在用户层面应自觉以权利意识和自主决策为基本遵循。

生成式人工智能安全风险治理研究

当前,以ChatGPT、Sora等现象级产品为代表的生成式人工智能快速发展,正在重塑产业链和价值链。与此同时,也在数据安全、算法安全、网络安全和应用安全等方面引发了诸多新风险,可能造成严重影响。世界主要国家和地区高度重视生成式人工智能安全风险治理,从政策引导、技术保障、国际合作等维度推进风险治理体系建设。科技企业在积极推进前沿技术创新的同时,也应高度重视安全治理,从不同侧重点发力保障人工智能可信赖、负责任。我国应从加强跟踪研究、推进技术攻关、推动“以评促建”和加强国际交流四个维度发力,保障人工智能安全健康发展。

银行数字化转型下信息科技安全及合规风险治理体系及治理能力的重塑

当下金融科技的发展日新月异,深刻改变了传统银行间的竞争态势,银行业纷纷开启数字化转型,在行业内掀起了开放银行、数字银行的浪潮,传统银行在技术架构、前台、中台、后台上都加强了与科技企业的合作。新的模式下也带来了新的安全风险治理挑战,传统技术风险、数据安全保障等能力建设的重要性凸显[1]。本文结合银行业数字化转型趋势下分析了当下银行业信息科技安全风险治理面临的挑战,从管理加治理的视角及整体治理体系的建设上提出了一些见解,以构建信息科技安全及合规风险为导向,以建设安全及合规治理基础设施及平台工具为手段,以管控人与工具的信息科技风险为目标,构建覆盖业务系统生产研发全生命周期的安全风险治理体系,围绕未来银行科技转型发展的趋势,提出了3点未来需要关注的风险治理能力建设的方向。

总体国家安全观下电子档案单套制风险治理研究(摘编)

文章在识别电子档案单套制风险的基础上,构建“理念—主体—行动”三维分析框架,阐述单套制风险的治理理念、治理主体和治理行动,期望对电子档案单套制风险治理有所启示,进而优化国家信息安全体系,营造良好数字生态,推进数字中国进程。治理理念党的十九大召开后,档案行业积极响应国家战略,将总体国家安全观引入档案事业。总体国家安全观涵括系统思维、法治思维、战略思维和底线思维。

从规则规制到信息规制:食品安全治理转型新思路

面对庞大的食品市场,规则规制存在的低效问题需要通过强化信息规制的作用加以解决,但是要注意影响信息规制的不利因素。食品安全治理突出信息规制的作用,表现出显著的系统性、全程性、预防性、社会性和技术性特征,对推动食品安全治理体系和治理能力现代化建设,搭建全面立体多方位的食品安全风险交流平台,促进食品市场规范有序、可持续发展,产生了积极的治理效果。应通过强化食品安全信息披露管理,激励食品安全信息准确传递,加强社会共治主体之间信息交流与共享,开展食品安全教育和市场信息环境建设,不断提升食品安全信息规制效率和水平。

区块链技术诱发国家政治安全的风险样态、逻辑与治理

区块链作为智能革命的重要支撑技术,在诸多领域表现出独有的治理优势,但也可能诱发诸多政治安全风险。相关数据和案例表明,区块链自治社区容易削弱用户群体对主流意识形态的认同程度,区块链技术的不当使用容易干扰政治制度运行的民主公正状态,区块链的去中心化分布式架构容易增加国家政权安全的保障难度。这些问题亟需纳入信息生态、智慧治理等理论框架中予以分析、解决。研究发现,区块链政治安全风险诱因系统呈现出涵化逻辑、权力博弈逻辑和把关失灵逻辑。基于在智慧社会语境中提升我国政治安全水平的需要,应采用诸如优化主流意识形态风险应急的全链条治理体系并强化智慧技术对主流意识形态的传播赋能效应、以技术创新赋能政治制度的正当性和合法性并提升我国政治制度的国际竞争力、持续完善智慧治理体系并提升不同信息主体的把关效能等相关智慧治理策略。

云时代下读者个人信息的安全风险及治理对策

在云计算时代下,图书馆读者个人信息的真实性、保密性与可用性等存在安全风险,图书馆数字化建设也遇阻。文章剖析了前述风险的成因,立足于国内实情并借鉴美欧经验,指出我国可分步骤地治理图书馆,以此来应对风险。治理者需要协调发挥图书馆行业规范与法律等制度的作用,并采取与制度相配套的措施(如对馆员开展信息素养教育),从而在维护读者权益与促进图书馆数字化建设之间寻求平衡。

云计算下个人信息的安全风险及应对——以治理信息供应链为路径

提供云计算平台服务的营运商时常破坏个人信息安全,这侵害信息主体与利用者的权益并阻碍了云计算等产业的发展。针对前述风险,我国宜通过治理信息供应链,督促营运商和利用者完善安全管理,从而提高供应链的运行效率;同时对供应链前后两端的主体与利用者的权益加以保护,并鼓励他们通过合作来共同维护信息安全。为加强风险治理的效果,我国须提高营运商与利用者的工作人员的信息素养。

基于互联网的食品安全风险治理研究——信息工具视角

食品安全是社会公共安全的重要组成部分,日益受到政府和社会公众的关注。面对食品安全风险的复杂性,事后监管为主的治理模式屡屡失效,监管机构在食品安全风险信息的获取和发布方面面临很大挑战。互联网作为现代信息技术的集大成者,为食品安全风险的多方协同共治提供了良好平台,治理信息工具在互联网中可以更高效地发挥作用。依托互联网,通过多元参与、风险交流和风险预警可以提升食品安全风险的管控水平,促进各方关于食品安全风险认知共识的达成。基于互联网的食品安全风险治理需要公众树立参与治理的责任意识,政府应树立开放治理和云端治理思维,同时加强对互联网本身的治理。

高校软件供应链安全风险探究

随着高校智慧校园建设的不断深入,大量信息系统的上线极大地提升了高校的治理能力和管理水平,海量的数据资源为高校决策提供了精准、可靠的数据支撑。然而,由于软件供应链体系的动态性、复杂性、开放性等特点,由其引发的网络安全事件层出不穷。2020年爆发的SolarWinds事件、2021年爆发的Log4Shell/Log4j远程可执行漏洞等攻击事件。

云时代下个人信息安全风险的治理

云时代下,个人信息的安全要素频遭破坏。为治理这一风险,我国应通过设计制度保护信息主体与利用者的权益,并约束云计算平台的行为。为加强治理效果,我国须采取提供信息管理人员素养等配套措施。

协同治理:青少年信息安全困境与风险防范

网络时代,信息庞杂超出了个体与政府相关部门的认知范围和认知能力,如何防范信息安全风险成为当下社会面对的重要命题。青少年既是网络发展的受益体,也是网络犯罪首当其冲的对象。协同治理强调不同子系统或者行为体的协同,以发挥整体大于部分之和的功效,成为化解当下青少年信息安全困境,防范网络犯罪叠加伤害的关键措施。因此,促进以青少年自我管理为主,充分发挥教育等相关社会主体的协同治理效能,才是破解青少年信息安全的困境,进行有效风险防范的最佳途径。

基于云计算的个人信息安全风险以及应对策略——治理信息供应链的途径探析

在人们使用互联网的时候,个人的信息经常被泄露,这样的情况不仅会侵害人们的信息安全权益,并且对云计算的发展也会造成不良影响。因此,我国应当积极对信息供应链进行治理,使营运商加快信息安全管理的完善速度,继而使供应链的运行效率得到提升。除此之外,还应当积极保护供应链前端以及后端的信息主体以及信息利用者的相关权益,使其积极合作,继而共同对信息的安全进行维护。

加强信息科技风险管理 打造安全的金融IT平台

当前，信息技术已经渗透到商业银行经营管理的各个领域，银行业已成为信息技术高度密集、高度依赖的行业。随着我国银行信息化建设步伐的加快，信息科技在促进业务发展的同时，信息科技风险也已经成为影响银行业稳健发展的重要因素。特别是由于2008年北京奥运会等因素，各方面对信息科技风险管理高度重视，

知识产权数据风险与治理路径研究

数字经济背景下,知识产权数据的重要价值日益凸显。在挖掘利用知识产权数据信息的同时,应当注意相关信息安全风险的防范,采取有效的风险应对措施。知识产权数据涉及公共数据以及企业数据两大范畴,具备法律属性与经济属性。互联网环境下,知识产权数据面临的风险涉及信息安全、信息出境以及政府治理等环节。应对上述风险,需要对知识产权数据进行有效的分类分级管理,并在此基础之上,从理念、制度、技术等多个维度出发,构建合理的风险防范应对机制,探索有效的知识产权数据治理路径。

加强信息安全建设 控制信息系统运行风险——访上海浦东发展银行信息科技部总经理奚力铭

上海浦东发展银行信息科技部总经理奚力铭认为,随着银行信息化的发展,银行面临的外来威胁也日益增多,信息技术风险控制成为银行信息化工作中的重点之一。在实际的IT运行管理工作中,上海浦东发展银行不单要通过落实各项措施来做好IT风险管控工作,而且还要吸取其他金融机构发生IT风险事件的教训,不断完善自我,最大程度避免IT风险的发生。

基于新巴塞尔资本协议的银行业信息安全风险治理

在当前银行数据大集中的背景下,IT既是银行核心能力之一,也是银行最大风险之一。本文从商业银行近年来频发的IT风险事件出发,深入分析银行IT风险的诱发因素,并以《新巴塞尔资本协议》对银行IT风险管理框架为指导,重点分析当前国内银行业IT风险治理现状及存在的问题,给出商业银行IT风险治理措施和具体建议。

提高信息科技风险管控水平 保障信息系统安全稳定运行——访中国光大银行信息科技部安全管理处处长孙晓旻

目前，信息安全问题已成为信息化发展道路上的无形关卡或瓶颈，如何从根本上有效解决信息安全问题，成为信息化深入发展的重要问题。从信息安全角度看，信息化程度越高，范围越广，风险防范的难度越大，风险也就越大。保障信息安全问题已经成为制约经济社会发展的关键问题之一，亟待解决。近日，就如何保障信息系统安全运行，如何消除安全隐患、提高信息安全管控水平等问题，记者采访了中国光大银行（以下简称为“光大银行”）信息科技部安全管理处处长孙晓曼。

全面落实自主可控战略,提升科技治理现代化水平——中国银行业信息科技风险管理2014年会召开

2014年12月3日,中国银行业信息科技风险管理2014年会暨银行业信息科技风险管理高层指导委员会全体会议在北京召开。会议以＂全面落实自主可控战略,提升科技治理现代化水平＂主题,围绕银行业信息安全建设情况、信息科技外包风险管理、互联网环境下的自主可控与科技创新等话题进行探讨。近70家银行机构及各银监局负责人参加了会议。

银行信息科技风险的治理途径

信息化建设一直是现代银行发展战略的重要组成部分。最近十年,银行信息化建设一直在高速向前发展。随着数据大集中工程的启动及完成,银行信息化从信息基础设施到业务系统的建设,都取得了较为明显的成效,信息化总体架构已经成熟,各类业务应用系统已经初具规模。各类信息系统已经成为银行提供客户服务、