数据生命周期视角下高校科学数据安全内容框架构建

[目的/意义]科学数据安全是国家信息安全的组成部分,随着数据科学研究的兴起,高校科学数据安全的政策研究有待深入。[方法/过程]采用网络调查的方法,对美国U.S.News前50名大学的科学数据管理内容进行分析,从“涉及对象”“保护方法”和“科学数据生命周期”等角度梳理政策重点和空白点。基于科学数据生命周期,从“制度层”“基础设施层”“数据素养层”和“实施层”四个主要层次,构建了高校科学数据安全的内容框架,并分别讨论了科学数据生命周期不同阶段与科学数据安全相关的各个主体的职责。[结果/结论]高校科学数据安全内容贯穿科学数据生命周期,相关主体包括制度层、基础设施层、数据素养层、执行层。

数字图书馆安全内容及其防范策略

数字图书馆的安全内容包括实体安全、数据安全和软件系统安全等。相应地,实体防范的策略有实体的安全策略、数据的安全策略、数据信息的备份策略、系统安全策略和人为因素防范策略。

面向科技情报服务的内容安全关键技术体系研究

保障内容安全是做好科技情报服务的重要基础工作。开展面向科技情报服务的内容安全关键技术体系研究,对于保障科技信息资源内容安全、提供优质科技情报服务具有重要意义。针对科技情报服务全过程面临的内容安全防护需求,提出了以内容比对数据等基础保障为支撑,涵盖内容安全审核、开源风险监测、智能监控预警3个维度的内容安全关键技术体系,设计并研发了相关的内容安全防护功能。该研究可为提升科技情报服务全过程内容安全管理水平和效率提供参考借鉴。

全球化背景下的网络内容安全风险升级与治理

网络内容安全是网络内容治理的重要方面,也是信息安全和国家安全领域的重要命题。网络内容的内涵随着互联网技术和全球化趋势的演进发生了变化,传统的技术领域风险逐渐向认知领域拓展。在生成式人工智能出现和发展的背景下,网络内容安全风险进一步出现了隐蔽化、长线化转向,为社会带来了深层次风险与挑战。深刻认识网络内容安全的发展变化与风险挑战,厘清网络内容安全风险升级背后的基本逻辑关系,构建现代化的网络内容安全治理体系,是推进互联网治理、应对网络安全问题和维护国家安全的重要使命与目标。

基于区块链的艺术院校全媒体平台内容安全管理探讨

随着全媒体时代的到来,艺术院校全媒体平台成为艺术教育与传播的重要渠道,平台内容安全问题备受关注。基于此,文章首先介绍了内容安全的概念及相关法律法规,其次分析了区块链的特点及其应用现状,最后分析了艺术院校在内容安全方面存在的问题及管理策略。

互联网内容安全关键技术研究综述

随着互联网技术的飞速发展和内容创作分享的低门槛化,互联网内容安全成为当下互联网建设和监管的重点.以文本、图像、音频、视频为载体的信息内容剧增,给互联网内容安全带来巨大挑战.互联网内容安全内涵丰富,从多媒体内容过滤分析、信息伪造检测、舆情态势感知和数据保护4个方面对其中关键的技术进行介绍.同时,梳理实际应用中广泛采用的关键技术和相关研究工作.最后对互联网内容安全研究的关键问题进行探讨与展望.

一种高性能Web内容安全监管系统

Web内容安全保障主要是保护大型政府门户网站、新闻网站发布的公告和新闻等内容的安全。这类Web网站发布的内容是社会舆情引导的重要组成部分,如果被恶意篡改将会引发严重的后果。针对这一类问题,提出一种Web内容安全监管系统。系统从内容监管、权限审核、核心词表与关联模式定义三方面实现对Web内容审计与管控,融合了被动与主动两种安全保护的方式,并能与内容发动审核流程紧密联合。所提出的系统相对于其他同类系统具有高性能、高安全保障性的特点。

生成式人工智能内容安全风险分析与安全机制探讨

生成式人工智能对人类生活方式、工作方式乃至认知方式产生了深远影响。未来,AIGC将成为内容生产的主力军之一。通过回顾生成式人工智能大模型的发展和应用情况,总结了当前生成式人工智能面临的法律风险、道德风险、歧视和偏见、虚假信息和模型自身安全风险等相关安全风险,分析了各类安全风险产生的原因,并阐述了生成式人工智能内容安全机制的必要性和重要性。生成式人工智能内容安全机制的常见方法包括基于人类反馈的强化学习、基于AI反馈的强化学习、有监督的安全微调、专家对抗、遗忘学习、敏感信息过滤、监督监管策略等。安全无小事,内容安全机制可以为生成式人工智能的规模化安全应用保驾护航。

基于人工智能的5G消息内容安全检测方法研究

传统人工审核在5G消息内容合规审核中面临人力投入和产能不足、学习门槛高等诸多痛点。因此基于人工智能的5G消息内容安全检测方法应运而生,通过结合人工智能和人工审核,能有效降低人力投入。本文提出通过整合基于内容的图像检索技术,基于区块链的可信溯源方法及系统、存储介质和基于workflow的内容安全检测能力调度方法,研究搭建应用框架,实现了5G消息全生命周期内容合规、内容可控、审核结果可溯源。该方法所研究的5G消息内容安全检测能力,将以生产穿插的形式接入到5G消息的生产、传输和发送过程。

网络内容安全课程思政教学研究

针对国家对网络空间安全人才培养的迫切需求以及当前研究存在的问题,分析网络内容安全课程思政建设的必要性和重要性,并从课程定位、课程目标和人才培养方面剖析网络内容安全课程的特点,结合课程教学目标、课程内容、教学方法,深入挖掘分析各部分知识点的思政元素及思政教学要点,探讨如何让思政内容有机融入网络内容安全教学的各个环节中,培养又红又专的网络空间安全人才。

基于区块链技术的广播电视系统内容安全管理方法

在数字化时代,广播电视系统面临着前所未有的内容安全管理挑战。内容盗版问题、数据篡改和安全漏洞、内容分发的透明度和可追溯性问题以及用户隐私保护等问题日益凸显,对行业的可持续发展构成严峻挑战。对此,深入探讨区块链技术如何应对广播电视系统内容安全管理中的关键挑战,分析区块链技术的基本原理和应用案例,阐述区块链技术在广播电视系统中的具体应用方法和潜在价值,提出一套基于区块链技术的广播电视系统内容安全管理方案。

媒体内容安全人工智能感知与管控平台的设计与实现

本文介绍了媒体内容安全人工智能感知与管控平台的设计情况,对系统建设要求、功能设计、技术创新点和基于SaaS层、PaaS层、IaaS层的系统架构设计进行了说明。

多模态大模型引领的内容创作与安全实践

当前,以Sora为代表的多模态大模型技术正逐步展现其在传媒产业的潜能——显著提升内容创造效率与创意水平、缩短创作周期、优化内容分发与个性化推荐的同时,还提高了内容监测的精准度。然而,多模态大模型技术在数据积累与满足行业特定需求方面仍存在不足,且引入了伦理、安全及隐私保护的新挑战。因此,开发自主知识产权的多模态大模型,专门针对文化内容创作、生产与安全审核,推动平台化应用,变得至关重要。

认知安全需求牵引的信息内容安全课程知识体系建设

针对当前信息内容安全课程知识体系与实际需求不能完全吻合的问题,提出以认知安全需求为牵引设计信息内容安全课程知识体系,阐述该知识体系的应用实践方案,并给出信息内容安全课程知识体系建设的思考和建议。

行业协会治理对平台企业网络信息内容安全责任履行的影响

平台企业履行网络信息内容安全责任(ICR)不仅是净化我国网络空间的需要,也是实现我国网络强国战略、建设数字中国的重要举措。利用2013—2020年A股上市平台企业数据,采用OLS回归模型,实证分析加入行业协会对平台企业网络信息内容安全责任履行的治理作用。研究发现:平台企业加入行业协会可以显著促进其履行网络信息内容安全责任,且行业协会对网络信息内容治理的支持度越大,企业网络信息内容安全责任履行得越好;行业协会对网络信息内容治理的事前支持行为与事后激励行为是行业协会影响平台企业ICR履行的主要路径,但事前支持行为与事后激励行为对不同类型的平台企业影响效果呈现异质性。平台企业政治关联关系负向调节行业协会对平台企业ICR履行的促进作用。

基于深度强化学习的在线社交网络多模态的安全内容搜索研究

深度强化学习是一种全新的机器学习方式,它将深度学习与强化学习相结合,使得职能主体可以在高维环境中感知信息,并通过训练模型,作出相应的决策。深度强化学习是一种非常普遍、有效的方法,它已经被广泛地应用到我们的日常生活中。快速发展的在线社交网络在不断积累数据的同时,也会产生巨大的数据增长。首先,由于在线社交网络大数据所具有的特殊的数据特性,使得传统的信息搜索算法很难适应用户的需要。其次,由于在线社交网络中的信息量较大,因此,在线社交网络中海量数据的收集和处理的水准也越来越高。所以,如何基于深度强化学习提高在线社交网络的安全内容搜索已成为当前的研究热点。本文介绍了深度强化学习的产生与发展,阐述了基于深度强化学习的在线社交网络多模态安全内容的搜索与分析,并对其实现的技术和工具进行了详细的说明,并对各模块的具体功能进行了深入的探讨。

已上市中药说明书安全性内容的修订要求

说明书是患者选择和使用药品、医师处方以及药师调配药品的依据,对指导临床用药具有重要作用。修订药品说明书是药物全生命周期管理的重要内容。本文结合审评工作,着重探讨了已上市中药说明书安全性内容修订中的技术要求和常见问题。常见问题包括未提示重要的安全性风险、变相扩大功能主治、支持数据不充分和撰写表述不规范等。相关内容为上市许可持有人加强上市后中药安全性研究与评价,完善已上市中药说明书安全性内容提供参考。

技术赋能内容安全建设,探索科技成果转化之路——以媒体融合内容感知与安全湖南省重点实验室为例

媒体融合内容感知与安全湖南省重点实验室以技术整合过程,优化采、编、审、发的流程;加强对舆论热点和社会焦点的感知与引导;在强化信息化、智能化过程中的自主可控替代等方面进行了实践。尝试建立健全创新孵化体系,形成研发—转化一体机制,以内部新媒体创新孵化为抓手,依托资源、技术和平台优势,打造媒体内部融合的孵化器,更好地服务媒体融合、服务县级融媒体中心,服务政府部门、高校、企业等机构的宣传工作,最终做到“引导群众,服务群众”。本文从实验室承担的“新湖南云融媒体技术平台研发与集成”“多媒体内容安全感知与智能检测平台”“AI数字人”项目建设情况出发,对媒体实验室建设进行一些研讨,最后对媒体实验室建设过程中面临的困难和挑战进行了展望。

信息内容平台治理“洗稿”行为的路径及其优化研究——基于网络知识产权安全视角

[研究目的]“洗稿”行为是网络知识产权风险在信息内容平台的典型表现形式,探究“洗稿”行为的信息内容平台治理路径对构建网络知识产权安全整体环境具有重要意义。[研究方法]结合相关研究,构建了基于网络知识产权安全视角的信息内容平台治理“洗稿”行为的分析框架,通过对5个典型图文、视频及综合类信息内容平台的案例调研和比较分析,总结信息内容平台治理“洗稿”行为的具体策略和优化路径。[研究结论]信息内容平台治理“洗稿”行为涵盖了“制度—管理—技术”三种路径,作用于平台用户行为管理和信息内容安全治理两个方面,并通过治理效果的内部与外部评价反馈进行持续优化。信息内容平台治理“洗稿”行为的路径优化重点是完善基础性的信息内容标准或规范、健全信息内容审核与用户监管机制、建立全链条的版权保护服务平台。

生成式人工智能产品的内容安全风险及监管路径

ChatGPT的问世引发了社会各界的广泛关注和讨论,生成式人工智能产品会对内容安全产生哪些影响、如何看待这些影响是其中的关键问题。解答这些问题需要破除充满科幻色彩的想象,理性剖析生成式人工智能技术的本质特征及可控性。研究认为,生成式人工智能产品在内容安全上具有可控性,但同时亟待通过完善人工智能基础性法律法规、实施分类管理、开展安全评估与安全审计、强化社会教育等治理方式,找到生成式人工智能产品安全与发展的最优平衡。