大模型时代生成式人工智能治理的逻辑更新与回应路径——以《生成式人工智能服务管理暂行办法》为视角

以大规模多种类训练参数、高效复杂算法及强大算力支持为基础的大模型已成为生成式人工智能的主要发展方向。相较于传统人工智能,大模型具备涌现性和通用性的技术特性,催生了“大模型+具体应用”的研发模式和“模型即服务”的服务业态。《生成式人工智能服务管理暂行办法》以风险分类分级、平台主体责任和算法透明度为内核的治理策略根植于传统人工智能时代,暂未能与大模型时代下的技术突破和产业变革充分适配。面向大模型的生成式人工智能治理应当在适应本土产业发展需求的基础上逐步探索基于既有制度框架的优化方案,通过以分层治理和敏捷治理弥补风险定级难题和僵化缺憾,以延伸扩展治理主体补全产业生态责任链条,以伦理治理补足模型透明度和可解释性不足的短板,进而实现治理逻辑的更新和治理路径的优化。

略谈图书馆智慧服务管理因应之策——从《生成式人工智能服务管理暂行办法》颁行谈起

人工智能作为引領新一轮科技革命和产业革命的重要驱动力,正在深刻改变着人们的生产、生活、学习方式;生成式人工智能技术的兴起,对公共文化领域的服务运营、业务管理及用户体验的潜在影响逐步显现。图书馆作为社会记忆的知识存贮机制和公共文化服务的重要组分,面临着空前的挑战和机遇。论文在概述人工智能技术在图书馆领域应用状况基础上,结合对以Chat GPT为代表的生成式人工智能技术试用引发全球关注的现象分析,通过对国内新近颁行的《生成式人工智能服务管理暂行办法》研读解析,初步探讨了今后图书馆在智慧服务与管理上的因应对策与措施。

新文科建设背景下生成式人工智能在社会工作课程改革中的应用探索——以“社会服务管理”课程为例

纵观学科发展历程,社会工作专业始终是紧跟时代脉络、贴合本土特征、反映社会需求的实践学科。该文分析了新文科背景下社会工作课程改革的契机与挑战,探讨了以数字能力为本的智慧社区课程群建设思路与路径,并以“社会服务管理”课程为例,探索生成式人工智能在社会工作课程中通过人机协同辅助PBL教学的方法,验证了生成式人工智能在观念启发、教学资源链接、自动化评价等方面具有的突出优势。最后反思了生成式人工智能在教学辅助中的局限,提倡借助新技术进一步探索教学变革、产教融合的路径,为构建中国社会工作自主知识体系注入活力。

生成式人工智能赋能基层政务服务:技术嵌入、角色重塑与实践路径

技术对政务服务的深度嵌入已然成为衡量社会文明发展和基层社会治理实效的重要变量,而作为“新兴技术工具属性”的生成式人工智能,在重塑公众生活层面展现了技术自主迭代和社会力量建构的双重属性,为加速政务实践改革、优化公共服务提供了新的发展路径。对于政务服务的行动者而言,技术的嵌入在一定程度上简化了政务处理程序,提高了信息处理效率,但同时也对其职业素养的提升、技术工具的使用、人机协同发展等方面提出了新要求。作为促进人类文明发展的一种生产力,生成式人工智能技术实践是媒介进化和累积调和的结果,通过整合优化社会资源、打通信息技术壁垒、满足公众政务需求、推动行政思维创新,为全面拓展人类社会实践自由度而不断调和与演进。

生成式人工智能驱动信息资源组织与服务研究向度质性分析与反思

本研究使用质性分析工具对相关学术研究成果进行梳理,总结主要研究成果和思维逻辑,从正向度分析、双向度分析和负向度分析三个向度对研究向度进行归纳梳理,认为正向度分析包括创新信息服务内容、创新信息服务形式和服务引领社会变革等;双向度分析主要为知识平台再中心化;负向度分析包括造成规制问题、影响公众利益和造成信息风险等。据此,提出了生成式人工智能驱动信息资源组织和服务的趋利避害思维逻辑,指出了多模态信息整合、社交媒体、抗性生成网络、风险危机预警政策、个性化信息服务、迁移学习等方面的研究发展趋势。

智慧守护:生成式人工智能在图书馆的服务应用研究及风险防范策略

生成式人工智能为图书馆服务提供了新思路,极大地丰富了图书馆的服务内容。文章介绍了生成式人工智能的内涵及特点,指出了生成式人工智能在图书馆中的应用原则,最后提出了针对风险管理、版权保护、用户教育和系统监督等方面的策略,以确保技术应用的安全性和可靠性,促进图书馆服务的可持续发展。

生成式人工智能技术在海事管理工作中的应用探索

本论文探讨了生成式人工智能技术在海事管理工作中的应用前景。随着信息技术的不断进步,以Chat GPT为代表的生成式人工智能技术作为一种自然语言处理技术,可以为海事管理工作提供智能化的支持和解决方案。通过分析生成式人工智能技术的特点及其在海事领域的优势,总结了该技术在海事政务服务、海事管理工作等方面的具体应用。通过探讨这些应用,本论文旨在为海事管理部门提供新的思路和方法,促进海事行业的数字化转型和创新发展。

生成式人工智能治理原则与法律策略

生成式人工智能具有拟人类思维能力,涉及法律关系复杂,治理对象具有可变性和高技术性。《生成式人工智能服务管理暂行办法》为生成式人工智能服务提供了基本行为规范,但存在适用范围窄及强制力不足等问题,须发挥各类技术规范、技术标准、技术伦理、行业伦理等软法规范的作用,构建软法与硬法结合的规范体系。将政府定位为技术促进者、服务实践者和行政监管机关;服务提供者对生成内容承担生产者责任,意味着产品权益归属于服务提供者,不符合产品的生成规律,也忽略用户的贡献与责任,宜赋予服务提供者主体责任,用户也须承担合理使用责任。

法律框架下的人工智能教育

近年来,人工智能的应用在教育领域引起了广泛关注和深入研究。尤其是ChatGPT的面世,更是推动了教育和人工智能的结合进程。然而,生成式人工智能的应用也带来了一些挑战和问题,如数据隐私、算法公平性、知识产权等问题。为应对这些挑战,国家网信办等七部门于2023年出台《生成式人工智能服务管理暂行办法》(以下简称《办法》)。《办法》明确了生成式人工智能服务提供者和使用者的权利和责任,对服务提供者应当履行的义务做出了具体规定,为生成式人工智能服务的提供和使用提供了法律依据。

人工智能应用热的省思——专访华南师范大学教授焦建利

2022年11月30日,Open AI公司向全世界发布了其最新的大型语言预训练模型——ChatGPT。自打那个时候开始,作为技术发烧友的焦建利教授就被生成式人工智能迷得一塌糊涂,兔年春节,他大多数时间是和大型语言模型应用一起过的,一边怀着激动和兴奋,琢磨ChatGPT以及其他大型语言模型给学校教育带来的机遇,对学校教育的价值和意义、课程与教学的设计研究;一边又充满理性和审慎,省思ChatGPT之类的人工智能,对于技术派教师的知识、技能和素养的挑战,对学生的学习、教师的教学以及学校的管理和服务所产生的诸多技术的、伦理道德的和法律法规的威胁和可能的挑战。本期我们访谈的专家就是华南师范大学焦建利教授。

AIGC在应急情报服务中的应用研究

文章指出生成式人工智能(AIGC)应用于应急情报服务具有降低应急情报感知难度、打破应急情报信息壁垒、化解应急情报监管困境、克服危机模拟演练瓶颈的优势,基于AIGC应用于应急情报服务的核心组件,分析其在应急情报感知与采集、组织与存储、分析与研判、决策与评价等工作流程中的作用,并提出AIGC在应急情报服务中的应用策略,即立足总体国家安全观,强化顶层设计;兼具技术理性和人文关怀,推进人机协作;加强情报可靠性评估,注重风险溯源;夯实数据运行机制,确保数据安全。

行业资讯

全国网络安全标准化技术委员会发布《生成式人工智能服务安全基本要求》3月4日,全国网络安全标准化技术委员会发布了《生成式人工智能服务安全基本要求》,旨在明确生成式人工智能服务在安全方面的基本要求,包括语料安全、模型安全、安全措施等,并给出安全评估要求。该文件用于支撑网信办等七部门推出的《生成式人工智能服务管理暂行办法》,提出了服务提供者需遵循的安全基本要求。

大众期刊如何在法律的框架下嵌入ChatGPT技术应用

伴随2022年底ChatGPT技术在域外横空出世,国内一大批生成式人工智能产品应运而生,为我国大众期刊内容制作的技术迭代带来了新的契机。2023年7月13日,国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》,明确了促进人工智能发展的具体措施和生成式人工智能服务的基本规范。笔者认为,要将新技术严丝合缝地嵌入大众期刊内容制作流程,必须遵循相关法律规定,及时规避可能存在的法律风险,如此方能有效提升内容制作的效益。

国内动态

七部门:联合公布《生成式人工智能服务管理暂行办法》,2023年7月10日,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》,自2023年8月15日起施行。办法提出,国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管,明确了提供和使用生成式人工智能服务总体要求。提出了促进生成式人工智能技术发展的具体措施,明确了训练数据处理活动和数据标注等要求。规定了生成式人工智能服务规范,明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务,发现违法内容应当及时采取处置措施等。

动态前沿

国家网信办、教育部等七部门联合公布《生成式人工智能服务管理暂行办法》国家互联网信息办公室联合国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局公布《生成式人工智能服务管理暂行办法》,自2023年8月15日起施行。《办法》规定了生成式人工智能服务规范,明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

1项网络安全标准实践指南发布

近日,全国信息安全标准化技术委员会秘书处组织编制的《网络安全标准实践指南——生成式人工智能服务内容标识方法》(以下简称《实践指南》)发布。《实践指南》落实《生成式人工智能服务管理暂行办法》中对生成内容进行标识的要求,围绕文本、图片、音频、视频4类生成内容提出内容标识方法,可用于指导生成式人工智能服务提供者提高安全管理水平。

声音

2023年以来,我国先后发布了多个政策,包括《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》。在人工智能发展的初级阶段,我们已经基本上规范了相关风险。从长远来看,我们还有整体化的法律体系要推进,在国务院2023年立法计划中,就提出了要制定人工智能法的草案,我想这会对下一步人工智能发展,起到非常好的规范作用。