生成式人工智能防沉迷立法问题研究

既有防沉迷规范的适用范围有限并且没有指出相关主体的具体义务,其难以应对生成式人工智能令人沉迷的风险。从原因视角分析,生成式人工智能令人沉迷的原因在于其生成的虚拟世界更具有吸引力、精准推送产生舒适性、虚拟人物使人产生情感依赖。从后果视角分析,人们对生成式人工智能的沉迷容易造成创新能力退化、道德标准僵化与价值导向机械化、审美形式化等问题。基于此,生成式人工智能提供者和开发者首先需要履行审批和披露义务。其次应设置防沉迷层面的算法,包括根据用户的年龄等因素设置相应的防沉迷策略,设置用户偏好推送的限度,履行适当的披露义务并拒绝提供情感慰藉;应当对生成式人工智能在思维认知领域“作为思想生成、创新工具”加以限制;设置道德过滤机制;在特定情形中限制“直接提供成品”的使用频次。再次,定期进行算法检查。最后,生成式人工智能提供者和开发者违反防沉迷、防止依赖义务应当承担行政责任。

从生成式人工智能到通用人工智能:赋能图书馆知识服务模式创新

[目的/意义]AI技术的发展为图书馆知识服务带来巨大的变革和机遇。研究基于通用人工智能的知识服务理论基础、体系框架和应用前景,可以为知识服务领域提供新的研究思路和实践参考。[方法/过程]从生成式人工智能向通用人工智能演进的动态视角分析AI赋能图书馆知识服务的研究现状,构建以生成式人工智能和通用人工智能作为技术基座的图书馆知识服务体系框架,探讨基于通用人工智能的图书馆知识服务发展趋势。[结果/结论]随着人工智能技术的持续发展,未来通用人工智能必将在图书馆知识服务中取得广泛应用,有助于为用户提供更加便捷、准确和个性化的知识服务,深化图书馆知识服务价值和能力,推动知识服务理论研究和实践应用进入快速发展时代。

新质生产力战略下AIGC赋能的知识和情报

[目的/意义]以人工智能生成内容为代表的AI技术赋能新质生产力涌现多维价值意蕴,可以更好地助力我国数字经济实现高质量发展,更好地助推我国知识和情报服务创新。分析AIGC赋能知识和情报创新服务的新机制、新风险和新路径,对于推动信息资源管理学科在新质生产力重大国家战略下的蓬勃发展具有重要的理论和现实意义。[方法/过程]本文依据新质生产力的理论内涵,从劳动对象、劳动者和劳动资料3个角度剖析AIGC赋能知识和情报服务创新的内在机制,依据信息传递三要素从信息源、信道和信息受体3个维度识别AIGC赋能知识和情报服务创新的风险并提出治理策略,从新质生产力构成阐释AIGC赋能知识和情报创新服务的实践路径。[结果/结论]研究表明,新质生产力战略下,AIGC以数据要素为基础,以基础模型为支撑,以人智协作为核心,形成知识和情报服务创新的内在机制;数据隐私安全风险、网络空间安全风险和科技伦理安全风险需要更好地发挥产学研协同优势进行治理;提出通过构建以数据要素驱动的新模式,组建人智协作的新团队和开发可靠可信的智能化模型促进AIGC赋能知识和情报服务创新的实践路径。

AI赋能哲学社会科学研究、传播及评价

人工智能正在改变整个人类社会,丰富人们的文化生活,促进科技创新与发展,是各行各业“新质化”的促进剂。人工智能可为哲学社会科学提供高效的研究工具和研究场景,将深刻影响哲学社会科学研究、传播及评价的方方面面。加速人工智能在哲学社会科学研究、传播及评价领域的深入应用,提升哲学社会科学研究效率,促进哲学社会科学的创新与发展,构建自主知识体系,是当下哲学社会科学工作者的重要使命。为推进AI赋能哲学社会科学(AI4SS),2024年9月28日,由西华大学、四川省社会科学学术期刊协会主办,西华大学学术期刊部、四川省社会科学重点研究基地四川学术成果分析与应用研究中心承办的“AI赋能社科研究与评价天府论坛”在西华大学举行。来自南京大学、中国人民大学、四川大学等高校与科研机构的20位专家学者,从不同学科、研究领域出发,就人工智能赋能哲学社会科学研究、传播及评价进行了深入交流。文章为20位专家学者在论坛上所作报告的主要观点。这些报告议题包括AI赋能人文社科研究方法的变革,法学、教育学、经济学、图书情报学、新闻传播等社会学科视域下的人工智能,AI辅助社会科学研究的学术伦理,人工智能在医疗健康、大宗商品价格风险监测、大学生高阶思维能力培养等方面的应用,AI赋能学术期刊出版与传播,AI赋能哲学社会科学评价新模式、新平台、新场景,等等。这些议题共同描绘了一个由AI技术驱动的多学科融合与创新的新时代。

健全因地制宜发展新质生产力体制机制推动中国式现代化

党的二十届三中全会决议明确指出:“要健全因地制宜发展新质生产力体制机制”,这对于推动中国式现代化具有重大意义。习近平总书记创造性提出“因地制宜发展新质生产力”,这是一项重大理论和实践创新,将为我国高质量发展注入全新动力。为了深入学习贯彻党的二十届三中全会精神,加快形成同新质生产力更相适应的生产关系,健全因地制宜发展新质生产力体制机制,完善战略性产业发展政策和治理体系,建立未来产业投入增长机制,完善促进数字经济和智能经济发展政策体系,促进耐心资本和各类先进生产要素向发展新质生产力集聚,围绕“健全发展新质生产力体制机制推动中国式现代化”这个新时代经济发展的重要课题,本刊邀请国内著名专家、学者,撰写一组笔谈文章,以飨读者。

AIGC在应急情报服务中的应用研究

文章指出生成式人工智能(AIGC)应用于应急情报服务具有降低应急情报感知难度、打破应急情报信息壁垒、化解应急情报监管困境、克服危机模拟演练瓶颈的优势,基于AIGC应用于应急情报服务的核心组件,分析其在应急情报感知与采集、组织与存储、分析与研判、决策与评价等工作流程中的作用,并提出AIGC在应急情报服务中的应用策略,即立足总体国家安全观,强化顶层设计;兼具技术理性和人文关怀,推进人机协作;加强情报可靠性评估,注重风险溯源;夯实数据运行机制,确保数据安全。

农业大模型:关键技术、应用分析与发展方向

[目的/意义]近年来,人工智能在农业领域的应用取得了显著进展,但仍面临诸如模型数据收集标记困难、模型泛化能力弱等挑战。大模型技术作为近期人工智能领域新的热点技术,已在多个行业的垂直领域中展现出了良好性能,尤其在复杂关联表示、模型泛化、多模态信息处理等方面较传统机器学习方法有着较大优势。[进展]本文首先阐述了大模型的基本概念和核心技术方法,展示了在参数规模扩大与自监督训练下,模型通用能力与下游适应能力的显著提升。随后,分析了大模型在农业领域应用的主要场景;按照语言大模型、视觉大模型和多模态大模型三大类,在阐述模型发展的同时重点介绍在农业领域的应用现状,展示了大模型在农业上取得的研究进展。[结论/展望]对农业大模型数据集少而分散、模型部署难度大、农业应用场景复杂等困难提出见解,展望了农业大模型未来的发展重点方向。预计大模型将在未来提供全面综合的农业决策系统,并为公众提供专业优质的农业服务。

生成式人工智能赋能基层政务服务:技术嵌入、角色重塑与实践路径

技术对政务服务的深度嵌入已然成为衡量社会文明发展和基层社会治理实效的重要变量,而作为“新兴技术工具属性”的生成式人工智能,在重塑公众生活层面展现了技术自主迭代和社会力量建构的双重属性,为加速政务实践改革、优化公共服务提供了新的发展路径。对于政务服务的行动者而言,技术的嵌入在一定程度上简化了政务处理程序,提高了信息处理效率,但同时也对其职业素养的提升、技术工具的使用、人机协同发展等方面提出了新要求。作为促进人类文明发展的一种生产力,生成式人工智能技术实践是媒介进化和累积调和的结果,通过整合优化社会资源、打通信息技术壁垒、满足公众政务需求、推动行政思维创新,为全面拓展人类社会实践自由度而不断调和与演进。

生成式人工智能赋能下的AIGC虚拟数字人:图书馆用户服务的机遇与挑战

人类科技正进入大模型阶段,以ChatGPT为代表的生成式人工智能应用的出现与流行,为图书馆服务创新提供了借鉴经验及发展思路,生成式人工智能赋能下的AIGC虚拟数字人也将开启图书馆用户服务的新窗口。文章对虚拟数字人的概念、类型、发展历程及技术路径进行归纳,分析了生成式人工智能对虚拟数字人的赋能及两者结合对图书馆行业的影响,并从技术推广、组织管理以及用户使用等三个方面初探了图书馆应用AIGC虚拟数字人可能面临的挑战。

“AIGC+”:虚拟现实媒介内容生产机制研究

基于间性视角,从主体参与的跨场景互动、文本连接的跨文本延伸、媒介互联的跨模态交融,分析不同内容生产模式之间的关系逻辑;并结合数字创意互动服务模型,从内容制作、内容包装、市场创建、数据传输、发行服务及用户界面六大方面,探讨“AIGC+”虚拟现实媒介内容生产的运作机制。最后,从负责任创新是借力人工智能生产开展持续创新的重要基石、平台化思维是连接各方资源的重要桥梁、数字素养是数据生产力发展的重要保障、生态理念是可持续健康发展的重要引领,提出构筑运作保障体系的具体策略。

生成式人工智能在公共服务中应用的机遇与挑战

公共服务是构建有序社会的基础。数字技术在为提高公共服务质量带来了诸多便利的同时也带来了公民参与、技术鸿沟、休眠数据等诸多问题。其中,生成式人工智能(Generative AI)的勃兴为公共服务提供了更广阔的发展机遇,其带来的技术–权力的冲突也更加显著。本文以公共服务中的生成式人工智能为研究对象,系统梳理其在提升公共服务效率、优化公共资源配置、协调区域不平等以及增强公众参与等方面的潜力,同时着重关注其可能带来的数据安全、算法偏见、公众隐私等挑战。本文的研究结果将有助于更好地理解公共服务领域中生成式人工智能的应用问题,也将为未来政策制定和技术应用提供启示。

基于多模态大模型的精准教学支持体系构建研究

随着人工智能大模型从单一模态向多模态融合的通用人工智能演变,多模态大模型的发展有望推动教育领域的变革。在技术进步的推动和智能时代教学原理的指导下,多模态大模型有望实现规模化教育与个性化培养之间的有机结合,并彻底转变精准教学和个性化学习的方式。然而,在实际应用中仍然面临着教育环境的实际限制等诸多挑战。为此,提出了基于多模态大模型的精准教学支持系统框架和面向个性化教育的云边协同基础设施架构。这两个互补架构能够协同工作,为构建更高效、规模化且个性化的精准教学体系奠定基础。此外,为基于多模态大模型的教育模式变革提供了更广泛的对话起点,为该领域的未来研究和发展提供了思路。

AIGC嵌入图书馆知识服务的价值、风险及其防控策略

文章在梳理人工智能生成内容(AIGC)与图书馆知识服务发展背景的基础上,探讨AIGC嵌入图书馆知识服务在拓宽知识服务广度、延展知识服务深度、增强知识服务亮度和提升知识服务效度方面的价值,指出二者融合易出现馆员和用户主体性异化风险、知识内容异化风险和数字伦理风险。对此提出AIGC嵌入图书馆知识服务风险防控策略,即提高相关人员数字素养,开发多主体共创性活动项目;加强高质量知识库建设,构建多功能知识图谱;完善顶层设计规划,联合企业加强相关技术研发。

生成式人工智能算法备案的法律属性与控制路径

生成式人工智能算法备案是应对“算法泛在”而创设的新型备案制度。基于破除算法不可解释性的现实需要、算法创新与安全的价值平衡、传统合规模式的加速转型以及扁平化问责的规则改进,生成式人工智能算法备案具有进一步适用的必要性与可行性。算法备案有效实施的关键在于其法律属性的廓清,算法备案与行政许可、行政确认等行政行为存在内容、结构及性质层面的显著区别。质言之,算法备案于行政主体与行政相对人而言,均无法产生直接的法律效果,其法律属性应认定为程序性事实行为。基于此,生成式人工智能算法备案的控制机制应考量生成式人工智能算法的内容敏感度、算法风险等级以及算法备案机关专业能力等因素,明确算法备案的适用范围;将民主性、合理性与严谨性作为形塑算法程序的价值理念;立足算法备案资料报送阶段、事中“责令改正”阶段以及事后执行罚阶段的内容与特征,实施差异化的救济手段。

创新变革还是信心缺失?——中小学教师对生成式人工智能技术的接受度影响因素研究

生成式人工智能的出现标志着一场前所未有的技术革命,目前人们对于这场技术革命的认识、理解及接受程度不一。中小学教师是否愿意接受并主动将生成式人工智能融入教育教学场景中?哪些因素影响了中小学教师对生成式人工智能的接受度?为了深入探究上述问题,本研究基于经典的技术接受与使用整合理论模型(UTAUT模型),对466名中小学教师使用生成式人工智能的意愿及接受度进行调查,并对其影响因素进行研究分析。研究发现:绩效期望、努力期望、社群影响、促成条件和感知风险五个核心要素均对中小学教师的生成式人工智能接受程度有显著正向影响(p=0.000<0.001),影响作用由强到弱依次为绩效期望(β=0.664)、社群影响(β=0.562)、努力期望(β=0.551)、感知风险(β=0.457)、促成条件(β=0.388)。其中,教师技术应用态度对绩效期望有调节作用(p=0.048<0.05),对努力期望也有调节作用(p=0.004<0.01)。教师技术应用频率对感知风险有调节作用(p=0.004<0.01)。最后,从个人的动机与忧虑,外部的环境与资源两个方面归纳研究发现,并提出有效提升教师对新技术接受度,促进教师有效并创新应用生成式人工智能的对策建议。

基于生成式人工智能的智能图书馆服务创新与风险规避

[目的/意义]随着信息技术的快速发展,图书馆服务迎来了深刻的变革,生成式人工智能(Generative AI)的崛起为智能图书馆提供了全新的服务创新机遇,但也伴随着风险。研究生成式人工智能在智能图书馆中的应用方式及其带来的潜在风险,有助于推进智能图书馆的可持续发展。[方法/过程]本研究通过对生成式人工智能在智能图书馆个性化推荐、智能问答、自动摘要等方面的应用现状进行系统梳理,分析其技术在提升用户体验、服务效率中的优势及应用方式。同时,本研究也深入探讨了生成式人工智能在图书馆服务中的技术风险、伦理风险和管理风险,并基于已有研究成果提出多维度的风险规避策略。[结果/结论]研究发现,生成式人工智能在提升图书馆服务质量与用户体验方面具有显著效果,但同时面临数据安全、模型偏差、伦理道德等多重挑战。为此,本研究提出了风险规避措施,包括加强数据安全与隐私保护、提升模型透明度、确保系统稳定性及制定并遵守伦理准则等,以保障生成式人工智能在图书馆中的安全、可靠应用。随着技术的持续发展,其在智能图书馆中的应用将进一步深化,推动图书馆服务的创新和升级。

生成式人工智能创作使用作品的合理使用调适

技术迭代易造成规则失范,随着生成式人工智能技术与创作的深度融合、著作权权利边界的不断扩张,以及著作权领域不同利益之间的杂糅、冲突与博弈,对于生成式人工智能创作使用作品的法律规制已迫在眉睫。从合理使用的制度功能出发,生成式人工智能创作过程吸纳合理使用具备了相当程度的正当性与可行性。但是,合理使用的适用过程也面临着利益平衡格局受损、现有规定适用困难以及与技术措施协调不足等现实梗阻,而这也对合理使用的适应性、柔韧性和包容性提出了新要求。未来,可从专门例外、三步检测法、技术措施、配套措施等方面进行完善,以调适著作权领域相关主体差异化的利益诉求,实现产业发展、私权保护与公共利益的良性互动。

生成式人工智能驱动信息资源组织与服务研究向度质性分析与反思

本研究使用质性分析工具对相关学术研究成果进行梳理,总结主要研究成果和思维逻辑,从正向度分析、双向度分析和负向度分析三个向度对研究向度进行归纳梳理,认为正向度分析包括创新信息服务内容、创新信息服务形式和服务引领社会变革等;双向度分析主要为知识平台再中心化;负向度分析包括造成规制问题、影响公众利益和造成信息风险等。据此,提出了生成式人工智能驱动信息资源组织和服务的趋利避害思维逻辑,指出了多模态信息整合、社交媒体、抗性生成网络、风险危机预警政策、个性化信息服务、迁移学习等方面的研究发展趋势。

以ChatGPT为代表的自然语言AI在数据库内容检索与生成中的应用——以全国报刊索引为例

[目的/意义]旨在探讨以ChatGPT为代表的自然语言模型在图书馆馆藏资源数据库中的应用,为人工智能时代图书馆数据库的发展方向提供借鉴。[方法/过程]采用案例分析法,以上海图书馆的全国报刊索引数据库为研究对象,分析ChatGPT的基本工作原理,并从自然语言问答、信息整合、大纲生成等方面,评估人工智能对于传统的数据库内容检索与生成方式的优势,及可能产生的问题。[结果/结论]该技术在处理自然语言查询方面表现出色,能够有效提高数据库的检索效率,并为读者提供创造性的内容生成。但其应用也面临技术整合、内容真实性与专业性等方面的问题和挑战,需要进一步研究并制定规范。

新文科建设背景下生成式人工智能在社会工作课程改革中的应用探索——以“社会服务管理”课程为例

纵观学科发展历程,社会工作专业始终是紧跟时代脉络、贴合本土特征、反映社会需求的实践学科。该文分析了新文科背景下社会工作课程改革的契机与挑战,探讨了以数字能力为本的智慧社区课程群建设思路与路径,并以“社会服务管理”课程为例,探索生成式人工智能在社会工作课程中通过人机协同辅助PBL教学的方法,验证了生成式人工智能在观念启发、教学资源链接、自动化评价等方面具有的突出优势。最后反思了生成式人工智能在教学辅助中的局限,提倡借助新技术进一步探索教学变革、产教融合的路径,为构建中国社会工作自主知识体系注入活力。