发展新质生产力 推动我国经济高质量发展

中华人民共和国(新中国)成立以来,从毛泽东的《论十大关系》,到邓小平的“科学技术是第一生产力”,再到习近平的“整合科技创新资源,引领发展战略性新兴产业和未来产业,加快形成新质生产力”,我党对经济工作规律性的认识,随着时代的发展而不断深化。习近平总书记在2024年1月31日召开的中央政治局第十一次集体学习会议上的重要讲话,更是把这种认识推向了全新的高度。总书记在主持学习时明确指出“必须牢记高质量发展是新时代的硬道理”,“高质量发展需要新的生产力理论来指导,而新质生产力已经在实践中形成并展示出对高质量发展的强劲推动力、支撑力,需要我们从理论上进行总结、概括,用以指导新的发展实践”,并强调“科技创新能够催生新产业、新模式、新动能,是发展新质生产力的核心要素”。为了深入学习贯彻总书记讲话精神,围绕“发展新质生产力推动我国经济高质量发展”这个新时代经济发展的核心课题,本刊邀请国内著名专家、学者,撰写一组笔谈文章,以飨读者。

JADE-DB:基于靶向变异的大语言模型安全通用基准测试集

提出大语言模型安全通用基准测试集—JADE-DB,该数据集基于靶向变异方法自动化构建,能够将经验丰富的大语言模型安全测试员和多学科专家学者手工撰写的测试问题转化为高危通用问题,保持语言自然性的同时不改变其核心语义,且能够攻破十余款国内外知名大语言模型的安全防护机制.根据语言复杂性差异,JADE-DB包含基础、进阶、高危3个安全测试等级,共计上千条覆盖违法犯罪、侵犯权益、歧视偏见和核心价值观4大类违规主题、30多种违规主题的通用测试问题,其中针对国内开源(中文,8款)、国内商用(中文,6款)和国外商用大语言模型(英文,4款)这3组大语言模型分别构建的3款通用高危测试集,可造成每组模型在高危测试集上的平均违规率均超过70%,测试问题均可同时触发多款模型违规生成.这表明,语言的复杂性导致现有大语言模型难以学习到人类无穷多种表达方式,因此无法识别其中不变的违规本质.

面向环境司法智能审判场景的人工智能大模型应用探讨

环境司法审判是生态环境治理体系的重要组成部分,基于生成式人工智能(AI)技术的突破而形成的AI大模型为环境司法审判工作转向更高水平的智能审判体系提供了重大机遇。本文围绕推进AI大模型技术与环境司法审判工作融合、实现环境司法审判工作创新发展的主旨,探讨了AI大模型在环境司法智能审判中的赋能作用和应用实践,凝炼了当前环境司法AI大模型存在的数据质量“低劣”“算法黑箱”引发偏见、深度应用能力不足等突出问题;以生态环境保护类案件应用为例,构建了基于AI大模型的环境司法智能审判系统,阐述了相应系统的架构设计以及涉及的技术要素。进一步提出了注重顶层设计、建设环境司法高端智库,建设环境司法数据中台、健全司法数据标准及规范体系,构建算法治理机制、促进环境司法审判公平正义,完善环境司法多元问责机制、筑牢司法监督管理体系等发展建议,以期丰富环境司法审判工作的前沿技术认知,加快环境司法的智能化、智慧化、现代化转型进程。

ChatGPT在图书馆的应用模式与实施路径

以ChatGPT为代表的新一代人工智能技术为智慧图书馆建设提供了新的契机,运用ChatGPT赋能智慧图书馆建设成为图书馆亟待解决的重要课题,然而如何有效推进ChatGPT在图书馆的落地实施尚缺乏代表性的实践案例指引和清晰完整的路径指南。为此,本文结合实际应用案例从资源智慧化、知识服务、业务创新三个角度总结了ChatGPT在图书馆工作实践中的主要应用模式,进而提出以认知重构为引领、以提示语技术为起点、以场景需求为驱动的具体实施路径,以深入推动ChatGPT在图书馆的创新应用。

基于混合架构的大语言模型智能问答系统研究

探讨了大语言模型在企业政企营销知识智能问答方向的研究与应用。在开发技术上,采用检索增强生成技术[1],结合大模型微调、意图识别和向量库实现问答F1值初步达到78.21%,构建闭环知识图谱体系,将问答F1值提升到92.36%。在工程上,通过vLLM大模型加速机制提升系统性能,采取数据安全技术保障系统安全性,通过API及微服务模块化架构提升系统适配性及扩展性,并将系统应用于行业生产中,有助于加速大模型在企业中的应用落地。

基于大语言模型的电力系统通用人工智能展望:理论与应用

大语言模型(LLM)是一种利用大规模文本语料库进行预训练和微调的深度学习语言模型。目前,在通识问答、文本生成和科学推理等方面已展现出强大的能力。在此背景下,文中探索了基于LLM构建面向电力系统的通用人工智能技术,并展望其在电力系统中的潜在应用。首先,介绍了LLM的基本原理、神经网络架构以及训练方法,特别是与传统人工智能模型相比,LLM在逻辑推理、编程和代码理解以及数学推理方面的突破。然后,展望了LLM在电力系统负荷与新能源发电出力预测、电力系统规划、电力系统运行、电力系统故障诊断与系统恢复、电力市场等领域的潜在应用。最后,阐述了基于LLM构建电力系统通用人工智能技术所面临的挑战,包括电力系统数据的质量与可获取性、输出结果可解释性以及隐私保护问题。

从基础智能到通用智能:基于大模型的GenAI和AGI之现状与展望

本文对生成式AI(Generative artificial intelligence,GenAI)的国内外发展现状进行了概述,重点分析了中美之间在算力、数据、算法、生态等方面存在的差距.为改变我国在生成式AI领域的落后现状,提出高能效算力建设、联邦数据、专业领域模型、基于TAO的联邦生态等应对策略,对大模型时代AI安全治理进行了论述,对通用人工智能(Artificial general intelligence,AGI)的未来发展进行了展望.

基于大语言预训练模型的中医个性化处方推荐研究

目的针对中医个性化处方推荐问题,研究自动化处方推荐任务,为中医临床辅助决策提供参考。方法基于大语言预训练文本生成模型设计一种中医个性化处方推荐算法。将中医处方推荐任务转化为端到端(seq2seq)的文本生成任务,即将临床症状描述文本通过模型转化为处方文本,以实现处方推荐任务的需求,并利用基于大语言预训练的BART(Bidirectional and Auto-Regressive Transformers)模型的预训练参数来提升模型对通用语义信息的理解,通过对训练集处方内中药排序提升模型的处方推荐性能。结果实验证明通过大语言预训练模型以及端到端的文本生成架构可有效提升模型的生成性能,同时对处方内中药依次排序可以获取更高准确率,并且通过中药的排列获取更多值得参考的有价值信息。中医个性化处方推荐模型在处方排序后分别在前5、10、15味生成的处方分别取得了58.60、53.79和49.67的准确率。结论中医个性化处方推荐模型取得了更优的处方推荐效果,表明其可为中医临床治疗疾病进行参考,达到辅助临床决策支持的效果。

面向大语言模型的越狱攻击综述

近年来,大语言模型(large language model,LLM)在一系列下游任务中得到了广泛应用,并在多个领域表现出了卓越的文本理解、生成与推理能力.然而,越狱攻击正成为大语言模型的新兴威胁.越狱攻击能够绕过大语言模型的安全机制,削弱价值观对齐的影响,诱使经过对齐的大语言模型产生有害输出.越狱攻击带来的滥用、劫持、泄露等问题已对基于大语言模型的对话系统与应用程序造成了严重威胁.对近年的越狱攻击研究进行了系统梳理,并基于攻击原理将其分为基于人工设计的攻击、基于模型生成的攻击与基于对抗性优化的攻击3类.详细总结了相关研究的基本原理、实施方法与研究结论,全面回顾了大语言模型越狱攻击的发展历程,为后续的研究提供了有效参考.对现有的安全措施进行了简略回顾,从内部防御与外部防御2个角度介绍了能够缓解越狱攻击并提高大语言模型生成内容安全性的相关技术,并对不同方法的利弊进行了罗列与比较.在上述工作的基础上,对大语言模型越狱攻击领域的现存问题与前沿方向进行探讨,并结合多模态、模型编辑、多智能体等方向进行研究展望.

医疗领域对话系统口语理解综述

ChatGPT引发了新一轮的科技革命,使得对话系统成为研究热点。口语理解(Spoken Language Understanding,SLU)作为任务型对话系统的第一部分,对系统整体的表现具有重要影响。在最近几年中,得益于大规模语言模型的成功,口语理解任务取得了较大的发展。然而,现有工作大多基于书面语数据集完成,无法很好地应对真实口语场景。为此,该文面向与书面语相对的口语,重点关注医疗领域这一应用场景,对现有的医疗领域对话系统口语理解任务进行综述。具体地,该文阐述了医疗口语理解任务的难点与挑战,并从数据集、算法和应用的层面梳理了医疗口语理解的研究现状及不足之处。最后,该文结合生成式大模型的最新进展,给出了医疗口语理解问题新的研究方向。

语言模型与人工智能

本文按照自然语言处理学术发展的时间顺序,分析了人工智能与基于规则的语言模型、统计语言模型、神经语言模型、预训练语言模型、大语言模型之间的关系。研究指出,构建一个能够理解世界的模型将是人工智能未来的发展方向。

人工智能聊天机器人助力眼科和科学论文写作

人工智能聊天机器人ChatGPT是使用深度学习技术、能对自然语言输入产生类似人类反应的一种大型语言模型(LLMs)。它由OpenAI公司在2022.11开发,属于“生成预训练转换器(GPT)”模型家族的一种,目前可为公众所用。ChatGPT能够捕捉人类语言的细微差别和复杂性,生成适当的、与上下文相关的响应。它可以帮助医务人员完成各种任务,如研究、诊断、患者监护和医学教育,从确定研究课题到协助临床和实验室诊断,了解各自领域的新进展和科学写作。ChatGPT在眼科已吸引了越来越多的关注和广泛应用。然而,目前在这些任务中使用ChatGPT和其他人工智能工具仍存在一定的局限性、伦理和法律问题,如可信度、剽窃、版权侵犯和偏见。未来的研究将集中在开发新的方法来减轻这些局限性,同时发挥ChatGPT在医疗等相关方面的积极作用。

ChatGPT类生成式人工智能教育伦理危机及其应对

以ChatGPT为代表的生成式人工智能工具正在冲击甚至重塑学校教育生态,“人工智能+教育”成为未来教育发展的必然趋势。在人工智能的深度影响下,知识朝着软化、暗化和整全化的趋势发展。学习方式由“搜索”转向“对话”,并进一步助推学生的深度学习。教学目标步步升级,物态化教育现场也面临着解构。在人工智能时代,“超真实”经验遮蔽了身体感知觉经验,教师成为一个伦理身份模糊不清的虚拟节点,师生交往逐步弱化。而传统的普通教育学原理也将面临对教育经验方式的解释框架的全面失效。应对人工智能教育伦理危机必须从工具性思维走向共生性思维,直面教育生态变革,通过重构教师社会身份、重塑教学实践方式、重设教育伦理规范、重建教育理论基础,主动构建“人工智能+教育”的多元图景。

大模型智能与安全研究综述

在探索人工智能领域的无限可能性中,大模型的出现标志着一次重大技术飞跃.大模型通过大规模预训练,掌握了语言的复杂结构和多样性,展现了前所未有的语境理解和任务适应能力.然而,它们的涌现能力、对大量计算资源的依赖,以及在多任务处理中可能产生的不良内容等问题,仍是当下研究的关键挑战.本文综述了大模型的发展历程和技术背景,并深入探讨了它们在基础通用理论、智能交互方法和安全防护策略方面的最新进展,为未来大模型的科学研究和技术应用提供指导.

May ChatGPT be a tool producing medical information for common inflammatory bowel disease patients’questions?An evidencecontrolled analysis

Artificial intelligence is increasingly entering everyday healthcare.Large language model(LLM)systems such as Chat Generative Pre-trained Transformer(ChatGPT)have become potentially accessible to everyone,including patients with inflammatory bowel diseases(IBD).However,significant ethical issues and pitfalls exist in innovative LLM tools.The hype generated by such systems may lead to unweighted patient trust in these systems.Therefore,it is necessary to understand whether LLMs(trendy ones,such as ChatGPT)can produce plausible medical information(MI)for patients.This review examined ChatGPT’s potential to provide MI regarding questions commonly addressed by patients with IBD to their gastroenterologists.From the review of the outputs provided by ChatGPT,this tool showed some attractive potential while having significant limitations in updating and detailing information and providing inaccurate information in some cases.Further studies and refinement of the ChatGPT,possibly aligning the outputs with the leading medical evidence provided by reliable databases,are needed.

2023年可解释人工智能技术主要发展动向分析

可解释人工智能与当下人工智能研究与应用所重点关注的可信赖性和鲁棒性等问题密切相关。对2023年可解释人工智能技术领域的主要发展动向进行了综合评述。首先介绍可解释人工智能的概念内涵和实现途径,然后介绍可解释人工智能技术的当前最新进展,最后概述可解释人工智能技术的未来发展趋势。综述表明,针对当下热门的生成式人工智能模型的解释研究,已经成为当前可解释人工智能领域的重要研究热点;针对传统人工智能模型的解释研究主要聚焦于探索多视角融合的解释途径、强化无监督学习框架的可解释性;此外,可解释人工智能开源社区建设提速,助力打开模型“黑盒”的开源工具不断丰富。综述认为,突破微观神经元行为层面的可解释性瓶颈、构建兼具内在常识与外在环境交互能力的“心智系统”等研究方向,正在成为未来可解释人工智能技术的重要发展趋势。

基于知识编辑的大模型内容生成安全分析

大语言模型(large language models,LLMs)虽然取得了显著的成功,但在实际应用中依然面临着安全问题,容易在恶意诱导下生成有毒、有害内容.目前缓解LLMs不安全行为的方法通常需要高昂的数据收集成本以及大量的计算资源.大模型知识编辑可以在不重新训练模型的基础上,根据特定的输入精确地改变模型对应的输出,在节约大量资源的条件下约束模型的行为;为优化大模型生成安全内容提供了一个新的可行思路.然而,目前学术界缺乏较为系统和全面的基于知识编辑的大模型内容安全生成分析数据集.具体地说,当前缓解LLMs不安全行为的数据集并未包括所有的不安全场景,且其有毒问题几乎无法绕过对齐后的LLMs安全防线,因此无法缓解对齐后LLMs存在的不安全问题.针对上述问题,设计了新的数据集SafeGen,并提出新的评价体系分析知识编辑在优化LLMs生成安全内容的潜力.大量的实验发现知识编辑可以提高LLMs内部的安全信念,在校正LLMs不安全行为领域展现了广阔的应用前景.但经过知识编辑的LLMs生成文本的流畅性却差强人意,这也表明了这项任务的潜在难度.该工作可以为大模型安全社区提供一些见解.

面向文科学生的AI自然语言生成实验与教学设计

在AI技术在各行业的应用呈爆发式增长的背景下,培养文科学生的AI思维和跨学科创新能力很有必要。该文以AI自然语言生成技术为切入点,设计了一套基于语言大模型的藏头诗生成实验教学方案,主要包括语言大模型的基本原理、微调方法、云端部署以及最终实现藏头诗生成的方法。该实验方案成功落地实验教学,形成并开放了一套可操作、可复制的教学资料成果,有助于类似实验教学工作的开展。

生成式人工智能对课程教材教法的影响

生成式人工智能融入课程教材教法出现了新变化,为此,提出生成式探究学习、生成式课程、教材的智能化助手开发和重构学习资源建设的新思维尤为重要。在教学中应用生成式人工智能,应在国家《生成式人工智能服务管理暂行办法》的指导下,从国家、学校到每一个班级,都要制定学校教育应用生成式人工智能的管理办法,确立在教学中学生使用生成式人工智能的班级教师责任制,开展全员培训,提升教师在教学中合理运用生成式人工智能辅助教学的技能,开展有关生成式人工智能环境下教学改革发展规律的教育科学研究,为人工智能在全社会的普及作好教育准备。

生成式人工智能在口腔医学的应用潜力与挑战

作为人工智能的重要分支,生成式人工智能(generative artificial intelligence,简称生成式AI)近年来在各个领域取得了显著的进展。在医学领域,生成式AI也被认为具有巨大的应用潜力。然而,随着这一技术的不断发展,我们必须正视其所带来的伦理挑战和风险。本文旨在探讨生成式AI,特别是基于大语言模型(large language models, LLM)的技术,为进一步挖掘其在口腔医学科研、临床和教学中的潜力提供有益启示。