ChatGPT的工作原理、关键技术及未来发展趋势

ChatGPT是自然语言处理领域的一项重要技术突破,专注于对话生成任务,在多种任务中表现出卓越的性能。主要探讨ChatGPT的演变历程、关键技术,并分析了其未来可能的发展方向。首先,介绍了ChatGPT的模型架构和技术演进过程。随后,重点讨论了ChatGPT的关键技术,包括提示学习与指令微调、思维链、人类反馈强化学习。然后,分析了由于基于概率生成原理所造成的固有局限,包括事实性错误、垂直领域深度性弱、潜在的恶意应用风险、可解释性及模型实时性差等。最后,探讨了其在典型应用中存在的问题和相应的解决途径,包括在训练评估过程中考虑道德和安全性因素,以降低潜在风险;结合外部专家知识和迁移学习,以提高模型对特定领域的理解能力,更好地适应特定任务场景;引入多模态数据,以提高模型信息理解能力,增强模型通用性和泛化性。通过对ChatGPT模型框架、技术演变与关键技术的分析,为深入理解ChatGPT提供帮助;结合原理分析其固有缺陷,并结合实际应用中存在的问题,挖掘未来可能的研究方向,为自然语言处理领域的深入研究提供有益参考。

是“神马”还是“灰犀牛”:ChatGPT等大语言模型对教育的多维影响及应对之策

ChatGPT以“入侵”的方式在教育领域登陆,初露“灰犀牛”面貌,由此引发教育思想、教育体系和学校教育层面的危机。在教育思想层面,多将ChatGPT视为“神马”,在态度上选择抵制和观望,其背后既有思维惯性、惰性等历史原因,也有因ChatGPT等大语言模型管理制度缺位导致安全感无处寄放的现实依据。就教育体系而言,ChatGPT引发的教育自洽与替代焦虑加持,将从内外两个角度解构既有的教育目标体系,由此带来基于人的自由全面发展的教育目标体系的重构;ChatGPT将推动知识生产与知识学习的转向,进而以知识教育价值重估为“支点”,撬动教育整体价值重估,促使教育立足“人本”和“高阶”开展价值创造;ChatGPT还将引发学生发展与评价标准、方式的变革,渐次推动教育评价体系的全面创新。就学校教育而言,知识学习的变革必将推动学校教育时空的重组和学校生态的创新,使课堂教学由“三维”向“四维”转型,进而推动教学生态重塑、流程再造和课堂教学革命,引发教师角色、工作方式和发展方式的变革。

汉语辞书词条自动编纂调查研究--以ChatGPT为例

文章以ChatGPT为例,借助问卷考察了大语言模型在汉语辞书词条自动编纂中的表现。研究选取40个词目作为样本,充分考虑词性、词长、义项数的多样性,借助ChatGPT生成释文,并与《现代汉语词典》第7版进行对比分析。问卷调查显示,ChatGPT编纂的词条中有37.5%获得了更多受访者的认可,但整体质量距离全面超越传统辞书仍有差距。ChatGPT在单音字、单一词性词语的标注和单义项词语的释义方面具有优势,但对多音字、兼类词、多义词以及特殊语体词的词条编纂效果明显下降,也暴露出义项遗漏、释义不准确、举例模式化等问题。总体而言,ChatGPT在辞书编纂中展现了生成新义、快速编纂等优势,但严谨性、系统性不足,难以独立完成编纂任务。大语言模型正在不断升级中,未来宜持续关注并将其用作辞书编纂的辅助工具,通过人机互助提高辞书编纂速度,提升辞书编纂质量,推动汉语辞书智能化发展。

ChatGPT技术及其在智慧图书馆中的应用策略

文章梳理ChatGPT运行的技术保障体系,提出ChatGPT在智慧图书馆的应用技术架构,从文本生成、参考咨询、自动文摘、智能检索、辅助编程、多模态融合6个方面探讨ChatGPT在智慧图书馆的应用,指出其应用中面临的数据安全、社会伦理、知识产权等诸多挑战,进而提出智慧图书馆ChatGPT应用策略,即保护数据安全与个人隐私、强化社会伦理和道德规范、出台知识产权与法律监管措施。

ChatGPT在图书馆的应用模式与实施路径

以ChatGPT为代表的新一代人工智能技术为智慧图书馆建设提供了新的契机,运用ChatGPT赋能智慧图书馆建设成为图书馆亟待解决的重要课题,然而如何有效推进ChatGPT在图书馆的落地实施尚缺乏代表性的实践案例指引和清晰完整的路径指南。为此,本文结合实际应用案例从资源智慧化、知识服务、业务创新三个角度总结了ChatGPT在图书馆工作实践中的主要应用模式,进而提出以认知重构为引领、以提示语技术为起点、以场景需求为驱动的具体实施路径,以深入推动ChatGPT在图书馆的创新应用。

从BERT到ChatGPT:大模型训练中的存储系统挑战与技术发展

以ChatGPT为代表的大模型在文字生成、语义理解等任务上表现卓越,引起了工业界和学术界的广泛关注.大模型的参数量在3年内增长数万倍,且仍呈现增长的趋势.首先分析了大模型训练的存储挑战,指出大模型训练的存储需求大,且具有独特的计算模式、访存模式、数据特征,这使得针对互联网、大数据等应用的传统存储技术在处理大模型训练任务时效率低下,且容错开销大.然后分别阐述了针对大模型训练的3类存储加速技术与2类存储容错技术.针对大模型训练的存储加速技术包括:1)基于大模型计算模式的分布式显存管理技术,依据大模型计算任务的划分模式和计算任务间的依赖关系,设计模型数据在分布式集群中的划分、存储和传输策略;2)大模型训练访存感知的异构存储技术,借助大模型训练中的访存模式可预测的特性,设计异构设备中的数据预取和传输策略;3)大模型数据缩减技术,针对大模型数据的特征,对模型训练过程中的数据进行缩减.针对大模型训练的存储容错技术包括:1)参数检查点技术,将大模型参数存储至持久化存储介质;2)冗余计算技术,在多张GPU中重复计算相同版本的参数.最后给出了总结和展望.

ChatGPT模型辅助数字政府建设的风险及其法律规制

人工智能技术赋能数字政府建设是大势所趋,数字政府建设与治理效能的提升本身内嵌着数据自组织及其信息呈现的迭代逻辑。作为最新一代人工智能技术,ChatGPT模型表现出显著的交互式运演特征。是否应将该模型引入数字政府建设是“算法公共性建设”这一元问题在当下的最新变形。ChatGPT模型辅助数字政府建设既有优势,也有风险。就优势而言,ChatGPT不仅可以提升数字政府的内部性能,而且能够优化行政机关的外部行政,最终促成行政机关与公民的紧密互动。将ChatGPT引入数字政府建设存在的风险包括数字政府建设中的数据主权安全风险、技术资本异化风险与信息秩序失稳的风险。为了保障国家数据安全,须建构分级分类制度;为了防止资本入侵,须加强对ChatGPT的审查和监管,通过社会主义核心价值观对其进行指引;为了保障信息秩序稳定,须构建公民权利的保障机制。

如何测试ChatGPT的语义理解与常识推理水平?——兼谈大语言模型时代语言学的挑战与机会

ChatGPT等大语言模型在语义理解和常识推理方面表现优秀,其技术奥秘在于模型开发者在对词语进行向量表示时,遵循分布式语义学原理,采用了“嵌入”这种代数方法。但是,经典的测试语言运用等智能水平的“图灵测试”,难以识别欺骗和回避等作弊手段,因此,计算机科学家设计了“新图灵测试”,其中的威诺格拉德模式挑战与语言学关系密切。这一模式以代词消歧为测试点设计句子对和问题,但是经过大规模语料训练的语言模型可以凭借词汇上的统计相关性,而不是靠真正理解句子的意义来给出正确答案。为克服这一缺陷,学者们又发展出WinoGrande数据集,提高了数据的规模和难度,确保它们无法通过网络搜索等手段来得到正确答案。我们用威诺格拉德模式设计了无偏向双重句子对测试ChatGPT,展示了大语言模型在语义理解和常识推理方面已达到接近人类的水平。当然,从具身模拟假说来看,大语言模型不可能像人一样富有体验性地理解人类自然语言。最后,我们呼吁:语言学家应该积极参与构建WinoGrade测试集之类的工作,在人工智能时代扩展自身的学术研究领域。

人工智能缓释用户信息焦虑——以ChatGPT为例

文章从信息传播视角出发,以ChatGPT为例,探究ChatGPT缓释用户信息焦虑影响因素。研究基于自我决定理论,从外因与内因两个维度,通过修订已有成熟信息焦虑量表,采用实证分析法对370名互联网用户进行调查,构建结构方程,聚焦ChatGPT对信息焦虑的影响因素。研究表明:ChatGPT能够缓释用户信息焦虑行为;ChatGPT提供的信息质量、数量、素养和获取是影响用户信息焦虑情绪的主要因素;自我效能感与元认知在ChatGPT缓释信息焦虑的过程中起到了积极的调节作用。研究拓展了人工智能与用户信息焦虑情绪的研究范畴,并为用户焦虑情绪缓释的实践治理提供参考。

类ChatGPT模型辅助数字政府建设的可能、风险与模式

利用生成式人工智能技术参与数字政府建设,对于推动国家治理现代化具有重要的时代意义和实践价值。ChatGPT等生成式人工智能的自然语言理解与生成能力、文本生成能力和知识更新能力对提高数字政府建设水平和建设效率发挥着重要的价值功能。但同时,生成式人工智能参与数字政府建设,存在政务和公共数据泄露、政府权威向技术资本转移以及信息深度伪造的风险。面对生成式人工智能参与数字政府建设的广阔前景和风险问题,要加快我国自主生成式人工智能在数字政府建设领域的应用培育;坚持效率与责任并重,增强数字政府的行政实效;加强对公民、企业等主体的数据权利保障,以及对国家安全等重点领域的数据风险规制。

ChatGPT类生成式人工智能教育伦理危机及其应对

以ChatGPT为代表的生成式人工智能工具正在冲击甚至重塑学校教育生态,“人工智能+教育”成为未来教育发展的必然趋势。在人工智能的深度影响下,知识朝着软化、暗化和整全化的趋势发展。学习方式由“搜索”转向“对话”,并进一步助推学生的深度学习。教学目标步步升级,物态化教育现场也面临着解构。在人工智能时代,“超真实”经验遮蔽了身体感知觉经验,教师成为一个伦理身份模糊不清的虚拟节点,师生交往逐步弱化。而传统的普通教育学原理也将面临对教育经验方式的解释框架的全面失效。应对人工智能教育伦理危机必须从工具性思维走向共生性思维,直面教育生态变革,通过重构教师社会身份、重塑教学实践方式、重设教育伦理规范、重建教育理论基础,主动构建“人工智能+教育”的多元图景。

ChatGPT类AI-GPT技术应用对图书馆信息处理的变革探析

随着自然语言处理技术的发展,ChatGPT等大语言模型的应用潜力引起了广泛关注,这些技术能够深度理解和生成人类语言,因此在图书馆信息处理中具有重要的应用价值。本文对ChatGPT类AI-GPT技术与图书馆信息处理的应用前景作了概略分析,从智慧图书馆知识库建设、图书馆用户信息集成处理、图书馆数智化服务开放平台搭建三个方面探讨了图书馆信息处理的可能创新路径。

语义理解与常识推理的机器表现和人类基线之比较——怎样评估ChatGPT等大型语言模型的语言运用能力?

本文讨论怎样通过跟人类基线的比较,来合理地评估ChatGPT等现代大型语言模型的语言运用能力。首先,用代词指称歧义和否定辖域问题测试ChatGPT,展示语言大模型在语义理解和常识推理方面的优秀表现;接着简介维诺格拉德模式挑战及其升级版本WinoGrande数据集,还介绍了我们对于这种类型的测试题和机器表现的评估方式的改进方案(把仅触发词不同的“句对”扩展为锚定词也不同的“句偶”,把机器表现跟人类被试的表现进行比较);然后介绍我们怎样用“句对”和“句偶”测试ChatGPT和人类被试,并且把人类和机器的表现进行对比,从而得出语言大模型的语言运用能力接近人类的结论。

生成式人工智能对高校图书馆的影响及应对策略——以ChatGPT大型语言模型为例

文章分析ChatGPT模型的优势和不足,从对话式资源检索、智能咨询与智慧空间服务、嵌入式个性化阅读推广、探讨式知识获取、虚拟馆员与馆员助理服务、人工智能素养教育、AI学习伙伴训练指导七方面分析生成式人工智能为高校图书馆带来的机遇,指出其将面临阅读吸引力减弱、错误知识传播、学习动力下降、已有技能退化、版权问题凸显等挑战,并提出具体应对策略,即参与制定人工智能商用标准和使用规范;探索人工智能实践应用,积极应对风险挑战;开展人工智能素养教育,创新考核评价方式;提升馆员综合素养,组建人工智能服务团队;建立监测反馈机制,持续提高服务质量。

类ChatGPT技术应用的公共价值解构与建构:基于战略三角模型的分析

生成式人工智能具有智慧性、类人性和技术放大性等特征,给社会带来深层次变革,同时也造成了严重的公共价值侵蚀,如何进行人工智能的价值治理成为重要的研究议题。文章从“战略三角模型”出发,探讨类ChatGPT技术应用造成的公共价值解构与建构。在公共价值解构层面,生成式人工智能造成了以社会为导向的价值解构与以个人为导向的价值解构,包括社会信任消解、社会不平等加剧、国家安全危机以及数字生存权和数字自主权异化。在公共价值建构层面,提出“合法性和支持”及“运作能力”两个层面的公共价值建构路径,形成法律约束机制、风险防控机制及协同监督机制,同时提供技术支持与政策保障,确保类ChatGPT技术在公共价值与公共秩序的范围内运转。

类ChatGPT与图书馆员的职业压力——基于JSM心理模型

类ChatGPT的迅速普及,在为图书馆带来发展机遇的同时,也给图书馆员带来了新的职业压力。文章基于JSM心理模型,分析类ChatGPT与图书馆员职业压力的生成机制及其影响,并提出干预措施。研究发现,类ChatGPT会使图书馆员的核心工作特征发生变化,进而对图书馆员职业的效能感、责任感等产生影响,导致其心理状态改变、产生职业压力;馆员心理契约破裂,也会带来组织整体效能下降以及知识传播范式扭曲等不良影响,因而需要从核心工作特征重塑、心理状态干预等角度阻断职业压力的传导。

ChatGPT语言模型对高校师生关系的挑战与应对——基于角色理论的分析

ChatGPT语言模型对高校师生关系形成了极大挑战,基于角色理论视角分析,其具体表现为影响师生角色扮演、挑战师生角色期望和引发师生角色冲突三个方面。为了更好地应对ChatGPT语言模型对高校师生关系的挑战,优化ChatGPT语言模型背景下的高校师生关系,在教育实践中需要调整师生角色扮演,促进师生平等与合作;明确师生角色期望,重视师生主体价值;解决师生角色冲突,提升师生道德水平。

人工智能工具ChatGPT在临床药学教育中的应用

ChatGPT在临床药学教育中有巨大的潜力,但同时存在一定局限性。结合国内外临床药学教育发展概况,本文阐述ChatGPT在辅助临床药学教育中的应用潜力和价值,分析ChatGPT在临床药学教育中的应用风险并提出适当建议,为临床药学教师提供一个新型AI辅助工具,从而提高教学效果。

基于ChatGPT信息增益的男性不育研究热点和趋势评估

目的/意义探索包括ChatGPT在内的大语言模型辅助决策系统的应用潜力,以实现其在临床转化,分析ChatGPT信息增益对男性不育研究热点总结和趋势评估的效果。方法/过程基于Scopus数据库,运用文献计量学、主题建模、“问-答”咨询等方法,分析文献证据和ChatGPT虚拟数据下男性不育研究的主题差异。结果/结论男性不育研究主题从单一转多元,“病例发现”“激素诊断”“精子提取”“遗传标志鉴定”等成为研究热点。应用ChatGPT可补充文献计量学与主题建模证据,有效探索男性不育研究热点和趋势。

大语言模型在护理领域的应用及展望——以ChatGPT为代表

大语言模型,也被称作人工智能聊天机器人,其通过自我监督学习对大量文本进行训练,并从海量数据中汲取知识,输出现实而较为准确的文本。大语言模型在护理实践和教育领域有着强大的潜力,但仍面临技术、伦理和安全等诸多难题。本文将以ChatGPT为例,介绍大语言模型在护理领域的研究现况,发展展望以及在使用过程中可能遇到的风险与挑战,以期为我国护理人员掌握人工智能等先进工具和技术提供参考和依据。