自然语言处理领域中的词嵌入方法综述

词嵌入作为自然语言处理任务的第一步,其目的是将输入的自然语言文本转换为模型可以处理的数值向量,即词向量,也称词的分布式表示。词向量作为自然语言处理任务的根基,是完成一切自然语言处理任务的前提。然而,国内外针对词嵌入方法的综述文献大多只关注于不同词嵌入方法本身的技术路线,而未能将词嵌入的前置分词方法以及词嵌入方法完整的演变趋势进行分析与概述。以word2vec模型和Transformer模型作为划分点,从生成的词向量是否能够动态地改变其内隐的语义信息来适配输入句子的整体语义这一角度,将词嵌入方法划分为静态词嵌入方法和动态词嵌入方法,并对此展开讨论。同时,针对词嵌入中的分词方法,包括整词切分和子词切分,进行了对比和分析;针对训练词向量所使用的语言模型,从概率语言模型到神经概率语言模型再到如今的深度上下文语言模型的演化,进行了详细列举和阐述;针对预训练语言模型时使用的训练策略进行了总结和探讨。最后,总结词向量质量的评估方法,分析词嵌入方法的当前现状并对其未来发展方向进行展望。

新文科背景下中国语言学学科的承继与发展

中国语言学自先秦以来,不仅取得丰硕的成果,而且形成独特的研究传统。近现代之后,中国语言学逐步转型,学科细分所致的新的研究态势已经不能适应新时代新文科要求。中国语言学需要在承继优良学术传统的基础上,面向人工智能和数字技术,走“大语言学”发展之路。

论大语言模型材料的证据属性——以ChatGPT和文心一言为例

以ChatGPT和文心一言为代表的大语言模型产生海量大语言模型材料,此类材料进入社会生活并产生广泛影响,讨论大语言模型材料证据属性具有重要意义。大语言模型材料可以成为证据,但是否具有证据资格需要在具体个案中进行判断。从诉讼效率出发,大语言模型证据在不同诉讼中的呈现形式可以有所区别:一般案件可以仅举示人机交流材料和使用者本地环境信息,重大案件则应完整举示。大语言模型材料区别于大数据证据和一般的人工智能证据,具有直观性强、可解释性弱、偏在于少数技术公司、可识别性弱等特点。

语言研究需要新质生产力

从农业社会开始,人类就开始了对于语言的研究,经历了语文学、文法研究、语言哲学研究的漫长时期;进入工业社会,历史比较语言研究、结构主义语言研究、功能主义语言研究、形式主义语言研究此起彼伏、相映成趣;计算机和互联网出现后的信息社会,计算语言研究、语料库语言研究、新媒体语言研究、数理语言研究、网络语言研究等应运而生;当下人类正在进入数字社会,数字语言研究等开始萌芽。

大型体育赛事语言景观的呈现特征、建构经验与提升策略——以北京2022年冬奥会为例

基于语言景观理论,通过录像观察对北京冬奥会语言景观的呈现特征进行考察并总结建构经验,进一步提出未来打造具有中国特色的赛事语言景观的提升策略。研究认为:首先,官方景观主导、载体类型多样、模态组合多元、语码布局规范是北京冬奥会语言景观的呈现特征。其次,自信规范的语言使用、特色文化的深度结合、丰富多样的呈现形式是北京冬奥会语言景观的建构经验。最后,未来应建立健全各类赛事语言景观的标准规范,促进文化交流的理解与认同;充分挖掘办赛所在地的优秀文化,打造具有本土特色的语言景观;应用现代高科技手段,拓宽语言景观呈现的渠道与形式。

从语言战略角度看信息时代的语文教育

语言文字在信息时代具有了影响全民和全局的战略意义。提高基础教育阶段的语文教学质量,发展国民的语言能力与思维素养,是实施语言文字战略的前提。要改变语文教育在目标、内容与方法等层面存在的滞后性,适应信息时代对语文教育的要求,就必须努力推进语文教学建设。当前的关键之点是理解和落实《普通高中语文课程标准(2017年版2020年修订)》提出的“语文核心素养”课程目标,以及“学习任务群”课程组织原则。语文核心素养是由语言建构与运用、思维发展与提升、审美鉴赏与创造、文化传承与理解构成的整体,综合体现在学生的思想面貌和精神状态、知识结构和语言能力等多个方面,包含强烈的人文性;学习任务群是教师根据自己的实际情况创造性地组织教学的教学原则,要求以学生的自主学习为前提,让学生自己去完成学习任务,在实践中获取知识、增长能力、养成和提升核心素养。语文课程建设还必须有理论建设做支撑,建设契合汉语汉字特点、具有中国特色的语言文字知识体系已是刻不容缓。

大型语言模型对高等教育的影响与中国应对

大型语言模型(LLM)在短期内将从创设教学情境、创新教学模式、教学AI开发和应用、拓展高校在线学习、助力虚拟仿真课程开发等方面助力高等教育;长期来看能够助推“四新”建设、赋能基础学科拔尖人才培养,并催生高校结构性变革。同时,LLM也可能引发教育安全风险,造成新的教育智能鸿沟,并被大企业寡头垄断。为促进LLM赋能中国高等教育,需要我国加快开发迭代自己的LLM,促进其均等化可达,提升师生数字素养和能力,夯实数字化教学环境。

语言政策民族志本土化路径探究

随着语言政策与规划研究的实证转向,语言政策民族志所包含的本体论、认识论和方法论越来越得到国际语言规划与政策研究的重视。然而,这一研究范式尚未在我国得到充分关注。文章厘清语言政策民族志的内涵、方法及应用,阐述语言政策民族志对语言规划学科的重要意义,并提出语言政策民族志本土化的3点建议:一是培养本土文化意识,将研究置于地方历史文化中进行阐释;二是积极探索替代性认识论、方法论和其他会话资源;三是坚持中国立场,保持批判性反思,以期为探究适用于中国特色的语言规划理论提供借鉴和参考。

大语言模型在中学历史学科中的应用测评分析

大语言模型一经发布便获得广泛关注,但其在实际应用特别是教育领域的应用还存在诸多局限与挑战,因此需要对大语言模型在中文语境下的能力与风险进行测评。基于此,文章首先收集整理了一个包括10万条客观选择题与10套中学主观题测试卷的中学历史数据集,并在以ChatGPT、GPT-4和讯飞星火为代表的大语言模型上测试了该数据集中题目的回答表现。然后,文章详细分析了测试结果,发现虽然当前大语言模型的突出能力在于能够产生完整且流畅的表达,但其在中学历史知识测试中仍远低于适龄学生的平均水平,大语言模型应用于教育领域仍存在可靠性较差、可信度较低、具有偏见与歧视、推理能力不足、无法自动更新知识等问题。最后,文章针对大语言模型在中文语境下教育领域的应用提出建议,以期助力大语言模型在教育领域发挥更大的作用,为学生、教师带来更好的学习和教学体验。

是“神马”还是“灰犀牛”:ChatGPT等大语言模型对教育的多维影响及应对之策

ChatGPT以“入侵”的方式在教育领域登陆,初露“灰犀牛”面貌,由此引发教育思想、教育体系和学校教育层面的危机。在教育思想层面,多将ChatGPT视为“神马”,在态度上选择抵制和观望,其背后既有思维惯性、惰性等历史原因,也有因ChatGPT等大语言模型管理制度缺位导致安全感无处寄放的现实依据。就教育体系而言,ChatGPT引发的教育自洽与替代焦虑加持,将从内外两个角度解构既有的教育目标体系,由此带来基于人的自由全面发展的教育目标体系的重构;ChatGPT将推动知识生产与知识学习的转向,进而以知识教育价值重估为“支点”,撬动教育整体价值重估,促使教育立足“人本”和“高阶”开展价值创造;ChatGPT还将引发学生发展与评价标准、方式的变革,渐次推动教育评价体系的全面创新。就学校教育而言,知识学习的变革必将推动学校教育时空的重组和学校生态的创新,使课堂教学由“三维”向“四维”转型,进而推动教学生态重塑、流程再造和课堂教学革命,引发教师角色、工作方式和发展方式的变革。

从全文检索到语言计量和语言智能——语料库研究应用的三个层次及资源

20世纪中后期,随着计算机软硬件技术的快速发展,语料库在规模、深度甚至模态上都有了长足进步,实现了由全文检索到语言智能的巨大飞跃。语料库的分类一般从收录语言材料的地域、时代、语种、语体、语域等层面,或语音、词法、句法、语义、篇章等标注层级,或面向具体的研究问题等角度来划分。但更基本的、却较少关注的问题是语料库的构建和应用是面向学者的语言研究需要,还是面向计算机的语言计算建模需要。本文从语料库研究和应用的角度出发,将语料库研究划分为面向全文检索、语言计量和语言智能等三个层次,着重介绍了与后两者相关的期刊、会议和成果资源,助力研究者确定研究范式,构建和使用相匹配的标注语料库,实现多学科的交叉融合和应用。

视听语言智能康复技术对语言发育迟缓儿童语言功能的影响

目的 探究视听语言智能康复技术对语言发育迟缓儿童语言功能的影响,为语言发育迟缓儿童的语言功能训练提供临床参考依据。方法 选取2022年1月~2023年3月兰州大学第二医院收治的80例语言发育迟缓儿童,随机分为研究组和对照组各40例。对照组进行常规语言训练,研究组在常规语言训练基础上联合使用视听语言智能康复技术,治疗3个月。治疗前后采用Gesell发育量表评估两组的适应性能力、语言能力、个人社交能力,并采用ICF(international classification of functioning disability and health)早期语言障碍评估与干预治疗仪对儿童词语、句子理解能力进行评估。结果 治疗前两组患儿适应性能力、语言能力、个人社交能力3大能区发育商以及词语理解、句子理解能力得分无显著差异(P>0.05)。治疗后研究组适应性能力、语言能力、个人社交能力3大能区发育商显著提高(P<0.05)。两组患儿词语理解、句子理解能力得分均显著提高,且研究组显著高于对照组(P<0.05)。结论 针对语言发育迟缓儿童语言能力的改善,常规语言训练结合视听语言智能康复技术比单纯常规语言训练效果更好。

中国家庭母亲语言输入特征及其与儿童语言发展的关系

一直以来,亲子言语互动被认为是推动儿童早期语言学习和发展的重要动力。母亲的社会经济地位不同,其语言输入质量也不同。从语言输入的交互性、语言性和概念性三个维度看,母亲语言输入的语言性和概念性预测了儿童的语言能力发展。因此,在家庭语言环境中,应建立交互性、语言性和概念性为一体的语言环境支持系统,且家庭语言教育要关注概念性语言的输入,家庭语言互动中应注重提升亲子言语互动质量。

非计算机专业第一节C语言程序设计课程教学探索

针对非计算机专业大学一年级学生对于C语言程序设计课程学习兴趣不高的问题,提出基于第一印象的第一节课程教学设计理念,探讨如何通过课程作用、教学内容、教学方法、趣味案例、考核机制、教师形象多个方面精心设计第一次课,最后通过教务评教系统课程问卷结果,说明这些措施可以有效提高学生对于课程的认识和培养学生兴趣。

人工智能时代语言服务行业需求分析与人才培养研究

以126名语言服务从业者及397名学习者为研究对象进行问卷调查和访谈,通过数据分析发现,人工智能时代的语言服务行业对具职业创新能力的复合型人才需求较高,但现有人才培养与市场需求还不能完全对接,学习者对行业需求的认识,以及自身信息技术能力、跨学科语言服务能力等有待提升。提出多渠道语言服务能力培养路径,特别探讨了通过依托项目学习模式,提升学习者职业创新能力,以期培养人工智能时代行业所需的优质语言服务人才。

大语言模型的技术应用前景与风险挑战

针对大语言模型(LLM)技术的快速发展,剖析它的技术应用前景和风险挑战,对通用人工智能(AGI)的发展和治理有重要参考价值。首先,以Multi-BERT(Multilingual Bidirectional Encoder Representations from Transformers)、GPT(Generative Pre-trained Transformer)和ChatGPT(Chat Generative Pre-Trained Transformer)等语言模型为代表,综述LLM的发展脉络、核心技术和评估体系;其次,分析LLM现存的技术局限和安全风险;最后,提出LLM在技术上改进、政策上跟进的建议。分析指出作为发展阶段的LLM,现有模型存在非真实性及偏见性输出、实时自主学习能力欠缺,算力需求庞大,对数据质量和数量依赖性强,语言风格单一;存在数据隐私、信息安全和伦理等方面的安全风险。未来发展可从技术上继续改进,从“大规模”转向“轻量化”、从“单模态”走向“多模态”、从“通用”迈入“垂类”;从政策上实时跟进,实施有针对性的监管措施,规范应用和发展。

JADE-DB:基于靶向变异的大语言模型安全通用基准测试集

提出大语言模型安全通用基准测试集—JADE-DB,该数据集基于靶向变异方法自动化构建,能够将经验丰富的大语言模型安全测试员和多学科专家学者手工撰写的测试问题转化为高危通用问题,保持语言自然性的同时不改变其核心语义,且能够攻破十余款国内外知名大语言模型的安全防护机制.根据语言复杂性差异,JADE-DB包含基础、进阶、高危3个安全测试等级,共计上千条覆盖违法犯罪、侵犯权益、歧视偏见和核心价值观4大类违规主题、30多种违规主题的通用测试问题,其中针对国内开源(中文,8款)、国内商用(中文,6款)和国外商用大语言模型(英文,4款)这3组大语言模型分别构建的3款通用高危测试集,可造成每组模型在高危测试集上的平均违规率均超过70%,测试问题均可同时触发多款模型违规生成.这表明,语言的复杂性导致现有大语言模型难以学习到人类无穷多种表达方式,因此无法识别其中不变的违规本质.

我国语言管理思想的历时演进

西方学者认为,语言规划不仅包括自上而下的政府行为,还应包括基层及个体自下而上的行为,后者同样重要,也可以影响语言的现实应用。因此,他们在语言规划与语言政策实践的基础上发展了语言管理这一概念。我国从古至今一直重视语言的规划管理工作,尽管没有提出语言管理的概念,但在实践中却有着朴素的语言管理思想,推动我国的语言文字事业不断向前发展。本文从语言管理这一概念的内涵出发,简要回顾了我国古代、近代及新中国成立后的语言管理工作,发现语言管理在不同历史时期承担了不同的使命,呈现出不同的特点:古代主要以官方自上而下的语言管理为主,参与主体较为单一;近代语言管理的多元主体参与性增强,基层声音受到重视;新中国成立后,语言管理被提升到国家战略的高度,自上而下与自下而上的管理并重,从组织语言管理逐渐向和谐语言管理、生态语言管理的方向迈进。

心理医生诊疗话语中评价资源的生态语言学分析

文章采用实证研究方法,基于心理咨询与治疗会话小型语料库,综合运用评价系统、生态语言学等理论,尝试探讨心理医生诊疗话语中评价资源的使用分布情况。结果显示,借助消极判断、鉴赏等资源,医患之间形成相同的价值联盟和态度站位;借助二声、道义型情态、让步等介入资源,医生拓展了医患话语之间的对话性、协商性和主体间性;借助大量锐化聚焦等资源,医生强化了态度和介入的干预,引发患者积极情感与价值取向的心理共鸣。这种基于“评价言语行为-积极情感/价值取向传递-诊疗干预”动态模型的探讨,有助于揭示评价系统资源的社会服务功能和社会治理功能。

语言习得中的语言输入及语言能力的发展——以《人生初年——一名中国女孩的语言日志》中“冬冬”的母语习得过程为例

普遍语法学者认为,在儿童语言习得的过程中,虽然语言刺激存在许多缺陷,但儿童依然能够从这些充满缺陷的语言输入中获得语法能力,这说明人类大脑中存在一种先天的语言习得机制。这一假设遭到认知语言学的挑战。认知语言学认为,儿童对语言的理解和使用建立在一般认知能力的基础之上,特别是记忆能力、抽象能力和推理能力。近年来,学者们通过实验发现,儿童具有惊人的记忆力、抽象能力和推理能力。抽象能力帮助儿童通过日常接触的语料掌握语法规则,获得构式;推理能力则帮助儿童利用原有知识获得更多的新知识,从而增强其表达能力。本文通过对儿童实际语言习得过程的观察和研究,发现儿童语言能力的获得与语言输入的质和量有密切的关系。儿童获得的语言刺激来源广泛,其丰富性、针对性和高频次也远远超过一般人的想象。儿童的语言能力与其概念能力和思维能力相互影响:概念能力可以推动语言能力的发展,而语言能力的发展可以进一步推动思维能力的发展。