领域大语言模型下的古籍词性标注应用研究

[目的/意义]大语言模型的发展为古籍文本挖掘带来了新的思路,将大语言模型与古籍数字化、智能化相结合是新时代古籍工作的必经之路。[方法/过程]文章使用《左传》词性标注语料,通过数据清洗和预处理,构建了一批高质量的词性标注指令数据,在此基础上,分别使用500、1 000、2 000、5 000条数据对大语言模型进行指令微调,并在另外1 000条数据上进行性能测试。[结果/结论]实验结果表明,“荀子”系列模型在古籍文本词性标注任务上性能优于通用领域模型,在微调数据量达到5 000时,Xunzi-Baichuan2-7B模型表现出了最优性能,F1值达到81.67%。

基于注意时序网络的中文词性标注方法

针对传统的基于统计与规则的词性标注模型存在的人工特征依赖、字向量表征单一、特征提取不全面等问题,提出一种有效的基于注意时序网络的中文词性标注模型。对原始的TCN模型结构进行三点改进,并提出将注意时序网络与BiLSTM模型融合到词性标注方法中。上述模型首先通过XLNet模型获取字级别的上下文表示,利用注意时序网络的因果卷积结构获取更高层次的文本序列特征并通过注意力机制优化特征,最后通过BiLSTM进一步学习序列上下文特征,提高词性标注的准确度。实验表明,上述模型性能相较于其它模型有明显提升。

现代汉语动词性存在糅合句语义分析和事件融合机制研究

存在句一直是汉语研究的热点之一,但对动词性存在糅合句的关注却略显薄弱。基于学界前期研究成果,聚焦考察动词性存在糅合句的界定与构成,着重分析动词性存在糅合句的语义特点,并尝试从事件融合理论的角度对其形成机制作出认知阐释。研究发现:动词性存在糅合句一般是无语音停顿的单句,且通过存在句和动词性后续结构的杂糅和合并而形成;“VP_1+NP_(人/物)+VP_2”在句法上主要表征为述补结构、连动结构和状中结构,不同的结构在语义特征、语义关系和语义指向方面展现了不同的语义糅合关系;动词性存在糅合句形成的认知机制是事件融合,在时空、参与者和事件关系三方面的语义认知维度中得以体现。

融合词性与语义相关性的图书馆智能咨询系统问句相似性计算方法研究

[目的/意义]提高问句相似性计算的准确性,对改善图书馆智能咨询的实际效果具有重要作用。[方法/过程]引入特征词在问句之间的语义相关性指标,提出了融合词性与语义相关性的问句相似性计算方法。首先构建咨询领域专业词典以增强问句处理的业务针对性,然后提出特征词词性权重和语义相关性权重度量方法,并融合两者度量词语在问句中的作用以构建问句语义表征向量,最后采用余弦函数计算问句相似度。[结果/结论]实验表明综合词性与语义相关性特征能有效识别问句中的核心特征词,本文提出的问句相似性计算方法比传统方法具有更高的ACC@1和ACC@3准确率。

语音邻域密度、词性类别、语言水平对二语词汇联想反应的影响

本文研究语音邻域密度、词性类别及语言水平对中国英语学习者二语词汇联想反应的影响。使用Lex_30测量词汇水平,采用“听—写”词联想任务考察所选词的语音邻域稀疏与密集程度以及名、动、形不同词性的刺激词联想反应差异。结果表明:(1)高低水平学生产出的语音和语义反应均存在显著差异,语音反应比例与语言水平成负向相关;(2)不同词性的语义联想反应有显著差异,但在语音反应上无差异;(3)不同语音邻域密度的刺激词只在高语言水平者的语义反应上有显著差异,低水平者只有名词的语音及语义反应存在显著差异,部分支持邻域激活模型。

量词“扇”对名词性成分选择的范畴化过程

量词“扇”对名词性成分的选择是一个范畴化过程。量词“扇”的语义特征是[+平面][+可开合],表示“门”类物的名词性成分是“扇”范畴的原型,位于范畴中心。“扇”范畴从中心成员开始向外扩展,经过近距扩展、远距扩展而至边缘成员,形成一个具有层级性的连锁性链条。“扇”范畴的近距扩展主要体现为由表母体物到表相近物,大致包括四类:可开合的硬质平面物、可开合的软质平面物、面积较大的硬质平面物、可分合的类平面物。远距扩展主要体现为从表非生物到表生物、从表客体到表主体、从表有形具体物到表无形具体物、从表具体物到表抽象物。隐喻和图式转换是“扇”范畴扩展的重要促动因素。

动态调整语义的词性加权多模态情感分析模型

为更好地利用单词词性包含的语义信息和伴随单词出现时的非自然语言上下文信息,提出动态调整语义的词性加权多模态情感分析(part of speech weighted multi-modal sentiment analysis model with dynamic semantics adjustment,PW-DS)模型.该模型以自然语言为主体,分别使用基于Transformer的双向编码器表示(bidirectional encoder representation from Transformers,BERT)模型、广义自回归预训练(generalized autoregressive pretraining for language understanding,XLNet)模型和一种鲁棒优化的BERT预训练(robustly optimized BERT pretraining approach,RoBERTa)模型为文本模态做词嵌入编码;创建动态调整语义模块将自然语言和非自然语言信息有效结合;设计词性加权模块,提取单词词性并赋权以优化情感判别.与张量融合网络和低秩多模态融合等当前先进模型的对比实验结果表明,PW-DS模型在公共数据集CMU-MOSI和CMU-MOSEI上的平均绝对误差分别达到了0.607和0.510,二分类准确率分别为89.02%和86.93%,优于对比模型.通过消融实验分析了不同模块对模型效果的影响,验证了模型的有效性.

试论语义不变型词性转换

词性转换是指一种词性的语言形式通过添加标记编码为另一词性的语言形式。此前在语言学界较广为人知的是Croft的词性模型以及词性转换理论,他通过语义类别和语用功能的二维模型解释了有关语义不变型词性转换的一些现象。本文结合实际语料论证:(一)Croft所列举的六类词性转换构式中部分归类存在错误。语义不变型的转换过程存在于“动/形转名”“名/动转形”四类情况中,而不存在语义不变的“转动”。(二)所谓的语义不变型转换中不变的语义类别都是命题。此类现象的本质是将多个命题压缩在一个句子中高效地传递信息,而通过选择不同的命题作为起点充当句子核心,属于不同信息封装的手段。(三)Croft所列举的横向维度中指称与述谓的本质是言语行为,通常由名词短语和动词短语表达,而非动词与名词本身。修饰则更适合看作一种句法概念,将其与指称、述谓并置是不合适的。

中文名词性谓词语义角色标注

研究了中文名词性谓词的语义角色标注(semantic role labeling,简称SRL).在使用传统动词性谓词SRL相关特征的基础上,进一步提出了名词性谓词SRL相关的特征集.此外,探索了中文动词性谓词SRL对中文名词性谓词SRL的影响,并且联合谓词自动识别实现了全自动的中文名词性谓词SRL.在中文NomBank上的实验结果表明,中文动词性谓词的SRL合理使用能够大幅度提高中文名词性谓词的SRL性能;基于正确句法树和正确谓词识别,中文名词性谓词的SRL性能F1值达到了72.67,大大优于目前国内外的同类系统;基于自动句法树和自动谓词识别,性能F1值为55.14.

基于词性标注的启发式在线日志解析方法

为了解决现有启发式日志解析方法中日志特征表示区分能力不足导致解析精度低、泛化差的问题,提出了一种启发式在线日志解析方法PosParser。该方法使用来源于触发词概念的功能词序列作为特征表示,包含解决复杂日志易过度解析问题的两阶段检测方法和处理变长参数日志的后处理流程。PosParser在16个真实日志数据集上取得了0.952的平均解析准确率,证明了功能词序列具有良好区分性、PosParser有良好的解析效果和鲁棒性。

融合词性语义扩展信息的事件检测模型

事件检测是事件抽取中的关键步骤,依赖于触发词进行事件类型分类。现有主流事件检测方法在稀疏标记数据上性能较差,模型过度拟合密集标注的触发词,在稀疏标记的触发词或者未见过的触发词上容易失效。改进方法通常通过扩充更多训练实例来缓解这一问题,但扩充后的数据分布不平衡,存在内置偏差,仍然表现不佳。为此,建立一种融合词性语义扩展信息的事件检测模型。对词粒度扩展信息进行分析,在不增加训练实例的条件下缩小候选触发词的范围,并对候选触发词进行语义扩展,挖掘候选触发词的上下文中蕴含的丰富语义,缓解了标记数据稀疏造成模型训练不充分的情况。通过词性筛选模块寻找候选触发词并对其进行语义扩展挖掘词粒度语义信息,融合句子粒度语义信息提升语义表征的鲁棒性,最终利用Softmax分类器进行分类完成事件检测任务。实验结果表明,该模型在ACE2005和KBP2015数据集上的事件检测任务中的F1值分别达到79.5%和67.5%,有效提升了事件检测性能,并且在稀疏标记数据实验中的F1值达到78.5%,明显改善了标记数据稀疏带来的不良影响。

基于方面-词性感知的方面级情感分析

方面级情感分析是自然语言处理的研究热点之一,其任务目的是预测句子中给定方面的情感极性。目前已有研究大多忽略了方面词和特定词性单词在过滤情感极性相关上下文语义信息和理解上下文语法信息中的作用。为此,提出一种基于方面-词性感知的图卷积网络ASP_POSGCN。采用双向长短期记忆网络建模上下文和词性信息,经由门控机制筛选方面词相关上下文语义信息,再使用词性信息隐藏层状态进一步过滤;同时设计方面-词性感知矩阵算法,根据不同词性单词对方面词情感极性的贡献重构句子原始依存关系以获取重构依存句法图,将原始依存句法图和重构依存句法图应用于双通道图卷积网络和多图感知机制;最后,使用过滤后的上下文语义信息与双通道图卷积网络的输出计算注意力得到最终分类表示。实验结果表明,该模型在Twitter、Laptop14、Restaurant14和Restaurant164个公开数据集上的准确率分别为74.57%、79.15%、83.84%、91.23%,F1值分别为72.59%、75.76%、77.00%、77.11%,与传统方面级情感分析基准模型相比均有提升,有助于方面级的情感极性分类。

汉语语文辞书词性标注的几点思考

目前汉语语文辞书词性标注的具体操作中,歧义多,随意性强,现状比较混乱。这种词性标注的不同,不是简单的是非问题,而是涉及如何从汉语的特征与语文辞书编纂需要出发处理词性标注的问题。我们认为,在汉语语文辞书词性标注的理论认识与实际操作中,应当注意以下几个问题:(一)注意区分词汇层面的词性与句法层面的词性;(二)汉语词类的划分不能完全忽视意义;(三)语文辞书应当避免"随文标性"(即"以释文推词性")。

从谓词到体词的转化谈汉语词典标注词性的必要性

０．引论对比汉语词典和其他语言的词典，可以发现这样一个明显的事实：汉语词典提供的语法信息特别少。我们以１９９３年版《朗文当代英语词典》（ＬｏｎｇｍａｎＤｉｃｔｉｏｎａｒｙｏｆＣｏｎｔｅｍｐｏｒａｒｙＥｎｇｌｉｓｈ）和《现代汉语词典》（１９９６年版修订...

基于局部Transformer的泰语分词和词性标注联合模型

泰语分词和词性标注任务二者之间存在高关联性,已有研究表明将分词和词性标注任务进行联合学习可以有效提升模型性能,为此,提出了一种针对泰语拼写和构词特点的分词和词性标注联合模型。针对泰语中字符构成音节,音节组成词语的特点,采用局部Transformer网络从音节序列中学习分词特征;考虑到词根和词缀等音节与词性的关联,将用于分词的音节特征融入词语序列特征,缓解未知词的词性标注特征缺失问题。在此基础上,模型采用线性分类层预测分词标签,采用线性条件随机场建模词性序列的依赖关系。在泰语数据集LST20上的试验结果表明,模型分词F1、词性标注微平均F1和宏平均F1分别达到96.33%、97.06%和85.98%,相较基线模型分别提升了0.33%、0.44%和0.12%。

基于无监督模型的低资源词性标注实验对比和分析

[目的]研究无监督词性标注模型在低资源语言上的性能表现.[方法]尝试利用无监督词性标注模型,包括高斯隐马尔科夫模型(Gaussian HMM,GHMM)、最大化互信息模型(mutual information maximization, MIM)与条件随机场自编码器(conditional random filed autoencoder, CRF-AE),展开低资源词性标注实验.基于对前人工作的凝练,在英文宾州树库上设置了少样本和词典标注两种低资源场景.[结果]无监督词性标注模型能够在少样本场景中超越条件随机场模型,但在词典标注场景中却始终逊色于条件随机场模型.[结论]无监督损失更加擅长对高频词进行建模,使得模型在少样本场景下获得更好的性能表现;同时无监督损失倾向于生成更加均匀的词性分布,从而降低模型在词典标注场景下的性能.

融合乌尔都语词性序列预测的汉乌神经机器翻译

面向南亚和东南亚的小语种机器翻译,目前已有不少研究团队开展了深入研究,但作为巴基斯坦官方语言的乌尔都语,由于稀缺的数据资源和与汉语之间的巨大差距,有针对性的汉乌机器翻译方法研究非常稀少。针对这种情况,提出了基于Transformer的融合乌尔都语词性序列的汉乌神经机器翻译模型。首先利用Transformer对目标语言乌尔都语的词性序列进行预测,然后将翻译模型的预测结果和词性序列模型的预测结果相结合进行联合预测,从而实现语言知识到翻译模型的融入。在现有小规模汉乌数据集上的实验表明,所提方法在数据集上的BLEU值相较于基准模型提升了0.13,取得了较为明显的效果。

“得”字句中“得”前谓词性成分的考察

本文论述“得”字句中“得”前的V（谓词性成分）。全文分为三部分:（1）V位置上的词语。指出V位置上多数是单音节的动词或形容词,但也不能忽略在V位置上还有多音节（包括双音节）的动词性词语和形容词性词语。（2）V位置上词语的句法分类。根据V的句法功能,把V分为及物动词性词语、不及物动词性词语、形容词性词语上大类。（3）V位置上词语的语义分类。根据V所联系的主事动元的性质,把V分为动作谓词、经验谓词和性状谓词三类;根据V所联系的动元的数量,把V分为一价谓词、二价谓词和三价谓词三类。本文还统计了V的各种类型的数量,从中可以看出“得”字句中V位置上各类谓词性词语的运用情况。

基于注意力头数和词性融合的藏文预训练模型

为了更好地学习藏文语言特征以及探究藏文预训练语言模型的最佳注意力机制头数,将词性与藏文预训练模型相结合,并进行了对比实验确定最佳的注意力头数,旨在提高语言模型对藏文语言特征的理解以及下游任务的性能。实验结果表明,在多个分类任务中,注意力头数为12的预训练模型皆表现了良好的性能。此外,将词性融入预训练模型后,文本、标题和情感分类任务的模型F_(1)值分别提高了0.57%、0.92%和1.01%。实验结果证明融入词性特征后,模型可以更准确地理解藏文语言结构和语法规则,从而提高分类任务的准确率。

英语词性转化微型语料库在高中英语学习中的应用与效果研究

英语词性转化微型语料库作为一种创新的语言学习工具,对于提升高中英语学习效果具有重要意义。本文旨在研究英语词性转化微型语料库在高中英语学习中的应用及其效果。首先,本文对英语词性转化微型语料库的作用进行了简要介绍。然后,分析了其在高中英语学习中的能够应用的方面,以及如何通过对微型语料库的有效利用提升学习效果。最后,本文总结了英语词性转化微型语料库在高中英语学习中的应用效果,并对未来进一步的研究和应用提出了建议。