维吾尔语机器翻译研究综述

维吾尔语机器翻译作为我国低资源机器翻译研究的重要任务之一,其发展与应用可以更好地促进不同地区和民族之间的文化交流与贸易往来。然而,维吾尔语作为一种黏着性语言,在机器翻译领域存在形态复杂、语料稀缺等问题。近年来,在维吾尔语机器翻译发展的不同阶段,研究人员针对其特点在算法和模型上不断优化与创新,取得了一定的研究成果,但缺乏系统性的综述。全面回顾维吾尔语机器翻译的相关研究,并根据方法的不同将其分为基于规则和实例的维吾尔语机器翻译、基于统计的维吾尔语机器翻译以及基于神经网络的维吾尔语机器翻译3种类型,同时对相关学术活动和语料库资源进行汇总。为进一步探索维吾尔语机器翻译的潜力,采用ChatGPT模型对维吾尔语-汉语机器翻译任务进行初步研究,实验结果表明,在Few-shot情景下,随着示例数的增加,翻译性能先升后降,在10-shot时表现最佳。此外,思维链方法在维吾尔语机器翻译任务中并未展示出更优的翻译能力。最后对维吾尔语机器翻译未来的研究方向进行了展望。

融合NMT模型与PBSMT模型的语料库机器翻译模型应用研究

为了解决传统英语翻译模型存在的效率低、语料库内容覆盖范围较小等问题,研究将神经网络机器翻译(Neural Network Machine Translation, NMT)与短语统计机器翻译模型(Phrase Based Statistical Machine Translation, PBSMT)进行融合,用于构建英语翻译模型。研究首先利用NMT构建无监督英语翻译模型,然后将其与PBSMT进行融合,最后利用仿真实验和实际应用来验证翻译模型的性能。结果表明NMT+PBSMT在迭代至895次时,损失值趋于平稳,BLEU评估分数为0.87,同时在数据集TED2020、UM-Corpus、UNv5.0中的训练时间和BLEU分数分别为1.97 h、1.72 h、1.85 h和0.90、0.96、0.93,结果均优于对比翻译模型。这说明研究构建的NMT+PBSMT翻译模型具有较高的有效性和可行性,能够为英语翻译提供有效支持和帮助。

融合主题信息的篇章级神经机器翻译

目前的神经机器翻译方法以句子为单位作为输入,在翻译过程中不能有效利用篇章级上下文的信息,影响了机器翻译的性能.为解决现有机器翻译框架下的上下文信息缺失问题,提出一种融合主题信息的篇章级神经机器翻译方法.首先,将源语言当前句子与源语言的前一句分别独立输入到源语言句子编码器和上下文编码器中;然后,采用注意力机制将2个编码器的输出映射为最终的上下文表,结合源语言句子编码器输出通过门控机制得到具有上下文信息和当前句子融合表征,同时将词嵌入后的源语言句子输入基于Bi-GRU和卷积神经网络的主题表征编码器映射为主题表征;最后,将融合后的句子表征以及主题表征分别通过2个串联的注意力机制参与解码.实验结果表明,该方法能够提高篇章级神经机器翻译的性能,相较于基准系统,该方法在BLEU值上最高提升了0.55个百分点.

篇章神经机器翻译综述

篇章机器翻译旨在使用计算机将一个篇章从一种语言自动翻译成另一种语言,是机器翻译中一项富有挑战性的任务。近年来,随着神经机器翻译的快速发展,篇章神经机器翻译成为了机器翻译研究的热门方向。研究者们提出了许多基于神经网络的篇章机器翻译模型,并取得了不错的效果。相比于传统句子神经机器翻译,篇章神经机器翻译通过建模并利用篇章级别的上下文信息来产生质量更高的译文。本文首先简单介绍了篇章翻译任务的定义和特点;其次分三个方面对篇章神经机器翻译现有研究进行了介绍:上下文建模、模型训练、模型分析;最后分析了篇章神经机器翻译研究当前面临的主要难点,并探讨未来可能的研究方向。

一种基于词级权重的Transformer模型改进方法

Google Brain提出了一种用于神经机器翻译(NMT)的简单模型Transformer,该模型完全基于注意力机制,避免使用循环神经网路(RNN),解决了RNN无法并行化的问题.本文在Transformer模型的基础上提出了基于词级权重(Word-Level Weights)的模型改进方法,即根据不同单词在句子中的重要性通过神经网络自学习所获得相应的权重,将此权重与Transformer模型相结合.该方法提高了Transformer模型的稳定性和准确性,并在IWSLT16翻译任务中提高了模型的BLEU得分.

基于注意力机制的双编码器代码注释生成

针对代码注释较少导致软件项目可维护性降低、理解代码语义困难等问题,提出一种基于NMT模型的双编码器框架自动生成代码注释的方法.在该框架中,首先提取不同的代码特征信息;然后分别采用序列编码器和图编码器对不同的代码特征编码,引入注意力机制调整编码器输出向量,再对双编码器的输出向量综合处理;最终利用解码器对综合向量解码获得注释序列.为了验证带有注意力机制的双编码器模型效果,本文构建自动生成代码注释算法框架.实验表明,双编码器模型与文中的序列编码器和树编码器模型算法相比,在生成代码注释方面的结果评估得分上表现较好.通过BLEU-1、ROUGE-L和F1测评指标得分对比,验证了本文算法的有效性.

融合翻译知识的机器翻译质量估计算法

句子级别的机器翻译质量估计(Sentence-Level Translation Quality Estimation)任务以源语言句子及相应机器翻译系统的结果为输入,对译文的质量进行估计。针对一些使用神经网络和词向量的基于特征工程的模型中,词向量不包含机器翻译知识的问题,本文提出了一种融合机器翻译知识的翻译质量估计方法。该方法将双向NMT模型融入质量估计方法的训练过程中。实验结果表明,翻译质量估计的Pearson相关系数有所提升,证明了所提方法的有效性。

面向汉维机器翻译的BERT嵌入研究

针对训练汉维机器翻译模型时汉语-维吾尔语平行语料数据稀疏的问题,将汉语预训练语言BERT模型嵌入到汉维神经机器翻译模型中,以提高汉维机器翻译质量。对比不同汉语BERT预训练模型编码信息的嵌入效果,讨论BERT不同隐藏层编码信息对汉维神经机器翻译效果的影响,并提出一种两段式微调BERT策略,通过对比实验总结出将BERT模型应用在汉维神经机器翻译中的最佳方法。在汉维公开数据集上的实验结果显示,通过该方法可使机器双语互译评估值(BLEU)提升1.64,有效提高汉维机器翻译系统的性能。

基于神经机器翻译的模型反混淆方法

模型混淆是指将神经网络等价地转换为另一种形式,是一种高效且低成本的神经网络保护技术.为了发现模型混淆的缺陷,研究人员提出了模型反混淆技术,以期望改进模型混淆方法.然而,现有的模型反混淆技术研究较少,并且适用场景和反混淆效果有限.因此,本文提出一种基于神经机器翻译(neural machine translation,NMT)技术的模型反混淆方法.该方法将模型的反混淆任务建模成一个seq2seq的任务,首先对混淆模型进行更详细的序列表示,然后对权重参数中的混淆信息进行识别并处理,最后再使用基于NMT的模型进行反混淆翻译.实验结果表明,该方法弥补了已有方法的不足,能够有效地捕捉模型的混淆特征并对模型的架构进行恢复,可以作为一种模型反混淆的通用方案.