融合多粒度信息与外部知识的短文本匹配模型

中文短文本通常使用单词序列而非字符序列进行语义匹配,以获得更好的语义匹配性能。然而,中文分词可能是错误或模糊的,容易引入噪声或者错误传播,从而损害模型的匹配性能。此外,多数中文词汇具有一词多义的特点,短文本由于缺少上下文环境,相比一词多义的长文本更难理解,这对于模型正确捕获语义信息是一个更大的挑战。提出一种短文本匹配模型,使用词格长短期记忆网络(Lattice LSTM)融合字符和字符序列的多粒度信息。引入外部知识HowNet解决多义词的问题,使用软注意力机制获取2个句子间的交互信息,并利用均值池化和最大池化算法进一步提取句子的特征信息,获取句子级语义编码表示。在数据集LCQMC和BQ上的实验结果表明,与ESIM、BIMPM和Lattice-CNN模型相比,该模型能有效提升中文短文本语义匹配的准确率。

基于Lattice LSTM多层次信息交互的装备故障短文本匹配研究

为了提高装备检修数据库的检索效率,提出了一种适用于中文句子对的短文本匹配模型Lattice LSTM-Mul。首先,模型采用Lattice LSTM网络获取单词层面的语义特征,避免了中文句子的分词错误问题;接着,采用BiLSTM网络对上下文关系进行建模,更好地捕捉双向语义依赖关系;最后,利用Transformer编码器实现两个短文本的多层次信息交互。对比试验表明,该模型能够提高数据库信息检索功能的用户体验,对推进智慧营区建设起到积极的作用。