改进GL-GIN的多意图识别和槽填充联合模型

在当前自然语言处理多意图识别模型研究中,存在建模方式均为从意图到插槽的单一方向的信息流建模,忽视了插槽到意图的信息流交互建模研究,意图识别任务易于混淆且错误捕获其他意图信息,上下文语义特征提取质量不佳,有待进一步提升等问题.本文以当前先进的典型代表GL-GIN模型为基础,进行优化改进,探索了插槽到意图的交互建模方法,运用槽到意图的单向注意力层,计算插槽到意图的注意力得分,纳入注意力机制,利用插槽到意图的注意力得分作为连接权重,使其可以传播和聚集与意图相关的插槽信息,使意图重点关注与其相关的插槽信息,从而实现多意图识别模型的双向信息流动;同时,引入BERT模型作为编码层,以提升了语义特征提取质量.实验表明,该交互建模方法效果提升明显,与原GL-GIN模型相比,在两个公共数据集(MixATIS和MixSNIPS)上,新模型的总准确率分别提高了5.2%和9%.

基于改进DenseNet网络的书法字体识别算法

汉字书法是中华传统文化的代表,但是,由于书法字体具有风格迥异、结构复杂、变形繁多等特点,给大众学习和欣赏书法带来了极大障碍.为了解决普通老百姓解读书法作品的困难,提出一种基于改进DenseNet网络的书法字体识别算法,设计区域权值比例池化规则替换传统DenseNet网络的最大池化和平均池化规则,采用Nadam算法优化模型训练效果,进行自适应学习率调整,此外,提出基于剪枝技术的模型裁剪策略,在保证识别性能的同时,提高了模型的训练效率.实验结果表明,在由楷书、行书、隶书和篆书4类字体组成的混合字体数据集中,本文算法获得了96.13%的识别率,优于另外5种深度学习模型.