基于对抗正则化的自然语言推理

目前自然语言推理(Natural language inference, NLI)模型存在严重依赖词信息进行推理的现象.虽然词相关的判别信息在推理中占有重要的地位,但是推理模型更应该去关注连续文本的内在含义和语言的表达,通过整体把握句子含义进行推理,而不是仅仅根据个别词之间的对立或相似关系进行浅层推理.另外,传统有监督学习方法使得模型过分依赖于训练集的语言先验,而缺乏对语言逻辑的理解.为了显式地强调句子序列编码学习的重要性,并降低语言偏置的影响,本文提出一种基于对抗正则化的自然语言推理方法.该方法首先引入一个基于词编码的推理模型,该模型以标准推理模型中的词编码作为输入,并且只有利用语言偏置才能推理成功;再通过两个模型间的对抗训练,避免标准推理模型过多依赖语言偏置.在 SNLI和 Breaking-NLI 两个公开的标准数据集上进行实验,该方法在 SNLI 数据集已有的基于句子嵌入的推理模型中达到最佳性能,在测试集上取得了 87.60 %的准确率;并且在 Breaking-NLI 数据集上也取得了目前公开的最佳结果.

基于深度对抗丢弃正则化的年龄估计

成年人面部变化非常缓慢,因此相邻年龄段的成人年龄估计仍是一个挑战。针对该问题,将对抗学习思想引入年龄估计任务,提出了基于深度对抗丢弃正则化的年龄估计模型。通过年龄特征学习器与判别器的对抗训练,提升年龄特征学习器对年龄段特征(特别是对相邻年龄段人脸年龄特征)的学习能力。在3个经典数据集(UTKFace、MORPH和Adience)上的实验显示,所提出的模型将UTKFace数据集的预测正确率由42.8%提升至81.6%,MORPH数据集的准确率由39.8%提升至69.8%,对Adience数据集的预测正确率为63.3%;和其他4个经典模型相比,该模型仅用5层神经网络就达到了比深层神经网络更好的效果,特别中青年年龄段(15~53岁)年龄估计准确率比其他模型平均高出17.5%,说明本文模型对年龄估计任务性能有显著提升,有很好的实用价值。

基于对抗自编码网络的水利数据补全方法

在大规模监测系统中,监测点失效会导致数据缺失,从而影响数据分析结果的准确性。为此,提出一种对抗自编码的水利数据补全方法。利用自编码器构造生成网络,并提取监测点的数据特征,将其与训练好的判别网络进行对抗,最终补全待修复的监测数据。实验结果表明,与基于图正则化局部子表示方法相比,该方法具有较高的补全精确度,且均方误差较小,能够有效地重构监测数据。