基于预读及简单注意力机制的句子压缩方法

针对英文句子压缩方法进行研究,提出一种基于预读及简单注意力机制的压缩方法。在编码器—解码器(encoder-decoder)框架下,以循环门单元(gated recurrent unit,GRU)神经网络模型为基础,在编码阶段对原句语义进行两次建模。首次建模结果作为全局信息,加强二次语义建模,得到更全面准确的语义编码向量。解码阶段充分考虑删除式句子压缩的特殊性,适用简单注意力(3t-attention)机制,将编码向量中与当前解码时刻最相关的语义部分输入到解码器中,提高预测效率及准确率。在谷歌新闻句子压缩数据集上的实验结果表明,所提压缩方法优于已有公开结果。因此,预读及简单注意力机制可有效提高英文句子压缩精度。

基于多注意力机制的孪生网络图像隐写分析方法

针对从图像中提取更显著的隐写特征来提升隐写分析检测精确度的问题,提出了一种基于多注意力机制的孪生网络图像隐写分析方法.该方法采用特征融合的思想,使隐写分析模型提取更丰富的隐写特征.首先设计由ParNet块、深度可分离卷积块、标准化注意力模块、压缩激励模块、外部注意力模块组成的孪生网络子网,通过多分支网络结构和多注意力机制提取对分类结果更有用的特征提升模型的检测能力;然后使用Cyclical Focal损失在训练的不同阶段修改训练样本的权重提高模型的训练效果.实验使用BOOSbase 1.01数据集,在WOW,S-UNIWARD,HUGO,MiPOD和HILL这5种自适应隐写算法中进行了实验.实验结果表明,该方法在检测精度上优于SRNet,ZhuNet和SiaStegNet方法,并且参数量更低.