-
题名面向跨模态检索的协同注意力网络模型
被引量:9
- 1
-
-
作者
邓一姣
张凤荔
陈学勤
艾擎
余苏喆
-
机构
电子科技大学信息与软件工程学院
-
出处
《计算机科学》
CSCD
北大核心
2020年第4期54-59,共6页
-
基金
国家自然科学基金项目(61272527)
四川省科技计划项目(2016GZ0063)。
-
文摘
随着图像、文本、声音、视频等多模态网络数据的急剧增长,人们对多样化的检索需求日益强烈,其中的跨模态检索受到广泛关注。然而,由于其存在异构性差异,在不同的数据模态之间寻找内容相似性仍然具有挑战性。现有方法大都将异构数据通过映射矩阵或深度模型投射到公共子空间,来挖掘成对的关联关系,即图像和文本的全局信息对应关系,而忽略了数据内局部的上下文信息和数据间细粒度的交互信息,无法充分挖掘跨模态关联。为此,文中提出文本-图像协同注意力网络模型(CoAN),通过选择性地关注多模态数据的关键信息部分来增强内容相似性的度量。CoAN利用预训练的VGGNet模型和循环神经网络深层次地提取图像和文本的细粒度特征,利用文本-视觉注意力机制捕捉语言和视觉之间的细微交互作用;同时,该模型分别学习文本和图像的哈希表示,利用哈希方法的低存储特性和计算的高效性来提高检索速度。在实验得出,在两个广泛使用的跨模态数据集上,CoAN的平均准确率均值(mAP)超过所有对比方法,文本检索图像和图像检索文本的mAP值分别达到0.807和0.769。实验结果说明,CoAN有助于检测多模态数据的关键信息区域和数据间细粒度的交互信息,充分挖掘跨模态数据的内容相似性,提高检索精度。
-
关键词
跨模态检索
协同注意力机制
细粒度特征提取
深度哈希
多模态数据
-
Keywords
Cross-modal retrieval
Collaborative attention mechanism
Fine-grained feature extraction
Deep hash
Multi-modal data
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-