深度学习分类模型解释图的对象相关性消融分析

[目的]为了提高深度学习的稳定性、可解释性和公平性,针对深度学习基于关联驱动存在偏见的问题,对深度学习卷积神经网络(convolutional neural network,CNN)图像分类模型的样本内对象进行相关分析,该分析结果可以为实现稳定学习提供所必须的相关甄别.[方法]提出一种深度学习分类模型解释图对象相关性消融分析方法:在对CNN分类模型输入图像进行超像素分割后获得超像素对象;采用基于敏感分析(sensitivity analysis,SA)理论量化对象的分类贡献值;依据该贡献值绘制分类可解释热力图(heatmap);再通过同步消融、相关计算,得到热力图中诸对象之间的相关量化值;根据相关值与分类重要性综合输出排序.[结果]生成带有样本对象间线性相关关联标注的CNN分类模型的解释图,输出相关对象组排序列表,分析得出超像素块参数选择对于相关度计算影响随着分块数由小到大呈现“先升后降”的变化趋势,并分析了其原因.[结论]本研究提出的相关性消融分析实现了CNN分类模型解释图对象间的相关性量化计算,获得的解释图可解释性较现有方法更好理解,研究内容可以为相关甄别、图像语义分析、知识图谱自动绘制、深度学习模型进化提供支持.