基于序列数据稳定的黑盒局部解释性方法研究

机器学习在实际应用场景中取得了巨大成功,但无法给出决策的明确解释限制了它在一些领域的应用。为改善其计算结果的不可理解性,一些学者对机器学习的可解释性进行研究,已有针对图像的解释性方法很难对具有时序相关性的文本数据做出正确的解释。针对这一问题,论文提出一种面向时序数据的稳定黑盒局部解释性方法DLEMNA。利用聚类算法解决随机扰动解释造成的不稳定性,引入Fused Lasso约束考量特征之间的时序相关性,通过构建线性模型计算影响决策的重要特征。论文以20newsgroups数据集为实验对象,实验结果表明论文提出的DLEMNA方法在保真性和稳定性两方面优于LIME方法。

模式驱动的系统安全性设计的验证

随着万维网和移动计算技术的广泛应用,系统安全性得到了越来越多的关注,使用安全模式对系统安全解决方案进行设计并验证是提升系统安全性的一种有效途径。现有方法根据系统安全需求选择适用的安全模式,在此基础上将模式组合为系统的安全解决方案,并通过模型检测方法验证其安全性。但是,这些方法往往将方案看作整体进行验证,忽略了内部安全模式的组合细节,难以在包含大量模式的复杂系统中定位缺陷。提出一种模式驱动的系统安全性设计的验证方法,首先使用代数规约语言SOFIA描述安全模式及其组合,以构建系统安全解决方案的形式化模型;然后将SOFIA规约转换为Alloy规约后,使用模型检测工具验证模式组合的正确性和系统的安全性。案例研究表明,该方法能够有效地验证系统安全解决方案的正确性。