IsomapVSG-LIME:一种新的模型无关解释方法

为了解决局部可解释模型无关的解释(local interpretable model-agnostic explanations,LIME)随机扰动采样方法导致产生的解释缺乏局部忠实性和稳定性的问题,本文提出了一种新的模型无关解释方法IsomapVSG-LIME。该方法使用基于流形学习的等距映射虚拟样本生成(isometric mapping virtual sample generation,IsomapVSG)方法代替LIME的随机扰动采样方法来生成样本,并使用凝聚层次聚类方法从虚拟样本中选择具有代表性的样本用以训练解释模型;本文还提出了一种新的解释稳定性评价指标—特征序列稳定性指数(features sequence stability index,FSSI),解决了以往评价指标忽略特征的序关系和解释翻转的问题。实验结果表明,本文提出的方法在稳定性和局部忠实性上均优于现有的最新模型。

局部真理和解释性理解

真理在评价解释性理解中具有重要作用。通过包含与结论有关的局部真理信息的解释性推论可以实现理解,其中局部真理是基于达-科斯塔的阐释。按照达-科斯塔的实用主义方法,局部真理被定义为一个潜在的中性概念,这对更深层次的实在论解释或纯粹的结构主义解释保持开放。通过在局部真理框架内说明理想气体定律及其解释,这些观点能得到进一步支持。

来自大别山深成侵入岩图像深度迁移学习的可解释性研究

岩石图像识别是以深度学习为代表的感知智能在地质领域的典型应用场景。已有研究显示网络结构简单的深度卷积神经网络能够在岩石图像上取得比复杂网络结构高的分类准确率。这与ImageNet数据集上网络结构越深越好的趋势相悖。如何解释这一现象?深成侵入岩为显晶质,自形—半自形粒状结构,块状构造,其分类的依据是其矿物成分及相对含量。大别山地区岩浆活动广泛,中生代深成侵入岩广泛出露。岩石类型包括超镁铁质岩类、辉长岩类、闪长岩类、正长岩类、二长岩类和花岗岩类,基本覆盖IUGS推荐的深成侵入岩分类方案中的岩石类型。选取大别山地区中生代深成岩图像开展不同网络结构预训练模型迁移学习对比试验,能够专注于深度学习对矿物成分特征的学习解释,降低构造因素的影响。借助局部可理解的模型解释技术和特征图可视化技术,分别从全连接层分类决策区域可视化和卷积隐层可视化两方面对深度学习模型开展可解释性研究。结果表明简单网络结构的卷积神经网络能够提取不同矿物所表现出的颜色特征以及不同矿物组合所表现出的纹理特征。AlexNet模型的削减试验进一步证明:对于岩石图像深度学习,网络结构并不总是越深越好。

语篇阅读理解中人物性格模型的建构

采用实时窗口阅读技术 ,通过操纵特征段落性质和屏蔽段落长度两个变量 ,探讨人物性格模型在语篇阅读中的建构和影响因素。在研究所用材料中 ,特征段落描述能反映主人公性格的典型行为或不能反映其性格的一般行为 ,使其与目标句分别形成冲突或无关关系 ,考察读者能否利用这些内隐式的行为描述建构人物的性格模型。同时 ,改变屏蔽段落长度 ,形成局部或整体联贯两种条件 ,考察不同联贯类型的影响作用。结果发现 :在不论整体还是局部联贯条件下 ,读者均能利用内隐的行为描述建构人物性格模型 ,并能应用该模型预期人物的后续行为。

联结主义：认知过程的新解释和认知科学的新发展

联结主义：认知过程的新解释和认知科学的新发展葛鲁嘉（吉林大学）本世纪６０年代兴起的认知革命，在７０年代取决了决定性的胜利。认知心理学替代行为主义心理学成了科学心理学的主流，并很快席卷了心理学的大多数分支。认知科学则汇集了认知心理学、人工智能、语言学、...

推理中心理模型理论的研究与发展

心理模型理论是推理研究中最有影响的理论之一,理论体系完整地解释了推理的进行,认为个体推理要经历理解、描述、有效检验三个阶段。心理模型理论对推理做了大量预测,假设单模型问题比多模型问题容易、系统错误与第一个前提模型有关、知识影响推理过程,并检验了预测的合理性。近十几年来,心理模型理论在推理各个领域中均得到发展,包括对推理在大脑中编码的研究,对元推理的研究及可能性推理等方面。

面向自动扫描的三维形状多层次局部匹配算法

为了让机器人在对未知场景的扫描与重建过程中同时获得对该场景的理解,需要基于目前已有的部分信息进行物体分割与识别,解决基于不完整点云的局部匹配问题.针对已有的局部匹配方法面临着匹配准确度低、计算复杂度高等问题,提出三维形状的多层次局部匹配算法.在粗层次上,通过使用改进的词袋方法进行降维加速;在细层次上,通过精细地筛选三维特征点对之间的对应关系提升精度.首先使用基于深度学习描述子的多尺度SVM方法对数据库中模型上的特征点进行聚类,然后采用基于空间关系的视觉词袋方法在数据库中检索候选模型,最后基于全局和局部等距性对不完整点云与候选模型间的特征点对对应关系进行筛选.文中对于各部分算法分别进行验证,并与相关算法进行对比和评估,实验结果表明,该算法显著提高了局部匹配的准确性,为机器人在线场景扫描、分析、重建等相关工作提供了十分有意义的参考和支持.

具有可解释性的OFDM雷达信号识别方法

针对目前正交频分复用(OFDM)雷达信号识别方法存在的问题,提出了一种具有可解释性的OFDM雷达信号识别方法。该方法是通过基于树结构的流程优化(TPOT)和与模型无关的局部可理解的解释性(LIME)相结合对OFDM雷达信号进行识别。针对OFDM雷达信号特性提取了复杂度特征和基于时频图矩阵的奇异值熵,组成特征向量;通过TPOT,得到表现最佳的机器学习流程;通过"解释器"解释预测结果,对识别结果做出是否识别正确的风险评估,同时可根据OFDM雷达信号的解释性,得到哪些信号不易区分。实验表明,该方法对信噪比为0dB时的OFDM雷达信号的识别率达91%,通过LIME给出的解释性可以判断数据集中不易区分的雷达信号类型。

基于可解读机器学习的建筑冷负荷预测模型评估方法

近年来,建筑自动化系统(BAS)在现代建筑中广泛安装运用.BAS能够对建筑系统进行自动监测及实时控制,同时存储着海量的建筑能耗监测数据.通过使用数据挖掘技术,可以从这些海量数据中提取出有价值的信息,进而运用到建筑能耗分析﹑能耗与负荷预测﹑故障诊断﹑优化控制等多个方面.监督类数据挖掘技术能够很好地提高能耗预测的精度,但由于构建的预测模型多为黑箱模型,其预测逻辑并不能被轻松地解读,这也是限制高精度黑箱预测模型实用性的根本原因.针对这一问题,发展了一套基于可解读机器学习概念的预测模型评估方法.研究首先运用机器学习算法对建筑冷负荷进行高精度建模,其次通过构建局部线性解释模型对预测个体进行解读,同时基于局部解释模型的参数建立了一种信任指数,用于评价复杂黑箱模型的实际表现.本研究的成果可以帮助建筑运维人员更加全面和快速地了解复杂黑箱模型的预测逻辑,同时可以为模型评估提供一种新型指标,有利于提升复杂模型在决策过程中的实际效用.

科学解释与科学理解——重思亨普尔覆盖律模型

根据一种传统的观点,科学的目标是解释而非理解。然而,包括爱因斯坦和亨普尔在内的许多著名科学家和哲学家都认为科学的目标是理解。但一些人坚持认为,即使这些著名科学家和哲学家用到"理解"这个词,他们只是随便一说;"解释是科学的目标"才是他们严肃认真的看法,至少对于亨普尔是如此。本文反驳了这一观点,探讨了"科学的目标是理解"这一观点与覆盖律模型的关系。在此基础上,本文也简略讨论了科学中的语境主义与反语境主义。

一种优化的神经网络树异常入侵检测方法

本文提出了一种基于优化神经网络树(ONNT)的异常检测方法,在提高异常检测精确率的同时,增强异常检测模型学习结果的可理解性、可解释性。ONNT是一种具有二叉树结构的混合学习模型,二叉树的节点分裂遵循信息增益率准则;其中间节点嵌入了结构简单的感知器神经网络,能够根据当前节点上给定的子样本集和教师信号,选择较小的特征子集构建相对简单的局部决策曲面。本文提出的异常检测方法包括两个方面的性能优化:1)通过优化神经网络树(NNT)的中间节点,降低局部决策曲面的复杂度,从而使中间节点能在可接受的计算代价内表示成低复杂度的布尔函数或规则集,为实现学习结果的可解释性提供基础;2)通过优化学习模型的整体结构,降低所有中间节点的规则析取式的前件复杂度,从而提高学习结果的可理解性。实验的数值结果表明,与基于NNT的异常检测方法相比,本文提出的方法能够以简单的中间节点和相对精简的整体结构提高检测结果的可解释性和可理解性;与其他同类方法相比,基于ONNT的异常检测方法具有较高的检测精确率,且在一定程度上给出了对异常检测具有重大影响的一些特征信息。

暗能量的理论问题

暗能量是近几年宇宙学的重大发现之一,它的存在给宇宙学、引力理论和统一理论提出了一个重大难题。我们简要解释目前存在的各种暗能量理论和模型,指出暗能量的最终理解将深化宇宙学和统一理论的研究。

基于科学解释模型和SOLO分类理论谈科学解释试题测评

目前科学教育正在从过去重视对事实知识的获得,到现在重视对科学知识与探究历程的理解转变,因此鼓励学生表达和论证观点,能促进他们更好地理解学科概念。科学解释类试题不仅可以作为评价学生对概念理解程度的工具,而且也是测评科学思维品质的重要手段,具有很好的区分度,因此成为每年试题命制的重要视角。本文尝试从科学解释模型、基于SOLO分类理论对学生作答科学解释类试题进行分级两个角度谈谈笔者的一点思考,以期对教师和学生的高考复习起到抛砖引玉的作用。

时尚与认同的哲学批判——读拉斯·史文德森的《时尚的哲学》

在哲学的学术传统中,从来不认为时尚是适宜的研究对象。很自然,往往被作为表层现象的时尚对于追求深刻的哲学来说远为肤浅。但在史文德森看来,时尚几乎已经成为我们的第二本性,透过时尚,我们能更透彻地理解我们自己以及我们的行为;并且,在增进我们自我理解的意义上,时尚理应成为一种严肃的哲学研究对象。作为哲学家的史文德森的著作立意入微、巧思新奇,其一系列谈人文专著都被认为是在"文化软肋、人性褶皱处下刀"

基于LIME的恶意代码对抗样本生成技术

基于机器学习检测恶意代码技术的研究和分析,针对机器学习模型对抗样本的生成提出一种基于模型无关的局部可解释(LIME)的黑盒对抗样本生成方法。该方法可以对任意黑盒的恶意代码分类器生成对抗样本,绕过机器学习模型检测。使用简单模型模拟目标分类器的局部表现,获取特征权重;通过扰动算法生成扰动,根据生成的扰动对原恶意代码进行修改后生成对抗样本;基于2015年微软公布的常见恶意样本数据集和收集的来自50多个供应商的良性样本数据对所提方法进行实验,参照常见恶意代码分类器实现了18个基于不同算法或特征的目标分类器,使用所提方法对目标分类器进行攻击,使分类器的真阳性率均降低到接近0。此外,对MalGAN和ZOO两个先进的黑盒对抗样本生成方法与所提方法进行对比,实验结果表明:所提方法能够有效生成对抗样本,且方法本身具有适用范围广泛、能灵活控制扰动和健全性的优点。

数据故事化方法:析出、重组与叙事

[目的/意义]数据驱动时代面临数据认知困难、解释结果晦涩难懂以及模型决策可信度不足等诸多挑战。融合可解释性结果的数据故事化方法,为应对上述挑战、增强数据利用价值提供理论支撑和解决方案。[方法/过程]梳理模型无关局部可解释性技术的解释形式、数据故事的叙事结构以及目前数据故事化研究中采用的方法,基于可解释性理论与数据故事化实现模式构建“析出—重组—叙事”的数据故事化模型,利用定义的要素元组给出数据故事映射流程,明确实现故事化模型设计的关键技术。[结果/结论]在数据故事化模型设计的理论指导下,提出面向解释结果的“扇形”故事化实现路径和融合解释结果与故事化模型要素的交互框架,并通过案例研究验证数据故事化方法在结果解释方面的实用价值。通过构建基于可解释性结果的数据故事化方法体系框架,为扩展具备数据感知与认知、可辅助智能决策功能的故事化路径提供新思路。

浅析“模型思想”教学的三个误区——以“速度、时间和路程”教学为例

史宁中教授认为,抽象、推理和模型思想是数学的三大基本思想,足见模型思想的重要性。《义务教育数学课程标准(2011年版)》强调,“模型思想的建立是帮助学生体会和理解数学与外部世界联系的基本途径”,应“从学生已有的生活经验出发,让学生亲身经历将实际问题抽象成数学模型并进行解释与应用的过程”。