面向人工通用智能的类脑计算

类脑计算是借鉴人脑存储处理信息的方式,面向人工通用智能发展的新型计算技术,类脑计算系统是基于神经形态工程,打破"冯·诺依曼"架构束缚、适于实时处理非结构化信息、具有学习能力的超低功耗新型计算系统。它是人工通用智能的基石,拥有极为广阔的应用前景。这项研究目前处于起步阶段,尚未形成公认技术方案。本文将从为什么(why)、做什么(what)和怎样做(how)三方面,总结分析类脑计算及芯片面临的挑战和可能的解决方法,重点介绍天机类脑计算芯片和系统,探讨如何利用软硬件结合发展人工通用智能。

基于图注意力深度神经网络的癫痫脑电尖波识别

头皮脑电记录中的尖波识别能够为癫痫诊断提供重要的帮助和参考,但已报道方法中存在特异性低,忽略多通道间信息等问题。通过建立一种深度神经网络算法,实现癫痫脑电中尖波自动识别。研究中以临床头皮脑电记录为样本,首次建立层叠的卷积与图注意力深度神经网络模型进行识别,分别对脑电电极通道内和通道间的特征作有效提取。实验不仅发现算法的识别准确率达到93.55%,特异性96.83%,相较于对比方法有明显提升;同时通过电极通道间的注意力指数得到和尖波放电明显相关的电极关系图,有尖波发生的电极区域在图中明显聚集并分离于背景电极,可以为癫痫病灶定位提供辅助信息。上述算法,创新地利用多通道间信息,取得了领先的识别准确率,具有良好的临床应用前景。

神经形态器件:高效类脑计算的机遇与挑战

人们对人类大脑工作机理的不断探求,催生了高效类脑计算的研究。随着半导体技术的更新迭代,神经形态器件为研究人员带来了实现高效类脑计算的曙光。机遇与挑战并存,在神经形态器件的工作机理和材料等方面也会遇到诸多困难。清华大学精密仪器系类脑计算团队对此开展了深入的研究,并获得系列突破。

神经采样

神经采样是国际上最近提出的一种基于脉冲神经网络动力学的吉布斯采样算法,是一种有希望在类脑硬件上实现贝叶斯概率推断的算法.神经采样的仿生特点包括考虑神经元间通过发放脉冲来传递信息、突触后膜电压和迟滞效应等.该文首先会介绍国际上在神经采样方面已有的工作,分三小部分:第1部分涉及神经采样的抽象模型,包括其原理和在任意贝叶斯网络中采样的具体模型;第2部分涉及硬件实现,包括用累积发放(I&F)模型近似连续时间神经采样动力学的方法;第3部分通过结合前两部分,涉及用脉冲神经网络动力学训练传统的机器学习模型,并在经典计算机上模拟这个训练过程.第3部分具体包括基于脉冲时间的突触可塑性(STDP)的受限玻尔兹曼机(RBM)的事件驱动相对散度训练算法.最后,我们在训练RBM的相对散度和持续相对散度算法中,用神经采样替代传统的吉布斯采样.该文的工作首先分析了神经采样对初始化状态敏感和混合速度慢的采样特点,然后提出方法消除了这两个采样特点对训练的负面影响.在MNIST数据集上的实验初步显示,基于修正后的神经采样的训练算法能恢复跟传统基于吉布斯采样的算法相似的重构效果.目前在机器学习领域,基于概率的学习算法已发展成主流.神经采样方面的工作为在类脑硬件上实现低能耗的概率模型计算提供方法,未来有希望被用于提高移动设备的智能水平.

脉冲神经网络研究进展综述

近年来,起源于计算神经科学的脉冲神经网络因其具有丰富的时空动力学特征、多样的编码机制、契合硬件的事件驱动特性等优势,在神经形态工程和类脑计算领域已得到广泛的关注.脉冲神经网络与当前计算机科学导向的以深度卷积网络为代表的人工神经网络的交叉融合被认为是发展人工通用智能的有力途径.对此,回顾了脉冲神经网络的发展历程,将其划分为神经元模型、训练算法、编程框架、数据集以及硬件芯片等5个重点方向,全方位介绍脉冲神经网络的最新进展和内涵,讨论并分析了脉冲神经网络领域各个重点方向的发展机遇和挑战.希望本综述能够吸引不同学科的研究者,通过跨学科的思想交流与合作研究,推动脉冲神经网络领域的发展.