KNMC:基于近内存计算的k-NN和k-means加速器设计

k近邻算法(k-Nearest Neighbor,k-NN)和k-均值(k-means)算法在数据挖掘,文本分类,人脸识别等领域中被广泛应用.相比于深度学习(如卷积神经网络,Convolutional Neural Networks,CNNs),k-NN和k-means能获得相近的精度情况下提供更简单的计算.尽管如此,硬件加速器在计算k-NN和k-means过程中,需大量访问片外动态随机存取存储器(Dynamic Random-Access Memory,DRAM)设备,能耗非常高.为解决这一问题,本项工作提出一个基于近内存计算(near-memory computing)的k-NN和k-means的可配置加速器KNMC.该加速器通过配置能灵活调度k-NN和k-means.为提高加速器的能效,本项工作还进行设计空间探索,探索加速器达到最优能效的片上缓存(on-chip buffer)容量和处理单元(Process Element,PE)规模的配置.实验结果表明,KNMC与最先进的基准加速器相比,能有效提升性能和能效.

内存计算技术研究综述

在大数据时代,如何高效地处理海量数据以满足性能需求,是一个需要解决的重要问题.内存计算充分利用大容量内存进行数据处理,减少甚至避免I/O操作,因而极大地提高了海量数据处理的性能,同时也面临一系列有待解决的问题.首先,在分析内存计算技术特点的基础上对其进行了分类,并分别介绍了各类技术及系统的原理、研究现状及热点问题;其次,对内存计算的典型应用进行了分析;最后,从总体层面和应用层面对内存计算面临的挑战予以分析,并且对其发展前景做了展望.

内存计算框架局部数据优先拉取策略

内存计算框架的低延迟特性大幅提高了集群的计算效率,但Shuffle过程的性能瓶颈仍不可规避.宽依赖的同步操作导致大多数工作节点等待慢节点的计算结果,同步过程不仅浪费计算资源,更增加了作业延时,这一现象在异构集群环境下尤为突出.针对内存计算框架Shuffle操作的同步问题,建立了资源需求模型、执行效率模型和任务分配及调度模型.给出了分配效能熵(allocation efficiency entropy,AEE)和节点贡献度(worker contribution degree,WCD)的定义,提出了算法的优化目标.根据模型的相关定义求解,设计了局部数据优先拉取算法(partial data shuffled first algorithm,PDSF),通过高效节点优先调度,提高流水线与宽依赖任务的时间重合度,减少宽依赖Shuffle过程的同步延时,优化集群资源利用率;通过适度倾斜的任务分配,在保障慢节点计算连续性的前提下,提高分配任务量与节点计算能力的适应度,优化作业执行效率;通过分析算法的相关优化原则,证明了算法的帕累托最优性.实验表明:PDSF算法提高了内存计算框架的作业执行效率,并使集群资源得到有效利用.

基于迭代填充的内存计算框架分区映射算法

针对内存计算框架Spark在作业Shuffle阶段一次分区产生的数据倾斜问题,提出一种内存计算框架的迭代填充分区映射算法(IFPM)。首先,分析Spark作业的执行机制,建立作业效率模型和分区映射模型,给出作业执行时间和分配倾斜度的定义,证明这些定义与作业执行效率的因果逻辑关系;然后,根据模型和定义求解,设计扩展式数据分区算法(EPA)和迭代式分区映射算法(IMA),在Map端建立一对多分区函数,并通过分区函数将部分数据填入扩展区内,在数据分布局部感知后再执行扩展区迭代式的多轮数据分配,根据Reduce端已分配数据量建立适应性的扩展区映射规则,对原生区的数据倾斜进行逐步修正,以此保障数据分配的均衡性。实验结果表明,在不同源数据分布条件下,算法均提高了作业Shuffle过程分区映射合理性,缩减了宽依赖Stage的同步时间,提高了作业执行效率。

基于分布式内存计算的深度学习方法

为了提升深度学习技术并行化学习效率,设计了一种面向计算机集群的分布式内存计算方法。构建分布式内存环境,建立数据分片处理和多任务调度机制,使模型参数和神经元节点的计算和存储并行运行于该环境中,避免了磁盘I/O对训练速率的影响;采用深度信念网络模型,以多个副本异步并行计算的方式进行模型训练,并使用dropout方法防止模型训练过拟合。对CIFAR-10图像数据集进行分类训练,试验结果表明,该方法可以明显提高深度神经网络的训练效率,并具备良好的可扩展性。

一种基于内存计算的电力用户聚类分析方法

随着智能电表与采集终端采集的用电数据迅猛增长,传统数据分析方法已经不能满足大数据环境下智能用电行为分析的需要。鉴于K-means算法具有计算效率高、容易并行化等特点,采用弹性分布式数据集与并行内存计算框架对其进行改进与并行化,减少作业的运行与输入输出操作时间,提高聚类分析的处理能力。对用电测量数据进行预处理构建实验数据集,实验结果表明本方法对电力用户聚类分析的准确率高于单机K-means方法,其处理速度和能力明显优于单机和基于Map Reduce并行计算框架的聚类方法,并对数据的增长具有较好的适应性。

基于内存计算的大规模图数据管理研究

图是一种重要的数据模型,能够描述结构化的信息,在诸如交通网络、社交网络、Web页面链接关系等领域应用广泛,因而获得了广泛的研究.海量的图数据管理对传统的图分析处理技术提出了挑战,分布式集群计算为大规模图数据分析提供了基础平台.随着计算机硬件性价比的大幅提升以及高性能应用需求,基于内存计算的海量数据处理技术获得了业界青睐.图数据高效存储和计算与内存计算密切相关,在此背景下,文章综述了大规模图数据处理相关技术进展,研究了典型的基于内存计算的大规模图数据管理系统,最后总结了基于内存计算的图数据管理的关键点.

不对称内存计算平台OLAP查询处理技术研究

给出了一种面向当前和未来不对称内存计算平台的OLAP查询处理技术.不对称内存计算平台是指配置有不同计算类型的处理器、不同存储访问设备的计算机,因此需要对OLAP查询处理模型按不同的计算特点进行优化存储配置和实现算法设计,从而使OLAP查询处理的不同阶段更好地适应相应的存储与计算设备的硬件特点,提高硬件设备的利用率,更好地发挥硬件的性能.提出了3阶段OLAP计算模型,将传统基于迭代处理模型的OLAP查询处理过程分解为计算密集型和数据密集型负载,分别由功能完备的通用处理器和并行计算能力强大的协处理器分而治之地完成,并最小化不同存储与计算设备之间的数据传输代价.实验结果表明基于负载划分的3阶段OLAP计算模型能够较好地适应CPU-Phi不对称计算平台,实现通过计算型硬件加速计算密集型负载,从而加速整个OLAP查询处理性能的目标.

基于内存计算技术的电信行业数据仓库系统构建探讨

数据仓库目前在电信行业已广泛应用,从决策分析到经营分析,数据仓库为各领域的数据应用提供了强大的支撑功能。然而随着系统的深入应用,数据仓库的性能问题开始突显,使数据仓库的应用受到了较大的制约。并且,随着电信运营商战略转型的深化开展,如何在智能管道、综合平台、内容提供等方面确认电信自身的优势也越来越迫切,而这一切都需要数据仓库的有效支撑。本文旨在探讨在电信的战略转型期,如何利用内存计算技术,为电信数据仓库系统建设找到一条可行的途径。

基于内存计算的数据预测分析研究

针对大数据的实时、高效数据挖掘方法进行研究。首先分析了内存计算及流式分析模式;其次讨论了基于内存计算的大数据主要特性;最后通过以上相关研究为基础,提出了基于内存计算的预测分析模型及相关算法。通过实验应用分析验证了所提出的基于内存计算的预测分析方法的可行性,实现了大数据的数据分析的实时性和高效性。

共享内存计算机上有限元法的并行实现

基于共享内存并行计算机提出了一种新的有限元法的并行算法，包括有限元的系数矩阵形成的并行实现和有限元方程的并行求解．该算法编程简单容易，算法在具有8个处理器并行计算机SGICNALLEGEL上实现．

数据热图与内存计算自动化协同优化

关系型数据库(Relational Database Management System,RDBMS)技术正在经历重大的变更,从固定的服务器和存储转向灵活的云部署,从存储优化的数据库管理转向内存优化的数据库管理。开源数据库技术不断涌现,商用数据库技术不断深化,其中在企业级数据库系统中有2项新技术的发展引人注目,分别是分析数据使用情况的数据热图和提供I/O性能的内存计算(Database In-Memory)技术。文章提出一种将2种技术结合运用,自动化协同优化的方法,综合2种技术的优点,以数据库热图为基础数据,自动化分析推荐内存计算的优选目标,并且对Database In-Memory中的数据自动加载/卸载。本方法不增加软硬件成本,通过优化对资源利用的效率提升数据库系统的性能,对企业级数据库的性能优化有明显的效果。在电力信息化系统中应用本文的技术,可以快速提升数据库性能。由于可以实时优化,避免了以往优化工作滞后的问题,同时可以减少优化的工作量,节省人力物力,降低了成本。

面向内存计算的连接算法

内存和CPU技术的快速发展标志着内存计算时代的来临.本文系统地回顾了基于内存计算的连接算法,具体在嵌套循环连接、哈希连接、排序归并连接和单机环境、分布式环境两个分类的维度上分析了已有算法的优点与不足,展望了未来的研究方向,最后介绍了基于Claims原型系统关于分布式连接方面的研究工作.

基于内存计算的钢铁价格预测算法研究

由于钢铁价格具有非线性和因子难以确定的特点,在数据挖掘预测分析时,传统的预测方法只能对钢铁价格进行小数据量的分析,这将导致预测精度低、速度慢、效率低下。随着大数据的深入研究,内存计算技术成为研究热点,用户对实时数据处理技术的需求越来越大。因此,在钢铁价格预测模型中,引入内存计算技术,提出基于内存计算的LM-BP神经网络预测算法,利用2002年到2010年的钢铁价格、产量、库存、GDP等数据建立预测模型。最后,仿真实验结果表明,基于内存计算的预测模型算法不仅速度快,而且精度高。

内存计算环境下基于索引结构的内存优化策略

由于内存计算能够较好的满足在线数据密集型应用的需求,近年来受到了研究者的广泛关注.内存云存储数据时使用哈希结构来提高写入和恢复效率,然而该结构会降低系统读性能,同时增加系统清理回收内存的开销.为了解决这个问题,提出一种基于索引压缩存储的内存优化策略.在存储时,将内存划分为两部分,哈希存储和排序存储.在系统繁忙时,对于实时写入和更新的数据存储时采用占用空间较多、插入效率较高的哈希存储;在系统空闲时段时,利用基于索引压缩的排序存储算法,将哈希存储转换为占用内存空间较少、查找效率较高的排序存储.实验结果表明,同未进行优化的Tachyon单一哈希结构存储策略相比,该策略能够很好地均衡系统的写入和读取访问的效率.

大数据时代背景下内存计算技术

本文重点阐述了内存技术的含义与特征,指出了内存技术的应用现状,提出了内存技术面临的困境与挑战,为内存计算技术的进一步发展提供支持。

基于内存计算技术的企业海量财务数据实时分析

财务数据作为企业运营管理的核心指标,对于企业发展会产生极为深远的影响。为了确保财务数据的实用性,企业投入大量资源进行数据分析工作。随着企业体量的不断扩大,财务数据的持续增加,传统的数据分析技术与模式越来越难以满足实际的分析需求。为了解决这一问题,应实现企业海量财务数据的实时分析。本文以内存计算技术作为切入点,从多个维度出发,立足实践,全面梳理内存计算技术下企业海量财务数据实时分析的基本方法,为后续各项数据分析工作的开展创造条件。

基于3D忆阻器阵列的神经网络内存计算架构

现如今,由于人工智能的飞速发展,基于忆阻器的神经网络内存计算(processing in memory,PIM)架构吸引了很多研究者的兴趣,因为其性能远优于传统的冯·诺依曼计算机体系结构的性能.配备了支持功能单元的外围电路,忆阻器阵列可以以高并行度以及相比于CPU和GPU更少的数据移动来处理一个前向传播.然而,基于忆阻器的内存计算硬件存在忆阻器的外围电路面积过大以及不容忽视的功能单元利用率过低的问题.提出了一种基于3D忆阻器阵列的神经网络内存计算架构FMC(function-pool based memristor cube),通过把实现功能单元的外围电路聚集到一起,形成一个功能单元池来供多个堆叠在其上的忆阻器阵列共享.还提出了一种针对基于3D忆阻器阵列的内存计算的数据映射策略,进一步提高功能单元的利用率并减少忆阻器立方体之间的数据传输.这种针对基于3D忆阻器阵列的内存计算的软硬件协同设计不仅充分利用了功能单元,并且缩短了互联电路、提供了高性能且低能耗的数据传输.实验结果表明:在只训练单个神经网络时,提出的FMC能使功能单元的利用率提升43.33倍;在多个神经网络训练任务的情况下,能提升高达58.51倍.同时,和有相同数目的Compute Array及Storage Array的2D-PIM比较,FMC所占空间仅为2D-PIM的42.89%.此外,FMC相比于2D-PIM有平均1.5倍的性能提升,并且有平均1.7倍的能耗节约.

流计算与内存计算架构下的运营状态监测分析

为满足对电网实时运营状态分析过程中对用户实时用电量数据等大规模实时数据进行实时分析处理的需求,实现对电网运营决策提供快速准确的数据分析支持,提出一种流计算与内存计算相结合的大规模数据分析处理的系统架构。将经过时间窗划分的用户实时用电量数据进行离散傅里叶变换(DFT),实现对异常用电行为评价指标的构建;将基于抽样统计分析构造出的用户用电行为特征,采用K-Means聚类算法实现对用户用电行为类别的划分。从实际业务系统中抽取实验数据,验证了提出的异常用电行为和用户用电分析评价指标的准确性。同时,在实验数据集上与传统的数据处理策略进行对比,实验结果表明流计算与内存计算相结合的系统架构在大规模数据分析处理方面更具优势。

基于内存计算技术的高性能数据中心研究

大数据时代数据量剧增,信息增长速度超乎想象,成为影响数据中心性能的关键因素。如何在海量数据处理中保持良好性能是一个极具挑战性的问题。为解决海量数据的读取和统计问题,开展了高性能数据中心实现技术研究。分析了当前IT技术发展趋势,通过对内存计算技术和数据建模技术研究,采用内存计算技术和数据建模技术构建新型的数据中心,实现了数据中心性能的大幅提升。