基于虚拟化的GPU异构资源池平台架构设计、关键技术及应用研究

人工智能算力资源面临价格高昂、市场断供等现状问题,传统的单卡单用模式导致资源利用率和使用效率低下,现有的技术研究手段难以支撑多元异构图形处理单元(graphics processing unit,GPU)资源的高效管理和调度。基于此,提出一种基于虚拟化的GPU异构资源池平台,首先对平台总体架构、逻辑架构和功能架构进行了规划设计;其次,对关键技术进行研究,提出了虚拟化异构GPU资源池框架和基于时间切片+负载均衡的调度模型;最后,基于所提方法,提出了多业务单卡叠加、交叉拉远、跨机整合、混合部署和时分复用等多种创新应用模式。所提方法为企业级AI应用提供了可兼容多个GPU不同厂商、支持远程访问、可灵活切分和聚合、可弹性调度的GPU算力资源。经测算分析,同等开发和训练量下,GPU卡数量可节省60%、运行效率可提升4倍。

智能云平台异构数据库协同检索算法研究

智能云平台是一种集成各种资源和功能的高效计算平台,可以为用户提供灵活的数据存储和高效的数据检索服务.随着信息技术飞速发展,异构数据库中数据呈爆炸式增长.为了提升网络异构数据库检索效果,提出智能云平台异构数据库协同检索算法.构建智能云平台异构数据库,均衡异构数据库中的节点能耗;排序云平台多源异构数据,预处理异构数据;建立以索引库为核心的检索服务引擎,利用神经网络提取多源异构数据特征,实现异构数据库的匹配检索.测试结果表明,所提算法查准率为96%,查全率为94%,数据丢失量仅为1.由此证明,所提方法有效提高了网络异构数据库检索效果.

基于异构平台的卷积神经网络加速系统设计

在计算和存储资源受限的嵌入式设备上部署卷积神经网络,存在执行速度慢、计算效率低、功耗高的问题。提出了一种基于异构平台的新型卷积神经网络加速架构,设计并实现了基于MobileNet的轻量化卷积神经网络加速系统。首先,为降低硬件资源消耗以及数据传输成本,采用动态定点数量化和批标准化融合的设计方法,对网络模型进行了优化,并降低了加速系统的硬件设计复杂度;其次,通过实现卷积分块、并行卷积计算、数据流优化,有效提高了卷积运算效率和系统吞吐率。在PYNQ-Z2平台上的实验结果表明,此加速系统实现的MobileNet网络推理加速方案对单幅图像的识别时间为0.18 s,系统功耗为2.62 W,相较于ARM单核处理器加速效果提升了128倍。

面向异构处理平台任务调度的麻雀优化算法

针对当前异构信号处理平台中各处理器任务数量分配不均衡、处理器性能发挥不完全以及系统运行效率低的问题,文中提出一种面向异构处理平台的麻雀优化算法。该算法利用了麻雀算法较强的全局寻优能力和麻雀种群内部的高效工作机制。在经典麻雀算法基础上,文中提出了符合任务调度的二进制异或编解码规则,将离散的任务分配方案映射为连续的麻雀位置信息。将处理器负载均衡指数作为适应度函数,选取每次迭代中的最优解;在麻雀遍历任务时,采用任务优先级分流排序策略。对通信密集型任务和计算密集型任务采取不同的计算式得到更符合任务特点的遍历顺序,生成随机任务图,并将所提算法同ICPA(Improved Critical Path Algortthm)算法进行对比。仿真结果表明,相比于ICPA算法,所提算法的负载均衡指数平均优化率为60%,各处理器负载情况更加均衡,能更好地发挥异构处理平台的整体效能。

基于改进蚁群的异构平台负载均衡调度算法

针对目前异构平台中信号处理任务的调度算法单一、处理器资源浪费等问题,提出了一种面向异构系统的Q学习改进蚁群算法的负载均衡调度算法。算法针对计算密集型和通信密集型任务的不同需求,设计了分流排序法进行任务优先级排序;通过场景适配将Q学习和蚁群算法,与异构平台中的任务调度进行映射。通过奖励函数计算Q-Table,作为蚁群算法的初始信息素,加快了蚁群的收敛速度;根据处理器的实时负载,设计负载矩阵,实现了动态调整系统负载均衡;利用伪随机比例规则选择处理器,通过任务之间的约束关系形成调度列表来完成任务的分配。最后,通过随机生成的有向无环图进行仿真实验,结果表明算法在减小最大完工时间(调度长度)和提高处理器利用率方面均有明显的改进。

基于国产DCU异构平台的图匹配算法移植与优化

子图匹配是一种基础的图算法,被广泛应用于社交网络、图神经网络等众多领域。随着图数据规模的增长,人们迫切需要高效的子图匹配算法。GENEVA是一种基于GPU的并行子图匹配算法,其利用区间索引的图存储结构和并行匹配优化方法,能够大幅度减少存储开销,提升子图匹配性能。但由于平台底层硬件架构和编译环境的不同,GENEVA无法直接应用到国产DCU异构平台。为了解决该问题,提出了GENEVA面向国产DCU的移植和优化方案。IO时间开销是GENEVA算法主要的性能瓶颈,文中采用锁页内存、预加载、调度器3种优化策略来突破该瓶颈。其中,锁页内存技术避免了从可分页内存到临时锁页内存的额外数据传输,在DCU平台上大幅度减少了IO传输的时间开销;预加载技术将IO数据传输与DCU核函数计算重叠,掩盖了IO时间开销;调度器在满足预加载需求的同时,减少了冗余数据的传输。在3个不同规模的真实数据集上进行实验,结果表明,采用优化策略后算法性能显著提高。在92.6%的测试用例上,经过优化的GENEVA-HIP算法在国产DCU平台的执行时间比移植前的GENEVA算法在GPU服务器的执行时间短。在较大规模的数据集上,优化的GENEVA-HIP算法在DCU平台上的执行时间相比移植前的GENEVA算法在GPU服务器的执行时间减少了52.73%。

异构多平台信号处理任务调度研究

简单的并行计算或单一异构平台已经无法满足计算量大、复杂度高的信号处理和任务调度需求,异构多平台系统已经成为信号处理和任务调度的发展趋势。针对提高平台的吞吐量、处理器的利用率以及任务的感知等问题,文中对异构多平台信号处理模型进行了研究,并利用有向无环图对调度任务和软硬件资源建模。基于已提出的调度算法,对任务调度进行了归纳总结、对比分析,发现基于任务感知的混合调度算法能够较好地满足平台调度需求。利用基于任务感知的混合调度算法解决信号处理中的任务调度将是未来研究发展的趋势。

基于CPU/GPU异构平台的全波形反演及其实用化分析

全波形反演(Full Waveform Inversion,FWI)在理论上是当前精度最高的速度估计方法。通过分析FWI的计算特点,使用图形处理器(Graphic Processing Unit,简称GPU)进行算法加速,形成了基于CPU/GPU异构平台的时空域声波方程全波形反演算法实现流程。理论模型测试结果表明,该算法不仅对速度模型具有高精度刻画能力,而且计算效率比基于CPU集群的FWI算法大幅提升。对胜利探区某陆上区块实际地震资料进行全波形速度反演试处理,取得了初步的应用效果。在此基础上,讨论了FWI对实际地震资料质量的要求,就FWI在陆上地震资料的生产性应用提出了相应的策略。

基于多核CPU-GPU异构平台的并行Agent仿真

多核中央处理器(central processing units,CPU)-图形处理器(graphics processing units,GPU)异构平台为提高并行Agent仿真(parallel Agent-based simulation,PABS)在单机上的运行性能提供了一个更高效的硬件基础,但在当前相关研究中,还缺乏一般性的理论方法来指导并行Agent仿真将多核CPU和GPU的计算资源充分利用起来。通过分析多核CPU-GPU异构并行架构的特点,在方法论层面上建立了并行Agent仿真在多核CPU-GPU异构平台下的多层负载分配模型,并根据基于Agent的仿真的执行结构,提出了对基于Agent的仿真的计算结构、数据结构进行重构的方法,以适应异构的硬件架构。最后对基于多核CPU-GPU的并行Agent仿真性能进行了实验分析。

基于鲲鹏和昇腾异构平台的单节点HPL-AI设计与优化

鉴于低精度浮点运算拥有更快的运算速度,越来越多的高性能应用采用混合精度方案进行加速,而同样采用该方案来加速的AI(人工智能)大模型也受到广泛关注。最近,HPL-AI(High Performance LINPACK for Accelerator Introspection)基准测试被提出,用于评估高性能系统的混合精度运算性能。针对该基准测试,本研究在鲲鹏和昇腾异构平台上设计并优化了单节点HPL-AI基准测试的实现。其主要通过循环任务分配的策略将任务均匀地分配给AI处理器以平衡AI处理器的负载;通过带间隔值的任务分配策略提高数据传输的连续性来减少CPU和AI处理器之间的数据传输时间;在不影响计算精度的情况下,通过取消数据缩放的策略来减少CPU侧的计算量。最终实验结果表明:当间隔值为8时,HPL-AI基准测试的混合精度浮点运算速度最快;同时,取消数据缩放不会对HPL-AI基准测试的结果精度产生影响;在鲲鹏和昇腾异构平台上,与非优化的HPL-AI基准测试方法相比,本研究提出的优化策略使混合精度浮点运算速度提升了29%左右,为单节点HPL-AI基准测试的进一步优化和部署多节点HPL-AI基准测试奠定了坚实的基础。

面向异构信号处理平台的量子调度算法

针对异构信号处理平台中已有调度算法的调度长度较大导致信号处理应用实时性下降问题,文中提出一种面向异构信号处理平台的量子调度算法。该算法采用任务优先级分流排序策略,得到更加准确的任务调度顺序。使用量子比特对任务分配方案进行编码,增加任务分配方案的多样性,且编码规则有助于跳出局部最优找到全局最优解。按照最小计算开销原则和任务复制思想进行处理器分配,减少任务间通信开销,并通过量子旋转门对量子编码方案进行更新,不断逼近最优解。仿真结果表明,所提算法能够减少调度长度,提升信号处理应用的实时性,进而提高平台的工作效率。

异构无人平台软件框架的研究综述

通过对异构无人平台软件框架的研究开展相关综述,对该研究的必要性及关键性进行全面总结。介绍目前无人平台软件框架的研究现状,重点关注目前基于云平台的软件框架的优缺点及发展趋势;考虑智能汽车和无人平台具有相通之处,进一步说明智能汽车领域软件框架的研究现状,针对“软件定义汽车”的发展思路真正实现软硬解耦和远程升级;分析异构无人平台软件框架涉及的关键性技术,对该领域的未来发展趋势进行展望。

一种异构平台下反应堆计算程序间的通信方法

为提升反应堆计算程序间的通信效率,计算程序间不直接进行数据交换,而是基于共享内存的方式进行通信。数据分为参数索引表和参数数据表两类,接收端可根据参数索引表索引到具体的参数。同时,由于异构平台采用的字节序可能不同,因此,在异构平台下的反应堆计算程序的通信需要对字节序进行处理。文章设计并实现了一种异构平台下字节序的处理方法,使反应堆计算程序能忽略平台的差异进行通信。

水电站多源异构数据平台的搭建及应用

水电站各种监测系统独立建设,彼此没有关联,形成数据孤岛;不同系统的数据结构不同,难以融合。针对这些问题,本文提出了多源异构数据融合的技术框架,分析了技术难点以及应用场景,为建设水电站统一数据平台、提升数据利用价值提供参考和思路。

面向燃煤发电厂多源异构数据物联网平台设计

传统的数据聚合方法只能处理同一个类型的数据,当对多源异构数据进行融合时,物联网平台融合质量差,处理速度慢。因此,本文提出面向燃煤发电厂多源异构数据物联网平台的设计。在硬件设计方面,选择合适的硬件,保证平台的稳定性。在软件设计方面,利用传感器采集燃煤发电厂的数据,对采集的数据进行多源数据融合,将融合后的数据进行结构化存储,同时在物联网平台中进行共享。测试结果表明,当处理多源异构数据时,面向燃煤发电厂多源异构数据物联网平台融合质量高,融合效果好,平台能够较快处理响应。

面向异构信号处理平台的混合优化调度算法

针对异构信号处理平台中通信密集型任务并行复杂度高、通信延迟大等问题,提出了一种基于二阶聚簇和任务复制的混合优化调度算法。该算法对经典调度算法中任务最早开始时间的计算方法进行改进;通过改进传统聚簇方法,有效避免了任务的重复聚簇;结合任务复制连锁效应,设计了基于关键前驱节点的多任务复制方法;利用二阶聚簇法进一步减小调度长度,同时解决了处理器资源浪费的问题。通过随机生成的有向无环图进行仿真实验,结果表明,该算法在通信量较大的情况下具有更小的调度长度和更大的加速比,对于通信密集型任务具有良好的调度结果。

构建多源异构的电力工程数字造价平台

在造价市场化改革背景下,电力咨询企业如何转型,找到突破口,实现高质量持续发展。本文通过深度分析电力工程造价数据普遍存在的管理现状,提出解决电力咨询企业造价数据管理痛点的有效方法—构建电力工程数字造价平台,通过云计算技术及大数据处理技术,实现电力工程造价信息的集成、交互、共享,为电力咨询企业持续性发展探寻“第二曲线”。

异构平台数据交换的邮轮运营管理系统研发

针对邮轮产业的不断发展导致邮轮运营管理逐渐复杂化的问题,研发了基于异构平台数据交换技术的邮轮运营管理系统。首先,阐述了邮轮异构平台数据交换技术相关概念和原理,在此基础上进行架构设计,包括数据交换的协议设计和相关性能评估。其次,通过研究异构平台数据交换的相关技术,设计和实现一种能够有效支持邮轮酒店运营管理的数据交换解决方案,以支持数据的集成、转换、清洗、更新等功能,便于邮轮的日常运营管理,促进邮轮酒店的创新和发展。

基于模糊聚类算法的水务平台多源异构数据资源整合方法

为了优化水务平台上多源异构数据资源的整合效果并降低重复数据资源存在的可能性,以及节省数据资源存储空间,文章引入模糊聚类算法,进行了基于该算法的水务平台多源异构数据资源整合方法的研究。首先,对存在质量问题的脏数据进行清洗处理,从而提高数据资源的质量。其次,映射多源异构数据模式与本体关系,为后续数据资源整合效率的提高奠定基础。在此基础上,利用模糊聚类算法计算整合信息熵,并以整合初始聚类中心为标准对水务平台上的多源异构数据资源进行整合。实验结果表明,应用提出的整合方法后,水务平台上的数据冗余比例始终小于对照组,最大不超过5%,说明多源异构数据资源存在重复的可能性较小。

基于CPU-GPU异构平台的高层结构地震响应分析方法研究

为了解决传统的串行有限元分析方法计算耗时多精度低的问题,基于GPU并行计算能力在CUDA架构下建立了一套兼顾精度和效率的高层结构有限元分析的CPU-CPU的异构平台。基于CPU-GPU异构平台研究了高层结构地震响应算法,将整个时间步积分在GPU中计算完成,每一时间步下利用基于GPU的预处理共轭梯度迭代法求解线性方程组获得该时刻的位移,最终实现了基于GPU的Newmark-β法。通过算例验证了本文所提方法的高精度、高效率。