软硬件节能原理深度融合之绿色异构调度算法

虚拟云高性能向高效能计算演进,已是环境保护、人类可持续发展的迫切需求.然而目前,一方面,硬件级物理节能空间需要适度延展;另一方面,以遗传或人工免疫算法为代表的元启发式调度中间件大多存在进化动力不足,以致收敛性和分布性冲突难平衡等瓶颈.事实上,每个候选解(调度方案)都蕴含一定的物理反馈效应,而拟配资源的非线性和异构性,则意味着不同方案间与能效相关的实时动态反馈的巨大差异化.因此,尊重科学规律,巧妙地借力于硬件节能原理,给算法优化动力注入新能量,并进一步增强软件方法的节能主导性,是本文研究方法;继而提出一种着眼于软硬件节能原理深度融合的新的绿色异构调度算法(GHSA_di/II),以多角度、全方位提升元启发式算法之协同进化模拟的内驱力.大量仿真实验结果显示:无论对于数据密集型还是计算密集型实例,GHSA_di/II算法较其他3种元启发式异构调度算法,在整体性能、节能降耗以及可扩展性等方面都具明显优势.

基于GPU池化关键技术实现东数西训(渲)小颗粒度资源度量与异构调度

作为国家“东数西算”战略的重要基石,算力网络可持续发展以及及时规划和处理好发展道路中挑战和难题就显得尤为重要。面向算力网络发展的时间逻辑,按照场景优先和能力突围视角,基于市场需求和技术的成熟度为基点,开展实现东数西训(渲)小颗粒度异构资源度量与高效调度是当前研究的重点,更是支撑国内建立统一大市场的组成部分。

支持绿色异构计算的能效感知调度模型与算法

异构调度可使大规模计算系统采用并行方式聚合广域分布的各种资源以提高性能.传统调度目标追求高性能而忽视高效能,远不能适应绿色计算科学发展新要求.因此,在理论上,一方面基于对动态频率和电压等系统参数的精细表述及有效量化,建立面向协同异构计算且易于复用的能效感知云调度模型;另一方面,提出并实现适于超计算机混合体系的多学科背景的元启发式多目标全局优化算法.从技术上解决了面向不同环境目标的云调度实施条件界定及其调度指标(时间、能效)实时变化描述等问题.大量仿真实验结果表明:与3个元启发式云调度器相比,该方法在能效及可扩展等方面优势明显;对于高维实例,整体性能改善分别达到8%,12%和14%.

面向异构计算的能效感知调度研究

异构调度可使大规模计算系统采用并行方式聚合广域分布的各种资源以提高性能.传统调度目标追时限约束求高性能而忽视高效能,远不能适应绿色计算科学发展要求.因此,本文在理论上一方面建立融合能效感知的调度模型;另一方面提出适于超计算机混合体系的多学科背景的元启发式优化算法.从技术上解决了面向不同环境目标的调度实施条件界定及调度指标(时间、能耗)实时变化描述等问题.大量仿真实验结果表明:与三个元启发式调度器相比,论文方法在能效及可扩展等方面优势明显;对于高维实例,整体性能改善分别达到8%,15%和17%.

异构并行计算及其调度策略

文章叙述能获取持续高性能计算能力的异构并行计算的主要特征及有关关键问题:异构调度(包括匹配和调度)。讨论如何用遗传算法来获得异构调度的全局优化解。给出了有关异构并行计算和异构调度的实验结果。

性能非对称多核处理器下异构感知调度技术

为了满足应用程序的多样化需求,异构多核处理器出现并逐渐进入市场,其中的处理核心(core)具有不同的微架构或者指令集架构(ISA),为应用提供多样化特性支持,比如指令级并行(ILP)、内存级并行(MLP),这些核心协同工作满足整个计算系统的优化目标,比如高性能、低功耗或者良好的能效.然而,目前主流的调度技术主要是针对传统同构处理器架构设计,没有考虑异构硬件能力的差异性.在异构多核处理器环境下,调度技术如何感知硬件的异构特性,为不同类型的应用程序提供更加合适和匹配的硬件资源,这是值得探索的问题.对近年来在该研究领域的成果进行了综述研究,特别是在性能非对称多核处理器架构下,异构调度技术面临的优化目标、分析模型、调度决策和算法评估等主要问题进行了分析和描述,并依次对相关技术进行了系统的总结,最后从软硬件融合的角度对今后的研究工作进行了展望.

面向拟态安全防御的异构功能等价体调度算法

拟态安全防御的一个关键环节是异构功能等价体的调度,现有的调度策略缺乏对冗余体间相似度的考虑,且调度算法较为单一。基于此,提出了一种兼顾动态性和可靠性的异构功能等价体调度算法——随机种子最小相似度算法,首先随机确定种子冗余体,然后再根据相似度指标选择整体相似度最小的最终调度方案。理论分析和仿真实验表明,该算法的调度周期远高于最长相异性距离算法,而失效率远低于随机调度算法,在动态性和可靠性之间达到了较好的平衡。

基于反射中间件的异构分布式实时调度系统

In order to help manage the complexity, heterogeneity and dynamic inherent in distributed real-time systems, middleware of next generation should deal with changing environments and different client requirements. it is very necessary to resolve interoperability between heterogeneous schedulers. Therefore, this promotes the research of a heterogeneous distributed real-time scheduling system based on reflective middleware. The features of reflection technology and reflective middleware are described in detail first. As a result, proposed reflective middleware is used to resolve interoperability between heterogeneous schedulers in distributed real time system. The high performance,adaptability and feasibility of this middleware platform used to resolve interoperability between heterogeneous schedulers are proved in details by a concrete example. Future trends of research in this field are listed at the end.

交换突变策略改进萤火虫算法的异构并行机调度

序列相关设置时间的异构并行机调度问题是个NP(non-deterministic polynomial)问题,在高纬度情况下难以求解。选取任务完工时间为优化目标建立数学模型,提出一种基于交换突变策略改进的萤火虫算法,并应用该算法进行求解,以期在可接受的时间内提供近似最优解的可行方案。实验结果表明,所提出的算法在处理异构并行机调度问题时具有较突出的全局搜索优势,收敛速度较快,搜索精度高,测算了36个算例,其中的28个取得最优平均解,并且较萤火虫算法、模拟退火算法和遗传算法分别减少了11.12%、7.36%和1.43%的平均任务完工时间。

云雾计算场景下的异构环境资源调度机制研究

云计算与雾计算技术的结合使得数据中心资源率大幅的提升,但是由于受到数据资源分散、数据异构复杂程度高、任务响应时延和服务质量不确定等因素的影响,仍然无法达到高效可靠计算服务的要求。为此,以云雾计算场景下的异构环境资源调度为研究对象,解决异构环境资源计算存在性能瓶颈问题为研究目的,提出了建立包括云计算、雾计算和用户三层结构的资源调度模型,云计算层负责资源调度,雾计算层负责管理用户请求和网络资源,用户层施行统一计算,实现资源的有效整合与优化。

异构系统雷达任务调度算法仿真

针对传统单处理器处理复杂多样雷达任务效果欠佳问题,提出在分布式异构系统中结合改进指派算法和匈牙利算法的优点并行调度雷达任务的算法.在原始指派问题每次给每个处理器指派一项任务基础上,改进算法引入处理器雷达任务堆积量实时检测技术,设定处理器任务堆积量阈值,每次对空闲的和任务堆积量小于阈值的节点分配任务,其它处理节点不分配.对不同任务堆积量阈值和不同处理性能差别的集群利用改进算法仿真并与原始算法仿真结果对比,改进算法明显缩短了任务处理时间,改进了系统环境负载平衡,且对处理性能差别较大的集群雷达任务并行调度改进效果更好.

异构任务图在网格环境中的调度实现

并行分布计算环境的任务调度一直是并行计算研究的热点问题,网格技术的发展则对任务调度提出了新的要求。本文采用带参数的有向超图表达异构任务图,为具有一般性、异构性、分布性、动态性等特点的任务请求提供了通用描述方法。通过设计网格异构任务图描述语言GHDL,实现了网格任务请求的统一封装以及任务请求在异构环境下的计算机理解和识别。通过设计自适应调度策略库,为分布异构动态网格环境下的任务调度提供有效解决方案,实现了在考虑网格任务间优先约束与数据关联的同时,采取异构宿主机识别、异构客户端自动创建等方式开发利用环境异构性与任务异构性,采取实时网格状态信息采集与任务迁移屏蔽了资源动态性。异构任务图在网格环境中的调度效果由树生长的仿真实验进行了展示。

分布式训练异构任务调度算法研究

分布式机器学习中的工作结点在训练过程中经常需要处理异构任务,但任务发布者可能无法根据有效的先验知识确定边缘服务器集群中哪些是处于训练状态的工作结点。针对边缘服务器集群无法同时满足训练性能与服务质量最大化的问题,对异构任务调度算法进行了研究。首先在集群资源约束下分析了分布式训练收敛性能的影响因素;其次建立了最大化训练性能的优化目标;最后转化为多维多选择背包问题进行求解。仿真结果表明,所提异构任务调度算法能够在保证服务质量的同时,最大化分布式训练性能。

基于DQN的异构测控资源联合调度方法

以异构测控网资源联合调度为研究对象,提出一种基于强化学习的深度Q网络(deep Q network, DQN)算法。在充分分析异构测控资源联合调度问题特点后,用数学语言对影响问题求解的约束条件进行描述,建立了资源联合调度模型;从应用强化学习解决问题的角度,对求解的问题进行马尔科夫决策过程描述后,分别设计了2个结构相同的神经网络和基于ε贪婪算法的动作选择策略,并建立了DQN求解框架。仿真结果表明:基于DQN的异构测控资源调度方法较遗传算法能够找到调度收益更优的测控调度方案。

异构云环境下能效感知的资源优化配置技术

将异构能效约束引入到异构物理服务器中,通过实验研究提出一种为云数据中心能效优化而建立的基于异构服务器的资源分配模型,并提出一种求解方法:在进行资源分配搜索时,利用资源等价优化,对等价资源进行剪枝处理,以此来减少资源分配模型的求解空间及加速资源分配模型的求解;为降低大规模云资源调度的复杂性,研究基于划分服务器集群的可扩展的分布式调度方法,以实现面向云数据中心的可扩展的高能效资源分配的模式;在前期云任务调度研究的基础上,研究集成能效优化和性能优化的云任务调度模型,实现面向不同需求的任务调度,提高异构云环境下任务调度的能效比。

面向国产异构系统的HPL异构协同设计

HPL是高性能计算广泛采用的Linpack测试软件包,传统HPL算法中,求解矩阵将以块为单位循环分布到所有处理器,由于国产加速器(China Accelerator)的底层矩阵乘接口仅支持定制接口,传统HPL算法已不适合CPU+China Accelerator异构系统,因此,必须基于定制接口完成矩阵分布细致划分与封装dPEM,以提供一个通用的HPL测试配置环境;同时,为了充分发挥国产异构系统的效率,设计了异构协同矩阵乘调度算法OA4MM,以提高国产异构系统的效率。实验验证了dPEM的有效性和OA4MM算法的高效性,OA4MM较传统的异构HPL调度算法性能提升近10%。

基于改进模拟退火算法的针织生产线调度研究

针对含有多阶段生产流程的针织服装生产线调度问题,构建包含机器资源约束和成批约束的四阶段异构车间调度模型,利用多种调度规则对相邻阶段调度流程进行衔接。提出一种基于织片排序的带有多邻域搜索和重升温操作的改进模拟退火算法,以最大完工时间最小化为目标对上述模型进行求解。结合企业实际背景构建10种混合式订单作为案例进行仿真实验,并与现有优化算法进行对比,证实了该算法在求解针织服装生产线调度问题的有效性。

舰艇编队重叠子网联合无线资源调度算法

无线资源调度技术是无线网络对用户提供服务质量保障的关键。层次分析的跨异构子网联合无线资源调度算法以编队通信需求为基础,综合考虑了跨异构子网端到端传输性能最优化问题,通过层次分析法建立了跨异构子网联合资源调度模型。在此模型基础上,求解了各方案的灰度关联系数,得出了跨异构子网无线资源调度优化算法(AHP-WRA)。对AHP-WRA算法、随机接入(RA)算法和高带宽优先(HBA)算法进行了对比仿真,仿真结果表明,在系统有效吞吐量方面AHP-WRA算法明显优于其他两种算法。

异构并行平台的Caffe推理速度提升方法

随着计算机硬件性能的提高,目前在个人终端上也开始出现使用预训练机器学习模型进行推理的运用.Caffe是一款流行的深度学习框架,擅长图像分类等任务,但是在默认状态下只能单核运行,无法充分发挥异构并行计算设备的计算能力.深度学习对于计算性能的要求较高,如果能并行化以充分使用所有计算设备,就能提升计算速度和使用体验.由于CPU和GPU的计算性能之比在不同模型下存在差异,因此不能简单将任务均分到多个计算设备.而任务拆分过多或者需要等待多设备完成任务后同步的调度算法会引入更多开销.因此,还需要设计合适的调度算法减少设备空闲时间,才能获得更好的性能.已有一些提高Caffe并行表现的方法,但是对于具体平台有限制且使用难度较高,无法简单充分利用异构并行计算设备的计算能力.本文将Caffe接口扩展,使得自定义程序可以调用异构并行平台的多核或多计算设备使用Caffe进行深度学习推理.接着将目前已有的多种调度算法运用到此类任务上并考察了运行效果.为了减少已有调度算法的同步开销,本文提出了先进先出调度和快速分块调度两种新的算法.测试表明,使用快速分块调度算法结合异构并行计算设备,Caffe的推理速度相比只使用单个CPU核心或者单个GPU都大幅提升.而且,相比已有调度算法中表现最好的HAT算法,本文提出的快速分块调度算法在MNIST和Cifar-10两个数据集上分别减少了7.4%和21.0%的计算性能浪费.

智算操作系统发展路径研究

当前,人工智能作为信息产业新质生产力的典型代表,已成为世界主要国家提升国家竞争力、维护国家安全的重大战略,而算力短缺正在成为制约我国人工智能发展的关键瓶颈。针对目前国产化算力存在的生态碎片化问题,提出打造以具备AI增强的通用服务器操作系统为基础、以智算平台为使能的智算操作系统,更好地支持AI应用的开发和运行,以满足我国人工智能发展的算力需求。围绕智算平台的重要组成部分,详细说明了异构资源调度器和AI编程框架的国内外发展现状,同时对异构算力的管理调度与分布式训练的发展情况进行了分析。在阐述国内外AI服务器市场情况和异构算力资源管理已成现实的基础上,指出我国AI算力发展的现状,并通过系统梳理我国对操作系统发展的相关支持政策,进一步印证了研制智算操作系统的可行性和必要性。继而重点解析了智算操作系统两大组成部分通用服务器操作系统的AI增强和智算平台的主要功能,对智算操作系统的技术突破和创新发展提出了建议。