启发式优化算法的GPU并行加速框架

为解决启发式优化算法计算量大、耗时长的缺点,使用图形处理单元(GPU)以及统一计算架构(compute unified device architecture,CUDA)对启发式优化算法进行并行化。提出了一种针对启发式优化算法的GPU并行框架,设计了具有并行逻辑结构的信息交互框架、算法并行优化策略,解决了信息交互的逻辑结构在串、并行中的相异性问题,该框架可并行化各类启发式优化算法,具有一般性与高效性。为验证该框架的有效性,利用并行框架对5种常见启发式优化算法进行并行化,给出了多个测试函数下GPU并行计算与CPU串行计算的对比结果,其中差分进化算法、哈里斯鹰优化算法、灰狼优化算法、鲸鱼优化算法在种群维度为5000时,分别加速高达179.1、178.6、74.3、358.2倍,同时保证了结果的准确性,表明所设计并行框架的高效性与实用性。

基于互信息和融合加权的并行深度森林算法

针对大数据环境下并行深度森林算法中存在不相关及冗余特征过多、多粒度扫描不平衡、分类性能不足以及并行化效率低等问题,提出了基于互信息和融合加权的并行深度森林算法(parallel deep forest algorithm based on mutual information and mixed weighting,PDF-MIMW)。首先,在特征降维阶段提出了基于互信息的特征提取策略(feature extraction strategy based on mutual information,FE-MI),结合特征重要性、交互性和冗余性度量过滤原始特征,剔除过多的不相关和冗余特征;接着,在多粒度扫描阶段提出了基于填充的改进多粒度扫描策略(improved multi-granularity scanning strategy based on padding,IMGS-P),对精简后的特征进行填充并对窗口扫描后的子序列进行随机采样,保证多粒度扫描的平衡;其次,在级联森林构建阶段提出了并行子森林构建策略(sub-forest construction strategy based on mixed weighting,SFC-MW),结合Spark框架并行构建加权子森林,提升模型的分类性能;最后,在类向量合并阶段提出基于混合粒子群算法的负载均衡策略(load balancing strategy based on hybrid particle swarm optimization algorithm,LB-HPSO),优化Spark框架中任务节点的负载分配,降低类向量合并时的等待时长,提高模型的并行化效率。实验表明,PDF-MIMW算法的分类效果更佳,同时在大数据环境下的训练效率更高。

基于相对熵和余弦相似度的并行SVM算法

针对大数据环境下并行支持向量机(SVM)算法存在子集分布偏差大,并行效率低以及过滤非支持向量不准确等问题,提出了基于相对熵和余弦相似度的并行SVM算法(RC-PSVM)。该算法首先提出基于相对熵的数据划分策略(DPRE),平衡当前子集和原始数据集的相对熵,划分样本到适合的子集,降低子集分布偏差;然后提出基于余弦相似度的冗余层级检测策略(CS-RLDS),计算相邻层局部SVM之间法向量的余弦相似度,比较设定的阈值与相似度,识别并停止冗余层级,提高了并行效率;最后提出非支持向量过滤策略(NSVF),结合样本到多个局部支持向量模型决策边界的距离,计算支持向量相似度来识别非支持向量,解决了过滤非支持向量不准确的问题。实验表明,RC-PSVM算法的分类效果更佳,且在大数据下的运行效率更高。

基于Hadoop Streaming的Last比对软件并行化的研究与实现

随着下一代测序技术的到来,单机版Last比对软件已经不能满足海量数据的处理需求。使用Hadoop Streaming技术将Last比对软件快速部署到云计算环境中,解决当前单机版Last比对软件处理大数据能力差的问题。通过自定义的基于NFS文件系统的数据集切分方法和基于Partitioner的任务分配方式能够实现均衡高效的数据切分,并保证并行化粒度可控。实验结果表明,在保证与单机运行结果一致的情况下,这种方法能有效缩减软件运行时间,具有较高的加速比。

基于分布式数据集的并行计算框架内存优化方法

随着科学计算和人工智能技术的快速发展,分布式环境下的并行计算已成为解决大规模理论计算和数据处理问题的重要手段。内存容量的提高以及迭代算法的广泛应用,使得以Spark为代表的内存计算技术愈发成熟。但是,当前主流的分布式内存模型和计算框架难以兼顾易用性和计算性能,并且在数据格式定义、内存分配、内存使用效率等方面存在不足。提出一种基于分布式数据集的并行计算方法,分别从模型理论和系统开销两个角度对内存计算进行优化。在理论上,通过对计算过程进行建模分析,以解决Spark在科学计算环境下表达能力不足的问题,同时给出计算框架的开销模型,为后续性能优化提供支持。在系统上,提出一种框架级的内存优化方法,该方法主要包括对跨语言分布式内存数据集的重构、分布式共享内存的管理、消息传递过程的优化等模块。实验结果表明,基于该优化方法实现的并行计算框架可以显著提升数据集的内存分配效率,减少序列化/反序列化开销,缓解内存占用压力,应用测试的执行时间相比Spark减少了69%~92%。

基于Spark和NRSCA策略的并行深度森林算法

针对并行深度森林在大数据环境下存在冗余及无关特征过多、两端特征利用率过低、模型收敛速度慢以及级联森林并行效率低等问题,提出了基于Spark和NRSCA策略的并行深度森林算法——PDF-SNRSCA。首先,该算法提出了基于邻域粗糙集和Fisher score的特征选择策略(FS-NRS),通过衡量特征的相关性和冗余度,对特征进行过滤,有效减少了冗余及无关特征的数量;其次,提出了一种随机选择和等距提取的扫描策略(S-RSEE),保证了所有特征能够同概率被利用,解决了多粒度扫描两端特征利用率低的问题;最后,结合Spark框架,实现级联森林并行化训练,提出了基于重要性指数的特征筛选机制(FFM-II),筛选出非关键性特征,平衡增强类向量与原始类向量维度,从而加快模型收敛速度,同时设计了基于SCA的任务调度机制(TSM-SCA),将任务重新分配,保证集群负载均衡,解决了级联森林并行效率低的问题。实验表明,PDF-SNRSCA算法能有效提高深度森林的分类效果,且对深度森林并行化训练的效率也有大幅提升。

基于嵌入式操作系统的并行任务开发技术研究

随着芯片开发技术在嵌入式系统中的发展,单位面积上晶体管数量不再无限制的增长,为追求嵌入式系统整体性能的提高,代码的执行效率逐渐被重视起来。多核处理器在嵌入式系统中应用越来越广泛,要进一步大规模地提高计算效率,更好的发挥出多核处理的优势,必须引入并行开发技术。文章采用openmp3.1作为并行框架,支持在嵌入式应用中进行c/c++语言开发,通过生成识别openmp指令的GCC4.8.1编译器,来解决openmp应用代码的编译问题,将openmp框架适配到嵌入式系统中,以可配置代码库的方式融入到操作系统应用层,深入分析openmp框架代码,提出了四个方面的优化策略,最后以FTD2000为目标机,多种算法作为测试用例,取得了优异的并行效果。

基于权参数优化的并行深度学习光伏功率预测

针对不同应用场景下光伏数据波动模式差异较大时,现有的光伏发电功率预测模型存在精度及适应性不足的问题,提出了一种具有权参数自适应性的并行深度学习光伏发电功率预测框架。该框架包含2种可以并行预测的深度学习算法单元(Attention-Seq2Seq单元、Transformer单元)以及一个权参数自适应优化单元。基于所提出的并行深度学习框架,对光伏发电功率进行预测,并分别与Attention-Seq2Seq、Transformer模型的预测结果进行了对比验证。结果表明:基于权参数优化的并行深度学习光伏功率预测框架弥补了不同数据波动模式下单一算法预测精度和适应性不足的问题,也可以有效解决时间序列预测中的长距离依赖问题,较单一算法预测精度更高,其平均绝对误差和均方根误差在夏季典型日最大降幅分别是41.18%和45.59%,在冬季典型日最大降幅分别是81.13%和82.86%。

基于种群混合迁移策略的并行量子遗传算法

针对量子遗传算法求解大规模优化问题存在收敛速度慢、易于陷入局部最优等问题,改进量子遗传算法。设计一种种群混合迁移机制促进算法的种群多样性,采用仿TriBA种群结构、双精英种群、重生种群、自适应迁移算子、个体竞争排挤算子以及随机失活机制,提高算法的局部勘测能力和全局寻优能力。利用Spark框架实现算法在分布式集群环境下的运算。改进2-opt&R优化算法,通过引入高斯变异提高算法的局部搜索能力,缩小算法的搜索空间。实验结果表明,改进后的算法在全局优化能力、收敛速度、运行速度和求解稳定性等方面均有大幅度提升。

基于多模型并行集成框架的风电功率异常数据识别

风电机组在实际运行过程中因通信故障或人为因素会产生大量异常数据,对工况评估和出力预测带来较大影响,故需要对风电功率异常数据进行处理。通过分析风电功率数据特征和异常数据产生原因,提出了一种多模型并行集成框架的风电功率异常数据识别方法。该方法采用最近邻隔离方法和局部离群因子方法的构建异常检测模型池,再经并行集成框架进行二次筛选合并,得出最终识别结果。利用单一最近邻隔离方法、局部离群因子方法和顺序集成方法在不同风电场实际数据集上进行对比验证。算例验证结果表明,所提方法能有效识别各类异常数据,提升风功率预测模型精度,具有较强的通用性。

基于低代码思想的可视化并行计算框架设计

先进装备的新型信息处理平台采用高性能多核处理器为核心的一体化架构,来满足高性能和智能化需求。为了支撑密集计算任务,需要并行计算框架来解决多核同步、负载均衡、任务调度、数据分发等并行计算应用难题。然而,现有的并行计算框架多为基于Linux的开源框架,不支持国产多核处理器;同时,基于并行计算框架的编程方式与传统的以控制算法为中心的结构化编程思路不同,对于习惯了C/C++编写串行程序的用户,基于并行计算框架编程面临许多难题。针对上述问题,在解决国产多核处理器操作系统并行计算框架适配问题的同时,基于低代码设计思想,研究简化并行计算框架编程方法、提升并行应用编程效率的技术途径,通过可视化组件配置与代码自动生成的方式,真正地降低并行编程难度,充分发挥国产多核处理器的并行计算效能。

基于Spark Streaming的并行K-means改进算法研究

K-means聚类算法作为一种经典的聚类算法被广泛应用,但是传统聚类算法在对实时性聚类要求较高的场景已经不适用,特别是在基于聚类的一些实时推荐算法中。本文通过Spark Streaming框架对传统K-means聚类过程广播共享聚类中心并使用KD树对迭代过程进行二次优化。实验结果表明优化改进后的K-means聚类算法能够明显提升收敛效率和降低聚类时间,能够满足对实时性聚类的要求。

适用于任意网格的大规模并行CFD计算框架PHengLEI

针对计算流体力学(Computational Fluid Dynamics,CFD)大规模并行计算的需要,我们设计了适用于任意网格类型的并行计算框架风雷(PHengLEI)软件,同时支持结构网格、非结构网格和重叠网格.为了实现并行通信与网格类型无关且与物理求解器开发者隔离,我们设计了通用的通信模式和一种基于网格块的“三合一”的数据交换模式,即将多块结构网格块、并行分区网格块和结构/非结构网格块间的交界面数据完全标准化为数据底层后,在数据底层统一进行交换,使得数据交换不依赖于网格类型和数据类型,从而实现任意网格类型并行通信模式的统一.作为气动数据生产的“数值风洞”,要求代码将并行隔离至底层,为此针对主流计算机系统的特点,设计了粗粒度MPI/OpenMP混合并行模式,领域专家只需关注求解器开发而无需关注并行通信,在提高可移植性、可扩展性的同时尽可能兼顾封装性.针对大规模并行计算的实际工程需求,设计了并行分区、大规模并行文件存储模式,以缩短前置处理和文件I/O时间.最后,分别基于结构网格、非结构网格和重叠网格,给出了工程应用领域的标模算例,以说明PHengLEI并行计算框架对不同网格类型的适应性.大规模网格测试结果表明,国产定制集群上16.38万核并行效率达83%以上,“天河二号”上近10万核并行效率达95%以上,展现了较好的可扩展性和并行计算效率.

基于Spark Streaming的实时数据分析系统及其应用

为了实现对实时网络数据流的快速分析,设计一种分布式实时数据流分析系统(DRDAS),能有效解决并发访问数据流的收集、存储和实时分析问题,为大数据环境的网络安全检测提供了一种有效的数据分析平台;根据Spark Streaming运行的原理设计一种动态采样的K-Means并行算法,与DRDAS结合能实时有效地检测大数据环境下的各种分布式拒绝服务(DDo S)攻击。实验结果显示:DRDAS具有好的可扩展性、容错性和实时处理能力,与动态采样的K-Means并行算法结合能实时地检测各种DDo S攻击,缩短了攻击的检测时间。

面向并行工程的CAPP框架系统研究

提出能满足并行工程对ＣＡＰＰ的需求，并可以由用户定义信息模型、功能模型和决策逻辑的面向并行工程的ＣＡＰＰ框架系统。分析系统的功能需求，提出抽象信息模型和抽象功能模型等概念。阐述系统的总体方案，说明以抽象信息模型和抽象功能模型为基础，内部过程的管理与控制、实例化配置的解释与执行和以决策支持系统为核心的系统体系结构。讨论实现系统的信息元法。给出通过实例化ＣＡＰＰ框架系统ＴＨＣＡＰＰ－ＳＨＥＬＬ形成的实用系统ＴＨＣＡＰＰ－ＣＥ在并行工程下的运行模式。

BDSim:面向大数据应用的组件化高可配并行模拟框架

大规模并行模拟是研究大数据体系结构的重要方法,对大数据应用及众核体系结构的发展有着不可替代的推动作用.然而,目前的模拟技术不能满足大数据体系结构研究的需求,主要体现在模拟速度慢、配置过程复杂以及可扩展性差等方面.为了解决此问题,评估面向大数据应用的高通量众核体系结构的性能与功耗,该文提出了面向大数据应用的并行模拟框架——BDSim.该框架基于组件化思想,将功能组件与框架服务单元组成并行功能单元,并可根据负载情况,自由配置组件与框架服务单元之间的映射关系.为了提高组件之间的通信和同步效率,该文提出了一种非阻塞无锁通信优化方法,和一种CMB保守同步算法的优化算法——NMTRT-CMB同步算法.模拟不同并发规模的基于2D-Mesh网络的众核系统的实验结果表明,与基于锁的并行通信方法相比,框架采用的非阻塞无锁通信优化方法可以提高并行模拟速度约10%,该算法与CMB同步算法相比,NMTRT-CMB同步算法可以减少空消息数量达90%以上.

面向对象有限元并行计算框架PANDA

为提高我国工程数值模拟软件的开发能力,面向武器工程大规模并行计算需求,基于层次化、模块化及面向对象的现代软件设计技术,分析探讨有限元并行计算框架的设计方法,形成初步的基础开发框架PANDA 0.1版;详细描述PANDA框架的层次结构设计,并探讨该基础开发框架设计中的底层网格数据结构设计、有限元共性管理模块及并行策略等部分关键技术;简要介绍PANDA框架的扩展应用方法.研究表明:采用框架技术进行结构力学有限元程序开发,具有高效、快速和便捷等优点.

并行环境下广义装配设计的集成框架

提出了以装配建模和变量设计为核心 ,以装配规划与仿真、装配分析和公差分析与综合等为支撑的广义装配设计的集成框架 .该框架能在并行工程的环境下对产品设计进行信息集成和设计过程集成 ,形成自上而下的、各支撑系统模块间相互依存、相互评价的设计循环 。

基于JASMIN框架的区域大气模式并行程序开发及试验

以自主研制的区域中尺度暴雨大气模式为研究对象,基于JASMIN并行编程框架,建立构件化、层次化的区域大气模式大规模高效并行程序,并针对典型天气实例,对模式并行计算程序的正确性、并行性能及高分辨率模拟效果进行验证.结果证明,基于JASMIN框架的新模式程序与原串行模式具有很好的计算一致性,其不仅能保持原有模式良好的预报效果,且能显著提升模式大规模并行计算性能和可扩展性,在进一步提高模式分辨率后能得到更好的预报结果.

面向并行工程的工作流集成框架研究

随着并行工程的研究与推广 ,目前日益成熟的工作流管理技术为建立支持并行工程的应用集成系统提供了良好的基础 ,使得设计和开发能够支持应用程序之间的信息集成与过程集成的软件系统成为可能。针对产品开发全生命周期管理的需求 ,首先提出了一个基于工作流的企业信息系统体系结构 ,基于该思想 ,进一步提出了并行工程使能工具的集成框架。为了阐述其集成方法 ,在介绍集成框架的核心技术——工作流建模与管理系统的基础上 ,以 PDM系统的集成为例 ,详细解释了 Tool Agent集成方式。