期刊文献+
共找到13篇文章
< 1 >
每页显示 20 50 100
Energy Cost Minimization Using String Matching Algorithm in Geo-Distributed Data Centers
1
作者 Muhammad Imran Khan Khalil Syed Adeel Ali Shah +3 位作者 Izaz Ahmad Khan Mohammad Hijji Muhammad Shiraz Qaisar Shaheen 《Computers, Materials & Continua》 SCIE EI 2023年第6期6305-6322,共18页
Data centers are being distributed worldwide by cloud service providers(CSPs)to save energy costs through efficient workload alloca-tion strategies.Many CSPs are challenged by the significant rise in user demands due ... Data centers are being distributed worldwide by cloud service providers(CSPs)to save energy costs through efficient workload alloca-tion strategies.Many CSPs are challenged by the significant rise in user demands due to their extensive energy consumption during workload pro-cessing.Numerous research studies have examined distinct operating cost mitigation techniques for geo-distributed data centers(DCs).However,oper-ating cost savings during workload processing,which also considers string-matching techniques in geo-distributed DCs,remains unexplored.In this research,we propose a novel string matching-based geographical load balanc-ing(SMGLB)technique to mitigate the operating cost of the geo-distributed DC.The primary goal of this study is to use a string-matching algorithm(i.e.,Boyer Moore)to compare the contents of incoming workloads to those of documents that have already been processed in a data center.A successful match prevents the global load balancer from sending the user’s request to a data center for processing and displaying the results of the previously processed workload to the user to save energy.On the contrary,if no match can be discovered,the global load balancer will allocate the incoming workload to a specific DC for processing considering variable energy prices,the number of active servers,on-site green energy,and traces of incoming workload.The results of numerical evaluations show that the SMGLB can minimize the operating expenses of the geo-distributed data centers more than the existing workload distribution techniques. 展开更多
关键词 String matching OPTIMIZATION geo-distributed data centers geographical load balancing green energy
下载PDF
Efficient Location-Aware Data Placement for Data-Intensive Applications in Geo-distributed Scientific Data Centers 被引量:3
2
作者 Jinghui Zhang Jian Chen +1 位作者 Junzhou Luo Aibo Song 《Tsinghua Science and Technology》 SCIE EI CAS CSCD 2016年第5期471-481,共11页
Recent developments in cloud computing and big data have spurred the emergence of data-intensive applications for which massive scientific datasets are stored in globally distributed scientific data centers that have ... Recent developments in cloud computing and big data have spurred the emergence of data-intensive applications for which massive scientific datasets are stored in globally distributed scientific data centers that have a high frequency of data access by scientists worldwide. Multiple associated data items distributed in different scientific data centers may be requested for one data processing task, and data placement decisions must respect the storage capacity limits of the scientific data centers. Therefore, the optimization of data access cost in the placement of data items in globally distributed scientific data centers has become an increasingly important goal.Existing data placement approaches for geo-distributed data items are insufficient because they either cannot cope with the cost incurred by the associated data access, or they overlook storage capacity limitations, which are a very practical constraint of scientific data centers. In this paper, inspired by applications in the field of high energy physics, we propose an integer-programming-based data placement model that addresses the above challenges as a Non-deterministic Polynomial-time(NP)-hard problem. In addition we use a Lagrangian relaxation based heuristics algorithm to obtain ideal data placement solutions. Our simulation results demonstrate that our algorithm is effective and significantly reduces overall data access cost. 展开更多
关键词 data placement geo-distributed data center Lagrangian relaxation
原文传递
Performance Prediction Based Workload Scheduling in Co-Located Cluster
3
作者 Dongyang Ou Yongjian Ren Congfeng Jiang 《Computer Modeling in Engineering & Sciences》 SCIE EI 2024年第5期2043-2067,共25页
Cloud service providers generally co-locate online services and batch jobs onto the same computer cluster,where the resources can be pooled in order to maximize data center resource utilization.Due to resource competi... Cloud service providers generally co-locate online services and batch jobs onto the same computer cluster,where the resources can be pooled in order to maximize data center resource utilization.Due to resource competition between batch jobs and online services,co-location frequently impairs the performance of online services.This study presents a quality of service(QoS)prediction-based schedulingmodel(QPSM)for co-locatedworkloads.The performance prediction of QPSM consists of two parts:the prediction of an online service’s QoS anomaly based on XGBoost and the prediction of the completion time of an offline batch job based on randomforest.On-line service QoS anomaly prediction is used to evaluate the influence of batch jobmix on on-line service performance,and batch job completion time prediction is utilized to reduce the total waiting time of batch jobs.When the same number of batch jobs are scheduled in experiments using typical test sets such as CloudSuite,the scheduling time required by QPSM is reduced by about 6 h on average compared with the first-come,first-served strategy and by about 11 h compared with the random scheduling strategy.Compared with the non-co-located situation,QPSM can improve CPU resource utilization by 12.15% and memory resource utilization by 5.7% on average.Experiments show that the QPSM scheduling strategy proposed in this study can effectively guarantee the quality of online services and further improve cluster resource utilization. 展开更多
关键词 Co-located cluster workload scheduling online service batch jobs data center
下载PDF
QoS保证的数据中心动态资源供应方法 被引量:12
4
作者 李青 李勇 +1 位作者 涂碧波 孟丹 《计算机学报》 EI CSCD 北大核心 2014年第12期2395-2407,共13页
在满足应用QoS的前提下,提高系统的资源利用率,是数据中心资源管理的一个难点,原因在于应用的资源消耗是动态变化的.为了保证应用的QoS,需要实时预测应用的资源需求,并以此为基础动态按需供应资源.已有的资源预测算法可以分为两类:一类... 在满足应用QoS的前提下,提高系统的资源利用率,是数据中心资源管理的一个难点,原因在于应用的资源消耗是动态变化的.为了保证应用的QoS,需要实时预测应用的资源需求,并以此为基础动态按需供应资源.已有的资源预测算法可以分为两类:一类需要与应用进行实时交互以监测负载和性能,预测精度高,但扩展性差;另一类只需要在外部监测应用的资源消耗,扩展性好,但是现有算法的预测精度较低.该文针对第二类方法的不足,结合全局及局部的资源消耗变化趋势来改进已有的预测算法.实验证明改进后的预测精确度可以达到95%以上.资源需求的动态变化会导致节点资源无法满足所有应用的QoS,常用的解决方法是采用虚拟机迁移进行负载平衡,但是迁移虚拟机会带来相当大的额外资源消耗.该文提出了一种作业资源匹配算法,对数据中心所有作业进行布局,使不同优先级、不同资源需求及变化规律的作业在节点上混合部署,不仅极大地降低了发生节点资源紧缺的频度,而且实验证明,该算法在相同的资源需求下,还能提高应用的性能. 展开更多
关键词 数据中心 混合部署 虚拟化 作业资源匹配算法 资源预测算法 云计算 大数据
下载PDF
面向混合负载的集群资源弹性调度 被引量:4
5
作者 李勇 张章 +3 位作者 孟丹 韩冀中 李青 王旻 《高技术通讯》 CAS CSCD 北大核心 2014年第8期782-790,共9页
针对目前集群资源调度方法难以适应互联网业务多样化、定制化特征的问题,提出了一种面向混合负载的集群资源弹性调度方法。该方法通过构建作业约束描述语言,允许作业基于自身负载特征提出多维度的资源申请和具有负载意识的资源调度算法... 针对目前集群资源调度方法难以适应互联网业务多样化、定制化特征的问题,提出了一种面向混合负载的集群资源弹性调度方法。该方法通过构建作业约束描述语言,允许作业基于自身负载特征提出多维度的资源申请和具有负载意识的资源调度算法,实现在同一集群内各类业务统一部署与管理,及时匹配资源需求的变化;通过建立作业的软约束与硬约束之间的转化机制,满足作业在不同执行阶段对资源的定制化需求。实验表明,该方法相比于Hadoop,可允许作业利用较少资源获得更优性能,在实际生产系统中,基于该方法可将集群资源利用率由62%提升到75%。 展开更多
关键词 集群资源调度 作业约束调度 负载感知 混合负载 互联网数据中心(IDC)
下载PDF
一种面向软件仓库挖掘的动态作业配置框架
6
作者 史殿习 尹刚 +2 位作者 米海波 袁霖 王怀民 《计算机科学》 CSCD 北大核心 2011年第7期113-116,133,共5页
构造面向软件仓库挖掘的数据中心,是目前软件工程领域的研究热点。软件仓库数据处理作业的执行时间差异明显、资源消耗大等特点为其作业配置带来诸多挑战。提出一种面向软件仓库挖掘的作业配置框架TrustieS-DC,该框架支持一种新型远程... 构造面向软件仓库挖掘的数据中心,是目前软件工程领域的研究热点。软件仓库数据处理作业的执行时间差异明显、资源消耗大等特点为其作业配置带来诸多挑战。提出一种面向软件仓库挖掘的作业配置框架TrustieS-DC,该框架支持一种新型远程作业部署和服务模式,采用一种基于软件版本划分的动态作业配置算法以缩短长作业响应时间并提高系统资源利用率。基于Gnome项目SVN库的实验表明,TrustieSDC的性能和资源利用率与并行后的Alitheia相比有明显改进。 展开更多
关键词 软件仓库挖掘 数据中心 作业配置 开发者贡献度 开发者网络
下载PDF
云环境下面向跨域作业的调度方法
7
作者 李焱 郑亚松 +2 位作者 李婧 朱春鸽 刘欣然 《电子学报》 EI CAS CSCD 北大核心 2017年第10期2416-2424,共9页
云环境下,因数据局部性或是任务对资源的特殊偏好,一个作业所包含的任务往往需要在不同的数据中心局点上运行,此类作业称为跨域作业.跨域作业的完成时间取决于最慢任务的执行效率,即存在木桶效应.针对各域资源能力异构条件下不合理的调... 云环境下,因数据局部性或是任务对资源的特殊偏好,一个作业所包含的任务往往需要在不同的数据中心局点上运行,此类作业称为跨域作业.跨域作业的完成时间取决于最慢任务的执行效率,即存在木桶效应.针对各域资源能力异构条件下不合理的调度策略导致跨域作业执行时间跨度过长的问题,本文提出一种面向跨域作业的启发式调度方法 MIN-Max-Min,优先选择期望完成时间最短的作业执行.通过实验表明,与先来先服务的策略相比,该方法能将跨域作业平均执行时间跨度减少40%以上. 展开更多
关键词 云计算 跨域数据中心 跨域作业
下载PDF
计及多种储能协调运行的数据中心实时能量管理 被引量:20
8
作者 吴云芸 方家琨 +4 位作者 艾小猛 薛熙臻 胡伟 沈煜 文劲宇 《电力自动化设备》 EI CSCD 北大核心 2021年第10期82-89,共8页
随着互联网+、云计算的发展,数据中心能耗迅速增加,高能耗和高电费问题日益突出,对数据中心进行能量管理和优化是运营商提升市场竞争力的重要手段。但由于数据负荷、电网电价和新能源出力的不确定性,如何在实时运行时保证数据中心的运... 随着互联网+、云计算的发展,数据中心能耗迅速增加,高能耗和高电费问题日益突出,对数据中心进行能量管理和优化是运营商提升市场竞争力的重要手段。但由于数据负荷、电网电价和新能源出力的不确定性,如何在实时运行时保证数据中心的运行经济性是亟待解决的问题。针对以上问题,考虑数据负荷调度、服务器休眠、多种储能协调运行、与电网交互等因素,建立了数据中心的实时能量管理模型。由于模型中多类型储能和批处理负荷各自的时段间耦合约束都会影响系统全局最优决策,需要分别对其进行解耦,故提出一种基于多维分段线性函数近似值函数的近似动态规划(PLF-ADP)算法的数据中心实时能量管理策略。仿真算例表明,所提多维PLF-ADP算法能够在随机环境下考虑数据中心中多类型储能和批处理负荷的协调运行,得到近似全局最优的实时能量管理策略,保证数据中心运行的经济性。 展开更多
关键词 数据中心 实时能量管理 近似动态规划 批处理负荷 储能协调运行 马尔科夫决策过程
下载PDF
混部集群资源利用分析 被引量:9
9
作者 葛浙奉 王济伟 +6 位作者 蒋从锋 张纪林 俞俊 林江彬 闫龙川 任祖杰 万健 《计算机学报》 EI CSCD 北大核心 2020年第6期1103-1122,共20页
现代互联网数据中心的规模随应用服务需求的增长而越来越大,但数据中心资源利用率低已逐步成为云计算进一步发展的制约因素.为了提高数据中心的资源利用率,云服务提供商将在线服务和离线批处理作业混合部署到同一个生产集群中.但混合部... 现代互联网数据中心的规模随应用服务需求的增长而越来越大,但数据中心资源利用率低已逐步成为云计算进一步发展的制约因素.为了提高数据中心的资源利用率,云服务提供商将在线服务和离线批处理作业混合部署到同一个生产集群中.但混合部署增加了数据中心管理系统复杂性,对数据中心系统调度和工作负载分配提出了新的挑战.本文从资源使用角度出发,统计分析了阿里巴巴最新发布的包含4034台机器长达8天的混部集群日志数据集,刻画了机器对离线批处理任务与在线服务容器资源分配策略,以及离线批处理作业与在线服务之间的相互干扰.并根据不同的负载特征,以多种方式对机器进行分类,研究机器分工对集群效率提升的意义.通过分析阿里巴巴集群日志数据集,我们发现:(1)集群中43.271%的机器存在容器对CPU核心“超订”现象,而内存不存在“超订”现象;(2)集群中存在“备用节点”,确保集群出现故障时,任务能及时被转移到“备用节点”继续执行;(3)延迟敏感的在线任务的CPU利用率较低,但对内存资源的需求比较高,而离线批处理作业的CPU利用率较高,在线任务和离线任务的资源占用互补;(4)混合部署显著提高了CPU利用率,而内存可能是限制集群性能的主要因素;(5)集群中容器分布存在不平衡性;(6)离线任务的混合部署导致容器内存利用率有所下降,且当在线服务资源需求激增时,调度器缺少一定的容错性和健壮性;(7)离线任务如何部署与容器当前性能紧密相关,尤其是容器CPI指标,与离线任务部署呈现显著相关性.本文对集群负载特性、资源使用及离线和在线任务相互干扰进行研究,有助于其他研究人员对集群系统调度和负载分配分析优化,以提高现代数据中心的资源利用率. 展开更多
关键词 混部集群 资源利用 负载特性 在线服务 批处理作业 调度 服务质量 数据中心
下载PDF
混部数据中心负载特征及其任务调度优化分析 被引量:3
10
作者 王济伟 葛浙奉 +6 位作者 蒋从锋 张纪林 俞俊 林江彬 闫龙川 任祖杰 万健 《计算机工程与科学》 CSCD 北大核心 2020年第1期8-17,共10页
随着现代互联网数据中心的规模越来越大,数据中心面临着能耗、可靠性、可管理性与可扩展性等方面的挑战。同时,数据中心承载的服务多样,既有在线Web服务,也有离线批处理任务。在线任务要求较低的延迟,而离线任务要求较高的吞吐量。为了... 随着现代互联网数据中心的规模越来越大,数据中心面临着能耗、可靠性、可管理性与可扩展性等方面的挑战。同时,数据中心承载的服务多样,既有在线Web服务,也有离线批处理任务。在线任务要求较低的延迟,而离线任务要求较高的吞吐量。为了提高服务器利用率,降低数据中心能耗,当前数据中心往往将在线任务和离线任务混合部署到同一个计算集群中。在混部场景下,如何同时满足在线和离线任务的不同要求,是目前面临的关键挑战。分析了阿里巴巴于2018年发布的含有4034台服务器的混部计算集群在8天内的日志数据(cluster-trace-v2018),从静态配置信息、动态混部运行状态、离线批处理作业DAG依赖结构等出发,揭示其负载特征,包括任务倾斜与容器部署的相关关系等,根据任务依赖关系与关键路径,提出了相应的任务调度优化策略。 展开更多
关键词 混部数据中心 负载特性 在线服务 批处理作业 调度
下载PDF
基于深度强化学习的云作业调度及仿真研究 被引量:3
11
作者 李启锐 彭心怡 《系统仿真学报》 CAS CSCD 北大核心 2022年第2期258-268,共11页
针对复杂瞬变的多用户多队列多数据中心云计算环境中作业调度困难的问题,提出一种基于深度强化学习的作业调度方法。建立了云作业调度系统模型及其数学模型,并建立了由传输时间、等待时间和执行时间三部分构成的优化目标。基于深度强化... 针对复杂瞬变的多用户多队列多数据中心云计算环境中作业调度困难的问题,提出一种基于深度强化学习的作业调度方法。建立了云作业调度系统模型及其数学模型,并建立了由传输时间、等待时间和执行时间三部分构成的优化目标。基于深度强化学习设计了作业调度算法,给出了算法的状态空间、动作空间和奖赏函数。设计与开发了云作业仿真调度器,完成作业的仿真调度。仿真结果表明,相比随机调度、轮转调度、首次适应、最佳适应等基准算法,提出的算法能够有效降低作业的整体完工时间。 展开更多
关键词 云计算 作业调度 深度强化学习 完工时间 多用户 多队列 多数据中心
下载PDF
计及多元灵活性的不同地理分布数据中心协同运行优化策略 被引量:2
12
作者 顼佳宇 李笑彤 +4 位作者 王晓冰 李冰 周世博 周明 顾靖达 《智慧电力》 北大核心 2023年第11期15-22,52,共9页
数据中心作为新型高能耗负荷,庞大的耗电量带来的巨额电能成本已成为当前亟需解决的问题。为此,提出了一种涉及不同地理分布数据中心协同运行策略。首先,构建多数据中心与电力系统的双层协同优化模型,通过基于实时电价激励的需求响应方... 数据中心作为新型高能耗负荷,庞大的耗电量带来的巨额电能成本已成为当前亟需解决的问题。为此,提出了一种涉及不同地理分布数据中心协同运行策略。首先,构建多数据中心与电力系统的双层协同优化模型,通过基于实时电价激励的需求响应方式,协调二者运行效益;其次,基于迭代求解的方法建立双层模型的交互模式,对模型进行求解;最后,通过算例结果的对比分析可知,多数据中心的运营成本下降了30.40%,制冷系统能耗下降了9.31%。此外,研究通过灵敏度分析得知,扩大计算服务器的工作适宜度范围将有利于数据中心内部制冷系统的节能高效运行。 展开更多
关键词 多元灵活性 数据中心 双层优化模型 工作适宜度
下载PDF
电子政务平台服务器集群负载调度算法分析 被引量:2
13
作者 王力共 杨志新 《湘南学院学报》 2006年第5期67-70,共4页
分析了采用不同负载均衡调度算法的应用环境和性能,并根据政府门户网站Web应用的特点,对调度算法进行了研究和验证,实际环境下基于动态反馈的最小链接算法达到最优的性能.
关键词 电子政务 数据中心 负载均衡 任务调度
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部