基于MapReduce编程模型的节点失效处理与优化
摘要
云计算环境下对MapReduce编程模型和节点失效问题进行深入研究和实践。提出了使用基于失效规律的节点资源动态提供策略的方式,来解决任务服务器上点失效之后所带来的系统不能正常提供服务的问题,以此提高整个系统的高可用性,同时使服务器集群达到负载均衡的目的。进而实现基于MapReduce编程模型节点失效的优化。
出处
《电脑编程技巧与维护》
2015年第2期77-78,共2页
Computer Programming Skills & Maintenance
参考文献4
-
1Dean J,Ghemawat S.MapReduce:Simplified data processing on large clusters.In:Proc.of the 6th Symp.on Operating System Design and Implementation.Berkeley:USENIX Association,2004:137,150.
-
2Apache.Apache hadoop.
-
3Sandhya S V,Sanjay H A,etc.,Fault-Tolerant Master-Workers framework for MapReduce Applications,2009 International Conference on Advances in Recent Technologies in Communication and Computing,2009:931-933.
-
4田冠华,孟丹,詹剑锋.云计算环境下基于失效规则的资源动态提供策略[J].计算机学报,2010,33(10):1859-1872. 被引量:69
二级参考文献19
-
1Rochwerger B, Breitgand D, Levy E et al. The Reservoir model and architecture for open federated cloud computing. IBM Journal of Research and Development, 2009,53(4) : 1-17.
-
2Daniel Nurmi, Rich Wolski, Chris Grzegorczyk et al. The eucalyptus open-source cloud computing system//Proceedings of the 2009 9th IEEE/ACM International Symposium on Cluster Computing and the Grid. 2009:124-131.
-
3Armbrust M, Fox A, Griffith R et al. Above the clouds: A berkeley view of cloud computing. UC Berkley, USA: Technical Report No. UCB/EECS-2009-28, 2009:1-25.
-
4Vaquero L M, Rodero-Merino L, Caceres Jet al. A break in the clouds: Towards a cloud definition. ACM SIGCOMM Computer Communication Review, 2009, 39(1): 50-55.
-
5Irwin D, Chase J S, Grit L et al. Sharing networked resources with brokered leases//Proceedings of the USENIX Technical Conference. Boston, MA, USA, 2006:199-212.
-
6Padala P, Shin K G, Zhu Xiao-Yun et al. Adaptive control of virtualized resources in utility computing environments//Pro ceedings of the 2nd ACM SIGOPS/EuroSys European Conference on Computer Systems 2007. Lisbon, Portugal, 2007: 289-302.
-
7Schroeder B, Gibson G A. A large-scale study of failures in high-performance computing systems//Proceedings of DSN2006. Philadelphia, Pennsylvania, USA, 2006:249-258.
-
8Heath T, Martin R P, Nguyen T D. Improving cluster avail- ability using workstation validation//Proeeedings of the ACM SIGMETRICS. Marina Del Rey, California, USA, 2002. 217-227.
-
9Tai A T, Tso K S, Sanders W H et al. Chau: A performability-oriented software rejuvenation framework for distributed applicatioas//Proceedings of the 35th DSN 2005. Yokohama, Japan, 2005.570-579.
-
10Vaidyanathan K, Harper R E, Hunter S W et al. Analysis and implementation of software rejuvenation in cluster systems//Proceedings of the ACM SIGMETRICS 2001. Cambridge, MA, USA, 2001. 62-71.
共引文献68
-
1虞慧群,范贵生.云计算技术的应用及发展趋势综述[J].微型电脑应用,2011(10):1-3. 被引量:26
-
2曾文英,赵跃龙,尚敏.云计算及云存储生态系统研究[J].计算机研究与发展,2011,48(S1):234-239. 被引量:23
-
3朱承璋,张舸.基于网格环境的自适应资源调度策略[J].湖南理工学院学报(自然科学版),2010,23(4):36-38.
-
4王倩,黄景贵.未来电子商务发展受云计算的影响探究[J].科技资讯,2011,9(8):14-14. 被引量:2
-
5陈从新,陈翔,牛红武.云计算给企业发展电子商务带来的机遇[J].经济视角(中),2011(10):64-65. 被引量:1
-
6郭怡,茅苏.云计算下基于CRP算法的资源提供策略[J].计算机技术与发展,2012,22(2):80-84. 被引量:2
-
7赵宏伟,宋宝燕,邵一川.云计算环境下的一种高效的资源管理策略[J].计算机科学,2012,39(2):212-215. 被引量:12
-
8赵亮,姜丽萍,于春江.浅谈云计算带给未来电子商务的机遇与挑战[J].电脑与电信,2012(3):64-66.
-
9李金苗,袁烁锋,杨冬菊,刘倩.一种用户行为分析的动态备份机制[J].现代计算机,2012,18(5):18-22.
-
10左利云,左利锋.云计算中基于预先分类的调度优化算法[J].计算机工程与设计,2012,33(4):1357-1361. 被引量:35
-
1张猛.基于MOOC的计算机应用基础教学模式改革[J].福建电脑,2015,31(10):47-47. 被引量:4
-
2万乐.云计算环境下基于失效规则的资源动态提供策略[J].电子技术与软件工程,2014(20):21-21.
-
3王霞.基于Multi-agent的P2P流媒体分发技术的研究与实现[J].云南民族大学学报(自然科学版),2008,17(4):374-376. 被引量:4
-
4陈志鸿.万唤始出 全面亮相[J].中国金融电脑,1997,0(3):74-74.
-
5高华.计算机海量数据处理SLIQ算法研究[J].长春工业大学学报,2016,37(4):406-410. 被引量:1
-
6朱军文,张美虎.基于移动学习的网络课程特征研究[J].福建电脑,2014,30(12):14-15. 被引量:4
-
7田冠华,孟丹,詹剑锋.云计算环境下基于失效规则的资源动态提供策略[J].计算机学报,2010,33(10):1859-1872. 被引量:69
-
8高顺川,冯静,孙权,周经伦.基于威布尔分布的动态故障树定量分析方法[J].质量与可靠性,2005(5):28-31. 被引量:9
-
9任魁,王普,李亚芬.基于Axis的Web服务身份验证策略管理[J].现代电子技术,2008,31(24):122-126. 被引量:2
-
10岳晓果,张静远,周斌,王凯,张晨.音视频系统测试探讨[J].数据通信,2016(3):39-44.