Web服务器系统中基于反馈控制的比例延迟保证

随着Web应用在商业领域的广泛使用,Web服务器系统需要在高负载下提供区分服务,以满足用户的不同需求。为实现以延迟作为评价指标的区分服务,本文在Web服务器系统的连接管理和请求处理两个层次建立了基于反馈控制的比例延迟保证模型。模型中的反馈控制器通过动态计算和调节不同类别客户占用的资源:(服务线程和数据库连接),能保证高优先级的客户较快得到服务而不同类别客户的平均延迟比保持不变。为测试闭环系统的性能,设计了两种分别服从均匀分布和重尾分布的动态负载。仿真结果表明,即使并发客户连接的数目剧烈变化,控制器作用下的服务器系统仍然能够达到较好的比例延迟保证,可靠地为用户提供区分服务。

异构Web集群中的比例伸展因子区分服务

Web集群服务器已被广泛用来提高Web服务器的性能。如何保证Web服务的服务质量(QoS)是一个迫切需要解决的问题。区分服务已成为QoS研究领域中的一个焦点。本文分析了Web请求服务时间的数字特性,并使用M/G/1FCFS排队模型对Web服务器及Web集群服务器进行了建模。在对模型进行分析的基础上,设计并实现了一种异构Web集群服务器中的比例伸展因子区分服务的方案,并提出了基于概率空间的请求调度算法。请求被分成多个类,无论系统的负载如何,系统确保每类请求的平均伸展因子与事先给定的参数成正比。实际测试表明,所设计的方案满足相对区分服务的可预测性和可控制性的要求。

DTN Web服务器基于自适应控制的成比例延迟区分服务

DTN网络的出现为未来的Internet应用提供了一种全新的平台,在DTN网络上部署支持服务区分服务的Web服务器方面的研究仍为空白。首先设计了一种支持区分服务的DTN Web服务器,并在其上实现了基于自适应控制的成比例延迟区分服务。自适应控制器根据预设的延迟区分参数,通过动态计算并调节各个客户类别的服务线程数目,可保证DTN Web服务器上高优先级客户具有较低的平均连接延迟而各个客户类别的平均延迟比保持不变。仿真结果表明,在动态变化的负载、不同的负载分布以及变化的参考输入之下,控制器作用下的DTN Web服务器都能可靠地提供成比例延迟区分服务。

Web服务器中基于自适应控制的成比例延迟区分服务

Internet上Web应用日益广泛的使用,使得Web服务器需要在高负载下提供性能保证与区分服务,以满足用户的不同需求。响应延迟是评价Web服务器的一项关键性能指标,而成比例延迟区分服务是一种重要的区分服务模型。针对Apache Web服务器,提出并实现了基于自适应控制的成比例延迟区分服务。在每个采样周期,自适应控制器根据预设的延迟区分参数,通过动态计算并调节各个客户类别的服务线程数目,可保证Apache Web服务器上高优先级客户具有较低的平均连接延迟,而各个客户类别的平均延迟比保持不变。仿真结果表明,在动态变化的负载、参考输入以及不同的系统配置之下,控制器作用下的Apache Web服务器都能可靠地提供成比例延迟区分服务。

Apache Web服务器中基于LTI模型的多服务类别比例延迟控制

通过系统辨识建立了Apache Web服务器的线性时不变(LTI)模型,用于描述两类Web客户连接的连接延迟比与服务线程比间的关系,并针对此LTI模型,设计了一个控制器。此控制器通过动态分配服务于不同类别连接的服务线程的数量,可实现Web服务器端的比例延迟保证,并进一步将此区分服务的控制模型扩展到了面向多个连接类别,通过多个控制器实现了相邻两个客户连接类别的比例延迟保证。仿真表明,即使过载状态下并发客户连接的数目急剧变化,闭环系统中的Web服务器也能为多个客户连接类别提供比例延迟保证。

可区分服务的反馈式Web应用负载均衡策略

为研究Internet环境下Web应用面向区分服务的性能优化策略,从多个方面提出了动态反馈式负载均衡的改进方案,包括基于K-means算法的预处理、双周期式负载反馈、基于反馈的负载距离计算和引入随机概率的节点选择等,在资源层面上对用户请求和服务节点进行区分并把握它们之间的关联,实现更有针对性的调度。实验分析结果表明,与传统的策略进行对比,改进策略能够降低请求的平均响应时间和请求失效数,在保障负载均衡的服务质量上取得效果。