基于Kubernetes的工业AI项目开发平台

随着人工智能(AI)成为改变世界的前沿技术,企业也迫切需要系统地开发和实现人工智能来升级新一代工业系统的基础。考虑到将人工智能应用开发集成到工业开发中存在开发流程环节多、AI项目开发人员能力背景不一等问题,以企业实际需求为背景设计实现了一个AI项目开发平台。探讨了人工智能项目开发平台的概念和实现,并且基于企业实际需求对其进行定制化。在传统开发流程基础上完善更多开发工作流环节。在企业内部成功进行部署和测试。结果表明:项目开发平台的功能合理、运行正常、管理便捷对AI项目开发效率、体验、规范化有积极影响,提高了计算加速部件利用率。

一种基于Kubernetes的轻量级PaaS微服务框架

微服务框架主要有客户端负载均衡和服务端负载均衡两类设计模式。文章提出一种基于Kubernetes的轻量级PaaS微服务框架,框架采用服务端负载均衡模式,设计了自定义的ServiceRoute对象来描述服务路由需求,以ServiceRoute对象的变化来增删服务访问点,基于对服务访问点的DNS名称解析实现服务寻址,采用经LUA扩展的HAProxy实现服务路由和服务治理。框架采用标准的HTTP协议,架构简单清晰、组件实施方便、对应用无侵入,测试结果表明,该微服务框架工作稳定、性能良好,可为受限环境下部署微服务系统提供一种合适的解决方案。

Kubernetes资源调度策略

在Kubernetes中可以通过nodeSelector在不同节点上部署不同的应用,但是当指定节点资源不足时,应用将会处于无法被调度的状态。针对这个问题,提出一种Kubernetes资源调度策略,设计实现一个自定义调度器,在指定节点部署应用资源不足时,将等待调度的应用调度到Kubernetes集群中的其它节点上。实验结果表明,该自定义调度器的调度策略能够在指定部署节点资源不足时将等待调度的应用调度到其它节点上,提高了集群资源利用率和集群负载均衡,降低了用户应用等待调度时间。

面向深度学习Kubernetes负载饱和调度算法设计与实现

构建深度学习云平台的基础技术Kubernetes在调度过程中使用负载均衡策略,易产生资源碎片,增加任务等待时间。Kubernetes没有考虑对GPU等外部拓展资源的评分,不能很好适应深度学习云平台的业务场景。针对以上问题提出一种负载饱和调度策略,对Kubernetes调度过程进行改进,减少资源碎片,提高资源利用率。该策略支持对用户指定的外部拓展资源进行评分,能更好适应深度学习云平台业务场景。实验结果表明,负载饱和调度策略能够减少23.40%的任务等待时间,并能将GPU利用率提升14.15%,GPU显存利用率提升6.85%。

基于Kubernetes的调度算法综述

在云计算领域,资源管理和任务调度的优化对提升系统效率和资源利用率至关重要。Kubernetes(K8S)作为业界领先的容器编排工具,致力于应用程序容器的自动化部署、扩展和管理,其核心优势之一在于利用高效的调度算法实现容器的跨集群部署与执行,这一策略在提高应用系统可移植性、安全性、优化资源利用和集成部署方面发挥了重要作用,使其能够更加敏捷高效地应对不断变化的业务需求。鉴于此,有关于K8S的调度算法成为了业界研究的热点,全面调研和分析了K8S相关的调度算法及其在不同应用领域中的实际表现,特别关注三个领域:通用调度算法的改进、面向人工智能的调度策略以及基于弹性伸缩的调度技术。最后通过综合分析,揭示当前研究的不足之处和未来研究中亟待解决的问题,为进一步优化K8S的调度算法提供借鉴和参考。

基于Kubernetes的集群节能策略研究

在Kubernetes中,HPA具备自动扩展Pod的能力,它可以根据流量的波动情况,在高峰时增加Pod数量以应对需求,而在低谷时减少数量以节省资源。然而,由于HPA是根据当前Pod的性能指标来进行扩展的,当流量激增时,可能会对应用服务的可用性产生不利影响,并且当压力较小时,算力资源的空载会导致电子资源的浪费。针对上述问题,研究并验证一种基于时序预测的集群资源自动缩放与智能休眠唤醒策略,使用GC-TimesNet模型对集群资源的使用情况进行预测。当资源利用率较低时,计算出需要关闭的算力节点数量,将这些节点设置为不可调度状态,并驱逐节点现有的Pod,然后将这些机器置于睡眠状态。相反,当资源需求增加时,会唤醒足够数量的机器,并通过HPA控制器增加所需数量的Pod副本。实验结果表明,该策略能够较为准确地预测集群负载的变化趋势,结合实施智能的休眠与唤醒策略,提升优化集群的运维管理能力,最大程度地提高计算资源的利用率,为降低集群能源开销提供数据支撑,实现节能减排。

KubeFuzzer:Automating RESTful API Vulnerability Detection in Kubernetes

RESTful API fuzzing is a promising method for automated vulnerability detection in Kubernetes platforms.Existing tools struggle with generating lengthy,high-semantic request sequences that can pass Kubernetes API gateway checks.To address this,we propose KubeFuzzer,a black-box fuzzing tool designed for Kubernetes RESTful APIs.KubeFuzzer utilizes Natural Language Processing(NLP)to extract and integrate semantic information from API specifications and response messages,guiding the generation of more effective request sequences.Our evaluation of KubeFuzzer on various Kubernetes clusters shows that it improves code coverage by 7.86%to 36.34%,increases the successful response rate by 6.7%to 83.33%,and detects 16.7%to 133.3%more bugs compared to three leading techniques.KubeFuzzer identified over 1000 service crashes,which were narrowed down to 7 unique bugs.We tested these bugs on 10 real-world Kubernetes projects,including major providers like AWS(EKS),Microsoft Azure(AKS),and Alibaba Cloud(ACK),and confirmed that these issues could trigger service crashes.We have reported and confirmed these bugs with the Kubernetes community,and they have been addressed.

基于Kubernetes的智能电网多源数据安全存储系统设计

智能电网数据具有多源、高维等特点,当受到外界攻击时,易发生损坏或丢失,影响电网正常运行,而安全存储智能电网多源数据能够有效地确保智能电网的稳定运行。为此,设计了基于Ku⁃bernetes的智能电网多源数据安全存储系统。通过目录服务器、存储服务器以及缓存服务器搭建系统硬件架构,利用二叉树算法进行数据校验,实现数据分析。通过数据更新,利用多个服务器配合实现安全存储。基于Kuberbetes技术进行自动更新、传输、优化迭代算法、简化数据检索,采用轨迹平滑算法计算多源感知数据异常数值,通过数据训练得到存储结果。实验结果表明,基于Kuber⁃netes的智能电网多源数据安全存储系统响应时间仅为0.27 s,能够有效阻挡外界攻击,具有较强的防御能力。

基于Kubernetes的多级网络软件定义网关转发系统

为解决边界安全网关的数据转发性能要求越来越高,运维难度逐日提升,且物理资源整体配置策略在不断动态变化的问题,提出并实现了基于Kubernetes的多级网络软件定义网关转发系统,在Kubernetes对业务集群进行集中管控的基础上,根据不同网络接口的使用场景和属性,动态调用不同类别的CNI插件进行接口配置,同时支持内核态和用户态的多级网络,将转发系统的控制平面和数据平面相分离,增强了系统服务的可控性。同时,引入了基于用户态协议栈的负载均衡模块,在不影响系统转发性能的前提下实现了数据包转发能力的动态伸缩、平滑升级、集群监视、故障迁移等功能。

Kubernetes平台下国产GPU的并发容器共享

随着技术的不断发展,机载智能系统正在向智能化发展。相较于虚拟机,轻量灵活且可伸缩的容器技术在安全性和性能均要求较高的机载智能应用中更适用。随着容器技术的不断发展,容器编排系统也迅速崛起,其中Kubernetes已成为主流的容器编排平台。然而目前Kubernetes在GPU管理方面存在不足,多个并发GPU容器无法共享GPU资源。考虑到日益增加的硬件自主可控需求,面向容器技术的国产GPU资源的共享迫在眉睫。针对上述问题,提出了一种名为sharedGPU的通用国产GPU共享方法,所提出的方法面向Kubernetes平台,实现了并发容器之间共享GPU,同时保留容器独占GPU的使用模式。实验结果表明,sharedGPU支持独占和共享两种使用GPU的模式。

基于Kubernetes的海量船舶交通信息数据存储系统设计

针对Kubernetes在异构云平台的多租户和复杂负载挑战,该文设计了层次化资源模型和时序数据指标,结合公平算法,实现高效船舶交通信息数据存储系统,提升资源管理与调度效率,为大规模数据存储提供有效解决方案。

基于Kubernetes的私有云PaaS服务资源管理调度系统研究

Kubernetes因其优良的容器管理能力,已经被广泛应用于私有云平台服务。私有云平台服务存在多种应用类型,其中很多应用相互依赖,但Kubernetes资源调度却没有考虑到这些应用之间相互依赖的关系。因此,当计算资源使用率高时,应用无法提供高质量的服务。经过系统需求分析后,设计了一个基于Kubernetes的私有云PaaS服务资源管理调度系统,该系统主要包括资源监测模块、资源调度模块以及资源预测模块等。通过对该系统的测试情况分析可知,该系统是可行且有效的。

Kubernetes Operator在云原生PaaS服务中的应用研究

近年来,随着云计算技术的快速发展,企业为了简化用户的部署流程,提供了多种PaaS服务。基于Kubernetes的云原生PaaS服务,通过容器化方式为用户提供了更加高效的PaaS解决方案。文章设计并实现了云原生PaaS服务的总体架构,构建了PaaS服务资源的部署、删除功能,以及PaaS服务配置维护的3个模型,并结合实践经验对云原生PaaS的优缺点进行了分析。

Kubernetes Operator在云原生PaaS服务中的应用研究

近年来,随着云计算技术的不断发展,企业为简化用户的部署流程,提供了多种PaaS服务。基于Kubernetes的云原生PaaS服务为用户提供了一种容器化的PaaS服务方式。文章设计并实现了云原生PaaS服务的总体架构,构建了PaaS服务资源的部署、删除以及配置维护的3大模型,并结合实践经验对云原生PaaS的优缺点进行了分析。

基于Kubernetes的无服务器计算与微服务集成架构研究

Kubernetes提供资源调度、应用部署与管理、自动修复、服务发现与负载均衡、弹性伸缩等分布式应用管理功能,屏蔽基础设施差异,成为企业多云管理的操作系统。容器是轻量、可移植、自包含的软件打包技术,能使应用程序在不同平台以相同的方式运行。服务网格将服务治理与业务逻辑解耦,服务治理下沉到基础设施,以无侵入方式实现服务轻量化。无服务器计算是事件驱动、无状态、短运行时间、敏捷自动伸缩和低成本。微服务是去中心、独立、自治、跨语言的小型软件实体集合。以容器为云原生应用的运行载体,用服务网格治理服务,将无服务器计算与微服务相结合,发挥各自优势,为企业提供完备、灵活的云原生应用解决方案。基于Kubernetes的无服务器计算与微服务集成架构为应用提供更好的弹性和灵活性,变革应用的设计、开发和管理模式。

基于Kubernetes的多云网络成本优化模型

以Kubernetes为代表的云原生编排系统在多云环境中被云租户广泛使用,随之而来的网络观测性问题愈发突出,跨云跨地区的网络流量成本尤为突出。在Kubernetes中引入扩展的伯克利数据包过滤器(extended Berkeley packet filter,eBPF)技术采集操作系统内核态的网络数据特征解决网络观测问题,随后将网络数据特征建模为二次分配问题(quadratic assignment problem,QAP),使用启发式搜索与随机搜索组合的方法在实时计算的场景下求得最佳近优解。此模型在网络资源成本优化中优于Kubernetes原生调度器中仅基于计算资源的调度策略,在可控范围内增加了调度链路的复杂度,有效降低了多云多地区部署环境中的网络资源成本。

Kubernetes异构资源细粒度调度策略的设计与实现

在异构资源环境中高效利用计算资源是提升任务效率和集群利用率的关键。Kuberentes作为容器编排领域的首选方案,在异构资源调度场景下调度器缺少GPU细粒度信息无法满足用户自定义需求,并且CPU/GPU节点混合部署下调度器无法感知异构资源从而导致资源竞争。综合考虑异构资源在节点上的分布及其硬件状态,提出一种基于Kubernetes的CPU/GPU异构资源细粒度调度策略。利用设备插件机制收集每个节点上GPU的详细信息,并将GPU资源指标提交给调度算法。在原有CPU和内存过滤算法的基础上,增加自定义GPU信息的过滤,从而筛选出符合用户细粒度需求的节点。针对CPU/GPU节点混合部署的情况,改进调度器的打分算法,动态感知应用类型,对CPU和GPU应用分别采用负载均衡算法和最小最合适算法,保证异构资源调度策略对不同类型应用的正确调度,并且在CPU资源不足的情况下充分利用GPU节点的碎片资源。通过对GPU细粒度调度和CPU/GPU节点混合部署情况下的调度效果进行实验验证,结果表明该策略能够有效进行GPU调度并且避免资源竞争。

面向Kubernetes的容器立体化监控系统

容器监控是保证容器基础设施正常运行的核心要素之一,然而当前容器监控角度较为单一,尚缺少直观有效的方法协助运维人员快速定位业务容器异常原因.本文设计并实现了一个面向Kubernetes的容器立体化监控系统,通过监控指标相关性分析,把相关性较强的指标作为立体化监控的核心指标提供给运维人员,更好地实现对容器的全局统筹监控.

基于Kubernetes的AI调度引擎平台

文中介绍了基于Kubernetes的AI调度引擎平台的设计与实现,针对当前人工智能调度系统中存在的服务配置复杂,集群中各节点计算资源利用率不均衡以及系统运维成本高等问题,本文提出了基于Kubernetes实现容器调度和服务管理的解决方案.结合AI调度引擎平台的需求,从功能实现和平台架构等方面设计该平台的各个模块.同时,针对Kubernetes无法感知GPU资源的问题,引入device plugin收集集群中每个节点上的GPU信息并上报给调度器.此外,针对Kubernetes调度策略中优选算法只考虑节点本身的资源使用率和均衡度,未考虑不同类型的应用对节点资源的需求差异,提出了基于皮尔逊相关系数(Pearson correlation coefficient,PCC)的优选算法,通过计算容器资源需求量与节点资源使用率的互补度来决定Pod的调度,从而保证调度完成后各节点的资源均衡性.

面向Kubernetes的容器混合伸缩方法

Kubernetes中基于容器的微服务系统是一种典型的云原生应用。已有容器动态调度算法大多只考虑容器数量的调整(水平伸缩),没有考虑容器本身的配置调整(垂直伸缩),导致集群资源的分配不合理。因此,论文提出了一种面向Kubernetes的容器混合伸缩方法,该方法采用排队模型计算应用所需的处理能力,以基于深度神经网络的容器性能模型为基础,将处理能力映射为具体的容器混合伸缩配置方案。基于Kubernetes集群上的实验结果表明,在保证服务水平协议(SLA)的前提下,该方法相较于其他方法资源消耗成本最低。