基于在网计算NACA的边缘算力负载均衡方案

1目标和概述1.1目标问题在客户边缘云场景中,云厂商会将公有云的基础设施(包括服务器、网元设备)压缩到一个体积较小的机柜中对客户输出,例如AWS outposts边缘机柜,如图1所示。在这种部署在客户生产现场的客户边缘云场景中,云厂商不能完全基于传统公有云的scale-out策略通过不断叠加x86 NFV网元来提升网络的处理性能。在这种情况下,边缘服务提供商所能提供的算力资源非常宝贵,需要尽可能提升有效算力提供的能力。但现有边缘计算解决方案往往会面临多核CPU计算核心负载不均衡的问题,有效算力较低,且一旦为burst流量提供服务,会发生大流打爆单一计算核心的瓶颈问题,造成整体服务质量劣化,如图2所示。

面向工业互联网的在网计算加速技术

工业互联网的不断发展,对计算效率和网络传输能力同时提出了更高要求。在网计算是一种将应用处理过程卸载至网络转发节点的计算加速技术,其通过网络与应用的深度融合,实现系统加速,提升了算网资源利用率。针对工业互联网更加严格的业务需求,本文介绍了在网计算面向工业互联网的应用场景及关键技术,实现了工业互联网应用部署加速。

通用在网计算系统架构及协议设计

生成式人工智能大模型训练以及海量的大数据实时处理对任务处理性能提出了更高要求。在网计算在数据完成尽力而为转发的基础上,进一步将计算相关的操作卸载至转发节点,可以有效提升系统计算效率。针对当前在网计算系统设计碎片化问题开展研究,提出了满足多种在网计算场景的通用系统架构,并进行相关协议设计。通用在网计算架构兼顾了系统实现的灵活性以及应用开发友好性,为进一步推进在网计算的规模化应用提供了新思路。