NetGPT:超越个性化生成服务的内生智能网络架构

提出了基于边缘和云端部署相匹配大型语言模型(LLM)的内生智能网络架构NetGPT方案。边缘LLM可以有效地利用基于位置的信息进行个性化的补充,从而与云端LLM进行有效交互。通过在边缘和云端部署开源LLM,验证了NetGPT的可行性。认为面向NetGPT的内生智能网络架构的工作重点是通信和计算资源的深度集成以及AI逻辑工作流的灵活设计。认为NetGPT是一种可提供个性化的生成式服务的、有前途的内生智能网络架构。