面向服务器无感计算的模型推理服务切换方法研究

模型推理服务正随着大模型技术的发展被广泛应用,为模型推理服务构建稳定可靠的体系结构支撑逐渐成为云服务商关注的焦点。服务器无感计算是一种资源粒度细、抽象程度高的云服务计算范式,具有按需计费、弹性扩展等优势,能够有效提高模型推理服务的计算效率。但是,模型推理服务工作流呈现出多阶段的特点,独立的服务器无感计算框架难以确保模型推理服务工作流各阶段的最优执行。因此,如何利用不同服务器无感计算框架的性能特征,实现模型推理服务工作流各阶段的在线切换,缩短整体工作流的执行时间,是亟待解决的关键问题。讨论模型推理服务在不同服务器无感计算框架上的切换问题。首先,使用预训练模型构建模型推理服务函数,得出异构服务器无感计算框架的性能特征;其次,采用机器学习技术构建二分类模型,结合异构服务器无感计算框架的性能特征,实现模型推理服务在线切换框架原型;最后,搭建测试平台,生成模型推理服务工作流,完成在线切换框架原型的性能评估。初步实验结果表明,在线切换框架原型与独立的服务器无感计算框架相比,最大可缩短模型推理服务工作流57%的执行时间。

面向客户/服务器计算的网络体系结构模型

本文首先分析了客户／服务器计算（简称Ｃ／Ｓ计算）的特点及对网络技术的要求，然后针对Ｃ／Ｓ计算的特点提出结构化Ｃ／Ｓ计算网络体系结构ＳＣＳＮＡ（ｓｔｒｕｃｔｕｒａｌｃｌｉｅｎｔ／ｓｅｒｖｅｒ－ｃｏｍｐｕｔｉｎｇｎｅｔｗｏｒｋｉｎｇａｒｃｈｉｔｅｃｔｕｒｅ），并论述ＳＣＳＮＡ的关键技术．

中间件及其在三层客户机/服务器模型中的应用

本文介绍了中间件的五种类型及其各自的特点，并讨论了中间件在三层的客户机／服务器模型中应用的一个实例。

基于客户／服务器模型的数据库访问方法研究

客户（Ｃｌｉｅｎｔ）／服务器（Ｓｅｒｖｅｒ）结构作为一种新型的计算模式，已经成为网络环境下程序设计的实际标准模式及计算机工业和应用开发的主流。本文探讨了基于这种模式访问数据库的方法，着重讨论了无中间件（Ｍｉｄｄｌｅｗａｒｅ）或不采用中间件时访问数据库的问题。

基于OPC规范的客户/服务器模型设计

简要介绍了基于OPC规范的数据实时通信,着重分析了采用OPC技术的客户/服务器模型和实现该模型的MFC和ATL编程技术。MFC和ATL分别以嵌套类和多重继承的原理实现OPC接口,都以包容模型实现了OPCServer对象、OPCGroup对象、OPCItem对象。在客户端MFC和ATL分别通过单接口和双接口的编程方法实现与OPC服务器的通信。通过实践得出结论,在工业控制领域中对控制系统进行符合OPC规范的客户/服务器模型设计,并采用MFC或ATL的编程技术实现OPC控制软件是可行和高效的。

客户/服务器/客户模型与DAOIS

文中提出了一种新的网络计算模型－客户／服务器／客户模型（ＣＳＣ），并提出ＣＳＣ的一种支撑环境－分布式应用对象交互服务模型ＤＡＯＩＳ．该模型主要面向松散型的分布式独立应用系统的开发与集成，以平台级的、应用独立的、悬挂式的、网络透明平台透明应用代码透明的“软插件”为基础，辅以“包装”式的构造协议．

基于客户／服务器模型的程序设计

客户／服务器模型已经成为网络环境下的程序设计的实际标准模式。本文在简单介绍提出这种模型的背景之后，着重论述了它的基本工作原理，并以算法的形式讨论了客户程序和服务器程序的基本设计方法。最后，对这种思想的应用前景作了展望。

客户/服务器模型的一种拓广

该文介绍了对客户／服务器模型的一种拓广──客户／服务器／客户模型（ＣＳＣ），并给出了一种实例模型ＤＡＯＩＳ。ＣＳＣ除具有Ｃ／Ｓ模型的特点外，还支持多客户并发透明交互。

基于COM的三层客户/服务器模型

首先分析了两种应用程序结构—文件服务器与两层客户/服务器的局限性，在总结COM模型对分布式应用程序良好支持的基础上，对三层客户/服务器模型以及基于此模型的三种不同物理配置进行了深入讨论。

多层客户/服务器结构下的网络计算技术

通过对传统的两层客户 /服务器结构与三层客户 /服务器结构的工作原理与机制的分析比较 ,阐述了多层客户 /服务器结构的特点 ,揭示了传统的两层客户 /服务器结构的弊端以及三层客户 /服务器结构的优点 .同时还给出了如何实现多层客户 /服务器结构的一种有效的方法 ,分析了实现多层客户 /服务器结构的关键所在 .

一种新的计算机应用体系结构──客户机／服务器

本文介绍了客户机／服务器的产生背景、工作原理及其开发工具。

基于中间件的客户/多服务器协作模型的研究及应用

结合实际应用 ,提出基于中间件的客户机 /多服务器协作模型 ,介绍了中间件的一些基础知识 。

CORBA在三层客户机/服务器模型中的应用

本文通过对两层及三层客户机/服务器模型进行分析比较,提出了基于CORBA技术的三层客户机/服务器模型,此模型正式分离了客户机与服务器,并结合实例说明了它在实际中的应用。

客户／服务器计算环境及其应用系统分析

客户／服务器计算环境（ＣＳＣＥ）是一个先进、开放的计算环境，已被许多大型信息系统用作系统平台。本文从降低应用系统复杂性出发，分析了ＣＳＣＥ上应用系统的复杂性及其影响因素和系统设计中的关键问题。设计实例证明，在系统平台设计中引入同构设计方法，采用ＥＤＩ思想解决系统互连问题，具有降低系统复杂性，提高系统维护独立性和运行独立性的作用。

一个基于客户／服务器模型的TUBEN系统

本文简介客户／服务器的定义和分类，讨论在异种机互连的网络环境中，设计和实现一个基于客户／服务器的图文声象集成工具的方法。详细给出了系统实现的基石──异步传输服务。

客户/服务器模型的一种实现

本文讨论客户／服务器计算与传统模式的区别，分析在Ｎｅｔｗａｒｅ环境下，如何实现站间实时通信功能，总结出开发基于ＩＰＸ通信程序的注意事项。对充分利用Ｃ＋＋特性，设计数据库管理系统、客观客户／服务器功能，也作了详细阐述。

瘦客户/服务器计算技术及实现

从瘦客户/服务器计算技术的概念、工作原理及实现过程等几个方面进行论述,详实地展示了瘦客户/服务器计算技术在解决低档计算机被淘汰问题上的优势。使用瘦客户/服务器计算技术,用户能够从现有的硬件、操作系统、软件、网络、标准中受益,极大地延长了计算机硬件结构的使用寿命,而且便于管理、维护。

客户机／服务器计算机系统

客户机／服务器计算机系统是当前广为流行的一种系统，本文简要介绍了客户机／服务器系统和基本概念、特点、系统组成与分类、优缺点，以及在客户机／服务器系统中当前必须解决的重点问题。

COM组件的客户/服务器模型

分析了COM组件技术 ,阐述了COM组件的特点和结构 ,探讨了COM组件的客户

基于随机Petri网的客户/服务器模型及其分析

提出了一种基于随机Petri网的客户 服务器模型 ,模拟了客户 服务器系统的基本工作原理 ,在此基础上 ,利用随机Petri网的时间特性对该模型进行了定量分析 .