FusionXpark GB10无交换机级联实测:4台互联,推理吞吐最高提升超2.5倍
当AI应用从尝鲜走向生产,一个现实问题摆到面前:单台设备的推理算力,还够用吗?
不够。本地知识库问答、长文档分析、AI编程辅助……负载一上来,单台设备很快吃紧。多买几台、组个集群?传统组网要配交换机、要理拓扑、要占机柜,部署门槛并不低。
能不能让多台设备直接互联、不挂交换机,照样高效协同推理?
超聚变用4台FusionXpark GB10给出了答案。
01
FusionXpark GB10桌面AI超级计算机
FusionXpark GB10是超聚变推出的桌面AI超级计算机——机身只有书本大小(150mm × 150mm × 50.5mm,重1.2kg),却是一台完整的AI算力平台。
FusionXpark GB10桌面AI超级计算机
它的核心是NVIDIA GB10 Grace Blackwell超级芯片:Blackwell架构GPU配备6144个CUDA核心与第五代Tensor Core,单台算力高达1 PFLOPS@FP4(稀疏值);配合128GB LPDDR5x统一内存(带宽273GB/s),CPU与GPU共享一致的内存空间,大模型不必再为显存容量所困。单台设备即可完成200B参数模型的本地推理与70B参数模型的微调;内置NVIDIA ConnectX-7高速智能网卡,为设备间高速互联天然留好了接口。
软件层面同样开箱即用:预装NVIDIA DGX OS操作系统,无缝支持CUDA生态,并内置超聚变FusionXplay本地AI应用市场,从模型原型设计、微调、推理部署到智能体上线,全栈工具链一站配齐。DeepSeek、Qwen、Llama等主流大模型,都能在本地直接跑起来。
一句话概括:数据中心级的AI能力,放进了桌面的小盒子里。而当一台不够用时——四台互联,就是接下来要讲的故事。
02
四机环形直连,无交换机组网
这套方案的思路非常直接:4台FusionXpark GB10通过环形组网直连,以mesh硬件转发承载数据面,配合rocenate协议完成机间通讯软件栈基于SGLang v2.3多机并行调度(TP4+EP1),运行DGX OS。
不再依赖独立交换机,也能实现多机协同推理。
这意味着:4台设备、几根直连线缆,就是一套可扩展的桌面AI推理集群。
FusionXpark GB10四机无交换机环网级联,mesh硬件转发+rocenate协议·环形直连
03
实测成效:多机调度优化,吞吐最高提升超2.5倍
在DeepSeek-V4.1-Flash(1017)模型下,我们对4台FusionXpark GB10的多机调度做了系统调优(SGLang v2.3 · TP4+EP1),并选取典型场景完成了调优前后对比实测。
调优后,首字延迟(TTFT)最高降低44%,输出吞吐最高提升257%(超2.5倍)——同样的4台设备、同样的模型,只是让多机调度协同得更聪明。
几个值得关注的细节:
长上下文场景收益最显著:16K/8K文档写作单并发下,输出吞吐由24.65tps提升至87.99tps(+257%),多机调度对长文本负载的加速效果明显;
中短负载同样受益:4K/4K通用复杂任务单并发下,输出吞吐由28.76tps提升至73.48tps(+155%);4并发下聚合吞吐由69tps提升至120.52tps(+75%);
首Token延迟显著下降:4K/4K场景首字延迟由0.95s降至0.53s(-44%),多并发下同样保持低延迟,交互体验流畅。
调优前后实测对比:4×FusionXpark GB10 · DeepSeek-V4.1-Flash(1017)· SGLang v2.3(TP4+EP1)
04
这些场景,正是为它准备的
中小企业私有化推理
4台以内的集群规模,环形直连组网,部署简单,不依赖额外网络设备——没有独立网络机柜条件,也能把多机协同跑起来。
制造/政企本地知识库
已跑通制造行业本地知识库方案,数据不出本地,规避公有云的合规顾虑;多机级联让并发查询的吞吐更从容。
RAG与长文档分析
检索增强生成是私有化推理最高频的刚需场景之一,多机协同下并发查询吞吐更从容,长文档处理也能稳定提效。
AI Coding团队协作
多人同时发起长上下文编码请求时,4机协同将长上下文负载分摊开来,让AI编程助手真正成为团队生产力。
05
多机协同,正在成为桌面AI算力走向规模化的一条新路径
从单机到集群,过去往往意味着一次不小的“网络工程”。FusionXpark GB10四机无交换机级联方案,把这件事变成了一次简单的连接——多机协同,让桌面AI推理算力可扩展。
如果您正在规划私有化推理部署,或想了解这套方案在自己业务负载下的表现,欢迎与我们联系,获取完整测试数据与部署支持。
*数据说明:以上实测数据来自超聚变实验室特定环境下的调优前后对比测试——4×FusionXpark GB10、DeepSeek-V4.1-Flash(1017)、SGLang v2.3(TP4+EP1),对比基线为实验室默认参数下同场景实测数据;实际性能会因硬件配置、模型版本与负载情况而有所不同。