FusionXpark GB10无交换机级联实测:4台互联,推理吞吐最高提升超2.5倍

来源:超聚变 作者:XFUSION 2026-11-19 16:40:26

  当AI应用从尝鲜走向生产,一个现实问题摆到面前:单台设备的推理算力,还够用吗?

  不够。本地知识库问答、长文档分析、AI编程辅助……负载一上来,单台设备很快吃紧。多买几台、组个集群?传统组网要配交换机、要理拓扑、要占机柜,部署门槛并不低。

  能不能让多台设备直接互联、不挂交换机,照样高效协同推理?

  超聚变用4台FusionXpark GB10给出了答案。

  01

  FusionXpark GB10桌面AI超级计算机

  FusionXpark GB10是超聚变推出的桌面AI超级计算机——机身只有书本大小(150mm × 150mm × 50.5mm,重1.2kg),却是一台完整的AI算力平台。

  FusionXpark GB10桌面AI超级计算机

  它的核心是NVIDIA GB10 Grace Blackwell超级芯片:Blackwell架构GPU配备6144个CUDA核心与第五代Tensor Core,单台算力高达1 PFLOPS@FP4(稀疏值);配合128GB LPDDR5x统一内存(带宽273GB/s),CPU与GPU共享一致的内存空间,大模型不必再为显存容量所困。单台设备即可完成200B参数模型的本地推理与70B参数模型的微调;内置NVIDIA ConnectX-7高速智能网卡,为设备间高速互联天然留好了接口。

  软件层面同样开箱即用:预装NVIDIA DGX OS操作系统,无缝支持CUDA生态,并内置超聚变FusionXplay本地AI应用市场,从模型原型设计、微调、推理部署到智能体上线,全栈工具链一站配齐。DeepSeek、Qwen、Llama等主流大模型,都能在本地直接跑起来。

  一句话概括:数据中心级的AI能力,放进了桌面的小盒子里。而当一台不够用时——四台互联,就是接下来要讲的故事。

  02

  四机环形直连,无交换机组网

  这套方案的思路非常直接:4台FusionXpark GB10通过环形组网直连,以mesh硬件转发承载数据面,配合rocenate协议完成机间通讯软件栈基于SGLang v2.3多机并行调度(TP4+EP1),运行DGX OS。

  不再依赖独立交换机,也能实现多机协同推理。

  这意味着:4台设备、几根直连线缆,就是一套可扩展的桌面AI推理集群。

  FusionXpark GB10四机无交换机环网级联,mesh硬件转发+rocenate协议·环形直连

  03

  实测成效:多机调度优化,吞吐最高提升超2.5倍

  在DeepSeek-V4.1-Flash(1017)模型下,我们对4台FusionXpark GB10的多机调度做了系统调优(SGLang v2.3 · TP4+EP1),并选取典型场景完成了调优前后对比实测。

  调优后,首字延迟(TTFT)最高降低44%,输出吞吐最高提升257%(超2.5倍)——同样的4台设备、同样的模型,只是让多机调度协同得更聪明。

  几个值得关注的细节:

  长上下文场景收益最显著:16K/8K文档写作单并发下,输出吞吐由24.65tps提升至87.99tps(+257%),多机调度对长文本负载的加速效果明显;

  中短负载同样受益:4K/4K通用复杂任务单并发下,输出吞吐由28.76tps提升至73.48tps(+155%);4并发下聚合吞吐由69tps提升至120.52tps(+75%);

  首Token延迟显著下降:4K/4K场景首字延迟由0.95s降至0.53s(-44%),多并发下同样保持低延迟,交互体验流畅。

  调优前后实测对比:4×FusionXpark GB10 · DeepSeek-V4.1-Flash(1017)· SGLang v2.3(TP4+EP1)

  04

  这些场景,正是为它准备的

  中小企业私有化推理

  4台以内的集群规模,环形直连组网,部署简单,不依赖额外网络设备——没有独立网络机柜条件,也能把多机协同跑起来。

  制造/政企本地知识库

  已跑通制造行业本地知识库方案,数据不出本地,规避公有云的合规顾虑;多机级联让并发查询的吞吐更从容。

  RAG与长文档分析

  检索增强生成是私有化推理最高频的刚需场景之一,多机协同下并发查询吞吐更从容,长文档处理也能稳定提效。

  AI Coding团队协作

  多人同时发起长上下文编码请求时,4机协同将长上下文负载分摊开来,让AI编程助手真正成为团队生产力。

  05

  多机协同,正在成为桌面AI算力走向规模化的一条新路径

  从单机到集群,过去往往意味着一次不小的“网络工程”。FusionXpark GB10四机无交换机级联方案,把这件事变成了一次简单的连接——多机协同,让桌面AI推理算力可扩展。

  如果您正在规划私有化推理部署,或想了解这套方案在自己业务负载下的表现,欢迎与我们联系,获取完整测试数据与部署支持。

  *数据说明:以上实测数据来自超聚变实验室特定环境下的调优前后对比测试——4×FusionXpark GB10、DeepSeek-V4.1-Flash(1017)、SGLang v2.3(TP4+EP1),对比基线为实验室默认参数下同场景实测数据;实际性能会因硬件配置、模型版本与负载情况而有所不同。

相关板块
相关个股
相关资讯
免责声明:本文转载上述内容出于传递更多信息之目的,不代表同花顺财经的观点。文章内容仅供参考,不构成投资建议。同花顺力求但不保证数据的完全准确,如有错漏请以证监会指定上市公司信息披露平台为准,各类信息服务基于人工智能算法,投资者据此操作,风险自担。