在近日举办的2026年CCF全国信息存储技术学术会议上,中科曙光(603019)正式发布全新升级的AI推理原生存储FN Neo,用一套共享存储池来承接推理业务的各类数据,为AI推理规模化落地提供了新的存力底座。
▍让推理中间结果“共享”起来
智能体时代加速到来,AI推理业务规模快速扩张,推理占比持续走高。大模型在回答问题时,会生成一批可复用的中间数据(KV Cache),传统模式是把这些数据存在本地,彼此割裂,难以实现跨会话、跨节点复用,拖慢了整体推理效率。
业界过去普遍认为,AI推理更依赖服务器本地硬盘。但随着大模型上下文越来越长、用户并发越来越多,本地缓存显存不足、硬件闲置等问题日益凸显。而集中式存储的池化共享架构,早已在金融、通信等对稳定性要求极高的行业得到大规模验证。
FN Neo将这套成熟能力引入AI推理领域,跳出单节点硬件局限,通过升级资源池化能力,将各个计算节点的中间数据统一管理、跨节点复用,减少了重复计算。在优化大模型推理性能的同时,也大幅提升了昂贵算力硬件的利用率。
▍快、稳、开放,让AI推理“火力全开”
FN Neo延续了中科曙光(603019)高端集中式存储的高性能基因,单阵列带宽可达160GB/s、亚毫秒级时延。实测数据显示,其延迟表现、吞吐量和多请求并发数相比传统本地NVMe方案均有约2倍提升。
作为专为AI推理打造的集中式全闪存储,FN Neo更可实现模型首Token响应时间缩减73%,整体Token吞吐能力提升150%,显著改善用户交互体验。
面向生产级AI业务,仅有性能突破远远不够。FN Neo提供99.999%的高可靠运行保障,通过慢盘自动隔离、故障无损重构等机制,保障推理业务7×24小时不间断运行。
同时,它打通了SAN/NAS/KV(块、文件和键值)三类数据接口,可无缝对接vLLM、LMCache、Mooncake等主流推理框架,企业无需大规模改造现有推理环境即可完成接入,减少多节点的重复存储开销。
FN Neo的推出,补齐了AI推理场景下集中式存储的能力拼图,为Agent、长上下文大模型等业务的大规模落地,提供了一套经过工程验证的存力新选择。
