一边加快AI工厂建设,一边推动企业掌控自己的智能能力。黄仁勋在GTC柏林的最新演讲,让这两条产业线索进一步交汇。
10月21日,英伟达(NVDA)发布模块化AI工厂参考设计DSX POD,提出在场地配套就绪后,将现场部署时间缩短至最快14天;围绕DSX平台的更新,则提出在相同Token产出下,最高减少30%的功耗。
这两个数字背后,是AI产业正在面对的现实命题:如何让昂贵的算力更早投入运行,并持续产生有价值的智能服务?
随着智能体进入业务流程,一次任务可能包含资料检索、多轮推理、工具调用与结果校验。企业对AI的需求,随之从偶尔调用,转向持续运行。
需求变化,也在改变基础设施的评价标准。
设备是否先进只是起点。模型能否高效运行、并发请求能否稳定承接、资源能否灵活调度,都会影响最终服务成本。即使采用相同的GPU,不同的部署与运营能力,也可能带来不同的业务效果。
因此,Token工厂的产业价值,在于将算力、模型和软件组织成可持续交付的推理服务。部署提速缩短投入等待期,推理优化改善资源效率,计量与运维则让服务能够长期经营。
对企业而言,真正值得关注的指标,是在明确的质量与响应要求下,完成业务任务需要多少成本。
与AI工厂建设同步升温的,是主权AI。英伟达(NVDA)在柏林强调,通过开放模型与可控基础设施,让本地数据和专业知识形成适配自身需求的智能能力。
这一趋势延伸到企业,指向的是对数据、模型服务和运行过程的控制。
企业的工艺经验、研发资料、客户信息和历史决策,构成了难以复制的知识资产。AI越深入业务,越需要读取这些信息,甚至调用内部系统执行操作。部署地点、访问权限、数据流向和操作记录,也就成为基础设施建设的一部分。
这意味着,效率与控制权需要同时考虑:既要获得持续可用的推理服务,也要能够决定哪些数据在哪里处理、哪些应用可以访问、哪些操作需要授权。
Token工厂回答智能服务如何高效供给,主权AI进一步追问,这种能力由谁掌控。
作为英伟达(NVDA)的合作伙伴,奥尼持续围绕AI推理与智能体落地推进产品和方案布局。这场演讲所呈现的基础设施演进方向,也与奥尼正在回应的企业需求紧密相连。
围绕Token生产、供给与应用,奥尼构建了多元的业务交付体系。
在Token应用环节,针对核心数据需要在自有环境处理、模型与Agent需要本地化运行的需求,奥尼提供企业私有化Token全栈解决方案。通过配置端边云算力、部署模型服务并接入应用生态,帮助企业在明确的数据与权限边界内使用AI,为企业主权AI落地提供核心支撑。
在Token供给环节,针对希望直接获得推理服务的客户,奥尼已依托深圳自建高性能GPU集群,建成并运营Token工厂,以TaaS(Token即服务)模式,通过标准化API提供主流大模型推理服务,供企业按需调用。这也为奥尼积累了从模型适配、推理优化到持续运营的实践经验,为企业私有化部署及Token工厂建设交付提供范本。
在Token生产环节,针对有工厂建设与运营需求的客户,奥尼提供Token工厂整体解决方案,从规划建设延伸至生产运营,将集群建设、模型部署、推理优化与运维服务组织起来,交付可持续运行的Token工厂。
从私有化应用,到服务调用,再到工厂建设,奥尼以不同交付方式,匹配客户使用、获取和生产智能服务的需求。
支撑这套业务体系的,是软硬件协同创新。
硬件层面,奥尼NeoFrog青跃桌面级AI工作站、EdgeFrog栖界企业级AI微节点,以及CloudFrog云穹AI推理服务器,提供不同部署形态的算力底座。其中,AI推理服务器是构建推理集群与Token工厂的重要算力单元。
平台层面,TokenPond元池连接端边云资源,统一管理算力与模型服务,根据任务需求调配资源、计量使用情况,并支持业务应用和Agent接入,让设备资源进一步转化为可管理、可调用的推理服务。
当AI成为日常生产的一部分,企业积累的不仅是使用经验,还有基于自身知识、流程与数据形成的智能能力。稳定的Token供给,让这种能力持续运行;可控的部署与管理,让它能够留在企业、服务业务,并不断演进。
让算力转化为生产力,让企业知识沉淀为自主掌控的智能能力。这正是Token工厂与主权AI交汇的价值所在,也是奥尼AI围绕Token生产、供给与应用持续推进的方向。
