黄仁勋柏林演讲释放新信号:企业需要怎样的Token基础设施?利好

2026-10-24 14:51:50
作者:奥尼电子
分享
AIME

问财摘要

1、英伟达发布模块化AI工厂参考设计DSX POD,提出将现场部署时间缩短至最快14天,并在相同Token产出下,最高减少30%的功耗。 2、企业对AI的需求,随之从偶尔调用,转向持续运行,因此,Token工厂的产业价值在于将算力、模型和软件组织成可持续交付的推理服务。 3、同时,企业需要对数据、模型服务和运行过程的控制,以获得持续可用的推理服务,并决定哪些数据在哪里处理、哪些应用可以访问、哪些操作需要授权。
免责声明 内容由AI生成
文章提及标的

一边加快AI工厂建设,一边推动企业掌控自己的智能能力。黄仁勋在GTC柏林的最新演讲,让这两条产业线索进一步交汇。

10月21日,英伟达(NVDA)发布模块化AI工厂参考设计DSX POD,提出在场地配套就绪后,将现场部署时间缩短至最快14天;围绕DSX平台的更新,则提出在相同Token产出下,最高减少30%的功耗。

这两个数字背后,是AI产业正在面对的现实命题:如何让昂贵的算力更早投入运行,并持续产生有价值的智能服务?

随着智能体进入业务流程,一次任务可能包含资料检索、多轮推理、工具调用与结果校验。企业对AI的需求,随之从偶尔调用,转向持续运行。

需求变化,也在改变基础设施的评价标准。

设备是否先进只是起点。模型能否高效运行、并发请求能否稳定承接、资源能否灵活调度,都会影响最终服务成本。即使采用相同的GPU,不同的部署与运营能力,也可能带来不同的业务效果。

因此,Token工厂的产业价值,在于将算力、模型和软件组织成可持续交付的推理服务。部署提速缩短投入等待期,推理优化改善资源效率,计量与运维则让服务能够长期经营。

对企业而言,真正值得关注的指标,是在明确的质量与响应要求下,完成业务任务需要多少成本。

与AI工厂建设同步升温的,是主权AI。英伟达(NVDA)在柏林强调,通过开放模型与可控基础设施,让本地数据和专业知识形成适配自身需求的智能能力。

这一趋势延伸到企业,指向的是对数据、模型服务和运行过程的控制。

企业的工艺经验、研发资料、客户信息和历史决策,构成了难以复制的知识资产。AI越深入业务,越需要读取这些信息,甚至调用内部系统执行操作。部署地点、访问权限、数据流向和操作记录,也就成为基础设施建设的一部分。

这意味着,效率与控制权需要同时考虑:既要获得持续可用的推理服务,也要能够决定哪些数据在哪里处理、哪些应用可以访问、哪些操作需要授权。

Token工厂回答智能服务如何高效供给,主权AI进一步追问,这种能力由谁掌控。

作为英伟达(NVDA)的合作伙伴,奥尼持续围绕AI推理与智能体落地推进产品和方案布局。这场演讲所呈现的基础设施演进方向,也与奥尼正在回应的企业需求紧密相连。

围绕Token生产、供给与应用,奥尼构建了多元的业务交付体系。

在Token应用环节,针对核心数据需要在自有环境处理、模型与Agent需要本地化运行的需求,奥尼提供企业私有化Token全栈解决方案。通过配置端边云算力、部署模型服务并接入应用生态,帮助企业在明确的数据与权限边界内使用AI,为企业主权AI落地提供核心支撑。

在Token供给环节,针对希望直接获得推理服务的客户,奥尼已依托深圳自建高性能GPU集群,建成并运营Token工厂,以TaaS(Token即服务)模式,通过标准化API提供主流大模型推理服务,供企业按需调用。这也为奥尼积累了从模型适配、推理优化到持续运营的实践经验,为企业私有化部署及Token工厂建设交付提供范本。

在Token生产环节,针对有工厂建设与运营需求的客户,奥尼提供Token工厂整体解决方案,从规划建设延伸至生产运营,将集群建设、模型部署、推理优化与运维服务组织起来,交付可持续运行的Token工厂。

从私有化应用,到服务调用,再到工厂建设,奥尼以不同交付方式,匹配客户使用、获取和生产智能服务的需求。

支撑这套业务体系的,是软硬件协同创新。

硬件层面,奥尼NeoFrog青跃桌面级AI工作站、EdgeFrog栖界企业级AI微节点,以及CloudFrog云穹AI推理服务器,提供不同部署形态的算力底座。其中,AI推理服务器是构建推理集群与Token工厂的重要算力单元。

平台层面,TokenPond元池连接端边云资源,统一管理算力与模型服务,根据任务需求调配资源、计量使用情况,并支持业务应用和Agent接入,让设备资源进一步转化为可管理、可调用的推理服务。

当AI成为日常生产的一部分,企业积累的不仅是使用经验,还有基于自身知识、流程与数据形成的智能能力。稳定的Token供给,让这种能力持续运行;可控的部署与管理,让它能够留在企业、服务业务,并不断演进。

让算力转化为生产力,让企业知识沉淀为自主掌控的智能能力。这正是Token工厂与主权AI交汇的价值所在,也是奥尼AI围绕Token生产、供给与应用持续推进的方向。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME