从模型调用到 Agent 运行,七牛云 AI Cloud 率先跑通全链路

2026-09-08 19:01:33
来源:七牛云
作者:夯实基础设施的
分享
AIME

问财摘要

1、过去,AI 基础设施的大部分讨论,都围绕模型展开。算力够不够,推理快不快,模型能不能稳定部署,Token 成本还能不能继续下降。这很合理。因为在大模型应用发展的第一个阶段,模型几乎就是整个 AI 应用的能力中心。 2、AI 系统的执行主体,正在从一次 Model Request,变成一个持续运行的 Task。而当基础设施需要承载的对象从 Request 变成 Task,整个 AI Cloud 的技术边界也会随之改变。
免责声明 内容由AI生成
文章提及标的

过去,AI 基础设施的大部分讨论,都围绕模型展开。

算力够不够,推理快不快,模型能不能稳定部署,Token 成本还能不能继续下降。

这很合理。

因为在大模型应用发展的第一个阶段,模型几乎就是整个 AI 应用的能力中心。

典型架构非常简单:Application → Model API → Model

应用把 Context 交给模型,模型完成推理,再把结果返回给应用。

在这套架构里,需要解决的问题也相对清晰:提供算力、部署模型、承载推理、开放 API,再进一步解决模型选择、调度、性能和成本。

MaaS 正是在这样的需求下快速成熟。

但 Agent 正在改变这套架构。

AI 系统的执行主体,正在从一次 Model Request,变成一个持续运行的 Task。

而当基础设施需要承载的对象从 Request 变成 Task,整个 AI Cloud 的技术边界也会随之改变。

01

从 Request 到 Task,AI 系统开始出现新的运行时问题

一次传统模型调用的生命周期(883436)很短。

输入 → 推理 → 输出。

基础设施只需要保证这一次调用有足够的算力、合理的延迟和稳定的服务质量。

但 Agent 完成一个任务时,执行过程可能完全不同:模型判断下一步 → 获取数据 → 调用 Tool → 执行代码 → 读取结果 → 再次推理 → 生成文件 → 保存状态 → 继续执行。

一个 Agent Task 已经不再发生在单一的模型服务里。它横跨模型、数据、工具、运行环境和存储。

模型负责的是 Reasoning。

但一个任务最终能不能完成,还依赖另外几件事情:

Agent 有没有可执行的环境;

能不能访问正确的数据;

Tool 是否能够被稳定调用;

任务产生的文件和中间状态能不能保存;

一次执行结束之后,下一步能不能继续。

模型解决下一步应该做什么,基础设施解决这一步能不能发生。

这也是 Agent 阶段与传统模型调用最大的不同。

模型能力依然是核心,但仅仅拥有更强的模型,不足以支撑一个 Agent 完整运行。

02

Agent Infra 本质上是在补齐模型之外的执行系统

如果把今天一个 Agent 拆开看,会发现它实际上同时依赖两类能力。

第一类是智能能力。也就是模型。模型完成理解、推理、规划和生成。

第二类是执行能力。包括代码运行、数据访问、工具调用、状态保存以及环境管理。

MaaS 主要解决第一类问题:如何稳定、高效地获得模型能力。

而 Agent Infra 开始解决第二类问题:模型做出决策之后,系统如何把决策转化成真实执行。

这就是为什么 Agent Sandbox、Agent API、Tool、Skill、MCP、Data Fetch、知识库以及文件、对象、向量存储,会逐渐出现在同一套基础设施体系里。

它们看起来是完全不同的产品能力。

但如果从 Agent Runtime 的角度看,它们实际上分别承担着不同职责:

Sandbox 解决“在哪里执行”;

Tool / Skill / MCP 解决“调用什么能力”;

Data Fetch / 知识库解决“从哪里获得信息”;

文件、对象、向量存储解决“执行过程中产生的数据放在哪里”;

Agent API 则负责把 Agent、Environment、Tool、Skill、Memory、MCP 等能力连接起来。

这些产品看起来分散,背后解决的其实是同一个问题:让 Agent 不只能够思考,还能够真正执行。

03

模型服务依然重要,但它正在成为更长链路中的一层

这并不意味着模型的重要性下降。

恰恰相反。

Agent 会产生更多模型调用,也会对模型调度、推理性能、模型生态提出更复杂的要求。

但模型服务正在从过去整个 AI 应用的终点,变成 Agent 执行链路中的一个核心节点。

一个 Agent 可能在不同步骤使用不同模型。

某一步需要复杂推理,某一步只需要简单分类;

某一步需要文本模型,某一步可能需要图像或者视频模型。

于是模型服务本身也会进一步基础设施化。

API 网关、模型部署、推理加速、资源配置、运维管理以及模型生态,不再只是为了方便开发者调用模型。

它们开始成为上层 Agent 调度智能能力的统一供给层。

04

七牛云 AI Cloud 的边界正在延伸

如果 Agent 进入生产环境,最终还是会回到非常传统的问题:计算资源从哪里来?不同任务如何隔离?执行环境如何调度?大量中间文件和长期数据如何保存?模型推理和 Agent 执行如何共享底层资源?

沿着这条技术链路,七牛云 AI Cloud 可以被理解为四层。

最底层,是基础设施平台。提供算力、容器、计算集群和高性能存储,为模型推理和 Agent 执行提供资源基础。

往上,是大模型服务。通过模型部署、API 网关、模型调度、推理加速和模型生态,把底层计算资源转化成可以被 AI 应用使用的智能能力。

再往上,是智能体平台。Agent Sandbox、Agent API、Tool、Skill、MCP、Data Fetch、知识库以及不同类型的数据存储,共同承担 Agent 的执行环境、能力调用、数据访问和状态管理。

最终,是具体的 AI 应用场景。包括 AI Coding、企业服务、短剧漫剧、创意创作,以及更多正在被 AI 重构的业务。

这也是七牛云 AI Cloud 正在延伸的能力边界:从底层 AI Infra、大模型服务,到智能体平台和应用场景,覆盖 AI 应用从模型调用到实际运行的完整链路。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME