|
“整理标书”和“提交标书”，看似只差两个字，却隔着一道权限边界。假如在上班路上，你让车载智能体准备投标材料，它能调取文件、查询资料，但会不会擅自签章、提交标书？当人工智能（885728）(AI)开始替人办事，这类问题变得越来越现实。
智能体从回答问题走向执行任务，人们关心的不只是它能否办成事，还有能否放心把事交给它。“我们在比较谁的智能体更值得信赖，这是AI进入高价值领域的前提。”北京熠序科技有限公司创始人兼CEO李德辉近日在接受上海证券报记者专访时说。
给智能体发“身份证”
还要管住它的“手脚”
“给每个智能体都发‘身份证’，同时管理智能体的意图，规范智能体的边界。”李德辉说，智能体需要可验证的身份、明确的行动权限，每次操作有迹可循，并通过持续积累行为记录，逐步形成信用体系。
有了身份，如何管住智能体的行动？李德辉将技术思路概括为“不猜它怎么想，看它怎么做”。大模型内部决策难以完全看清，但读取文件、调用工具、发送信息等动作，最终都要经过程序接口。公司据此将安全防线设在执行环节，通过“信任内核”检查操作是否越界。
智能体一旦跨越多个系统、连续执行任务，安全管理也随之复杂。李德辉表示，公司借助自研世界决策模型(NOVO WDM)及治理体系，对智能体可触达的数字空间、工具及权限建模，并探索端侧部署。将权限控制独立于模型本身，也是国际科技企业正在探索的方向。微软（MSFT）CEO纳德拉近期提出，应将智能能力与权限控制分开，不能让模型自行掌管安全边界。
目前，熠序科技相关方案已应用于部分央企私有化部署的模型服务，支持数字员工及企业内部智能体协作。李德辉称，公司正与硬件企业、通信运营商推进身份体系合作，并与芯片企业开展联合研发，探索在可信执行层内置身份管理能力。
他将模型厂商比作汽车制造商，负责车辆出厂前的质量控制；信任基础设施则像道路上的红绿灯和隔离带，约束车辆上路后的行为。“我们不跟任何大厂抢入口，也不替代它的产品。”在李德辉看来，技术、标准、商业网络和数据积累，将构成企业长期发展的竞争力。
从高价值场景切入
信任基础设施渐成新赛道
让智能体整理会议纪要，与授权它处理资金结算，企业对安全的要求显然不同。李德辉判断，金融、能源（850101）和矿山等行业有望率先产生需求：前者牵涉资金安全，后两者关系生命财产安全。咨询机构Gartner今年4月表示，仅13%的组织认为自身具备适当的智能体治理机制。随着智能体进入更多业务流程，如何约束其实际操作，成为企业面临的新问题。
到了物理世界，智能体越界的风险更加直观。“一个机器人在厨房里拿着刀切菜，它会不会拿着刀走进客厅？”李德辉举例说，机器人能够进入哪些空间、调用什么工具，同样需要明确边界。熠序科技目前围绕数字世界中的空间和权限展开建模，并与机器人企业探讨向物理世界拓展。
李德辉尤其看重运营商在智能体信任基础设施推广中的作用。“运营商既有网络基础设施的优势，又有客户运营的优势。”在他看来，算力、网络、模型和应用好比四块砖头，信任基础设施是将其连接起来的“水泥（884060）砂浆”。只有不同主体能够验证身份、确认权限，智能体才有望开展更广泛的可信协作。
对智能体身份与行为的管理，已进入政策和资本的视野。今年5月，国家网信办等部门印发《智能体规范应用与创新发展实施意见》，提出探索智能体数字身份管理、可信互联和行为管控机制。
“它是一个基础设施，所以不止我们在做。”李德辉说，公司正联合部分大型央国企推进相关标准建设，并通过业务部署积累数据、优化模型能力。希望更多产业伙伴和长期资本参与其中，共同建立智能体之间的信任机制，推进AI智能体（886099）进入更多高价值领域，释放AI生产力。
