伴随海内外大模型密集上新、及AI智能体(886099)快速普及,带动算力市场持续升温。作为AI服务计费、结算的基础单位,Token已从底层技术要素演进为数字经济(885976)的核心价值载体。而优化网络传输管道,是控制Token综合成本的核心路径之一。但随着AI服务规模化部署,多租户混部成为常态。如何避免不同租户的训练、推理流量相互挤占,成为网络优化的核心挑战。
对于算力租赁(886050)服务商来说,如何在保障租户服务质量的前提下,实现租户资源的弹性调度、智能优管,是企业发展、客户服务的根基。当下算力租赁(886050)业务需重点解决如下问题:
租户资源交付的验证性材料:要保障从敏捷调度到交付验证的闭环,用可量化测试结果,给租户“网络性能100%合格”的确定性服务。
多租户混部易互相干扰:租户间需要“租户隔离“和“流量隔离”双管齐下,多租户混部的情况下,极易出现互相干扰、拖慢性能。
效率与稳定性需兼顾:多租户多业务并发运行,既要保障资源利用率,又要保障系统稳定性。
元脉网络ICE三大功能让租户业务无忧、合作稳固
第一大功能,租户管理:ICE可以根据客户需求,对租户进行“增”、“删”、“改”、“查”,并支持对Fabric、VLAN ID、网段、服务器等资源进行细分,完成资源的分区统筹、和客户分层管理,简化运维。
第二大功能,自助验网:针对算力资源交付测试与核验难题,ICE可提前完成全量性能校验,支持大客户的“自助网络验收”。客户可以自助完成资源检测并生成标准化交付报告,从源头规避交付争议,杜绝售后体验不佳与人力内耗。高效降本的同时,提高服务专业性。
第三大功能,租户隔离:针对多租户多业务并发场景,如何保障租户间的“资源隔离与运行”互不干扰尤为关键。ICE通过VLAN+ACL、VRF、EVPN VXLAN等多种技术,搭配自适应路由完成资源的智能调度。可以保障多租户资源混部也互不干扰,提高用户使用体验,让算力运行平稳可靠。
通过“智能运维+租户优管”功能,为不同租户或业务划分独立的“通道”,实现推理与训练流量的隔离,保障各租户的服务等级协议(SLA)。在提升资源利用率的同时,避免“一租户拖累全局”的资源内耗问题,化“被动”为“主动”,助力合作永续!
AI赋能未来互联构筑基石
元脉浪潮信息(000977)旗下网络业务品牌作为AI时代网络创新引领者,元脉网络可以为用户提供面向AI时代的智算中心、数据中心、园区网络等全栈网络方案。并坚持可靠、开放、智能的发展理念,持续深化自身在技术创新、场景创新、合作创新上的能力,为AI时代算力、数据价值的释放,打造坚实互联基石。
