中金公司(HK3908)研报称,大模型参数规模、长上下文及并行策略推升了卡间通信需求,AI基础设施瓶颈正由单芯片算力转向互联效率、资源调度和系统协同。Scale-up通过扩大高带宽、低时延互联域,聚合算力和HBM资源,降低通信瓶颈对训练及推理效率的制约。中金公司(HK3908)认为,超节点有望成为AI算力的重要组织方式,推动交换芯片及交换托盘、光互联、液冷和高功率电源等环节迎来需求扩张与技术升级。(人民财讯)
中金公司(HK3908)研报称,大模型参数规模、长上下文及并行策略推升了卡间通信需求,AI基础设施瓶颈正由单芯片算力转向互联效率、资源调度和系统协同。Scale-up通过扩大高带宽、低时延互联域,聚合算力和HBM资源,降低通信瓶颈对训练及推理效率的制约。中金公司(HK3908)认为,超节点有望成为AI算力的重要组织方式,推动交换芯片及交换托盘、光互联、液冷和高功率电源等环节迎来需求扩张与技术升级。(人民财讯)