腾讯混元:295B参数模型Hy3单卡即可部署

来源: 2026-07-14 17:12:23
关键词:

  7月14日,腾讯混元发文表示,Hy3上线并开源后,社区一直在呼吁量化版本,希望单卡跑参数量达295B的Hy3。团队针对开源社区需求,把Hy3的权重量化到1bit与4bit并打包成GGUF,配合llama.cpp生态,让原本只能跑在多卡集群上的模型,最少一张推理显卡、乃至内存充足的本地机器也能跑起来。

相关板块
相关个股
相关资讯
免责声明:本文转载上述内容出于传递更多信息之目的,不代表同花顺财经的观点。文章内容仅供参考,不构成投资建议。同花顺力求但不保证数据的完全准确,如有错漏请以证监会指定上市公司信息披露平台为准,各类信息服务基于人工智能算法,投资者据此操作,风险自担。