摩尔线程开源高性能线性代数模板库 MUTLASS,加速基于国产 GPU 的算子开发以及算法创新
IT之家 11 月 12 日消息,摩尔线程宣布开源高性能线性代数模板库 MUTLASS,以便开发者能够更高效针对摩尔线程全功能 GPU 的 MUSA Core 及 Tensor Core 等单元进行编程,加速基于国产 GPU 的算子开发以及算法创新。
作为摩尔线程专为 MUSA 架构优化的高性能计算库,MUTLASS(MUSA Templates for Linear Algebra Subroutines)是基于开源模板库 CUTLASS 进行的 MUSA 适配和定制化开发、优化。
针对矩阵乘法及相关变种,MUTLASS 提供了一系列高性能的 C++ 模板组件,并采用了与 muDNN 库类似的分层分解及数据搬运策略,以确保性能的充分发挥。
在本次开源的版本中,摩尔线程适配了 CuTe 后端库,为其增加了第三代 MUSA 架构的 MMA 计算原语,支持 TF32 / FP16 / BF16 / INT8 等多种数据精度,并以此为基础,初步实现了矩阵乘法、默认实例库、性能测试器及相关工具包的支持。
IT之家附 MUTLASS 开源地址:https://github.com/MooreThreads/mutlass
0人
- 每日推荐
- 股票频道
- 要闻频道
- 港股频道
- “机构举报游资”?传闻求证:不实
- 国家统计局:10月份国民经济运行稳中有进,主要经济指标回升明显
- 宁德时代自研机器人并接触多家外部公司
- 机构论市:AI催化下影视、游戏板块或迎业绩+估值双重修复
- 鲍威尔放鹰:美联储无需急于降息!
- 中信证券:资产保值增值为股市客户核心痛点 高客与大众需求明显分化
- 腾讯推出AI搜索ima 机构看好科技产业围绕AI展开(附概念股)
- 11月15日盘前停复牌汇总
- 大模型祛魅 AI应用时代脚步临近