川流知序Chovsue

摩尔线程基于MTT S5000完成Kimi K3.1 Pro训练适配

2026-11-17 · 1 次浏览

适配进展

据摩尔线程消息,近期月之暗面开源了其旗舰模型Kimi K3.1 Pro,该模型参数量达2.8万亿。摩尔线程已基于旗舰级AI训推一体智算卡MTT S5000与MUSA软件栈,完成了对该模型的训练适配工作。

技术链路

在此次适配中,摩尔线程构建了原生FSDP2多模态训练路径。该技术路径打通了完整训练链路,具体涵盖模型加载、分片调度以及梯度同步等环节。据第一财经报道,此次适配标志着该国产GPU芯片在支持超大规模多模态模型训练方面取得了技术进展。

本文由 AI 基于公开信息自动生成,仅供学习参考,不构成任何投资建议。市场有风险,投资需谨慎。