自变量发布 DMuon 优化器，分布式改造 Muon 大模型基础设施，让具身模型训练提速 30%

神经网络优化器 Muon 在大语言模型训练中展现出了比 AdamW 更快的收敛能力。在具身智能训练场景中，Muon 进一步展现出良好的适配性，然而将其应用于分布式计算时，却因额外的计算和通信开销，导致端到端步时间变为 AdamW 的 2.2 倍。为解决此问题，自变量机器人发布了分布式 Muon 基础设施 DMuon。它通过三项核心改进消除系统开支：1. Owner 中心执行与细粒度通信优化：将矩阵参数分配给唯一所有者进程执行计算，并将通信任务错峰编排于计算空档，消除冗余计算。2. 形状自适应执行栈：采用 Gram 空间递推、对称矩阵优化、小矩阵批量打包及内核自动调优，高效处理不规则矩阵。3. 计算感知负载均衡：利用混合整数线性规划优化分配，避免 GPU 闲置。实测显示，DMuon 可将端到端步时间降低至 AdamW 的 1.02 倍左右，整体模型训练提速约 30%。接入仅需三行代码，不改变更新规则与训练框架。此次发布意味着自变量等具身模型企业已能深入大模型底层基础设施进行优化改造。