近日,山东大学博士研究生孟凡安为第一作者、戴鸿君教授为通讯作者,与王衍虎、杨叶倩合作完成的论文《ElasticLink:基于多网卡协同的MLU高效通信架构研究》被《计算机学报》接收。《计算机学报》由中国科学院计算技术研究所与中国计算机学会共同主办,是CCF推荐A类中文期刊、计算领域高质量科技期刊T1类期刊。

论文聚焦于国产异构加速环境中的跨节点通信与多网卡资源协同问题。随着大语言模型和混合专家模型规模持续增长,分布式训练与推理对通信效率提出了更高要求。在论文研究的寒武纪MLU集群中,加速卡与网卡之间的数据传输需要经宿主机内存中转,带来额外的数据搬运与同步等待。同时,传统静态网卡绑定策略难以适应突发和不均衡负载,容易出现部分链路拥塞、其他网卡闲置的现象。
针对上述问题,论文提出多网卡协同通信框架ElasticLink。该框架基于路径代价模型,综合考虑各路径的有效带宽、中继开销和数据规模,选择参与传输的路径,并以完成时间均衡为目标分配数据。面对大规模突发流量,系统通过MLU-Link将部分数据转发至邻近加速卡,利用其绑定网卡并行发送,缓解单路径拥塞。同时,框架构建三级异步通信流水线,使跨卡中继、PCIe中转与网络发送重叠执行,并通过接收端动态路由与乱序重组完成数据汇聚;对于小规模数据,则保留原生中转路径,避免额外调度开销。
实验基于双节点、每节点双MLU加速卡和双100 Gbps RDMA网卡的平台开展。相较于单网卡静态绑定基线,ElasticLink在微基准测试中将吞吐量提升62.5%,端到端传输延迟降低约38%;在高度倾斜的MoE通信负载下,聚合吞吐量提升48%;在基于ShareGPT对话数据的通信轨迹回放中,网络侧KV Cache传输的95分位时延由125.4 ms降至82.2 ms,降低34.4%。
该研究为国产异构加速系统中的多网卡协同与通信优化提供了一种可行方案,有助于提升网络资源利用率,缓解大模型训练与推理的底层通信瓶颈。未来,团队将面向多节点异构集群,进一步研究拥塞感知路径选择、在线路径探测与动态水位调度,并在更复杂的硬件拓扑与网络环境中验证系统性能。