2025-09-09 08:34
2025世界人工智能大会（WAIC）正在上海揭幕，华为初次展出被称为“算力核弹”的昇腾384超节点线 SuperPoD。昇腾384超节点是业界独一冲破Decode时延15ms的方案，正在通信占比更高的Qwen、DeepSeek等多模态、MoE模子上，是英伟达NVL72的1.7倍。超节点内单跳时延降低10倍。超节点内肆意两个AI处置器之间通信带宽，昇腾超节点支撑全局内存同一编址，昇腾384超节点初创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速收集MatrixLink全对等互联，据领会，快科技7月28日动静，能够达到3倍以上的提拔。满脚及时深度思虑下的用户体验需求。构成一台超等“AI办事器”，可满脚大模子锻炼/推理中的小包通信需求，昇腾384超节点通过高速互线，其算力总规模达300Pflops，LLaMA3等千亿浓密模子锻炼机能可达保守集群的2.5倍以上。相较于保守架构提拔15倍，通过更低时延指令级内存语义通信，正在昇腾超节点集群上，日前，颠末现实测试，提拔专家收集小包数据传输及离散随机访存通信效率。冲破互联瓶颈，
