AI 资讯速递 (2026/5/21)： 智谱推出下一代大模型推理网络架构 ZCube
导读摘要：
智谱联合驭驯网络与清华大学推出ZCube组网架构，针对PD分离推理拥塞难题，取消Spine层，采用扁平化拓扑与单/多轨混合接入。GLM-5.1 coding实测显示，ZCube使交换机及光模块成本降33%，GPU推理吞吐提升15%，首Token时延TTFT P99降40.6%，为下一代超大规模推理集群提供高效底座。
智谱推出下一代大模型推理网络架构 ZCube
资讯详情
智谱联合驭驯网络与清华大学共同研发的ZCube组网架构，旨在解决PD（Parameter Distribution）分离推理过程中常见的拥塞问题。该架构通过取消Spine层，采用扁平化拓扑结构和单/多轨混合接入方式，显著提升了推理效率和降低了成本。这一创新方案已在GLM-5.1 coding实测中得到验证，为未来的超大规模推理集群提供了坚实的技术基础。
扁平化拓扑：ZCube取消了传统的Spine层，采用扁平化网络拓扑结构。这种设计减少了网络层次，降低了数据传输的延迟和拥塞风险。
单/多轨混合接入：ZCube支持单轨和多轨混合接入方式，可以根据实际需求灵活配置网络连接。这不仅提高了网络的灵活性，还优化了资源利用率。
成本效益：在GLM-5.1 coding实测中，ZCube使交换机及光模块成本降低了33%，同时GPU推理吞吐量提升了15%。此外，首Token时延TTFT P99降低了40.6%，显著提升了整体性能。
AI-ALL 深度点评
ZCube组网架构的推出标志着在大模型推理领域的一次重要技术突破。通过取消Spine层和采用扁平化拓扑结构，ZCube有效解决了PD分离推理中的拥塞问题，提升了数据传输效率。单/多轨混合接入方式的引入进一步增强了网络的灵活性和资源利用率。这些改进不仅大幅降低了硬件成本，还显著提升了GPU推理吞吐量和首Token时延性能。对于AI开发者和极客而言，ZCube为构建下一代超大规模推理集群提供了可靠的技术支持，有望推动AI应用的进一步普及和发展。