AI 资讯速递 (2026/5/25)： 面壁智能联合清华开源端侧大模型 BitCPM-CANN
导读摘要：
面壁智能联合清华大学及 OpenBMB 开源社区，发布了中国首个完全基于华为昇腾国产算力平台端到端训练的 1.58-bit 三值大模型 BitCPM-CANN。该模型包含 0.5B 至 8B 四个尺寸，采用量化感知训练路线，推理阶段释放约 6 倍显存红利，模型能力保留率达 90%–97.2%。
面壁智能联合清华开源端侧大模型 BitCPM-CANN
资讯详情
面壁智能与清华大学及 OpenBMB 开源社区合作，于 5 月 25 日发布了 BitCPM-CANN 模型。这是中国首个完全基于华为昇腾国产算力平台端到端训练的 1.58-bit 三值大模型。BitCPM-CANN 模型包括四个不同尺寸的版本，分别为 0.5B、2B、4B 和 8B 参数量。该模型在训练过程中采用了 量化感知训练 技术，确保在推理阶段能够显著减少显存占用，同时保持较高的模型性能。
量化感知训练：BitCPM-CANN 模型在训练阶段采用了量化感知训练技术，使得模型在推理时能够以 1.58-bit 的精度运行。这一技术不仅大幅减少了模型的存储需求，还显著提升了推理效率。
显存优化：通过量化感知训练，BitCPM-CANN 在推理阶段能够释放约 6 倍 的显存红利。这意味着在相同的硬件条件下，可以部署更大规模的模型或同时运行多个模型实例，从而提高资源利用率。
性能保留：尽管进行了低精度量化，BitCPM-CANN 模型的能力保留率达到了 90%–97.2%。这一性能水平确保了模型在实际应用中的表现依然优秀，特别是在资源受限的端侧设备上。
多尺寸版本：BitCPM-CANN 提供了四个不同参数量的版本（0.5B、2B、4B 和 8B），满足不同场景下的需求。开发者可以根据具体的应用场景和硬件条件选择合适的模型版本。
国产算力平台：该模型完全基于华为昇腾国产算力平台进行端到端训练，展示了国产 NPU 生态在 AI 领域的竞争力和发展潜力。这对于推动国内 AI 技术的自主可控具有重要意义。
AI-ALL 深度点评
BitCPM-CANN 的发布标志着中国在端侧 AI 模型开发和国产算力平台应用方面取得了重要进展。通过采用量化感知训练技术，该模型不仅大幅降低了显存占用，还保持了较高的性能水平，为资源受限的端侧设备提供了强大的支持。此外，多尺寸版本的设计使得开发者可以根据具体需求灵活选择，进一步提升了模型的适用性。更重要的是，完全基于华为昇腾国产算力平台的端到端训练展示了国内 NPU 生态系统的成熟度和竞争力，有助于推动 AI 技术的自主可控和广泛应用。
