Kimi K3 – 月之暗面推出的 2.8 万亿参数开源大模型

导读摘要:
Kimi K3是月之暗面(Moonshot AI)于2026年7月16日正式发布的2.8万亿参数开源大模型,基于KDA混合线性注意力机制与注意力残差技术构建,原生支持视觉理解,并拥有100万token上下文窗口。作为全球首个开源的3万亿级别模型,Kimi K3面向长程编程、知识工作和推理等前沿智能场景设计,在编程、Agent和知识工作评测中达到前沿水平。该模型采用Stable LatentMoE稀...
1. Kimi K3是什么
Kimi K3是月之暗面(Moonshot AI)于2026年7月16日正式发布的2.8万亿参数开源大模型,基于KDA混合线性注意力机制与注意力残差技术构建,原生支持视觉理解,并拥有100万token上下文窗口。作为全球首个开源的3万亿级别模型,Kimi K3面向长程编程、知识工作和推理等前沿智能场景设计,在编程、Agent和知识工作评测中达到前沿水平。该模型采用Stable LatentMoE稀疏架构,在896个专家中仅高效激活16个,大幅提升计算效率与参数利用率。完整模型权重计划于2026年7月27日前发布。

技术定位与领域: Kimi K3属于大规模语言模型领域,具体定位于面向长程自主任务的Agent型大模型。其核心应用方向涵盖大型软件工程、GPU内核优化、编译器开发、交互式3D内容创作、芯片设计及科研编程等需要长时间持续推理与执行的高复杂度场景。与传统对话模型不同,K3强调“长程自主”能力,能够在数小时甚至数天内独立完成多步骤、多工具协调的工程任务。
研发背景: 该模型由月之暗面(Moonshot AI)团队研发。月之暗面此前已推出Kimi K2、Kimi K2.7 Code等系列模型,在长文本处理领域积累了深厚的技术基础。K3的研发动机在于突破开源模型在参数规模和长程自主能力上的瓶颈,使开源模型能够在复杂工程任务中与顶级闭源模型竞争。过去12个月中,K3有9个月保持着开源模型规模上限的记录。
核心价值: Kimi K3解决了开源模型在长程复杂任务中的可靠性不足问题。通过2.8万亿参数的规模优势、100万token的上下文窗口以及原生视觉理解能力,它使开发者能够在本地部署一个能够独立完成大型软件工程、芯片设计等耗时任务的Agent系统。在Terminal Bench、Program Bench、BrowseComp等多项评测中,K3以更低的推理成本达到了接近甚至超越顶级闭源模型的性能,显著降低了高性能AI Agent的使用门槛。
技术特点: Kimi K3的核心技术优势体现在其KDA混合线性注意力机制,通过改进注意力计算方式使信息在长序列和深层模型中更顺畅地流动。注意力残差技术的引入解决了深层网络中的梯度衰减问题,使模型在896个专家的MoE架构中仍能保持稳定的训练和推理。此外,原生视觉支持与100万token上下文的结合,使其能够实现代码与实时截图之间的无缝迭代,形成真正的视觉反馈优化闭环。
2. 主要功能
长程编程与代码库理解: Kimi K3能够独立理解和分析大型代码库,持续完成需要数小时甚至数天的复杂开发任务。它具备协调使用终端工具的能力,可在开发环境中自主执行命令、调试代码、提交修改,实现从需求分析到代码交付的全流程自动化。在DeepSWE和FrontierSWE等软件工程评测中,K3分别取得了67.5和81.2的成绩,展现出接近顶级闭源模型的工程能力。
视觉推理与闭环优化: 模型原生支持视觉理解,能够结合软件工程与视觉推理,利用截图和视觉反馈优化开发过程。在游戏开发、前端开发和CAD等场景中,K3可以查看界面截图、识别视觉问题、生成修改代码并再次验证,实现“视觉反馈循环”(vision in the loop)的迭代优化。这一能力使其在需要视觉反馈的交互式创作场景中具有显著优势。
GPU内核优化: Kimi K3能够在GPU沙箱环境中独立分析、重写并验证GPU内核优化,支持24小时内持续迭代。它能够识别性能瓶颈,生成优化后的CUDA或Triton内核代码,并在模拟环境中验证性能提升。这一功能为高性能计算场景提供了自动化的底层优化能力。
编译器开发: 模型能够从零构建类Triton GPU编译器(MiniTriton),实现完整的优化到PTX代码生成流水线。这包括词法分析、语法分析、中间表示生成、优化和代码生成等完整编译流程。K3在这一任务中展示了其对底层系统软件的理解和生成能力,这在当前大模型中较为罕见。
交互式3D内容创作: 融合3D推理、编程与视觉能力,Kimi K3能够将概念描述转化为可玩的交互式体验。用户只需提供文字描述或参考截图,模型即可生成3D场景、游戏逻辑和交互界面,并通过视觉反馈进行迭代优化。这一能力降低了3D内容开发的技术门槛。
芯片设计: 基于开源EDA工具,Kimi K3能够自主完成芯片架构设计、优化与验证。它能够运行完整的芯片设计流程,包括RTL编写、逻辑综合、布局布线、时序分析和功能验证,实现“模型为自身服务”的芯片设计。在长达48小时的Agent运行中,K3能够持续迭代设计,优化芯片性能、功耗和面积(PPA)。
科研编程与数据分析: Kimi K3能够打通科学文献与可执行代码,自主完成复杂计算研究流程的实现、验证和分析。它可以阅读学术论文中的数学公式,将其转化为数值计算代码,运行仿真实验,发现已发表公式中的不一致性,并生成交互式数据仪表盘。这一能力覆盖了从文献理解到结果可视化的完整科研流程。
浏览器自动化与信息检索: 模型在BrowseComp评测中取得了91.2的分数,位列第一。它能够自主进行复杂的网页浏览、信息检索和数据提取任务,理解网页结构和交互逻辑,完成需要多步导航和信息整合的复杂搜索任务。这一能力使其在知识工作和市场研究等场景中具有实用价值。
3. 如何使用
官方入口直接使用: 访问Kimi官网(kimi.com)、最新版Kimi手机App或Kimi Work桌面客户端,可直接调用Kimi K3模型进行对话。用户无需任何配置,登录后即可在模型选择中切换至K3。当前默认开启max(极致)思考模式,模型将使用最大计算资源进行深度推理。后续更新将支持low和high两种思考强度,用户可按任务复杂度灵活切换。
编程专用客户端: 通过Kimi Code客户端使用K3模型,该客户端专为长程编程、代码库理解和终端工具协调等开发场景优化。Kimi Code提供了集成开发环境(IDE)插件和独立客户端两种形式,支持代码自动补全、代码审查、终端命令执行和版本控制操作。在Kimi Code中,K3模型ID为“k3”,与Kimi K2.7 Code(kimi-for-coding)并列,用户可根据任务复杂度选择。
API接入: 调用Kimi API将K3集成到自有应用或工作流中。API端点地址为platform.kimi.com,支持RESTful接口调用。K3 API支持自动化任务调度、第三方系统对接和批量处理。开发者需要注册Kimi开放平台账号,获取API密钥,然后按照API文档配置请求参数。当前API支持文本和图像输入,上下文窗口为100万token。具体定价和速率限制请参考官方API文档。
模型权重部署(待发布): 完整模型权重计划于2026年7月27日前发布。届时,开发者可从官方GitHub仓库或HuggingFace下载模型权重。模型采用MXFP4量化格式,可在消费级GPU上进行推理。推荐硬件配置为至少80GB显存的GPU(如NVIDIA A100或H100),或使用多卡分布式推理。部署时需使用支持MoE架构的推理框架,如vLLM或TGI。月之暗面正在与推理合作伙伴和开源维护者协作,确保模型能在整个生态中可靠上线。
Swarm Workstation多智能体部署: Kimi K3支持Swarm Workstation模式,可部署多达300个Agent协同工作。每个Agent可以独立执行子任务,通过共享上下文和结果协调完成复杂工程目标。Swarm Workstation的下载和使用说明将在模型权重发布时同步更新。该模式适用于大规模软件重构、芯片设计等需要多Agent协作的场景。
4. 优缺点分析
| 优点 |
|---|
| 参数规模领先: 2.8万亿总参数、896专家MoE架构,是全球首个开源3万亿级别模型,在Terminal Bench、Program Bench等评测中取得第一,性能表现突出。 |
| 长程自主能力强: 支持24小时持续GPU内核优化和48小时芯片设计Agent运行,在长时间工程任务中保持稳定,这是其他开源模型难以企及的能力。 |
| 原生视觉与长上下文结合: 100万token上下文窗口与原生视觉理解能力结合,实现代码与截图之间的无缝迭代,形成真正的视觉反馈优化闭环。 |
| 成本效率优势明显: 在Kimi Code Bench和BrowseComp等评测中,用更低的推理成本达到接近顶级闭源模型的性能,对于预算有限的开发团队具有实际价值。 |
5. 同类工具对比
| 维度 | Kimi K3 | Claude Fable 5 | DeepSeek V4-Pro |
|---|---|---|---|
| 参数规模 | 2.8T(总参),896专家MoE,16活跃 | 闭源,具体参数未公开 | 1.6T(总参),MoE架构 |
| 上下文窗口 | 100万token | 约200K token | 约128K token |
| 开源协议 | 开源(权重待发布),Apache 2.0 | 闭源,仅提供API | 开源,MIT协议 |
| 视觉能力 | 原生支持视觉理解,支持视觉反馈闭环 | 支持多模态输入 | 支持视觉理解 |
| 核心评测表现 | Terminal Bench 88.3(第一),Program Bench 77.8(第一),BrowseComp 91.2(第一) | Terminal Bench 84.6,DeepSWE 70.0(第一),FrontierSWE 86.6(第一) | 在代码和推理评测中表现优秀,具体分数待补充 |
| 部署方式 | API + 客户端 + 本地部署(待发布) | 仅API | API + 本地部署 |
| 独特优势 | 全球最大开源模型,长程自主能力强,视觉反馈闭环 | 综合性能领先,在多项评测中排名第一 | 成本效率高,社区生态成熟 |
选型建议: 对于追求极致性能和完整功能的企业用户,如果预算充足且不需要本地部署,Claude Fable 5在多项评测中表现最佳,尤其是在DeepSWE和FrontierSWE等软件工程任务中领先。但对于需要本地部署、数据隐私保护或预算有限的场景,Kimi K3作为开源模型提供了极具竞争力的选择,其2.8万亿参数规模和100万token上下文窗口在长程编程和Agent任务中表现突出,且推理成本更低。
对于中文场景优先或需要与阿里云生态集成的用户,Qwen3.8-Max-Preview提供了良好的中文支持。而对于追求最高成本效率和社区生态成熟度的用户,DeepSeek V4-Pro的MIT协议和成熟的社区支持使其成为可靠的选择。如果任务涉及视觉反馈循环(如游戏开发、前端开发),Kimi K3的原生视觉支持使其具有独特优势。总体而言,K3最适合那些需要长程自主Agent能力、愿意接受一定部署复杂度、且重视开源和成本控制的开发团队。
6. 编辑总结
Kimi K3的发布标志着开源大模型在参数规模上迈入了3万亿级别的新阶段。从技术创新角度看,其KDA混合线性注意力机制和注意力残差技术的结合,为解决超大规模MoE模型中的长序列处理和深层网络训练稳定性问题提供了工程化方案。896专家中仅激活16个专家的设计,使得2.8万亿参数的模型在推理时计算开销可控,这是其能够在多项评测中以较低成本达到接近顶级闭源模型性能的关键。值得注意的是,K3在Terminal Bench、Program Bench和BrowseComp等评测中取得第一,证明了其在Agent任务和长程自主能力上的实际优势,这些评测更贴近真实应用场景,而非传统的学术基准。
从实用价值来看,K3的“长程自主”能力是其最核心的差异化特征。支持24小时GPU内核优化和48小时芯片设计Agent运行,意味着该模型能够胜任需要持续推理和执行的复杂工程任务,这是当前大多数模型难以企及的能力。对于大型软件工程、芯片设计、编译器开发等领域的开发团队,K3提供了一种潜在的自动化方案,可以显著提升开发效率。同时,原生视觉理解与100万token上下文的结合,使其在需要视觉反馈的场景中具有独特优势。
该模型主要面向专业开发者和研究人员,特别是从事大型软件工程、高性能计算、芯片设计和科研计算等领域的团队。对于需要本地部署、数据隐私保护或预算有限的用户,K3作为开源模型提供了极具竞争力的选择。然而,其极高的硬件要求和尚未完全开放的权重,使得当前阶段更适合通过API或官方客户端使用。未来,随着模型权重的正式发布和社区生态的完善,K3有望在更多场景中发挥作用,特别是在需要长程自主Agent能力的领域。月之暗面正在与推理合作伙伴和开源维护者协作,确保模型能在整个生态中可靠上线,这将进一步降低使用门槛。
7. 应用场景
大型软件工程与代码重构: Kimi K3可独立分析和重构大型代码库,持续完成需要数小时甚至数天的复杂开发任务。开发团队可以将整个项目仓库交给K3,指定重构目标和约束条件,模型将自主进行代码分析、修改、测试和验证。在DeepSWE和FrontierSWE评测中,K3分别取得了67.5和81.2的成绩,证明了其在真实软件工程任务中的能力。
GPU内核与编译器优化: 在高性能计算场景中,K3能够在GPU沙箱环境中自动优化GPU内核或从零构建领域专用编译器。开发人员只需提供原始内核代码或编译器需求描述,K3即可在24小时内持续迭代优化,生成性能更优的CUDA或Triton内核代码。这一能力对于需要极致性能的AI训练、科学计算和图形渲染场景具有实际价值。
交互式3D内容开发: 结合视觉反馈快速迭代,Kimi K3能够将概念转化为可玩的3D游戏、模拟器或可视化作品。游戏开发者可以描述游戏机制和视觉风格,K3将生成3D场景、游戏逻辑代码和交互界面,并通过截图反馈进行迭代优化。这一场景充分发挥了K3的视觉推理和代码生成能力。
科研计算与数据分析: 研究团队可以借助K3自主完成从文献阅读到结果可视化的完整科研流程。模型能够阅读学术论文,理解数学公式,将其转化为数值计算代码,运行仿真实验,发现已发表公式中的不一致性,并生成交互式数据仪表盘。这一能力覆盖了计算科学、物理学、工程学等多个领域。
硬件芯片设计: 基于开源EDA工具链,Kimi K3能够自主完成芯片架构设计、优化与验证。芯片设计团队可以描述设计规格和性能目标,K3将运行完整的芯片设计流程,包括RTL编写、逻辑综合、布局布线、时序分析和功能验证,在长达48小时的Agent运行中持续迭代优化设计。
8. 常见问题FAQ
Q:Kimi K3的模型权重何时开放下载?
A:完整模型权重计划于2026年7月27日前发布。月之暗面目前正与推理合作伙伴和开源维护者密切协作,对齐技术细节,确保模型能在整个生态中可靠上线。届时,开发者可从官方GitHub仓库或HuggingFace下载权重。关于架构、训练和评测的更多细节,将随Kimi K3技术报告一同公布。
Q:Kimi K3需要什么样的硬件才能运行?
A:由于K3拥有2.8万亿总参数,即使采用MoE架构仅激活16个专家(约500亿参数),完整推理仍需要至少80GB显存的高端GPU,如NVIDIA A100(80GB)、H100或更高配置。消费级显卡(如RTX 4090的24GB显存)无法直接运行完整模型。月之暗面采用了MXFP4量化格式以降低显存需求,但具体部署要求仍需等待权重发布后的实测数据。
Q:Kimi K3与Kimi K2.7 Code有什么区别?
A:Kimi K3是月之暗面的旗舰模型,在参数规模(2.8T vs 约1T)、上下文窗口(100万 vs 约128K)和视觉能力(原生支持 vs 文本为主)上全面超越K2.7 Code。K3面向需要长程自主推理和视觉反馈的复杂工程任务,而K2.7 Code则更适合日常的代码辅助开发。在Kimi Code客户端中,两者并列提供,用户可根据任务复杂度选择。
Q:Kimi K3支持哪些语言?
A:Kimi K3主要针对中英文场景优化,在中文任务和英文任务中均表现良好。其训练数据覆盖了多种编程语言(Python、C++、CUDA、Triton、JavaScript、TypeScript等)和自然语言。在BrowseComp等需要网页理解的评测中,K3展示了跨语言的信息检索能力。对于其他语言的支持情况,待技术报告发布后将有更详细的信息。
Q:Kimi K3的API调用成本如何?
A:具体定价信息请参考Kimi开放平台官方文档。根据行业惯例,K3作为旗舰模型,其API调用成本会高于K2.7等次代模型。但月之暗面强调K3在多项评测中以更低成本达到接近顶级闭源模型的性能,说明其性价比具有竞争力。建议用户根据实际任务需求,在Kimi Code客户端中对比K3和K2.7 Code的表现,选择成本最优的模型。
Q:Kimi K3能否用于商业用途?
A:Kimi K3采用开源协议发布(预计为Apache 2.0),允许商业和学术用途。但具体许可条款以最终发布的协议为准。通过Kimi API使用时,需遵守Kimi开放平台的服务条款。对于需要将模型集成到商业产品中的开发者,建议在权重发布后仔细阅读开源协议,确保合规使用。
9. 项目地址
- Kimi API开放平台(官方文档与快速入门): https://platform.kimi.com/docs/guide/kimi-k3-quickstart
- Kimi K3 GitHub Topics: https://github.com/topics/kimi-k3
- Kimi K3 HuggingFace模型页面(权重待发布): https://huggingface.co/blog/ResterChed/kimi-k3-model-overview-mxfp4-quantization-open-wei
- Kimi官网: https://kimi.com
- Kimi K3状态页面(更新日志与发布信息): https://kimi-k2.org/zh/kimi-k3-status
版权声明:本文部分内容由 AI 辅助生成并经人工校准,版权归本站所有,未经允许禁止任何形式的转载。


