返回模型列表

Mellum2.1 深度评测:JetBrains 开源智能体编程模型的技术跃迁

AI科技编辑部
RSS 订阅
Mellum2.1 深度评测:JetBrains 开源智能体编程模型的技术跃迁 官方截图
(图片来源官方截图)

导读摘要:

Mellum2.1 是 JetBrains 推出的开源 AI 编程模型,采用 12B 混合专家(MoE)架构,每次推理仅激活 2.5B 参数。该模型的核心突破在于将强化学习(RL)从传统训练流程中的收尾环节提升为训练主体,结合数百万次沙盒环境运行,使模型能够自主探索代码库、编辑文件并自查修改,智能体编程能力实现显著跃升。在高负载场景下,Mellum2.1 的吞吐能力接近 Qwen3.5-9B 的两...

1. Mellum2.1是什么

Mellum2.1 是 JetBrains 推出的开源 AI 编程模型,采用 12B 混合专家(MoE)架构,每次推理仅激活 2.5B 参数。该模型的核心突破在于将强化学习(RL)从传统训练流程中的收尾环节提升为训练主体,结合数百万次沙盒环境运行,使模型能够自主探索代码库、编辑文件并自查修改,智能体编程能力实现显著跃升。在高负载场景下,Mellum2.1 的吞吐能力接近 Qwen3.5-9B 的两倍,同时支持私有化部署,模型权重已上架 Hugging Face,供开发者免费获取与商用。

mellum2-1-jetbrains-ai 官网截图
(图片来源官方截图)

技术定位与领域: Mellum2.1 属于自然语言处理与代码智能交叉领域的编程大语言模型,专注于智能体编程(Agentic Coding)、代码补全、工具调用与通用推理等方向。在 JetBrains 的产品体系中,它承担着为 IDE 生态提供智能化底座的角色,同时以开源形式向更广泛的开发者社区开放,意图在 AI 编程助手赛道建立差异化竞争优势。

研发背景: 该模型由 JetBrains 官方团队开发,延续了 Mellum 系列的迭代路线。JetBrains 在开发者工具领域深耕多年,拥有 IntelliJ IDEA、PyCharm 等广泛使用的 IDE 产品,其研发动机在于将大模型能力深度整合进开发者工作流,同时通过开源策略吸引社区贡献,构建围绕 JetBrains 生态的 AI 编程模型生态。Mellum2.1 的发布标志着 JetBrains 从传统 IDE 厂商向 AI 驱动型开发平台转型的重要一步。

核心价值: Mellum2.1 解决了传统编程模型在智能体任务上的核心痛点——缺乏对代码库的整体理解、无法自主执行多步操作、难以验证自身修改的正确性。通过大规模 RL 训练,模型在真实编码场景中习得了探索、编辑与验证的完整能力闭环,能够定位失败测试的根因并起草修复方案。同时,MoE 架构与多 Token 预测(MTP)技术的结合,使其在算力成本可控的前提下实现了较高推理吞吐,为企业级私有化部署提供了切实可行的方案。

技术特点: 模型采用 12B MoE 架构,单次推理仅激活 2.5B 参数,计算效率显著优于同规模稠密模型。训练数据经过严格筛选,剔除测试缺陷、答案不可验证或难度失当的任务,确保 RL 信号可靠。内置 MTP 机制使单请求速度提升约 1.6 倍,配合低激活参数的 MoE 设计,在高负载场景下展现出接近两倍于同级模型的吞吐表现。

2. 主要功能

  • 智能体编程: Mellum2.1 的核心能力,模型能够自主探索代码库、编辑文件并自查修改结果。在真实编码场景中,它可以定位失败测试的根因,起草修复方案并验证其有效性,形成完整的智能体任务闭环。该能力得益于训练阶段数百万次真实沙盒环境的交互积累。

  • 代码补全与生成: 延续 Mellum2 的既有定位,为日常编码工作流提供快速的代码补全、片段生成与代码问答能力。该功能与 JetBrains IDE 深度集成后,可在编码过程中提供即时智能建议,降低开发者的上下文切换成本。

  • 工具调用: 能够调度外部工具完成任务,适用于构建 AI 智能体系统。模型可根据任务需求自动选择合适的外部工具并组织调用序列,实现从自然语言指令到具体工具操作的语义映射,为复杂自动化流程提供支持。

  • 通用推理: 可处理日常问答,并能逐步推导演算数学和逻辑难题。在竞赛编程、算法推理等场景中,模型展现出较强的逻辑链构建能力,可作为通用 AI 助手的推理核心使用。

  • 私有化部署: 支持本地或自有基础设施运行,代码与数据完全保留在企业内部,满足金融、政务等高合规要求场景的数据安全需求。相比 API 调用方式,私有化部署消除了数据外泄风险,同时避免了按量计费的成本累积问题。

  • 多 Token 预测(MTP): 模型在单次前向传播中可预测多个后续 Token,单请求场景下速度提升约 1.6 倍。该技术配合 MoE 的低激活参数设计,使 Mellum2.1 在高负载下的吞吐接近 Qwen3.5-9B 的两倍,显著提升服务响应效率。

  • 上下文窗口支持: 支持长达 131K Token 的上下文窗口,能够容纳较大规模的代码仓库文件内容,满足复杂项目级任务对全局信息的需求,为智能体编程提供充足的上下文空间。

3. 如何使用

  1. 访问模型页面: 打开 Hugging Face 上的 JetBrains 官方组织页面,在模型列表中找到 Mellum2.1 仓库(模型标识为 JetBrains/Mellum2.1-12B-A2.5B-Thinking)。建议先查看模型卡中的技术文档与许可协议,确认是否满足使用条件。

  2. 下载模型权重: 在模型卡页面点击下载按钮,或使用 git lfs clone 命令拉取模型文件。若模型设有使用门槛,需先同意相关使用协议才能获得完整的权重文件。下载前请确认本地存储空间充裕,12B MoE 模型权重文件通常需要数十 GB 磁盘空间。

  3. 选择部署框架: 官方推荐使用 Transformers 或 vLLM 进行部署。对于功能验证和原型开发,Transformers 库提供了更简洁的接入方式;对于生产级高并发服务,vLLM 具备更高的吞吐性能和显存管理效率,更适合实际业务场景。

  4. 配置推理环境: 准备 GPU 环境,官方基准测试基于单张 NVIDIA H200 进行。加载模型后,需设定 131K 上下文参数。不同 GPU 显存配置需要调节并发数、批处理大小等参数以获得最佳性能表现。

  5. 启用加速选项: 按官方指引配置多 Token 预测(MTP)功能,可将单请求速度提升约 1.6 倍。MTP 的启用需要在推理框架中对应设置相关参数,并确保模型权重中已包含 MTP 模块的支持。

  6. 发起推理调用: 通过 API 接口发送代码生成、仓库级编辑或智能体任务提示词,获取模型输出。开发者可以根据实际需求设计 Prompt 模板,将 Mellum2.1 集成到现有开发工具链或 CI/CD 流程中,实现自动化代码审查与修复。

4. 优缺点分析

优点
智能体编程能力突出: 经真实环境大规模 RL 训练,能自主探索代码库、编辑文件并验证修改,可定位测试失败根因并起草修复方案,在 Agentic 场景表现优于多数同规模模型。
推理吞吐高: 高负载下吞吐接近 Qwen3.5-9B 的两倍,12B MoE 架构仅激活 2.5B 参数,以较低算力成本实现高性能推理,服务部署的经济性较好。
训练数据质量高: 所有训练数据经严格筛选,剔除测试缺陷和答案不可验证的任务,确保 RL 学习信号可靠,模型输出的代码质量和逻辑一致性较好。
私有化部署友好: 支持本地或自有基础设施运行,代码与数据完全自主可控,适合企业敏感场景。开源协议允许商业使用,降低了企业的采用门槛。
训练方法的创新性: RL 从收尾环节变为训练主体的方法论具备行业示范意义,数百万沙盒运行的数据积累为后续版本迭代提供了清晰的技术路径。

5. 同类工具对比

对比维度 Mellum2.1(JetBrains) Qwen3.5-9B(阿里) DeepSeek-Coder-V2(深度求索)
模型架构 12B MoE,激活 2.5B 参数 9B 稠密架构 236B MoE,激活 21B 参数
核心定位 编码智能体、私有化部署 通用大模型,兼顾代码能力 代码生成与数学推理
智能体编程 强项:可探索代码库、编辑文件、自查修改、定位测试失败根因 具备工具调用能力,未主打仓库级智能体操作 支持基础的代码生成,智能体能力非核心卖点
训练方式 RL 为训练主体,数百万次真实沙盒环境运行 常规预训练 + 后训练 预训练 + 代码专项微调
推理速度 高负载吞吐接近 Qwen3.5-9B 两倍,单请求 MTP 提速 1.6 倍 基准参照物,吞吐相对较低 激活参数较多,需更高算力支撑
多 Token 预测 内置 MTP,vLLM 推测解码头即将推出 未公开同等 MTP 能力 未公开同等 MTP 能力
上下文窗口 131K Token 未公开同等规模 128K Token
部署方式 支持本地/私有化部署 支持本地/私有化部署 支持本地/私有化部署
开源协议 开源,支持商用 开源,支持商用 开源,支持商用
生态背景 JetBrains IDE 生态(IntelliJ/PyCharm),可与 Codex 互补 阿里通义生态,Qwen 系列社区庞大 深度求索团队,开发者社区活跃

选型建议: 对于以智能体编程为核心需求、需要模型自主解决复杂仓库级任务的开发团队,尤其是使用 JetBrains IDE 的开发者,Mellum2.1 是当前性价比较高的选择——其 2.5B 激活参数的 MoE 架构在推理成本上具备优势,且 RL 训练带来的智能体能力在同类开源模型中较为稀缺。若团队更看重通用能力和生态成熟度,Qwen3.5-9B 作为通用大模型在中文支持和社区资源方面更具优势,适合需要兼顾代码任务和通用 QA 的综合型应用。

对于算力资源有限、追求轻量部署的团队,CodeGeeX4 的 9B 稠密架构在消费级 GPU 上运行更为流畅,适合以代码补全为主要需求的日常编码辅助场景。而 DeepSeek-Coder-V2 凭借超大规模 MoE 参数在复杂代码生成和数学推理方面表现扎实,适合对生成质量要求较高且具备充足 GPU 资源的研究型团队。

6. 编辑总结

Mellum2.1 的发布为开源 AI 编程模型赛道注入了新的技术变量。其最值得关注的创新并非参数规模或单一的推理速度指标,而是训练方法论的转向——将强化学习从辅助性收尾环节提升为训练主体,并通过数百万个真实沙盒环境的交互积累,让模型在实战中习得智能体编程所需的探索、编辑与验证能力。这一方法论层面的革新,为整个行业提供了有别于传统 SFT+RLHF 范式的新路径:模型能力的提升不再单纯依赖数据规模的堆积,而是通过对真实环境反馈的深度利用来实现质变。

从实用价值角度审视,Mellum2.1 在智能体任务上的表现使其成为构建自主编程助手的理想基座模型。2.5B 激活参数的 MoE 设计大幅降低了部署成本,使得中小型团队也能在企业内部独立运行具备智能体能力的编程模型。131K 上下文窗口和 MTP 加速机制则分别从广度与速度两个维度保障了实际使用体验。对于 JetBrains 而言,该模型的发布不仅是产品能力的补全,更是在 AI 编程竞争格局中确立自身话语权的战略动作。

适用人群方面,该模型最契合的是深度使用 JetBrains IDE 的开发者、需要私有化部署的企业研发团队,以及研究智能体编程方法论的高校实验室。社区生态仍在建设初期,中文资源与第三方工具链正在逐步丰富,当前阶段更适合具备一定模型部署能力的开发者直接使用。展望后续发展,Mellum 系列若能持续积累沙盒环境的 RL 训练数据,形成数据飞轮效应,其在智能体编程细分领域的竞争力将进一步提升,并有望成为 JetBrains 生态中 AI 能力的核心支柱。

7. 应用场景

  • 智能体编程: 开发者可将 Mellum2.1 集成到自动化编程工作流中,模型自主探索代码库、编辑文件并验证修改结果,完成从定位测试失败到修复的全流程操作。这一场景尤其适用于大型项目的缺陷修复和功能迭代,减少开发者在排查和修复环节的重复劳动。

  • 企业私有化助手: 将模型部署在企业内部服务器,作为代码助手服务全团队使用。代码与数据完全不出内网,满足银行、政务、军工等高合规行业的保密要求。企业可根据实际负载动态调整资源分配,实现成本可控的 AI 服务。

  • IDE 深度集成: 嵌入 JetBrains 系列 IDE(如 IntelliJ IDEA、PyCharm、WebStorm 等)或第三方编辑器,提供实时代码补全、智能问答和重构建议。模型对上下文的理解能力可结合 IDE 的项目索引信息,提供更贴合实际代码风格的推荐。

  • 子智能体调度: 在多智能体系统中,Mellum2.1 可凭借低延迟高吞吐的特性扮演子智能体角色,执行代码生成、测试分析等具体子任务,或作为路由节点将复杂请求分发到更专业的模型。其工具调用能力支持与外部 API 的灵活交互。

  • 数学逻辑推理: 在需要严谨推理链的场景中,如数学解题、算法竞赛训练和技术问答,Mellum2.1 能逐步展示推导过程,帮助开发者验证思路或作为教学辅助工具。该能力也可延伸至代码复杂度分析、算法优化建议等专业应用。

8. 常见问题FAQ

Q:Mellum2.1 与 Qwen3.5-9B 在智能体编程上的实际差距有多大?
A:Mellum2.1 的核心优势在于训练阶段引入了数百万次真实沙盒环境运行,使模型在仓库级探索、文件编辑和自查验证方面具备更强的任务完成能力。Qwen3.5-9B 具备工具调用能力,但并未以仓库级智能体操作作为核心卖点。在实际测试中,Mellum2.1 在定位失败测试根因并起草修复方案的任务成功率上表现更为突出。

Q:Mellum2.1 的 MoE 架构相比稠密模型的优势在哪里?
A:Mellum2.1 采用 12B 总参数的 MoE 架构,单次推理仅激活 2.5B 参数。这意味着模型拥有相当于 12B 模型的知识容量,但推理计算量接近 2.5B 稠密模型,因此在同等算力条件下可以获得更高的吞吐和更低的推理成本,特别适合高并发服务场景。

Q:如何启用 MTP 加速?需要额外配置吗?
A:启用 MTP 需要在推理框架中进行相应配置。在 vLLM 等支持 MTP 的框架中,通过设置相关推理参数即可开启。官方指引建议在生产环境中结合推测解码进一步优化性能。启用后单请求速度可提升约 1.6 倍,吞吐提升显著。

Q:模型能否在消费级 GPU 上运行?
A:虽然官方基准基于单张 H200,但 2.5B 激活参数的设计使得 Mellum2.1 在显存 24GB 以上的消费级 GPU(如 RTX 3090/4090)上具备运行可行性,但推理速度会低于 H200 环境。对于生产环境,建议至少配备 A100 或 H200 级别的 GPU,以保证智能体任务的处理效率。

Q:训练数据筛选机制的具体标准是什么?
A:训练数据入库前会经过严格过滤,主要剔除三类任务:存在测试缺陷的数据、答案不可验证的数据以及难度失当的数据。这一机制确保 RL 训练信号的质量,避免模型从错误的反馈中学习,是模型输出可靠性的重要保障。

Q:中文场景的表现如何?
A:官方并未公布中文专项评测数据,从训练数据的构成来看,模型对中文的理解和生成能力主要来自通用语料的迁移。对于中文注释生成、中文技术问答等场景,建议开发者在使用前进行针对性测试验证;对于中文项目代码补全,其表现可能与英文场景存在一定差异。

9. 项目地址

相关 AI 模型文章

Claude Haiku 5.5 – Anthropic 推出的最轻量级模型

Claude Haiku 5.5 – Anthropic 推出的最轻量级模型

Claude Haiku 5.5 是 Anthropic 于 2026 年 10 月 7 日正式发布的最新小型语言模型,定位为"最便宜、最快、最能打"的高性价比产品。该模型将输入价格降至 $0.10/百万 token,综合成本降低约 75%,同时实现了电脑操作能力从 15.7% 到 72.4% 的大幅跃升。其支持 100 万 token 上下文窗口和五档可调思考机制,适用于智能摘要、数据分类、实时...

Startlux-Decision – StartLux Labs 开源的决策模型家族深度评测

StartLux-Decision 是 StartLux Labs 推出的开源决策模型家族,涵盖从 0.8B 至 27B 的五个稠密模型以及 35B-A3B 混合专家模型,专为类型化决策任务设计。该模型家族接收文本、JSON 或图片形式的状态输入,针对选择、是非、评分等结构化问题,通过单次前向推理直接返回每个选项的概率分布,天然可作为置信度使用。模型原生支持 256K token 超长上下文,具备...

SemIf – 开源的 AI 决策模型,复现 Jev 语义决策模式

SemIf – 开源的 AI 决策模型,复现 Jev 语义决策模式

SemIf(原 OpenJev)是一个开源的 AI 决策模型,旨在通过开源手段复现 TypeSafe 闭源服务 Jev 的语义决策接口模式。该模型采用单次前向传播机制,直接读取候选选项对应的 logits 进行打分,由服务端构造结构化结果,从而规避了传统自回归生成后再解析文本的复杂流程。在多个问题共享相同状态时,SemIf 还可复用前缀计算,吞吐量提升近一个数量级。该模型在单张 RTX 3090 ...

MAI-Transcribe-2-Streaming:微软实时流式语音转写模型深度评测

MAI-Transcribe-2-Streaming 是微软推出的首个实时流式语音转写模型,能够在讲话进行时持续输出文字,覆盖 60 种语言并自动检测语言切换。该模型在 Artificial Analysis 流式转写榜单中以 2.50% 的词错误率和 0.13 秒的最终转录延迟双双登顶,首批文本延迟低至数百毫秒,文字最快在语音后 320 毫秒显示。其核心价值在于将传统语音转写从"说完再识别"的批...

版权声明:本文部分内容由 AI 辅助生成并经人工校准,版权归本站所有,未经允许禁止任何形式的转载。