Qwen3.8-Flash – 阿里通义推出的多模态 MoE 模型

导读摘要:
Qwen3.8-Flash 是阿里云通义千问推出的多模态 MoE 模型,总参数量 125B,每 token 仅激活 6B,原生支持 262K 上下文。模型采用 GDN+QSA 混合注意力、门控残差、N-gram 嵌入及 Muon 优化器四大架构创新,训练成本仅为 Qwen3.7-Plus 的 1/9,在编码和办公任务上能力更强。该模型面向长上下文处理、代码智能体、办公自动化与多模态理解等场景,提供...
1. Qwen3.8-Flash是什么
Qwen3.8-Flash 是阿里云通义千问推出的多模态 MoE 模型,总参数量 125B,每 token 仅激活 6B,原生支持 262K 上下文。模型采用 GDN+QSA 混合注意力、门控残差、N-gram 嵌入及 Muon 优化器四大架构创新,训练成本仅为 Qwen3.7-Plus 的 1/9,在编码和办公任务上能力更强。该模型面向长上下文处理、代码智能体、办公自动化与多模态理解等场景,提供开源权重与低成本 API 两种使用方式,兼顾性能与工程落地效率。

技术定位与领域: 属于多模态大语言模型领域,采用 Mixture-of-Experts(MoE)稀疏激活架构,在保持旗舰级性能的同时大幅降低单次推理的算力开销。其定位介于通用基础模型与垂直任务模型之间,重点覆盖代码生成、软件工程、长程办公及多模态智能体交互等生产级应用方向,是通义千问在高效推理与复杂任务执行交叉点上的重要布局。
研发背景: 由阿里云通义千问团队研发,依托通义系列模型在中文与多语言场景的长期积累。团队在 MoE 架构、长上下文建模和多模态对齐方面具备深厚技术储备,此次推出的 Qwen3.8-Flash 在架构层面进行了多项前瞻性设计,官方将其定位为 Qwen4 系列架构的提前验证版本,体现了通义团队在下一代模型技术路线上的探索意图。
核心价值: 解决了大模型在长序列处理、智能体任务执行与部署成本之间的平衡难题。通过每 token 仅激活 6B 参数的稀疏设计,将推理开销控制在较低水平;原生 262K 上下文配合可扩展至 1M 的能力,使整本技术手册、大型代码库的端到端分析成为可能。API 定价输入 1 元/百万 tokens、输出 3 元/百万 tokens,显著降低了企业级应用的门槛。
技术特点: 四大架构创新构成其差异化能力——GDN+QSA 混合注意力在 1M 上下文下实现 8.6 倍 Prefill 吞吐提升;门控残差通过四条并行分支与动态门控抑制激活异常值并支持 FP8 存储;51B 参数的 N-gram 嵌入层可卸载至 Host Memory,几乎不增加 token 级计算量;Muon 优化器重新拟合 Scaling Law,支持更大学习率与批次,取消无效的 Batch Size Warmup 策略。
2. 主要功能
超长上下文处理: 原生支持 262K tokens 上下文窗口,可扩展至 1M tokens,能够对整本技术手册、法律合同或大型代码库进行一次性深度理解与问答。在 1M 上下文下 Prefill 吞吐达到前代的 8.6 倍,长序列处理兼顾速度与精度,无需分段即可完成全局性分析任务。
代码智能体(Agentic Coding): 支持端到端软件工程任务,覆盖需求分析、代码生成、Bug 修复、单元测试编写及多语言项目维护。在 DeepSWE 1.1 基准上取得 58.7 分、SWE-bench Pro 上取得 62.5 分,具备处理生产级复杂开发任务的能力。
办公自动化: 可执行长程办公流程与专业工作任务,集成工具调用能力,实现跨平台任务闭环。在 CoWorkBench 长程办公基准上取得 73.9 分、JobBench 专业工作基准上取得 55.7 分,能够自动整理会议纪要、批量处理报表、撰写并排版商业文档。
多模态理解: 支持长视频理解、科学图表分析、视觉数学问题求解及现实世界场景解析。在 LVBench 长视频理解基准上取得 76.6 分、MathVision 视觉数学基准上取得 95.7 分、CharXiv 科学图表分析基准上取得 90.6 分,覆盖 STEM 领域的深度内容理解需求。
设备与界面操控: 通过视觉感知与推理能力操控网页、Android 设备及桌面操作系统。在 AndroidWorld 移动操控基准上取得 84.5 分、OSWorld 2.0 计算机使用基准上取得 52.3 分、Vision2Web 视觉网页开发基准上取得 64.0 分,支持自动完成 App 测试、文件管理等跨设备任务。
推理与问答: 覆盖科学推理、竞技编程、指令遵循与多学科综合推理。在 GPQA Diamond 科学推理基准上取得 91.7 分、LiveCodeBench 竞技编程基准上取得 91.9 分、IFBench 指令遵循基准上取得 81.3 分,展现出在多学科复杂问题上的综合推理能力。
3. 如何使用
环境要求与前置条件: 部署环境需配备支持 FP8 计算的 GPU,由于模型总参数为 125B 且包含 51B 参数的 N-gram 嵌入层,建议优先采用多卡集群或具备充足 Host Memory 的服务器。N-gram 嵌入层支持卸载至 Host Memory 并通过异步预取与计算重叠,可有效降低显存占用,具体显存需求取决于上下文长度与并发规模,建议参考官方仓库的部署文档进行配置。
开源权重部署: 从 Hugging Face 下载 Qwen3.8-Flash-Next 权重,在本地或云端环境进行推理部署。GR(门控残差)机制支持 FP8 存储,可显著降低访存开销;部署时需根据实际硬件配置调整并行策略与批次大小,以获得最优的推理吞吐与延迟表现。
API 服务调用: 通过千问AI平台调用官方 API,输入价格 1 元/百万 tokens、输出价格 3 元/百万 tokens。API 方式无需自行管理底层基础设施,适合快速集成到现有业务系统中;开发者可通过标准 RESTful 接口完成调用,并依据业务需求灵活调整上下文长度与多模态输入。
千问办公使用: 在“千问办公”产品中直接体验模型能力,适用于长文档处理、代码生成与办公自动化任务。该入口面向非技术用户,无需编写代码即可使用超长上下文分析、办公流程自动化等核心功能,适合企业办公场景的快速验证与日常使用。
查阅技术报告与深度定制: 访问 GitHub 仓库获取技术报告,了解 GDN+QSA 混合注意力、门控残差、N-gram 嵌入及 Muon 优化器的架构细节与训练方法。对于有深度定制需求的团队,可基于技术报告中的 Scaling Law 分析与训练策略,在开源权重基础上进行领域微调或架构改进。
4. 优缺点分析
| 优点 |
|---|
| 极致成本效率: 训练开销仅为 Qwen3.7-Plus 的 1/9,API 定价输入 1 元/百万 tokens,以较低的算力成本实现旗舰级性能,大幅降低企业采用门槛。 |
| 超长上下文领先: 原生 262K 可扩展至 1M tokens,1M 上下文下 Prefill 吞吐达到前代的 8.6 倍,长序列处理在速度与精度上均有保障。 |
| Agent 与编码能力突出: 在代码智能体、软件工程、长程办公等多项基准上超越同级模型,SWE-bench Pro 62.5 分、CoWorkBench 73.9 分,胜任复杂生产级任务。 |
| 多模态操控能力: 支持长视频理解、视觉网页开发、Android 及桌面设备操控,AndroidWorld 84.5 分、ERQA 72.3 分,实现真正的多模态智能体交互。 |
| 开源与工程友好: Flash-Next 权重已开源,GR 支持 FP8、N-gram 嵌入可卸载至 Host Memory,降低部署门槛与显存占用,便于社区二次开发。 |
5. 同类工具对比
| 对比维度 | Qwen3.8-Flash-Next | DeepSeek-V4-Flash |
|---|---|---|
| 总参数量 | 125B + 51B N-gram 嵌入层 | 284B |
| 激活参数 | 6B(每 token) | 13B(每 token) |
| Agentic Coding(DeepSWE 1.1) | 58.7 | 54.4 |
| SWE-bench Pro | 62.5 | 56.0 |
| 长程办公(CoWorkBench) | 73.9 | 45.1 |
| 科学推理(GPQA Diamond) | 91.7 | 90.8 |
| 竞技编程(LiveCodeBench) | 91.9 | 90.6 |
| 指令遵循(IFBench) | 81.3 | 79.2 |
| 移动操控(AndroidWorld) | 84.5 | 未公布 |
| 长视频理解(LVBench) | 76.6 | 未公布 |
在代码智能体与软件工程场景中,Qwen3.8-Flash-Next 在 DeepSWE 1.1、SWE-bench Pro 等核心基准上均领先于 DeepSeek-V4-Flash 与 Claude-Opus-4.6,且长程办公能力(CoWorkBench 73.9 分)优势明显,适合作为企业级开发与自动化任务的主力模型。对于多模态操控与长视频理解需求,Qwen3.8-Flash-Next 的 AndroidWorld 与 LVBench 成绩同样领先,而 Claude-Opus-4.6 在科学推理上接近但办公与操控能力落后。
在通用推理能力方面,三者差距较小——GPQA Diamond 均在 91 分上下,LiveCodeBench 也处于同一梯队。选择时需结合实际场景:若侧重成本控制与长上下文处理,Qwen3.8-Flash-Next 的 6B 激活参数与 1 元/百万 tokens 输入定价具备显著优势;若已有 Claude 生态依赖或需要其特定安全特性,可继续采用 Claude-Opus-4.6;DeepSeek-V4-Flash 在参数量与激活参数上高于 Qwen3.8-Flash-Next,但在多项任务基准上落后,其适用场景需进一步评估。
6. 编辑总结
Qwen3.8-Flash 在架构创新层面展现了明确的技术前瞻性。GDN+QSA 混合注意力机制将 Gated DeltaNet 的高效记忆能力与 Qwen Sparse Attention 的精准查找能力相结合,在每四层中安排三层 GDN 与一层 QSA,这种设计在长序列建模中兼顾了计算效率与信息召回质量。门控残差将传统单一残差流扩展为四条并行分支,通过动态门控控制信息读写比例,既保留了长距离信息通道,又抑制了激活异常值,同时支持 FP8 存储——这一设计直接回应了大模型训练与推理中的显存瓶颈问题。N-gram 嵌入层以 51B 参数捕捉短语搭配模式,但通过 Host Memory 卸载与异步预取实现近零计算量增加,体现了工程实现上的精巧考量。
从实用价值来看,训练成本仅为 Qwen3.7-Plus 的 1/9 这一数据具有产业意义,它意味着旗舰级模型能力的获取成本被大幅压缩。API 定价输入 1 元/百万 tokens 的定位,使中小团队也有机会将高性能多模态模型集成到实际业务中。在 DeepSWE 1.1、SWE-bench Pro、CoWorkBench 等基准上的领先表现,说明其在真实生产场景中的任务完成能力已经过系统性验证。
该模型适合三类人群:一是需要处理超长文档与大型代码库的研发团队,二是希望以低成本构建办公自动化与智能体应用的企业开发者,三是关注下一代大模型架构演进方向的研究人员。作为 Qwen4 系列架构的提前验证版本,Qwen3.8-Flash 在混合注意力、门控残差与优化器设计上的探索,为后续模型的发展提供了可参考的技术路径。其开源权重与技术报告的同步发布,也为社区深入理解和二次开发创造了条件。
7. 应用场景
超长文档与知识库智能分析: 利用 1M tokens 超长上下文能力,对整本技术手册、法律合同或大型代码库进行一次性深度理解与问答。无需分段处理即可完成全局性信息提取、关联分析与结论生成,适合科研文献综述、法律文书审查与企业知识库构建。
端到端软件开发与代码维护: 作为代码智能体完成需求分析、代码生成、Bug 修复、单元测试编写及多语言项目维护。在 SWE-bench Pro 62.5 分的表现支持下,可覆盖从功能开发到代码评审的完整研发流程,提升团队交付效率。
企业办公流程自动化: 执行跨平台长程办公任务,包括自动整理会议纪要、批量处理 Excel 报表、撰写并排版商业文档。集成工具调用能力实现端到端闭环,在 CoWorkBench 73.9 分的基准表现下,可显著减少重复性人工操作。
多模态内容理解与教育辅导: 解析长视频课程、科学论文图表、视觉数学题目,提供步骤化讲解与答案验证。MathVision 95.7 分、CharXiv 90.6 分的成绩使其能够胜任 STEM 领域的深度教学辅助与学术研究支持。
跨设备智能体操控: 通过视觉感知与推理能力,自动操控 Android 手机完成 App 测试、在桌面操作系统中执行文件管理,或根据设计稿自动生成可部署的网页前端。AndroidWorld 84.5 分与 Vision2Web 64.0 分的表现,适用于移动端自动化测试与前端开发提效场景。
8. 常见问题FAQ
Q:Qwen3.8-Flash 与 Qwen3.7-Plus 的核心区别是什么?
A:两者在架构设计与应用定位上有显著差异。Qwen3.8-Flash 采用 GDN+QSA 混合注意力、门控残差、N-gram 嵌入与 Muon 优化器四大架构创新,训练成本仅为 Qwen3.7-Plus 的 1/9;在编码与办公任务上的能力更强,同时原生支持 262K 上下文并可扩展至 1M。
Q:为什么训练成本能降低到 Qwen3.7-Plus 的 1/9?
A:主要得益于架构层面的系统性优化。GDN+QSA 混合注意力降低了长序列场景下的计算量;门控残差支持 FP8 存储,减少访存开销;N-gram 嵌入层卸载至 Host Memory,几乎不增加 token 级计算量;Muon 优化器重新拟合 Scaling Law 后支持更大学习率与批次,取消了无效的 Batch Size Warmup 策略,综合提升了训练效率。
Q:本地部署需要什么样的硬件配置?
A:模型总参数为 125B,每 token 仅激活 6B,GR 机制支持 FP8 存储,N-gram 嵌入层可卸载至 Host Memory,因此显存占用相对可控。具体配置取决于上下文长度与并发规模,建议使用支持 FP8 计算的 GPU 并配备充足的 Host Memory,详细要求可参考官方仓库的部署文档。
Q:N-gram 嵌入层的作用是什么?它会影响推理速度吗?
A:N-gram 嵌入层包含 51B 参数,在常规词嵌入之外结合局部上下文查表捕捉短语搭配模式。该层可卸载至 Host Memory 并通过异步预取与计算重叠,因此几乎不增加 token 级计算量,推理速度基本不受影响。
Q:API 如何收费?适合什么规模的使用?
A:API 定价为输入 1 元/百万 tokens、输出 3 元/百万 tokens。该定价在旗舰级多模态模型中处于较低水平,适合从原型验证到大规模生产调用的各类场景,尤其适合对长上下文处理有高频需求的业务。
Q:模型是否完全开源?可以商用吗?
A:Flash-Next 权重已在 Hugging Face 开源,技术报告可在 GitHub 仓库获取。开源权重支持本地或云端部署,具体商用条款需参考官方发布的许可证说明,建议在商用前查阅官方仓库中的授权文件。
9. 项目地址
版权声明:本文部分内容由 AI 辅助生成并经人工校准,版权归本站所有,未经允许禁止任何形式的转载。



