返回模型列表

dots3-note preview – 小红书开源的多模态MoE模型深度评测

AI科技编辑部
RSS 订阅
dots3-note preview – 小红书开源的多模态MoE模型深度评测 官方截图
(图片来源官方截图)

导读摘要:

dots3-note preview是由小红书dots模型实验室开源的多模态MoE模型,作为dots3系列的首个版本,与IMO 2026满分模型共享同源技术。模型采用280B总参数/16B激活参数的MoE架构,支持512K超长上下文与文本、视觉、语音多模态理解,针对复杂推理、智能体任务与多模态感知进行专项优化,专攻旅行规划、婚礼筹备等长程开放任务,在多项推理与智能体基准测试中可比肩数倍参数的大模型...

1. dots3-note preview是什么

dots3-note preview是由小红书dots模型实验室开源的多模态MoE模型,作为dots3系列的首个版本,与IMO 2026满分模型共享同源技术。模型采用280B总参数/16B激活参数的MoE架构,支持512K超长上下文与文本、视觉、语音多模态理解,针对复杂推理、智能体任务与多模态感知进行专项优化,专攻旅行规划、婚礼筹备等长程开放任务,在多项推理与智能体基准测试中可比肩数倍参数的大模型。

dots3-note-preview-moe 官网截图
(图片来源官方截图)

技术定位与领域: 属于多模态大模型与智能体系统的交叉领域,定位为长程开放域Agent模型,区别于传统问答或代码生成模型,强调在无标准答案、多步骤、长时间跨度的真实场景中自主规划、执行与纠错。

研发背景: 由小红书dots模型实验室开发,基于在IMO 2026中获得官方满分(42/42)的同系列技术积累,旨在探索高参数效率的MoE架构在复杂真实任务中的落地可能,推动开源社区在Agent方向的技术进步。

核心价值: 解决了现有大模型在处理多步、长周期、无唯一答案的真实任务时规划能力弱、记忆不足、无法持续纠错的问题,通过Self-Critiquing自我批判机制与外部动态记忆文件,实现跨步骤的知识累积与策略自适应调整。

技术特点: 采用256路由专家加1共享专家的MoE架构,仅激活16B参数即可达到280B参数级别的表达能力;内置1.13B参数的多Token预测层实现推测解码加速;视觉由7B总参数/1.2B激活的MoE ViT编码器处理,音频由800M稠密网络编码,实现原生多模态统一理解。

2. 主要功能

  • 长程开放域Agent: 专攻旅行规划、婚礼筹备等无唯一答案、时间跨度长的复杂任务,模型能够独立推进并交付完整结果,具备多步规划、资源协调与动态调整能力,区别于仅处理标准化任务的Agent系统。

  • 复杂推理与数学证明: 继承IMO 2026官方满分能力,具备顶尖的数学推理与形式化证明水平,能够在数论、组合数学等竞赛级题目上给出严谨的推导过程,适用于科研辅助与教育场景。

  • 多模态理解: 支持文本、图像、视频、音频四种模态的输入,可完成视觉空间判读、文档图表解析与视频问答,MoE ViT编码器与稠密音频编码器的融合设计保证了跨模态推理的精度与效率。

  • 端到端软件工程: 能独立完成从需求分析、技术选型、代码实现、编译构建到验证运行的完整开发流程,无需人工介入即可交付可运行的应用,典型场景包括visionOS原生应用开发与Web应用构建。

  • 自主学习与纠错: 在未知规则环境中通过观察提出假设并验证,出错时启动Self-Critiquing自我批判机制,将修正后的规则写入外部memory.md动态记忆文件,实现跨步骤的知识累积与策略调整,显著提升长程任务的鲁棒性。

  • 交互式任务执行: 无需专门训练即可接管游戏、破解ARC-AGI等需要实时反馈与长程策略调整的任务,模型能够根据当前状态动态调整行为,在策略游戏中展现出接近人类玩家的决策水平。

3. 如何使用

  1. 环境要求与前置条件: 由于模型总参数达280B,推荐使用多卡GPU部署,单卡显存需至少80GB(如NVIDIA A100或H100),操作系统建议Linux,并安装CUDA 12.x及以上版本。若仅通过API调用则无需本地硬件。

  2. 访问官方平台(云端调用): 前往 https://dots.ai/platform/ 注册账号并获取API密钥,通过RESTful接口直接调用模型,支持多模态输入与长程Agent任务,适合快速体验与轻量级集成,无需关心底层部署。

  3. 下载模型权重(本地部署): 在Hugging Face仓库 dots-studio/dots3-note-prev 下载Apache-2.0协议下的模型权重文件,包括模型参数、分词器与配置文件。权重文件约560GB(FP16),需预留充足存储空间。

  4. 安装推理框架并配置并行策略: 根据硬件环境选择vLLM、SGLang或Transformers等兼容框架,加载模型时需设置张量并行(TP)与专家并行(EP),将280B参数分布到多块GPU上。推荐TP=8、EP=4的配置,可有效降低单卡显存压力。

  5. 启动任务调用: 通过API或本地接口输入文本、图像、音频等多模态数据,触发长程Agent任务、复杂推理或端到端软件工程。注意首次加载模型需较长时间(约10-20分钟),后续推理可通过缓存加速。建议使用流式输出以降低首Token延迟。

4. 优缺点分析

优点
极致参数效率: 280B总参数仅激活16B,以远低于同性能大模型的算力消耗,实现比肩数倍参数模型的推理与Agent能力,推理成本显著降低。
长程开放域Agent能力突出: 专攻旅行规划、婚礼筹备等无标准答案、时间跨度长的任务,Self-Critiquing与动态记忆机制使其在复杂场景中表现优于多数通用模型。
原生多模态理解: 统一处理文本、图像、视频、音频,MoE ViT与稠密音频编码器的设计保证了跨模态推理精度,在视觉空间判读、图表解析等任务上效果出色。
开源协议友好: 采用Apache-2.0许可证,权重与代码全量开源,支持商业和学术用途,社区可自由二次开发与集成,降低了使用门槛。

5. 同类工具对比

对比维度 dots3-note preview DeepSeek-v4-flash-0731
参数规模 280B总参数 / 16B激活 284B总参数 / 13B激活
架构 MoE(256路由+1共享,Top-8) MoE(具体路由数未公开)
上下文窗口 512K 128K
核心定位 长程开放域Agent(旅行、婚礼等无标准答案任务) 通用高效推理与代码生成
多模态能力 文本、图像、视频、音频统一理解(MoE ViT + 稠密音频编码器) 以文本为主,多模态能力有限
长程任务支持 专为数小时至数天的复杂任务优化,Self-Critiquing + 动态记忆 侧重代码与数学推理,长程开放任务非主攻方向
开源协议 Apache-2.0,权重与代码全量开源 开源权重,协议相对受限(需申请商业授权)
适用场景 个人助理、复杂生活规划、端到端软件开发、游戏策略 代码生成、数学解题、轻量级推理任务

选型建议: 若任务涉及多步骤、无标准答案的真实场景(如旅行规划、婚礼筹备、游戏策略),且需要模型具备自主纠错与长期记忆能力,dots3-note preview是最优选择,其Self-Critiquing机制与512K上下文窗口提供了独特优势。对于以代码生成和数学推理为主的场景,DeepSeek-v4-flash-0731在同等激活参数下表现高效,且社区生态成熟。

进一步建议: 如果用户更看重多模态理解(尤其是图像与视频)且任务偏通用对话,Qwen2.5-VL-72B作为稠密模型在部署上相对简单,中文支持优秀,但缺乏长程Agent的原生能力。dots3-note preview在Agent方向上的差异化优势显著,适合探索下一代智能体应用的研究者与开发者。

6. 编辑总结

dots3-note preview在技术架构上展现出明显的创新性:256路由专家加1共享专家的MoE设计,配合仅16B的激活参数,实现了280B参数级别的表达能力,这种极致的参数效率为大规模模型的低成本部署提供了新思路。多Token预测层的引入无需独立草稿模型即可实现推测解码,在推理加速上具有实用价值。Self-Critiquing自我批判机制与外部动态记忆文件的结合,使得模型在长程开放任务中具备了持续学习和纠错的能力,这是当前多数大模型所欠缺的关键特性。

从实用价值来看,dots3-note preview在旅行规划、婚礼筹备、游戏策略等真实复杂场景中展现出的自主规划与执行能力,已超越传统基于固定流程的Agent系统。端到端软件工程能力更是将模型从单纯的对话工具提升为可交付成果的生产力工具。不过,其部署门槛较高,280B总参数需要多卡GPU集群,限制了个人开发者的使用;中文生态的完善程度也尚待提升。

该模型适合两类人群:一是研究智能体技术、长程推理与自我纠错机制的研究者,dots3-note preview提供了完整的开源实现与权重;二是需要处理复杂真实任务的开发者,可通过API或本地部署将其集成到旅行规划、装修顾问、游戏代练等应用中。未来,随着社区对中文支持的加强、推理框架的优化以及更小参数版本的出现,dots3-note系列有望成为开源Agent领域的重要基础设施。

7. 应用场景

  • 智能装修顾问: 用户上传户型图、家电尺寸图并语音描述需求,模型自动计算空间适配性,检索风格案例,生成定制化装修方案网页,并提醒现场复尺等关键事项,实现从需求到方案的一站式服务。

  • 独立游戏代练Agent: 接管《杀戮尖塔 II》等策略游戏,根据实时战局学习敌人机制,动态管理牌组、金币与药水,在长程对局中做出全局最优决策,无需人工干预即可完成高难度关卡。

  • 婚礼全流程策划师: 从预算分配、场地筛选、宾客名单管理到流程时间表制定,模型在数周内持续跟进,根据天气变化、人员调整等突发变动动态重新规划,输出可执行的策划文档与提醒清单。

  • visionOS原生应用开发: 参考设计图独立完成Apple Vision Pro应用的需求分析、SwiftUI+RealityKit代码编写、Xcode工程构建与模拟器验证,实现从概念到可运行空间应用的完整交付。

  • 跨模态深度研究助手: 针对学术或商业课题,自主执行多轮搜索、阅读PDF图表、观看视频资料,整合多源信息生成结构化研究报告,并在发现矛盾时启动Self-Critiquing修正结论,确保最终输出的准确性。

8. 常见问题FAQ

Q:dots3-note preview的硬件部署要求是什么?
A:本地部署需要多卡GPU集群,推荐8×NVIDIA A100 80GB或H100,并配置张量并行与专家并行。若仅通过API调用,则无需本地硬件,直接访问 https://dots.ai/platform/ 即可。

Q:模型是否支持中文输入?
A:模型主要针对英文场景训练与评测,但分词器包含中文词表,理论上支持中文输入。不过目前公开的中文任务表现数据较少,建议在中文场景下先进行小规模测试。

Q:512K上下文窗口在实际使用中效果如何?
A:512K上下文在技术指标上领先,但实际效果取决于任务类型。对于需要超长记忆的Agent任务(如持续数周的婚礼策划),模型能够较好地保持一致性;但对于随机信息检索,可能出现注意力分散的问题,建议结合外部记忆文件使用。

Q:如何获取API密钥?
A:前往 https://dots.ai/platform/ 注册账号,进入控制台即可创建API密钥。API支持多模态输入与流式输出,计费方式按Token量或请求次数计算,具体价格请参考平台公告。

Q:dots3-note preview与DeepSeek-v4-flash-0731相比,哪个更适合代码生成?
A:DeepSeek-v4-flash-0731在代码与数学推理上经过专项优化,且社区生态更成熟,更适合纯代码生成任务。dots3-note preview的优势在于长程开放域Agent与多模态理解,代码生成能力虽强但并非核心定位。

Q:模型权重是否可以商用?
A:可以。dots3-note preview采用Apache-2.0许可证,权重与代码全量开源,允许商业使用、修改与再分发,但需保留版权声明。

9. 项目地址

版权声明:本文部分内容由 AI 辅助生成并经人工校准,版权归本站所有,未经允许禁止任何形式的转载。