Atlas – World Labs 推出的全球首个多模态世界模型

导读摘要:
Atlas是由李飞飞创办的World Labs推出的全球首个多模态世界模型。该模型原生理解文本、图像、视频与3D空间信息,通过空间上下文(Spatial Context)机制将画面锚定在三维坐标中,实现像素级精确的相机控制生成、稀疏照片3D重建及时空模拟。用户仅需提供几张普通照片,即可生成可任意运镜的长视频、重建真实场景,并为机器人搭建仿真训练环境。
1. Atlas是什么
Atlas是由李飞飞创办的World Labs推出的全球首个多模态世界模型。该模型原生理解文本、图像、视频与3D空间信息,通过空间上下文(Spatial Context)机制将画面锚定在三维坐标中,实现像素级精确的相机控制生成、稀疏照片3D重建及时空模拟。用户仅需提供几张普通照片,即可生成可任意运镜的长视频、重建真实场景,并为机器人搭建仿真训练环境。

技术定位与领域: Atlas属于多模态世界模型(World Model)领域,位于生成式AI与3D视觉的交叉地带。与常规视频生成模型不同,Atlas将空间理解作为第一性原则,以3D场景表示为核心输出目标,覆盖图像生成、视频生成、3D重建与物理模拟四大任务,在空间智能方向形成了差异化定位。
研发背景: 该模型由斯坦福大学李飞飞教授创办的World Labs开发,团队汇聚了计算机视觉、图形学与机器学习领域的资深研究人员。研发动机在于突破现有生成模型缺乏空间一致性的瓶颈,推动AI从“生成像素”走向“理解空间”,为内容创作与具身智能提供统一的空间计算基座。
核心价值: 传统视频生成模型依赖文本描述间接控制画面,难以保证跨视角几何一致性。Atlas将相机位姿作为原生输入,从机制上解决了视角漂移、结构崩坏等问题;同时将稀疏重建的门槛从专业设备降至普通手机照片,显著降低了3D内容生产与具身智能训练的成本。
技术特点: 模型采用从零预训练的多模态自回归扩散Transformer统一架构,将文本、图像、视频帧、相机位姿与3D深度图编码为同一种空间上下文序列,兼顾了语言模型的序列灵活性与扩散模型的高质量渲染能力。在生成新视图时,模型在已建立的空间框架内进行外推与补全,保证跨视角的几何一致性和物理合理性。
2. 主要功能
- 像素级相机控制生成: 输入1–6张照片并指定相机位姿,即可生成最长1分钟、分辨率达1440p的运镜视频。相机参数作为原生输入而非文本描述,画面空间几何高度一致,适合影视预演与广告制作等对运镜精度要求较高的场景。
- 稀疏照片3D空间重建: 仅用2–25张普通手机照片即可重建真实场景的3D点云或高斯泼溅模型,无需专业扫描设备。该能力大幅降低了3D场景采集门槛,为游戏开发、建筑展示与数字化存档提供了低成本方案。
- 时空模拟与多机位重构: 模型理解空间结构与世界演化规律,支持“子弹时间”式多机位重构。用户用3–5部手机从不同角度拍摄同一段视频,即可在任意角度自由回放,替代了传统专业相机阵列方案。
- Real-to-Sim机器人仿真环境生成: 拍摄真实环境短视频后,Atlas自动生成高精度数字孪生场景,供机器人在虚拟空间中反复试错。该能力将真实数据采集成本大幅降低,为具身智能训练提供了可规模化的仿真数据来源。
- 高质量图像与360°全景图生成: 支持根据文本或图像提示生成高质量图片与360°全景图,能够处理复杂提示与多种视觉风格,适合电商展示、VR内容制作等应用。
- 统一多模态空间上下文架构: 模型内部以空间上下文序列统一编码文本、图像、视频帧、相机位姿与深度图,在已建立的空间框架内进行外推与补全,保证跨视角的几何一致性与物理合理性。
3. 如何使用
- 申请访问权限: 访问World Labs官网的Atlas发布页,通过官方表单提交申请。目前Atlas采用申请制开放,获批后即可获得使用入口。
- 相机控制生成视频: 上传1–6张参考照片,设定相机位姿与运动轨迹,Atlas将生成最长1分钟、1440p分辨率的运镜视频。建议参考照片覆盖场景的多个视角,以提高生成画面的空间一致性。
- 3D空间重建: 上传2–25张普通照片,系统自动重建为可漫游的3D点云或高斯泼溅场景。拍摄时保持相邻照片间有足够的重叠区域,并避免过度曝光或运动模糊,可提升重建精度。
- “子弹时间”特效制作: 用3–5部普通手机从不同角度同步拍摄同一段视频,上传后Atlas重构为可任意角度回放的时空模拟结果,无需专业相机阵列。
- 机器人仿真训练: 拍摄真实环境的短视频,Atlas自动生成高精度数字孪生场景,供机器人在虚拟空间中执行仿真训练与策略验证。
- 文生图与全景图生成: 输入文本提示或参考图,直接生成高质量图像或360°全景图,支持复杂提示与多种视觉风格。
- 注意事项: 目前Atlas尚未公开本地部署方案与API文档,具体算力要求与模型权重开放计划待官方公布。申请访问时建议使用机构邮箱,并清晰描述使用场景以提高通过率。
4. 优缺点分析
| 优点 |
|---|
| 像素级相机控制: 将相机位姿作为原生输入而非文本描述,实现导演级精确运镜,画面空间几何高度一致,显著优于依赖文本间接控制的生成模型。 |
| 极致稀疏重建: 仅需2–25张普通手机照片即可重建高精度3D点云或高斯泼溅模型,大幅降低3D采集门槛,优于传统多视角扫描方案。 |
| 空间几何一致性: 基于空间上下文将图像锚定在3D坐标中,跨视角生成不崩坏、不闪烁,从机制上解决视频生成中的视角漂移问题。 |
| 多任务统一架构: 单一模型同时覆盖生成、重建、模拟与图像生成,无需切换专用工具,降低工作流复杂度。 |
5. 同类工具对比
| 对比维度 | Atlas(World Labs) | Genie 3(Google DeepMind) | Sora(OpenAI) |
|---|---|---|---|
| 核心定位 | 面向空间智能的多模态世界模型,覆盖生成、重建与模拟 | 通用实时交互式世界模型,侧重游戏与交互环境 | 文本/图像驱动的视频生成模型,侧重内容创作 |
| 输入模态 | 文本、图像、视频、相机位姿、3D深度图 | 图像、动作指令、状态历史 | 文本、图像 |
| 相机控制 | 像素级精确,原生支持相机位姿参数输入 | 主要通过文本/动作描述间接控制 | 不支持精确相机参数控制,依赖文本描述 |
| 3D重建能力 | 2–25张普通照片即可重建点云/高斯泼溅 | 侧重交互世界生成,非稀疏重建专长 | 无3D重建能力 |
| 视频生成 | 最长1分钟、1440p,空间几何一致性突出 | 侧重实时交互,单段时长相对较短 | 公开版本支持最高1080p输出,画质高但空间一致性有限 |
| 物理仿真 | 通过Real-to-Sim支持机器人训练环境生成 | 强调自学习物理引擎,实时交互反馈 | 无明确物理仿真能力 |
| 输出格式 | 图像、视频、点云、3D高斯泼溅 | 交互式世界状态、视频帧 | 视频 |
| 开源情况 | 未公布开源计划 | 未公布开源计划 | 闭源 |
选型建议: 对于影视与视觉特效制作团队,Atlas的像素级相机控制与稀疏重建能力是当前最贴合需求的选择,尤其适合需要精确运镜与场景重建的预演环节;若侧重实时交互体验,如游戏环境生成,Genie 3的实时交互能力更具优势。
对于具身智能与机器人研究机构,NVIDIA Cosmos提供了面向物理AI的开源模型与仿真工具链,生态相对成熟;Atlas的Real-to-Sim能力在稀疏输入条件下表现突出,但工具链成熟度尚需观察。内容创作者若仅需高质量视频生成,Sora在画质与文本理解方面依然是稳妥选择,但需接受其缺乏空间控制能力的局限。
6. 编辑总结
Atlas的发布标志着生成式AI从像素生成向空间理解的重要转向。从技术架构看,多模态自回归扩散Transformer将语言模型的序列建模能力与扩散模型的连续数据生成能力统一在同一框架内,空间上下文的引入则从机制层面解决了跨视角一致性问题,这一设计思路对后续世界模型研究具有参考价值。模型从零预训练且已验证随算力增加性能持续提升,为规模扩展保留了空间。
从实用价值看,Atlas将稀疏重建门槛降至普通手机照片,直接降低了3D内容生产与具身智能训练的成本,在影视预演、游戏开发、建筑展示等场景具备明确的应用潜力。其Real-to-Sim能力为机器人训练提供了从真实世界到仿真环境的自动化通路,有助于缓解具身智能领域真实数据稀缺的瓶颈。
当前Atlas仍处于申请制开放阶段,模型权重、API与本地部署方案尚未公布,生态工具链有待完善。对于从事空间智能研究、3D内容生产与机器人训练的专业团队,Atlas值得重点关注;普通创作者可等待正式公测后再评估其工作流适配度。随着算力扩展与生态建设推进,Atlas在空间智能方向的发展空间值得持续观察。
7. 应用场景
- 影视与VFX制作: 导演提供几张场景照片并设计运镜轨迹,Atlas生成分辨率达1440p的精确运镜视频;用3–5部手机即可实现“子弹时间”特效,替代传统专业相机阵列,显著降低特效制作成本。
- 游戏与虚拟场景搭建: 美术团队上传少量现实照片,Atlas自动重建为可漫游的3D高斯泼溅场景,可直接导入游戏引擎,缩短开放世界或VR场景的制作周期。
- 机器人与具身智能训练: 用手机拍摄真实环境短视频,Atlas自动生成高精度数字孪生场景,供机器人在虚拟空间中反复执行仿真训练与策略验证,解决真实数据采集慢、成本高的痛点。
- 建筑与房地产展示: 仅凭几张现场照片即可重建建筑或室内空间的完整3D模型,支持任意角度漫游与航拍视角生成,可用于楼盘预售展示或古迹数字化存档。
- 广告与电商内容生成: 输入产品图或文本提示,快速输出360°全景展示视频或风格化广告片,通过像素级相机控制确保产品在不同运镜下几何与光影高度一致。
8. 常见问题FAQ
Q:Atlas与Sora等视频生成模型有何本质区别?
A:Sora等模型以文本或图像为条件生成视频,缺乏对三维空间结构的显式理解,跨视角一致性难以保证。Atlas将相机位姿与深度信息作为原生输入,在模型内部构建带空间约束的3D场景表示,从机制上保证生成画面的几何一致性,并额外支持3D重建与仿真环境生成。
Q:3D重建需要什么样的拍摄条件?
A:只需2–25张普通手机照片,无需专业扫描设备。建议拍摄时保证相邻照片间有足够重叠区域,避免过度曝光与运动模糊,并尽量覆盖场景的各个视角,以提升重建点云或高斯泼溅模型的精度与完整性。
Q:相机控制精度是如何实现的?
A:Atlas将相机位姿编码为空间上下文序列的一部分,与图像、视频帧、深度图统一建模。生成新视图时,模型在已建立的三维坐标框架内进行外推与补全,因此能够实现像素级的相机控制,而非依赖模糊的文本描述。
Q:Atlas是否支持中文输入?
A:官方发布信息未明确说明中文支持情况。考虑到模型采用统一多模态编码架构,文本输入能力取决于预训练数据的语言覆盖范围,具体中文表现有待官方公布或实测验证。
Q:如何获取Atlas的使用权限?
A:目前Atlas采用申请制开放,需通过官方发布页提供的表单提交申请。建议使用机构邮箱并清晰描述应用场景,审核通过后即可获得访问入口。模型权重、API与本地部署方案尚未公布。
Q:Atlas能否用于实时交互式生成?
A:从现有发布信息看,Atlas的生成以离线任务为主,尚未展示实时交互式生成能力。若需实时交互世界模型,可关注Google DeepMind的Genie 3等侧重实时响应的方案。
9. 项目地址
- 官方发布页: https://www.worldlabs.ai/blog/atlas —— World Labs官方博客发布的Atlas模型介绍与技术说明。
- 访问权限申请: https://form.typeform.com/to/zHFR4r3A —— 官方提供的Atlas访问申请表单。
版权声明:本文部分内容由 AI 辅助生成并经人工校准,版权归本站所有,未经允许禁止任何形式的转载。




