返回模型列表

Zing-0.5 – Loopit 开源的实时交互视频世界模型

AI科技编辑部
RSS 订阅

导读摘要:

Zing-0.5是由Loopit团队开源的实时交互视频世界模型,参数量5B,基于Wan2.2-TI2V-5B基座训练,采用Apache 2.0协议。其核心能力是"联合控制":键盘空间操作与自然语言语义改写两条链路共同进入Causal DiT,用户可一边操控角色移动,一边用文字改写正在发生的世界,新指令进入当前世界而非重置场景。单卡RTX 5090可超24 FPS实时生成,一分钟流式推理成本约6分钱...

1. Zing-0.5是什么

Zing-0.5是由Loopit团队开源的实时交互视频世界模型,参数量5B,基于Wan2.2-TI2V-5B基座训练,采用Apache 2.0协议。其核心能力是"联合控制":键盘空间操作与自然语言语义改写两条链路共同进入Causal DiT,用户可一边操控角色移动,一边用文字改写正在发生的世界,新指令进入当前世界而非重置场景。单卡RTX 5090可超24 FPS实时生成,一分钟流式推理成本约6分钱,在WBench评测中位列实时世界模型第一。

技术定位与领域: 属于视频生成与交互式世界模型的交叉领域。区别于一次性文生视频工具,Zing-0.5强调生成过程的实时性与可干预性,定位为可玩的生成式世界引擎。其技术路线融合了扩散Transformer(DiT)、自回归时序建模与多模态条件控制,在实时交互视频生成这一细分方向上具有明确的差异化定位。

研发背景: 由Loopit团队开发,基座采用Wan2.2-TI2V-5B这一成熟的视频生成模型。团队选择在现有基座上叠加轻量动作控制链路与语义改写机制,而非从零训练完整世界模型,体现了工程化路线的高效性。WBench评测由美团LongCat与复旦大学联合推出,Zing-0.5在该评测中位列实时世界模型第一。

核心价值: 解决了交互式视频生成中"控制与生成脱节"的核心问题。传统视频生成模型只能单向生成,用户无法干预过程;Zing-0.5实现了"边玩边改"的交互范式,键盘操作与文字指令可同时作用于生成过程,且新指令精准写入当前世界而非重置场景。这为AI游戏、互动内容消费、虚拟直播等场景提供了底层技术支撑。

技术特点: 双控制链路架构是核心创新——动作链(action residual)与文本链(cross-attention)解耦并行,共同注入Causal DiT;训练中途切换Prompt使模型原生习得改写能力;主动扰动历史画面的训练策略让模型学会抗误差累积,且该能力完全内化于权重,推理时零额外开销。四步DMD蒸馏采样将扩散采样压缩至4步,是单卡实时生成的关键。

2. 主要功能

  • 联合控制: 键盘空间操作(W/A/S/D移动+I/J/K/L视角)与自然语言语义改写共同作用于生成过程。两条控制链路解耦并行,用户可以在操控角色移动的同时输入文字指令改变世界,例如让巨龙一边保持飞行方向一边喷火,操作与改写互不中断。

  • 实时流式生成: 单张RTX 5090可超过24 FPS的生成速度,一分钟流式推理成本约6分钱。通过四步DMD蒸馏采样将扩散采样压缩至4步,配合因果KV缓存支持无限长时序自回归推演,实现低延迟、低成本的连续生成。

  • 中途语义改写: 生成过程中可随时插入自然语言指令(如"暴风雪""龙喷火"),模型保留已生成的视觉与操作历史,通过cross-attention将新指令写入当前世界。改写只作用于指令涉及的内容,角色、画风、远处场景保持稳定。

  • 多对象同时响应: 一条指令可同时驱动多个不同对象产生关联变化,例如"人物跪地祈祷+多座雕像睁眼发光"。模型具备对指令的语义解析与对象级控制能力,而非简单的全局风格迁移。

  • 长程一致性: 角色外观、场景结构、画风(如像素风格)在持续生成中保持稳定,不漂移、不换画风。这得益于训练中主动扰动历史画面的策略,模型学会了从带误差的历史帧中甄别真实状态。

  • 抗误差累积: 自回归生成中模型自身输出会引入误差,Zing-0.5在训练时主动对历史画面施加噪声、模糊、颜色偏移与视角变化,模拟真实推理误差,迫使模型学会纠错。该能力完全内化于权重,推理时无需额外纠错模型,不增加延迟。

  • 动作控制: 8维连续动作信号(取值[0,1]),支持前进/后退/左右移动与四向视角变化。动作信号经sin/cos编码与因果时序卷积(不足10M参数)转化为逐帧action residual,与视频token逐帧对齐后注入生成网络。

  • 本地部署与开源: 5B参数单卡可跑,Linux+PyTorch环境,80GB+显存或滑窗注意力配置(RTX 4090级别亦可),输出H.264编码的24 FPS MP4。Apache 2.0协议,代码与权重在GitHub、ModelScope、HuggingFace全面开放。

3. 如何使用

  1. 环境准备: 需要Linux操作系统与NVIDIA GPU,建议80GB以上显存(如H100/A100),RTX 4090级别可通过滑窗注意力配置运行。基础环境要求Python 3.11、PyTorch 2.9与CUDA。

  2. 获取代码与模型: 执行git clone https://github.com/seedleap/zing-world-model.git克隆仓库,进入目录后运行pip install -r requirements.txt安装依赖。模型权重通过ModelScope下载:先pip install modelscope,再执行modelscope download --model seedleap/Zing-0.5 --local_dir ./Zing-0.5。权重目录包含generator/model.pt(生成器)与pretrained/(text_encoder、tokenizer、vae)。

  3. 运行推理: 文本驱动模式使用run.sh脚本,指定--pretrained-dir、--checkpoint、--messages examples/case3_action_t2v.jsonl、输出目录与随机种子。图片初始化模式换用examples/case4_action_ti2v.jsonl等图生视频配置。

  4. 注意力参数配置: 80GB+显存使用--local-attn-size 97 --sink-size 9;低于80GB使用--local-attn-size 33 --sink-size 5;需要完整历史注意力时使用--local-attn-size -1 --sink-size 0。滑窗注意力通过局部注意力与sink token在有限显存内维持长上下文。

  5. 交互操作: W/A/S/D控制前后左右移动,I/J/K/L控制视角转动,内部映射为8维连续向量(取值[0,1])。生成进行中输入自然语言指令可实现中途语义改写,世界实时响应且场景不被重置。

  6. 查看输出: 生成结果为H.264编码的24 FPS MP4文件,保存在--output-dir指定目录。如不想本地部署,可等待官方宣布将在两周内上线的Loopit APP海外版,在App中直接体验实时互动世界。

4. 优缺点分析

优点
联合控制能力独特: 键盘操作与文字改写双链路并行,实现"边玩边改"的交互范式,新指令精准写入当前世界而不重置场景,这是多数实时世界模型不具备的能力。
实时性能突出: 单卡RTX 5090超24 FPS,一分钟流式推理成本约6分钱,四步DMD蒸馏采样是实时性的关键,在实时世界模型赛道中处于领先位置。
长程一致性优秀: 训练中主动扰动历史画面的策略使模型学会抗误差累积,长时间生成角色外观与场景结构保持稳定,且纠错能力内化于权重,推理零额外开销。
真开源生态: Apache 2.0协议,代码、权重、部署文档全套开放,商用无门槛,基于成熟的Wan2.2-TI2V-5B基座,二次开发成本低。

5. 同类工具对比

对比维度 Zing-0.5(Loopit/SeedLeap) HiDream-O1-World(HiDream.ai)
WBench总排名 第2(实时榜第1) 第3
综合平均分 81.0 80.9
画面质量(Quality) 80.6 81.0
场景设定(Setting) 77.8 82.2
交互能力(Interaction) 84.2 80.0
一致性(Consistency) 88.5 88.0
物理规律(Physical) 73.8 73.3
实时性 实时(单卡5090超24 FPS) 未标注实时标签
交互类型 动作+文本联合控制,可中途改写世界 动作控制
参数规模 5B(基座Wan2.2-TI2V-5B) 未公开
开源情况 开源(Apache 2.0,代码+权重) 未标注开源
推理成本 约6分钱/分钟流式生成 未公开

如果核心诉求是实时交互与"边玩边改"的生成体验,Zing-0.5是目前唯一同时具备动作控制与中途文本改写能力的开源方案,且WBench交互能力(84.2)与一致性(88.5)均为三者最高,适合AI游戏原型、互动内容创作等场景。

如果更看重画面质量与场景设定的精致度,HiDream-O1-World在Setting维度(82.2)领先,适合对视觉表现力要求较高的内容生成任务;LingBot-World v2以速度见长,但物理规律得分偏低,适合对物理精度要求不高的快速生成场景。

6. 编辑总结

Zing-0.5的技术创新性体现在三个层面:一是双控制链路架构,将动作信号与文本语义解耦并行注入Causal DiT,实现了真正意义上的联合控制;二是训练策略的创新,通过在自回归中途切换Prompt、主动扰动历史画面,让模型原生习得改写与纠错能力,而非推理时的功能拼接;三是工程化效率,动作控制链路不足10M参数,四步DMD蒸馏采样让5B模型在单卡RTX 5090上实现超24 FPS的实时生成,成本控制到每分钟约6分钱。

从实用价值看,Zing-0.5将视频生成从"一次性生成"推向"可持续交互",为AI游戏、互动短视频、虚拟直播等内容形态提供了可落地的技术底座。Apache 2.0协议与全套开放降低了二次开发门槛,开发者可以基于成熟的Wan2.2-TI2V-5B基座快速构建垂直应用。

适用人群主要包括:AI游戏与互动内容开发者、世界模型研究者、UGC创作者以及需要快速验证玩法创意的游戏团队。其局限在于物理规律模拟精度仍有提升空间,且产品化入口尚未完全打通。

从发展潜力看,Zing-0.5证明了"轻量控制链路+成熟基座"路线的可行性,随着Loopit APP海外版上线与社区生态的完善,实时交互世界模型有望在内容消费领域开辟新的品类空间。

7. 应用场景

  • AI互动娱乐/AI游戏: 玩家用键盘操控角色在生成世界中探索,随时用语言改写剧情与环境(如下雪、召唤怪物),实现"人人可玩的生成式游戏"。相比传统游戏需要预建模与物理引擎,世界模型直接生成可交互画面,大幅降低游戏制作门槛。

  • "可以玩的抖音"式内容消费: 短视频从"看"变成"玩",每个用户在同一段内容里玩出不同走向。创作者生成一段可交互视频世界,观众通过操作与文字指令改变剧情发展,重塑内容平台的消费形态。

  • UGC互动内容创作: 创作者生成可交互视频世界供粉丝体验,观众不再是旁观者而是参与者。Zing-0.5的开源协议与低成本推理使个人创作者也能制作互动内容,衍生全新内容品类。

  • 游戏原型快速验证: 游戏团队无需搭建引擎场景,用世界模型快速生成可交互Demo,低成本验证玩法与关卡创意。在项目早期阶段即可测试操作手感与叙事节奏,缩短立项评估周期。

  • 虚拟直播/虚拟主播: 主播实时驱动虚拟世界,观众通过弹幕文字参与改写场景与事件,增强直播互动性。例如观众发送"下雨"指令,虚拟场景实时响应天气变化,提升直播内容的不可预测性与参与感。

8. 常见问题FAQ

Q:Zing-0.5与普通文生视频模型有何本质区别?
A:普通文生视频模型一次生成一段固定时长的视频,生成过程中用户无法干预。Zing-0.5是交互式世界模型,生成过程持续进行,用户可通过键盘操作与文字指令实时影响生成内容,且新指令不会重置已生成的场景。

Q:显存不足80GB能否运行Zing-0.5?
A:可以。显存低于80GB时使用滑窗注意力配置--local-attn-size 33 --sink-size 5,RTX 4090级别显卡即可运行,但可维护的上下文长度会相应缩短。完整历史注意力需要80GB以上显存,建议使用H100/A100等显卡。

Q:中途输入文字指令会不会导致场景重置?
A:不会。模型在训练时切换Prompt,保留了已生成的视觉与操作历史,新指令通过cross-attention写入当前世界。改写只作用于指令涉及的内容,角色外观、画风与远处场景保持稳定。

Q:长时间生成后画面会漂移吗?
A:Zing-0.5在训练中主动扰动历史画面(加噪声、轻微模糊、颜色偏移、视角变化),模拟自回归推理的真实误差,模型学会了从不完美历史中甄别状态。因此长时间生成时角色外观与场景结构能保持稳定,且纠错能力内化于权重,推理时不增加额外开销。

Q:Zing-0.5商用是否受限?
A:不受限。Zing-0.5采用Apache 2.0协议,代码与权重完全开放,支持商业与学术用途,商用无门槛。基座Wan2.2-TI2V-5B同样为开源模型。

Q:Zing-0.5与Wan2.2-TI2V-5B是什么关系?
A:Zing-0.5基于Wan2.2-TI2V-5B基座训练,继承了其视频生成能力,在此基础上增加了动作控制链路(action residual)与中途文本改写机制,并针对实时交互场景优化了采样效率与长程一致性。

9. 项目地址

  1. GitHub仓库: https://github.com/seedleap/zing-world-model
  2. HuggingFace模型库: https://huggingface.co/seedleap/zing-0.5
  3. ModelScope模型库: https://modelscope.cn/models/seedleap/Zing-0.5

版权声明:本文部分内容由 AI 辅助生成并经人工校准,版权归本站所有,未经允许禁止任何形式的转载。