ABot-World:高德开源的交互式世界模型,单RTX5090显卡实现无限长时序实时场景推演

AI新闻 人工智能研究所
64

一、ABot-World是什么

ABot-World 是高德地图CV实验室(amap-cvlab)开源的单桌面GPU无限交互式世界推演模型,项目全称《ABot-World: Infinite Interactive World Rollout on Single Desktop GPU》,核心版本为5B因果学生模型 ABot-World-0-5B-LF,配套开放本地Gradio演示程序与线上交互平台ABot World Studio。

该项目区别于传统固定时长AI视频生成工具,主打用户动作实时驱动、无上限持续场景生成,仅依靠单张RTX 5090消费级显卡即可完成720P实时交互推演,是面向开发者、创作者、仿真场景打造的轻量化开源世界生成方案,整体代码、权重、推理流程完全开源,遵循Apache 2.0开源协议。

二、功能特色

1. 动作驱动实时交互控制

模型实时接收用户键盘/视角操作指令,画面随操作同步变化,支持自由漫游、视角转向、场景前进后退等交互行为,摆脱传统AI视频“只能被动播放、无法干预剧情”的局限,实现可自由探索的虚拟空间。

2. 单消费级显卡实时推理

无需多卡集群、云端算力,本地单张RTX 5090即可稳定运行;官方实测性能:720P分辨率、16FPS实时输出、交互延迟1.2秒、全程仅占用19GB显存,普通桌面设备即可部署调试。

3. 无限长时序世界推演

打破常规视频生成几十秒时长限制,支持开放式持续生成,无预设视频长度截断,可持续拓展全新场景、动态物体,实现理论上无上限的虚拟世界漫游。

4. LongForcing长时序抗漂移训练技术

自研LongForcing训练机制,无需中途切换提示词,模型自主生成全新场景元素,有效解决长时序生成画面扭曲、场景崩坏、物体消失的漂移问题,长时间推演画面结构稳定。

5. 全栈开源配套工具链

完整开放推理代码、量化工具、Web前端交互客户端、配置文件、模型权重下载脚本;提供本地Gradio可视化演示,支持自定义参数、模型加载、场景导出调试。

6. 轻量化蒸馏模型架构

采用师生模型蒸馏方案,将大参数量双向教师模型压缩为5B因果学生模型,推理速度大幅提升,同时保留高清场景细节与空间连贯性,兼顾画质与硬件门槛。

ABot-World:高德开源的交互式世界模型,单RTX5090显卡实现无限长时序实时场景推演

三、技术细节

1. 底层技术底座

项目基于Wan2.2视频VAE、LightX2V加速框架、Causal Forcing训练范式二次优化开发,融合Helios内核优化Triton RoPE归一化算子,大幅降低显存占用、提升推理速度。

  • 视觉编码:Wan2.2_VAE.pth 负责720P画面时空特征压缩解码

  • 文本编码:umt5-xxl大文本编码器,处理场景语义描述

  • 扩散生成主干:蒸馏后轻量化扩散模型diffusion_pytorch_model.safetensors,4步快速采样生成连续帧

2. 核心创新:LongForcing长时序训练

传统自回归世界模型推理时会产生分布偏移,长时间生成画面持续崩坏;LongForcing在训练阶段让模型基于自身生成画面迭代预测,模拟真实交互推演流程,消除训练与推理分布差,实现场景自主拓展、无提示词切换持续生成。

3. 硬件与环境技术参数

项目 技术参数
测试系统 Ubuntu 22.04
CUDA版本 CUDA 13.3
最低运行显卡 NVIDIA RTX 5090
输出规格 720P、16FPS
交互延迟 1.2s
峰值显存占用 19GB
Python环境 Python 3.12
模型参数量 5B(因果学生模型ABot-World-0-5B-LF)

4. 仓库代码架构

项目代码语言占比:Python 83.0%、CSS12.4%、JavaScript3.1%、HTML1.4%、Shell0.1%;核心目录分工:

  1. pipeline:完整世界推演推理流水线

  2. quantizer:模型量化、显存优化工具

  3. web_client:Gradio本地可视化演示程序

  4. wan:Wan2.2视觉模型底层算子

  5. configs:模型、LongForcing训练推理配置文件

  6. scripts:环境安装、权重下载自动化脚本

5. 模型权重组成

完整权重文件夹包含VAE视觉解码器、文本编码器、扩散生成主干、T5文本预训练模型,蒸馏后的生成权重已合并至safetensors文件,无需额外拼接权重,一键加载推理。

四、应用场景

  1. 游戏原型快速开发
    独立游戏开发者快速生成可交互虚拟场景,无需建模引擎,实时漫游测试关卡逻辑,降低游戏前期场景制作成本。

  2. 自动驾驶/空间仿真数据生成
    生成连续可变的道路、城市街景交互画面,为自动驾驶视觉模型提供无限时长训练仿真数据。

  3. 元宇宙、文旅虚拟漫游
    景区、城市数字孪生轻量化演示,用户自由切换视角漫游虚拟景区,快速制作交互式文旅数字内容。

  4. 影视分镜交互式预演
    导演实时操控镜头视角生成连续动态画面,提前预览长镜头运镜效果,替代静态分镜图。

  5. 教育、科普虚拟场景
    地理、历史课堂搭建可自由探索虚拟空间,学生通过交互操作沉浸式观察场景环境。

  6. 具身智能AI训练环境
    为智能体提供持续可变交互世界,训练视觉动作闭环自主探索能力。

五、使用方法

步骤1:克隆开源代码仓库

打开终端执行拉取代码命令

git clone https://github.com/amap-cvlab/ABot-World.git
cd ABot-World

步骤2:搭建Conda运行环境

conda create -n aworld python=3.12 -y
conda activate aworld
pip install -r requirements.txt

步骤3:下载官方模型权重(两种渠道任选其一)

渠道1:HuggingFace下载

pip install -U "huggingface_hub"
hf download acvlab/ABot-World-0-5B-LF --local-dir ./checkpoints/ABot-World-0-5B-LF

渠道2:ModelScope国内镜像下载

pip install -U "modelscope"
modelscope download "amap_cvlab/ABot-World-0-5B-LF" --local-dir ./checkpoints/ABot-World-0-5B-LF

下载完成后核对权重目录结构与官方标准结构保持一致。

步骤4:启动本地Gradio可视化交互Demo

# 默认使用0号GPU
bash web_client/run.sh
# 指定其他GPU运行
CUDA_ID=0 bash web_client/run.sh

运行完成后本地浏览器自动打开交互页面,输入场景描述即可开始实时漫游交互。

六、竞品对比

选取行业主流开源交互世界模型 Matrix-Game 2.0FlashWorld 与ABot-World横向对比:

对比维度 ABot-World Matrix-Game 2.0(昆仑万维) FlashWorld(厦大+腾讯)
核心定位 无限长时序交互式视频世界推演 分钟级游戏化实时交互生成 单卡秒级静态3D场景生成
硬件需求 RTX5090,19GB显存 中高端RTX显卡,12GB显存起步 普通消费显卡,8GB显存起步
输出规格 720P 16FPS,1.2s延迟 高清25FPS,低延迟 静态3D场景,无连续动态帧
长时序能力 LongForcing技术,无限持续生成,抗画面漂移 最多分钟级生成,长时间易画面崩坏 仅单次静态场景,无连续推演
交互模式 自由视角漫游、持续拓展新场景 WASD基础视角移动,场景边界固定 仅文本/图片生成静态场景,无实时交互
开源完整度 代码+5B权重+本地Demo全开放 代码+权重开源,在线Demo受限 仅3D生成代码,无动态交互推理
底层技术 Wan2.2+LongForcing长时序训练 自研少步扩散蒸馏 3D NeRF快速渲染框架

七、常见问题解答(FAQ)

Q1:运行ABot-World最低需要什么显卡?普通4090可以跑吗?

A1:官方测试基准硬件为RTX 5090,峰值显存占用19GB;RTX4090仅16GB显存,无法完整加载模型,会出现显存溢出报错,建议使用20GB及以上显存NVIDIA显卡。

Q2:模型权重下载失败、速度很慢如何解决?

A2:优先使用ModelScope国内镜像渠道下载,网络稳定性更高;若仍失败可手动前往HuggingFace/ModelScope页面分批下载权重文件,放入指定checkpoints目录。

Q3:启动Gradio Demo后画面卡顿、帧率远低于16FPS是什么原因?

A3:一是未指定独立GPU,显卡被其他程序占用;二是CUDA版本低于13.3,底层算子无法优化;三是模型权重文件缺失、损坏,需重新校验下载完整权重。

Q4:长时间漫游后画面物体扭曲、场景错位怎么办?

A4:该项目搭载LongForcing技术原生抑制长时序漂移,若出现画面崩坏,检查是否修改了configs下LongForcing相关配置文件,恢复默认yaml配置即可恢复稳定。

Q5:是否支持Windows系统本地部署?

A5:官方仅在Ubuntu22.04系统完成全流程测试,Windows存在CUDA算子兼容问题,建议使用WSL2 Ubuntu子系统或Linux物理机运行。

Q6:可以商用二次开发吗?授权协议有什么限制?

A6:项目采用Apache 2.0开源协议,允许免费商用、二次修改、分发;仅需保留原始版权声明,详细第三方组件限制可查看THIRD_PARTY_NOTICES.md文件。

Q7:线上ABot World Studio和本地Gradio Demo有什么区别?

A7:线上平台为云端演示,算力受限、无法自定义模型参数;本地Gradio可完整加载本地权重,自由修改推理配置、导出生成视频文件,适合深度开发调试。

八、相关链接

九、总结

ABot-World是高德CV实验室推出的轻量化、全栈开源交互式世界生成模型,依托自研LongForcing长时序训练技术与Wan2.2视觉底座,在单张RTX5090消费级显卡上实现720P、16FPS低延迟无限时长交互场景推演,解决了传统世界模型硬件门槛高、长时序画面漂移、无法自由交互三大痛点;完整开放代码、模型权重与本地可视化演示工具,面向游戏开发、仿真数据、文旅数字内容、具身智能等多领域提供低成本本地部署方案,是当前国内兼顾实时交互、长时序稳定、低硬件门槛的通用开源世界模型工具。

打赏
THE END
作者头像
人工智能研究所
发现AI神器,探索AI技术!