Bo Li Yuanhan Zhang Dong Guo Renrui Zhang Feng Li Hao Zhang Kaichen Zhang Yanwei Li Ziwei Liu Chunyuan Li

摘要

我们提出 LLaVA-OneVision，这是一个由 LLaVA-NeXT 博客系列中关于数据、模型及视觉表征的综合洞见所驱动的开源大型多模态模型（LMM）系列。实验结果表明，LLaVA-OneVision 是首个能够同时在三个重要计算机视觉场景——单图、多图和视频场景中，显著提升开源多模态模型性能边界的单一模型。尤为重要的是，LLaVA-OneVision 的设计支持跨不同模态/场景的强迁移学习能力，从而催生出新的涌现能力。具体而言，通过从图像到视频的任务迁移，模型展现了强大的视频理解能力以及跨场景的泛化能力。