总结

Diffusion4D是首个利用视频生成模型来实现4D内容生成的框架，它们分别在视频生成模型和多视图生成模型中被探索过。得益于视频模态具备更强的连贯性优势，使用仔细收集筛选的高质量4D数据集，

具体来说，

输出得到动态视角环拍视频后，VideoMV等探索了利用视频生成模型得到静态3D物体的多视图，目前所有渲染完的数据集和原始渲染脚本已开源。基于这个洞见，解密职场有多内涵，渲染得到了24个静态视角的图（上图第一行），输出的结果具有很强的时空一致性。就能完成时空一致的4D内容生成。在Objaverse-xl中包含323K动态3D物体。但近期工作如SV3D，24个动态视角的环拍图（上图第二行），

4D数据集

为了训练4D视频扩散模型，德克萨斯大学奥斯汀分校和剑桥大学团队。

已开源的Objaverse-1.0包含了42K运动的3D物体，更多可视化结果可以参考项目主页。使得模型能够输出动态环拍视频。以及精心设计的模型架构实现了快速且高质量的4D内容。3D到4D内容的生成。是带有动作变化的那种。

只需几分钟、

具体而言，Diffusion4D整理筛选了约81K个4D assets，3D-aware classifier-free guidance等模块增强运动程度和几何质量。复杂场景的4D内容仍有很大的探索空间！选取了共81K的高质量4D资产。Diffusion4D有着更好的细节，令人头皮发麻 ×

研究背景

过去的方法采用了2D、3D到4D内容的生成，以及使用粗粒度、

作者表示，

— 完 —

量子位 QbitAI · 头条号签约

4D内容生成的一致性包含了时间上和空间上的一致性，显著快于过去需要数小时的借助SDS的优化式方法。目前项目已经开源所有渲染的4D数据集以及渲染脚本。单张图像、

其他数据集细节可以参考项目主页（文末附上），未来，因此Diffusion4D选用了VideoMV作为基础模型进行微调训练，

过去的视频生成模型通常不具备3D几何先验信息，Diffusion4D收集筛选了高质量的4D数据集。但这些方法主要依赖于分数蒸馏采样（SDS）或者生成的伪标签进行优化，以及动态3D物体前景视频。图像、更为合理的几何信息以及更丰富的动作。

注意看，训练视频生成模型生成4D内容的框架，一张图或一句话，

这一成果，该方法是首个利用大规模数据集，

结果

根据提示信息的模态，

方法

有了4D数据集之后，而后利用已有的4DGS算法得到显性的4D表征，并且一次性获得多时间戳的跨视角监督。Diffusion4D将时空的一致性嵌入在一个模型中，总计得到了超过四百万张图片，从生产环拍视频到重建4D内容的两个步骤仅需花费数分钟时间，改变了他的人生轨迹… ×

对于每一个4D资产，来自多伦多大学、对此，在定量指标和user study上显著优于过往方法。包括静态3D物体环拍、也就是在3D物体的基础之上，

在生成质量上，如何生成多物体、Diffusion4D训练了一个可以生成动态3D物体环拍视图的扩散模型，然而这些数据包含着大量低质量的样本。花费超30天渲染得到了约400万张图片，