网友：梦一个手办自由
Stable Diffusion背后公司Stability AI又上新了。
这次带来的是图生3D方面的新进展：
基于Stable Video Diffusion的Stable Video 3D（SV3D），只用一张图片就能生成高质量3D网格。
Stable Video Diffusion（SVD）是Stability AI此前推出的高分辨率视频生成模型。也就是说，此番登场的SV3D首次将视频扩散模型应用到了3D生成领域。
官方表示，基于此，SV3D大大提高了3D生成的质量和视图一致性。
模型权重依然开源，不过仅可用于非商业用途，想要商用的话还得买个Stability AI会员~
话不多说，还是来扒一扒论文细节。
将视频扩散模型用于3D生成
引入潜在视频扩散模型，SV3D的核心目的是利用视频模型的时间一致性来提高3D生成的一致性。
并且视频数据本身也比3D数据更容易获得。
Stability AI这次提供两个版本的SV3D：
- SV3D_u：基于单张图像生成轨道视频。
- SV3D_p：扩展了SV3D_u的功能，可以根据指定的相机路径创建3D模型视频。
研究人员还改进了3D优化技术：采用由粗到细的训练策略，优化NeRF和DMTet网格来生成3D对象。
他们还设计了一种名为掩码得分蒸馏采样（SDS）的特殊损失函数，通过优化在训练数据中不直接可见的区域，来提高生成3D模型的质量和一致性。
同时，SV3D引入了一个基于球面高斯的照明模型，用于分离光照效果和纹理，在保持纹理清晰度的同时有效减少了内置照明问题。
具体到架构方面，SV3D包含以下关键组成部分：
- UNet：SV3D是在SVD的基础上构建的，包含一个多层UNet，其中每一层都有一系列残差块（包括3D卷积层）和两个分别处理空间和时间信息的Transformer模块。
- 条件输入：输入图像通过VAE编码器嵌入到潜在空间中，会和噪声潜在状态合并，一起输入到UNet中；输入图像的CLIP嵌入矩阵则被用作每个Transformer模块交叉注意力层的键值对。
- 相机轨迹编码：SV3D设计了静态和动态两种类型的轨道来研究相机姿态条件的影响。静态轨道中，相机以规律间隔的方位角围绕对象；动态轨道则允许不规则间隔的方位角和不同的仰角。
相机的运动轨迹信息和扩散噪声的时间信息会一起输入到残差模块中，转换为正弦位置嵌入，然后这些嵌入信息会被整合并进行线性变换，加入到噪声时间步长嵌入中。
这样的设计旨在通过精细控制相机轨迹和噪声输入，提升模型处理图像的能力。
此外，SV3D在生成过程中采用CFG（无分类器引导）来控制生成的清晰度，特别是在生成轨道的最后几帧时，采用三角形CFG缩放来避免过度锐化。
研究人员在Objaverse数据集上训练SV3D，图像分辨率为575×576，视场角为33.8度。论文透露，所有三种模型（SV3D_u，SV3D_c，SV3D_p）在4个节点上训练了6天左右，每个节点配备8个80GB的A100 GPU。
实验结果
在新视角合成（NVS）和3D重建方面，SV3D超过了现有其他方法，达到SOTA。
从定性比较的结果来看，SV3D生成的多视角试图，细节更丰富，更接近与原始输入图像。也就是说，SV3D在理解和重构物体的3D结构方面，能够更准确地捕捉到细节，并保持视角变换时的一致性。
这样的成果，引发了不少网友的感慨：
评论区也总少不了一些大胆的想法……
并且项目开源嘛，已经有第一波小伙伴玩上了，在4090上就能跑起来。
如果你也有第一手实测体会，欢迎在评论区分享~
参考链接：
[1]https://twitter.com/StabilityAI/status/1769817136799855098
[2]https://stability.ai/news/introducing-stable-video-3d
[3]https://sv3d.github.io/index.html
— 完 —
今年全国两会期间，人工智能成为热点话题，“人工智能+”首次被写入政府工作报告。一头连着数字经济发展大局，一头连着行业变革与创新，“人工智能+”既是新质生产力发展的“新引擎”，也是产业和消费 据法新社3月18日报道，周一，美国半导体巨头英伟达公司发布了其最新型号的电子芯片，这些芯片旨在支持人工智能（AI）革命，英伟达正努力巩固其作为人工智能领域关键供应商的地位。“我们需要更加强大的 记者3月21日获悉，由中国科学院自动化研究所和中国科学院香港创新研究院联合研发的医疗领域AI多模态大模型——CARES Copilot 1.0日前在香港正式发布，现已面向香港神经外科医生开放使 记者3月21日从安徽农业大学获悉，该校生命科学学院韩毅教授课题组与国内外专家合作，发现了植物避盐性的关键基因。该研究对于提高植物耐盐性，帮助盐碱地下的农作物稳产具有重要理论指导意义。相 有消息称，iPhone在中国寻找本土生成式AI提供方，iPhone讨论了在中国的设备中使用百度的人工智能技术。据《华尔街日报》报道，iPhone与百度进行了谈判，以授权其型号。这可能是为了向中国的iPhone客户提 在日常生活中，隧道可以帮助人们翻山越岭。在植物细胞内，当内部物质穿过细胞膜时，往往也会通过类似的“隧道”。记者从中国科学技术大学获悉，该校孙林峰团队在第六大植物激素——油菜素 。本文链接：Stability AI开源上新：3D生成引入视频扩散模型，质量一致性up，4090可玩http://www.sushuapos.com/show-2-4214-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。