Magic3D – 根据文本提示生成3D模型

Magic3D是什么Magic3D是由NVIDIA研究团队开发的一种高分辨率文本到3D内容创建工具。它利用预训练的文本到图像扩散模型优化神经辐射场（NeRF），实现了显著的文本到3D合成效果。主要特点高分辨率合成：Magic3D能够以比DreamFusion更高的分辨率合成3D内容。快速生成：生成高质量的3D网格模型只需40分钟，比DreamFusion快2倍。用户偏好：用户研究显示，61.7%的用户更倾向于使用Magic3D。编辑能力：基于文本提示生成的粗糙模型可以进行修改和微调，以获得高分辨率的3D网格模型。主要功能高分辨率3D网格生成：从文本提示创建高质量的3D纹理网格模型。粗到精策略：利用低分辨率和高分辨率的扩散先验学习目标内容的3D表示。基于提示的编辑：允许对基础文本提示进行修改，并对NeRF和3D网格模型进行微调。主题实例微调：使用输入图像对扩散模型进行微调，以优化3D模型并保留主题身份。风格转移：将输入图像的风格转移到输出的3D模型。使用示例Magic3D的使用示例包括但不限于：根据文本提示生成如“由垃圾袋制成的美丽连衣裙”的3D模型。对生成的粗糙模型进行编辑，例如将“松鼠穿着皮夹克骑摩托车”修改为“兔子骑着滑板车”。利用DreamBooth技术对特定主题进行微调，保持3D模型中的主题身份。将输入图像的风格应用到3D模型上，实现风格转移。总结Magic3D是一个创新的3D内容创建工具，它通过结合文本到图像的扩散模型和高效的不同分辨率扩散先验，实现了快速且高质量的3D模型生成。它的出现为用户提供了新的3D合成控制方式，为各种创意应用开辟了新途径。