106、Text-Image Conditioned Diffusion for Consistent Text-to-3D Generation

简介

?很多工作在扩散先验中注入跨视图一致性，但仍然缺乏细粒度的视图一致性。论文提出的文本到3d的方法有效地减轻了漂浮物(由于密度过大)和完全空白空间(由于密度不足)的产生。

实现过程

?简单而言，论文工作是 Dreamfusion+Zero123。

?使用两种不同的分数蒸馏进行监督:文本条件下的多视图扩散模型（维护文本的多视图一致性）和图像条件下的新视图扩散模型（维护视图之间的一致性）。

?对于3D表示，实现了threeststudio的隐式体积方法，该方法由多分辨率哈希网格和用于预测体素密度和RGB值的MLP网络组成

文本条件下的多视图扩散模型

?对一组相机姿势 c 进行采样，并渲染这些视图 x = g(φ， c)，称之为参考视图，视图 x 的选择使它们彼此正交。对于每个视图，采样一个时间步长 t，并计算扩散过程 $z_t^i$ 的正演过程，给定文本 y 和NeRF渲染的带噪视图集 $z_t$，文本条件扩散模型 ${\hat{x}}_{{\theta }_1}(z_t;y,c,t)$ 计算分数函数 w.rt 到 $z_t$，得到一个向高密度区域的更新方向。

?使用MVDream 的预训练模型作为多视图扩散模型

图像条件下的新视图扩散模型

?将其作为额外的监督来指导不同的视图，并确保细粒度的多视图一致性。在相机位姿$c_j$渲染额外的视图 $x_j$ ，计算表示从相机位置 i 到 j 的相对相机外部 $c^{(j\to i)}$。公式中，图像条件扩散模型以渲染图像 $x_j$ 和相对相机外部 $c^{(j\to i)}$作为条件。从均匀分布中抽样 t 。训练模型计算新视图 $z_t^i$ 的分数函数，记为 ${\hat{x}}_{{\theta }_2}(z_t^i;x^j,c^{(j\to i)},t)$

?使用Zero-1-to-3 提供的Zero123-xl作为图像条件扩散模型

score distillation

?总的分数函数如下：

?式中 ${\lambda }_t$ 和 ${\lambda }_i$ 分别为文本扩散模型和图像扩散模型的比例因子

实验

?在视图选择方面，首先随机选择视场(fov)在[15,60]和高度在[0,30]之间的摄像机，用于多视图扩散模型，相机距离设置为物体大小(0.5)乘以NDC焦距和一个随机缩放因子，范围为[0.8,1.0]，从上述集合中随机选择视图作为新视图扩散模型的参考视图。对于每个参考视图，在应用新的视图图像条件扩散模型之前，选择一个具有相同视场和海拔在[- 30,80]之间的额外随机摄像机。对于多视图模型和新视图模型，批处理大小分别从8和12开始，然后在5000次迭代后减少到4和4

?3D模型使用AdamW 优化器优化10000步。哈希网格和MLP组件的学习率分别设置为0.01和0.001。应用分数蒸馏采样，在前8000步中，最大和最小时间步分别从0.98减少到0.5和0.02。损失尺度因子λt和λi均设为1.0。渲染分辨率从64×64开始，在5000步之后增加到256×256。多视角模型和新视角模型的指导尺度分别为50.0和3.0。