【扩散模型】有/无分类器引导

发布时间:2024年01月16日

那么,分类器引导生成是否意味着我训练了一个生成模型和一个分类器模型,然后在使用贝叶斯公式进行推理时将它们连接在一起?而在无分类器生成中,生成是在半监督数据上进行训练的,即部分数据被标注了标题,但大部分没有,那么在推理时,我们可以直接生成img给定文本

分类器引导生成

分类器引导生成通常将生成模型与单独的分类器模型结合使用。在某些设置中,特别是扩散模型,生成过程可以根据分类器的反馈进行调整。这种指导可以通过各种方法实现,例如使用分类器相对于输入的梯度来通知生成模型在生成过程的每个步骤中的参数。

你提到的贝叶斯公式通常不会直接用于分类器引导的生成。然而,将可能性(来自生成模型)与先验(来自分类器)相结合的概念确实具有贝叶斯风格。这个想法是温和地引导生成过程朝着更可能的目标分布区域,由分类器定义。

无分类器引导

另一方面,无分类器引导确实涉及在标记和未标记数据的混合上训练生成模型。在训练过程中,模型学习有条件地(给定标签或标题)和无条件地(没有任何标签)生成数据。

无分类器引导的关键在于,在推理过程中,您可以控制生成受标签或标题影响的程度。你可以通过修改所谓的“指导尺度”来做到这一点:在更高的指导尺度下,模型更加强调标签或标题,生成更接近条件的数据;在较低的指导尺度下,模型产生的输出更加多样化,与条件的绑定不那么紧密。

总之

分类器引导生成涉及在推理过程中使用单独的分类器来影响生成模型,而无分类器引导不需要单独的分类器,而是在推理过程中直接在生成模型中调整条件的影响。无分类器引导简化了生成管道,因为它不需要训练和维护额外的分类器模型。

文章来源:https://blog.csdn.net/qq_18846849/article/details/135620229
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。