Generative Uncertainty in Diffusion Models

作者: Metod Jazbec, Eliot Wong-Toi, Guoxuan Xia, Dan Zhang, Eric Nalisnick, Stephan Mandt

发布时间: 2025-03-03

来源: arxiv

研究方向: 生成模型与不确定性量化

主要内容

该论文提出了一种基于贝叶斯推理的生成不确定性估计方法，用于检测生成模型（如扩散模型）中生成的低质量样本。该方法通过在潜在空间中引入语义似然，有效地解决了高维样本空间带来的挑战，并通过实验证明了其在识别低质量样本方面的有效性。

1. 提出了生成不确定性的概念，并提出了用于现代生成模型（如扩散模型）的估计方法。

2. 证明了所提出的生成不确定性在识别低质量样本方面优于现有的基于不确定性的方法。

3. 提出了减少贝叶斯不确定性采样开销的有效策略。

4. 将所提出的框架应用于扩散模型和流匹配模型，证明了其适用性。

1. 贝叶斯推理

2. 拉普拉斯近似

3. 语义似然

4. 蒙特卡洛采样

实验结果表明，所提出的生成不确定性方法在识别低质量样本方面优于现有的基于不确定性的方法，并且与基于现实度和稀有度的非不确定性方法具有竞争力。此外，该方法在减少采样开销方面也表现出良好的性能。

未来工作可以探索以下方向：1）将该方法应用于其他模态的数据，如分子或文本；2）比较不同的贝叶斯近似推理方法，以进一步提高后验近似的质量；3）将贝叶斯原理应用于更广泛的生成建模任务，如引导合成数据生成、检测记忆样本以及优化扩散超参数等。