“变式”是什么意思？

使用“变分”是否总是指通过变分推理进行优化？

例子：

• “可变自动编码器”
• “变分贝叶斯方法”
• “变数归一化组”

这意味着使用变分推理（至少对于前两个而言）。

简而言之，当概率密度复杂（因此MLE很难）时，这是一种近似最大似然的方法。

它使用证据下界（ELBO）作为ML的代理：

$log(p(x)) \geq \mathbb{E}_q[log(p, Z)] - \mathbb{E}_q[log(q(Z))]$

$q$$Z$

$q$

David Blei提供了一个很好的有关变分推理的教程，您可以查看是否需要更具体的描述。

编辑：

$KL(q, p)$