“以来

简短的问题：为什么如此？

长问题：

很简单，我试图找出第一个方程式的理由。我正在阅读的书的作者（如果需要，请在此处提供，但不是必需的）声称以下内容：

由于存在近似高斯的假设，我们可以这样写：

$$p_0(\xi) = A \; \phi(\xi) \; exp( a_{n+1}\xi + (a_{n+2} + \frac{1}{2})\xi^2 + \sum_{i=1}^{n} a_i G_i(\xi))$$

其中是具有最大熵的观测数据的PDF，假设您仅观测到一系列期望（简单数），其中和是标准化高斯变量的PDF，即0个均值和单位方差。$p_0(\xi)$$c_i, i = 1 ... n$$c_i = \mathbb{E}\{G_i(\xi)\}$$\phi(\xi)$

所有这些都是他将上述方程式作为简化PDF的出发点，我知道他是怎么做的，但我没有得到他如何证明上述方程式的正当性，即，起点。$p_0(\xi)$

我试图保持简短，以免混淆任何人，但是如果您需要其他详细信息，请在评论中让我知道。谢谢！

（注意：我已将更改为。）$\xi$$x$

对于密度为的随机变量，如果您有约束 对于，最大熵密度为 其中是根据确定的，而是归一化常数。$X$$p$

$$\int G_i(x)\,p(x)\,dx=c_i \, ,$$ $i=1,\dots,n$ $$p_0(x)=A\exp\left(\sum_{i=1}^n a_iG_i(x)\right) \, ,$$ $a_i$$c_i$$A$

在这种情况下，高斯近似（“近高斯”）表示两件事：

1）您接受引入两个新的约束：的均值为，方差为（例如）；$X$$0$$1$

2）相应的（请参见下面的内容）比其他大得多。$a_{n+2}$$a_i$

这些附加约束表示为 产生 可以重写为（仅对指数“加零”） 导致您所得到的想要： 准备好进行泰勒展开（使用高斯近似的第二个条件）。

$$G_{n+1}(x)=x \, , \qquad c_{n+1}=0 \, ,$$ $$G_{n+2}(x)=x^2 \, , \qquad c_{n+2}=1 \, ,$$ $$p_0(x)=A\exp\left(a_{n+2}x^2 + a_{n+1}x + \sum_{i=1}^n a_iG_i(x)\right) \, ,$$ $$p_0(x)=A\exp\left(\frac{x^2}{2} - \frac{x^2}{2} + a_{n+2}x^2 + a_{n+1}x + \sum_{i=1}^n a_iG_i(x)\right) \, ,$$ $$p_0(x)=A'\,\phi(x)\exp\left(a_{n+1}x + \left(a_{n+2}+\frac{1}{2}\right)x^2 + \sum_{i=1}^n a_iG_i(x)\right) \, ;$$

像物理学家一样进行近似（这意味着我们不在乎误差项的顺序），使用，我们具有近似密度 最后，我们必须确定和的值。这是通过强加条件 以获得方程组，其解给出和。$\exp(t)\approx 1+t$

$$p_0(x) \approx A'\,\phi(x)\left(1+a_{n+1}x + \left(a_{n+2}+\frac{1}{2}\right)x^2 + \sum_{i=1}^n a_iG_i(x)\right) \, .$$ $A'$$a_i$ $$\int p_0(x)\,dx=1 \, , \qquad \int x \,p_0(x)\,dx=0 \, , \qquad \int x^2 \,p_0(x)\,dx=1$$ $$\int G_i(x)\, p_0(x)\,dx=c_i \, , \quad i=1,\dots,n \, ,$$ $A'$$a_i$

在不对施加附加条件的情况下，我不相信有封闭形式的简单解决方案。$G_i$

PS Mohammad在聊天中澄清说，使用的其他正交条件，我们可以解决该系统。$G_i$