Neg Binomial和Jeffreys的先验

我试图获得负二项式分布的Jeffreys先验。我看不到哪里出了问题，因此，如果有人可以指出这一点，将不胜感激。

好的，情况是这样的：我要比较使用二项式和负二项式获得的先验分布，（在两种情况下）都有试验且成功了。对于二项式情况，我得到了正确的答案，但是对于否定二项式，我没有得到正确的答案。$n$$m$

我们将其称为Jeffreys的先前。然后，$\pi_J(\theta)$

$$\pi_J(\theta)\propto [I(\theta)]^{1/2}.$$

在常规条件下（在我们处理指数族时已实现），

$$I(\theta)=-E\left(\frac{\partial^2 \log L(\theta|x)}{\partial \theta^2}\right)$$ 其中，负二项式n在上面$n$是$x$表达式（成功总数$m$是固定的，$n$不是固定的）。我认为分布是

$$p(m|\theta)\propto\theta^m(1-\theta)^{n-m}$$ 因为$\theta$被定义为成功的概率，而$m$  是成功的次数。这也是可能性，因为$m$是标量而不是向量。因此，

$$L(\theta|n)\propto\theta^m(1-\theta)^{n-m}\\ \log L(\theta|n)=m\log\theta +(n-m)\log (1-\theta)\\ \frac{\partial\log L(\theta|n)}{\partial \theta}=\frac{m}{\theta}-\frac{n-m}{1-\theta}\\ \frac{\partial^2\log L(\theta|n)}{\partial \theta^2}=-\frac{m}{\theta^2}-\frac{n-m}{(1-\theta)^2}$$ 因此Fisher信息是

$$I(\theta)=-E\left(\frac{\partial^2\log L(\theta|n)}{\partial \theta^2}\right)=\frac{m}{\theta^2}+\frac{E(n)-m}{(1-\theta)^2}=\frac{m}{\theta^2}+\frac{\frac{m\theta}{1-\theta}-m}{(1-\theta)^2}\\ =\frac{m(1-\theta)^2+\frac{m\theta^3}{(1-\theta)}-m\theta^2}{\theta^2(1-\theta)^2}=\frac{m(1-2\theta)+\frac{m\theta^3}{(1-\theta)}}{\theta^2(1-\theta)^2}\\ =\frac{m(1-2\theta)(1-\theta)+m\theta^3}{\theta^2(1-\theta)^3}=\frac{m(1-3\theta+2\theta^2+\theta^3)}{\theta^2(1-\theta)^3}\\ \propto\frac{1-3\theta+2\theta^2+\theta^3}{\theta^2(1-\theta)^3}$$

但是，这不能给我正确的答案。正确答案是

$$\pi_J(\theta)\propto \frac{1}{\theta(1-\theta)^{1/2}}$$ ，这意味着我得到的信息应该是

$$I(\theta)=\frac{1}{\theta^2(1-\theta)}$$ 因为先验应与信息的平方根成比例。

谁能发现任何错误？如果我搞砸了发行版的设置（成功与失败以及各自的概率，等等），我不会感到惊讶。

我使用了Wikipedia的期望值，并且从这里知道正确的答案（第3页）。

出现问题是因为负二项式分布可以用不同的公式表示。结果，对于不同的配方，期望是不同的。用指定负二项式分布的方式，对的期望为（例如，请参阅第3页的此处）。这样，Fisher信息就简化为$n$$E(n) = m/\theta$

$$I(\theta) = m\left(\frac{1}{\theta^2(1-\theta)}\right)$$

因此，Jeffreys的先验是

$$\pi_{J}(\theta) = |I(\theta)|^{1/2}\propto \theta^{-1}(1-\theta)^{-1/2}$$

正如您已经指出的。