杰弗里斯先验为何有用？

我了解在重新参数化下，Jeffreys先验是不变的。但是，我不明白的是为什么需要此属性。

您为什么不希望先验在变量变化下发生变化？

让我完成Zen的回答。我不太喜欢“代表无知”的概念。重要的不是Jeffreys在前，而是Jeffreys在后。后验的目的是尽可能地反映有关数据带来的参数的信息。接下来的两点自然需要不变性。考虑例如具有未知比例参数和比值参数的二项式模型。$\theta$$\psi=\frac{\theta}{1-\theta}$

1. 上的Jeffreys后验尽可能地反映了数据带来的信息。和之间存在一一对应的关系。然后，将上的Jeffreys后验变换为上的后验（通过通常的变量变化公式）应产生一个分布，该分布尽可能地反映有关的信息。因此，这种分布应该是的Jeffreys后验。这是不变性属性。$\theta$$\theta$$\theta$$\psi$$\theta$$\psi$$\psi$$\psi$

2. 得出统计分析结论的重点是科学传播。假设您将Jeffreys放在交给一位科学同事。但是他/她对而不是感兴趣。这样，不变性就不成问题：他/她只需要应用变量变化公式即可。$\theta$$\psi$$\theta$

假设您和朋友正在使用普通模型分析同一组数据。您采用均值和方差作为参数的普通模型的常规参数化设置，但是您的朋友更喜欢使用变异系数和精度作为参数对普通模型进行参数化（完全“合法”）。如果您俩都使用Jeffreys的先验，则您的后验分布将是您朋友的后验分布，正确地从他的参数化转换为您的参数化。从这个意义上说，杰弗里斯的先验是“不变的”

（顺便说一句，“不变”是一个可怕的词；我们真正的意思是，它在张量微积分/微分几何的相同意义上是“协变”的，但是，当然，该术语已经具有明确的概率意义，因此我们不能使用它。）

为什么需要这种一致性属性？因为，如果杰弗里斯（Jeffreys）的先验有机会以绝对意义表示对参数值的无知（实际上，它不是，但由于其他原因与“不变性”无关），并且相对于特定的参数化也不会无知对于模型，必须如此，无论我们随意选择从哪个参数开始，变换后我们的后代都应该“匹配”。

杰弗里斯本人在构造他的先验时经常违反此“不变性”属性。

该文有对此及相关学科的一些有趣的讨论。

在Zen的一个很好的答案中加上一些引述：根据Jaynes的说法，Jeffreys先验是变换组原理的一个示例，该变换组是基于冷漠原理的：

该原理的实质是：（1）我们认识到概率分配是描述知识的某种状态的一种手段。（2）如果可用证据没有理由比或多或少地考虑命题，那么我们唯一可以描述知识状态的诚实方法就是为它们分配相等的概率：。在某种意义上，任何其他过程都是不一致的，因为仅通过交换标签我们就可以产生一个新的问题，即我们的知识状态相同，但是我们分配的概率不同……$A_1$$A_2$$p_1=p_2$$(1, 2)$

现在，回答您的问题：“为什么不希望先验在变量变化下发生变化？”

根据Jaynes的说法，参数化是另一种任意标记，并且“不能仅仅通过交换标记就产生一个新问题，即我们的知识状态相同，但我们分配的概率不同。 ”

尽管经常引起人们的兴趣，但杰弗里的先验可能只是完全没有用，例如当它们导致不正确的后验时：例如，简单的两成分高斯混合就是这种情况。 ，所有参数均未知。在这种情况下，无论有多少观察可用，都不存在杰弗里斯先验的后验。（该证据可在我与克拉拉·格拉齐安（Clara Grazian）撰写的最新论文中找到。）

杰弗里斯先验是无用的。这是因为：

1. 它只是指定分布的形式；它不会告诉您其参数应该是什么。
2. 您永远不会完全无知-关于参数的知识总有一些（例如，通常不能为无穷大）。通过定义先验分布将其用于推理。不要说自己一无所知对自己说谎。
3. “转换中的不变性”不是理想的属性。您的可能性在变换下会发生变化（例如，通过雅可比矩阵）。这不会产生“新问题” 的步伐杰恩斯。为什么先决条件不应该被相同对待？

只是不要使用它。