有人解决了PTLOS练习4.1吗？

埃德温·杰恩斯（Edwin Jaynes）于2003年在《概率论：科学的逻辑》中给出了该练习。此处有部分解决方案。我已经制定了一个更通用的局部解决方案，并且想知道是否有人解决了它。在发布答案之前，我将稍等片刻，让其他人受益。

好的，假设我们有互斥且详尽的假设，表示为。进一步假设我们有m个数据集，用D_j \; \;（j = 1，\ dots，m）表示。第i个假设的似然比由下式给出：Ñ ħ $n$$H_i \;\;(i=1,\dots,n)$$m$$D_j \;\;(j=1,\dots,m)$

$$LR(H_{i})=\frac{P(D_{1}D_{2}\dots,D_{m}|H_{i})}{P(D_{1}D_{2}\dots,D_{m}|\overline{H}_{i})}$$

请注意，这些是条件概率。现在假设给定第i个假设$H_{i}$，$m$数据集是独立的，因此我们具有：

$$P(D_{1}D_{2}\dots,D_{m}|H_{i})=\prod_{j=1}^{m}P(D_{j}|H_{i}) \;\;\;\; (i=1,\dots,n)\;\;\;\text{Condition 1}$$

现在，如果分母也考虑这种情况，将会很方便，因此我们可以：

$$P(D_{1}D_{2}\dots,D_{m}|\overline{H}_{i})=\prod_{j=1}^{m}P(D_{j}|\overline{H}_{i}) \;\;\;\; (i=1,\dots,n)\;\;\;\text{Condition 2}$$

对于这种情况，对于每个数据集，似然比将分解为较小因子的乘积，因此我们具有：

$$LR(H_i)=\prod_{j=1}^{m}\frac{P(D_{j}|H_{i})}{P(D_{j}|\overline{H}_{i})}$$

因此，在这种情况下，每个数据集将独立于任何其他数据集“为H_i投票$H_i$”或“针对H_i投票$H_i$”。

这样做的目的是证明，如果$n>2$（两个以上的假设），则不会发生这种非平凡的分解。也就是说，如果您假设条件1和条件2成立，那么至多一个因素：

$$\frac{P(D_{1}|H_{i})}{P(D_{1}|\overline{H}_{i})}\frac{P(D_{2}|H_{i})}{P(D_{2}|\overline{H}_{i})}\dots\frac{P(D_{m}|H_{i})}{P(D_{m}|\overline{H}_{i})}$$ 与1不同，因此只有1个数据集将有助于似然比。

我个人发现此结果非常有趣，因为它基本上表明多重假设检验不过是一系列二元假设检验。

我们接受等式的原因。4.28（在书中，您的情况为1）是假设给定特定假设且背景信息独立的数据，即对于具有任何和：$H_a$$X$$D_i$$D_j$$i\neq{j}$

$$\begin{equation}P(D_i|D_jH_aX)=P(D_i|H_aX)\quad\quad{\rm (1)}\end{equation}$$ 因此，可以像这样讨论超出二进制情况的不可扩展性：如果我们假设eq .1是正确的，等式2也正确吗？

$$\begin{equation}P(D_i|D_j\overline{H_a}X)\stackrel{?}{=}P(D_i|\overline{H_a}X)\quad\quad{\rm (2)}\end{equation}$$ 首先，我们使用乘法规则查看 2的左侧：

$$\begin{equation}P(D_i|D_j\overline{H_a}X)=\frac{P(D_iD_j\overline{H_a}|X)}{P(D_j\overline{H_a}|X)}\quad\quad{\rm (3)}\end{equation}$$ 由于假设被假定为互斥且详尽的，我们可以这样写：因此， 3变为：对于只有两个假设的情况，求和被删除（因为只有一个），分母和分母中的相等项），抵消，并证明 2是正确的，因为$n$$\{H_1\dots{H_n}\}$ $$\overline{H_a}=\sum_{b\neq{a}}H_b$$ $$P(D_i|D_j\overline{H_a}X)=\frac{\sum_{b\neq{a}}P(D_i|D_jH_bX)P(D_jH_b|X)}{\sum_{b\neq{a}}P(D_jH_b|X)}=\frac{\sum_{b\neq{a}}P(D_i|H_bX)P(D_jH_b|X)}{\sum_{b\neq{a}}P(D_jH_b|X)}$$ $b\neq{a}$$P(D_jH_b|X$$H_b=\overline{H_a}$。因此，公式4.29可以从书中的公式4.28导出。但是，当我们有两个以上的假设时，例如，如果我们有三个假设：，则上述情况将不会发生：换句话说： 此方程式产生等式2的唯一方法是两个分母都等于1，即分母必须等于零。但这是不可能的。$\{H_1, H_2, H_3\}$ $$P(D_i|D_j\overline{H_1}X)=\frac{P(D_i|H_2X)P(D_jH_2|X)+P(D_i|H_3X)P(D_jH_3|X)}{P(D_jH_2|X)+P(D_jH_3|X)}$$ $$P(D_i|D_j\overline{H_1}X)=\frac{P(D_i|H_2X)}{1+\frac{P(D_jH_3|X)}{P(D_jH_2|X)}}+\frac{P(D_i|H_3X)}{1+\frac{P(D_jH_2|X)}{P(D_jH_3|X)}}$$

好吧，所以我将继续在这里陈述它，而不是去推导桑德的方程（5）。条件1和2意味着以下相等：

$$\prod_{j=1}^{m}\left(\sum_{k\neq i}h_{k}d_{jk}\right)=\left(\sum_{k\neq i}h_{k}\right)^{m-1}\left(\sum_{k\neq i}h_{k}\prod_{j=1}^{m}d_{jk}\right)$$ ，其中 $$d_{jk}=P(D_{j}|H_{k},I)\;\;\;\;h_{k}=P(H_{k}|I)$$

现在我们可以通过取并重新标记来专门研究（两个数据集）的情况。请注意，这两个数据集仍然满足条件1和2，因此上面的结果也适用于它们。现在在的情况下展开，得到：$m=2$$D_{1}^{(1)}\equiv D_{1}$$D_{2}^{(1)}\equiv D_{2}D_{3}\dots D_{m}$$m=2$

$$\left(\sum_{k\neq i}h_{k}d_{1k}\right)\left(\sum_{l\neq i}h_{l}d_{2l}\right)=\left(\sum_{k\neq i}h_{k}\right)\left(\sum_{l\neq i}h_{l}d_{1l}d_{2l}\right)$$

$$\rightarrow\sum_{k\neq i}\sum_{l\neq i}h_{k}h_{l}d_{1k}d_{2l}=\sum_{k\neq i}\sum_{l\neq i}h_{k}h_{l}d_{1l}d_{2l}$$

$$\rightarrow\sum_{k\neq i}\sum_{l\neq i}h_{k}h_{l}d_{2l}(d_{1k}-d_{1l})=0\;\;\;\;\;\;\; (i=1,\dots,n)$$

项在上述两次求和中出现两次，一次是和，一次是和。只要就会发生这种情况。每个项的系数由和。现在，由于这些方程式中有，因此我们实际上可以从这些方程式中删除。为了说明这一点，假设，这意味着我们拥有除和之外的所有条件。现在取$(d_{1a}-d_{1b})$$k=a$$l=b$$k=b$$l=a$$a,b\neq i$$d_{2b}$$-d_{2a}$$i$$i$$i=1$$a=1,b=2$$b=1,a=2$$i=3$，我们现在可以具有这两个条件（请注意，这至少假设了三个假设）。因此，该方程式可以重写为：

$$\sum_{l>k}h_{k}h_{l}(d_{2l}-d_{2k})(d_{1k}-d_{1l})=0$$

现在，每个项必须大于零，否则我们将处理假设，并且可以根据来重新答案。因此，可以从上述条件中删除这些条件：$h_i$$n_{1}<n$$n_{1}$

$$\sum_{l>k}(d_{2l}-d_{2k})(d_{1k}-d_{1l})=0$$

因此，必须满足条件，并且每个条件都暗含两个“子条件”之一：对于或（但不一定同时是两者）。现在我们有一个集中的所有唯一对的为。如果我们将个对中的一个作为一个，那么我们将拥有所有数字在集合中，并且。这是因为第一对具有元素，并且每个附加对都将至少一个附加元素带入集合*$\frac{n(n-1)}{2}$$d_{jk}=d_{jl}$$j=1$$j=2$$(k,l)$$d_{jk}=d_{jl}$$n-1$$j$$1,\dots,n$$d_{j1}=d_{j2}=\dots=d_{j,n-1}=d_{j,n}$$2$

但请注意，由于存在条件，因此我们必须至少选择大于或等于表示或。如果则选择的项数大于。如果或那么我们必须精确选择项。这意味着。只有两个假设（）才不会发生这种情况。但是，根据桑德（Saunder）文章中的最后一个等式，该相等条件暗示：$\frac{n(n-1)}{2}$$\frac{1}{2}\times\frac{n(n-1)}{2}=\frac{n(n-1)}{4}$$j=1$$j=2$$n>4$$n-1$$n=4$$n=3$$n-1$$d_{j1}=d_{j2}=\dots=d_{j,n-1}=d_{j,n}$$n=2$

$$P(D_{j}|\overline{H}_{i})=\frac{\sum_{k\neq i}d_{jk}h_{k}}{\sum_{k\neq i}h_{k}}=d_{ji}\frac{\sum_{k\neq i}h_{k}}{\sum_{k\neq i}h_{k}}=d_{ji}=P(D_{j}|H_{i})$$

因此，在似然比中，我们有：

$$\frac{P(D_{1}^{(1)}|H_{i})}{P(D_{1}^{(1)}|\overline{H}_{i})}=\frac{P(D_{1}|H_{i})}{P(D_{1}|\overline{H}_{i})}=1 \text{ OR} \frac{P(D_{2}^{(1)}|H_{i})}{P(D_{2}^{(1)}|\overline{H}_{i})}=\frac{P(D_{2}D_{3}\dots,D_{m}|H_{i})}{P(D_{2}D_{3}\dots,D_{m}|\overline{H}_{i})}=1$$

为了完成证明，请注意，如果第二个条件成立，则结果已经证明，并且只有一个比率可以不同于1。如果第一个条件成立，那么我们可以通过重新标记来重复上述分析。和。那么我们将让不参与贡献，或者是唯一的贡献者。然后，当不提供保留时，我们将进行第三次重新标记，依此类推。因此，当条件1和条件2成立时，只有一个数据集可有助于似然比，并且有两个以上的假设。$D_{1}^{(2)}\equiv D_{2}$$D_{2}^{(2)}\equiv D_{3}\dots,D_{m}$$D_{1},D_{2}$$D_{2}$$D_{1}D_{2}$

*注意：额外的一对可能不会带来新的词条，但这将被带来两个新词条的一对抵消。例如，以作为第一个[+2]， [+1]和 [+0]，但下一项必须对于都具有。这将添加两个项[+2]。如果那么我们就不再需要选择了，但是对于“ other”我们必须选择3对，它们不是。它们是，因此等式成立，因为所有数字都在集合中。$d_{j1}=d_{j2}$$d_{j1}=d_{j3}$$d_{j2}=d_{j3}$$d_{jk}=d_{jl}$$k,l\notin (1,2,3)$$n=4$$j$$(1,2),(2,3),(1,3)$$(1,4),(2,4),(3,4)$$(1,2,3,4)$

作为记录，这是一个更为广泛的证明。它还包含一些背景信息。也许这对其他研究该主题的人有所帮助。

证明的主要思想是证明 除了一个数据集，Jaynes的条件1和2暗示 。然后表明，对于所有这些数据集，我们还有 因此，除了一个数据集外，我们都有 。之所以要在此处包括该证明，是因为其中涉及的某些步骤根本不明显，因此需要注意不要使用除条件以外的任何其他方法1和2以及乘积规则（就像许多其他证明一样）。上面的链接

$$P(D_{m_k}|H_iX)=P(D_{m_k}|X),$$ $m_k=1,\ldots,m$ $$P(D_{m_k}|\overline H_iX)=P(D_{m_k}|X).$$ $$\frac{P(D_{m_k}|H_iX)}{P(D_{m_k}|\overline H_iX)} = \frac{P(D_{m_k}|X)}{P(D_{m_k}|X)} = 1.$$ 详细介绍所有这些步骤。它在我的Google云端硬盘上，我将确保它始终可访问。