de Finetti的表示定理有什么酷呢？

摘自Mark J.Servish 的统计学理论（第12页）：

尽管DeFinetti的表示定理1.49对于激励参数模型至关重要，但实际上并未在其实现中使用。

该定理在参数模型中如何重要？

— gui11aume
source

我认为这对贝叶斯模型至关重要。我只是和单身人士讨论这个问题。除了那些跟随deFinetti的贝叶斯主义者之外，它在贝叶斯统计中的重要性被忽略了。请参阅Diaconis和Freedman于1980

— Michael Chernick，2012年

@cardinal：第12页（我更新了问题）。

— gui11aume12年

请注意，Schervish说：“ ...是

motivating

$\textbf{motivating}$ 参数模型的核心...”。

— 2012年

我经常想知道多少表示是“真实的”，以及多少是基于对定理的特定解释。它可以像描述模型一样容易地用于描述先验分布。

— 概率

Answers:

De Finetti的表示定理在概率的主观解释中给出了统计模型存在的理由，参数的含义以及它们的先验分布。

假设随机变量代表连续抛硬币的结果，值和对应于结果“ 正面”和“尾部”。在对概率演算进行主观解释的背景下，De Finetti分析了是独立且均匀分布的通常的常客模型的含义，De Finetti观察到独立性的条件意味着，例如， $X_1,\dots,X_n$ $1$ $0$ $X_i$ 因此，前抛掷的结果不会改变我对第抛掷的不确定性。例如，如果我认为这是一个平衡的硬币，那么在获得前抛掷被证明是“ Heads”的信息之后，我仍然会以该信息为条件，相信获得“上抛1000正面”是等于。实际上，关于的独立性的假设将意味着不可能通过观察抛硬币的结果来了解有关硬币的任何信息。

P {X_{n} = x_{n} ∣ X_{1} = x_{1}, \dots, X_{n - 1} = x_{n - 1}} = P {X_{n} = x_{n}},

$P\{X_n=x_n\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\} = P\{X_n=x_n\} \, ,$

n - 1

$n-1$

n

$n$

a priori

$\textit{a priori}$

999

$999$

1 / 2

$1/2$

X_{i}

$X_i$

这一发现导致De Finetti引入了一种弱于独立性的条件，从而解决了这一明显的矛盾。De Finetti解决方案的关键是一种称为交换性的分布对称性。

对于给定的有限集合随机的对象，让表示他们的联合分布。这个有限集合是可更换的，如果，对于每一个排列 $\textbf{Definition.}$ $\{X_i\}_{i=1}^n$ $\mu_{X_1,\dots,X_n}$ $\mu_{X_1,\dots,X_n} = \mu_{X_{\pi(1)},\dots,X_{\pi(n)}}$ 。序列随机对象的是可更换的它的每一个有限子集是可更换的。 $\pi:\{1,\dots,n\}\to\{1,\dots,n\}$ $\{X_i\}_{i=1}^\infty$

$\{X_i\}_{i=1}^\infty$ $X_i$ $0$ $1$ $\{X_i\}_{i=1}^\infty$ $\Theta:\Omega\to[0,1]$ $\mu_\Theta$

P {X_{1} = x_{1}, \dots, X_{n} = x_{n}} = \int_{[0, 1]} θ^{s} (1 - θ)^{n - s} d μ_{Θ} (θ),

$P\{X_1=x_1,\dots,X_n=x_n\} = \int_{[0,1]} \theta^s(1-\theta)^{n-s}\,d\mu_\Theta(\theta) \, ,$

s = \sum_{i = 1}^{n} x_{i}

$s=\sum_{i=1}^n x_i$

{\bar{X}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} X_{i} \to_{n \to \infty}^{} Θ almost surely,

$\bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i \xrightarrow[n\to\infty]{} \Theta \qquad \textrm{almost surely},$

$\{X_i\}_{i=1}^\infty$ $\textbf{there is}$ $\textit{parameter}$ $\Theta$ $\Theta$ $\textit{conditionally}$ $\Theta$ $\mu_\Theta$ $\bar{X}_n$ $X_i$ $\Theta$

P {X_{n} = 1 ∣ X_{1} = x_{1}, \dots, X_{n - 1} = x_{n - 1}} = E [Θ ∣ X_{1} = x_{1}, \dots, X_{n - 1} = x_{n - 1}] .

$P\{X_n=1\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\} = \mathrm{E}\left[\Theta\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\right] \, .$

— 禅
source

谢谢您的深刻见解！您关于独立性的观点是我第一次意识到的非常重要的观点。

— gui11aume12年

（“有用的方法更好：））

— Neil G

Θ

$\Theta$

Θ

$\Theta$

X_{i}

$X_i$

E [θ^{s} (1 - θ)^{s}] = E [P (X_{i} = x_{i} \forall i | θ)]

$E [\theta^s (1-\theta)^s] = E[P(X_i = x_i \, \forall \, i | \theta) ]$

θ

$\theta$

Pr {X_{1} = x_{1}, \dots, X_{n} = x_{n} ∣ Θ = θ}

$\Pr\{X_1=x_1,\dots,X_n=x_n\mid\Theta=\theta\}$

\prod_{i = 1}^{n} Pr {X_{i} = x_{i} ∣ Θ = θ} = \prod_{i = 1}^{n} θ^{x_{i}} (1 - θ)^{1 - x_{i}}

$\prod_{i=1}^n \Pr\{X_i=x_i\mid\Theta=\theta\}=\prod_{i=1}^n \theta^{x_i}(1-\theta)^{1-x_i}$

X_{i}

$X_i$

Θ = θ

$\Theta=\theta$

@禅谢谢！我理解第一句话，但是该部分“因为它是我仍然不清楚 “。您怎么知道这种因素呢？似乎您正在从我在上一条评论中编写的身份中删除期望值，但是我不确定这样做的合理性。

\prod_{i = 1}^{n} Pr {X_{i} = x_{i} ∣ Θ = θ} = \prod_{i = 1}^{n} θ^{x_{i}} (1 - θ)^{1 - x_{i}}

$\prod_{i=1}^n \Pr\{X_i=x_i\mid\Theta=\theta\}=\prod_{i=1}^n \theta^{x_i}(1-\theta)^{1-x_i}$

— user795305

在Zen的回答中，一切在数学上都是正确的。但是，我在某些方面不同意。请注意，我不主张/不认为自己的观点是好观点。相反，我觉得这些观点对我来说还不是很清楚。这些是我想讨论的一些哲学问题（对我来说是一项很好的英语练习），我对任何建议也很感兴趣。

关于带有 “ Heads” 的示例，Zen评论道：“的独立性假说意味着不可能通过观察抛硬币的结果来了解有关硬币的任何信息。” 从频率论者的角度来看，这是不正确的：学习硬币意味着学习，这可以通过从先前结果中估算（点估计或置信区间）来实现。如果常客看到 “ Heads”，那么他/她得出结论可能接近，因此也是如此。 $999$ $X_i$ $\theta$ $\theta$ $999$ $999$ $\theta$ $1$ $\Pr(X_n=1)$
顺便说一下，在这个掷硬币的例子中，随机多少？想象两个人都用相同的硬币无限次玩掷硬币的游戏，为什么他们会找到不同的？我要记住，抛硬币的特征是固定的，这是任何游戏者（出于技术上的数学原因，“几乎所有游戏者”）的的通用值。一个没有可解释的随机的更具体的示例是在和的有限总体中随机替换样本的情况。 $\Theta$ $\theta = \bar X_\infty$ $\theta$ $\bar X_\infty$ $\Theta$ $0$ $1$
关于Schervish的书和OP提出的问题，我认为（快速地说）Schervish表示可交换性是一个“酷”的假设，然后deFinetti定理是“酷”的，因为它说每个可交换模型都有一个参数表示。当然，我完全同意。但是，如果我假设使用可交换模型，例如和那么我会对执行关于和推断感兴趣，而不是对的实现感兴趣。如果我仅对的实现感兴趣，那么我对承担可交换性没有任何兴趣。 $(X_i\mid\Theta=\theta)\sim_\text{iid} \text{Bernoulli}(\theta)$ $\Theta \sim \text{Beta}(a,b)$ $a$ $b$ $\Theta$ $\Theta$

晚了...

— 斯特凡·洛朗（StéphaneLaurent）
source

嗨，史蒂芬妮！感谢您对我的回答的评论。关于您的第一点，，在我的回答中，所有内容都是在贝叶斯上下文中陈述的。没有真正的尝试与其他推理范例建立对比。简而言之，我试图以贝叶斯形式表达德芬内蒂定理对我的意义。

"this is not true from the frequentist perspective"

$\textbf{"this is not true from the frequentist perspective"}$

— 2012年

关于您的第二个项目符号：随机是的极限，如De Finetti的LLN中所述。因此，当某些贝叶斯人说我对先验值是，他的意思是该分布表示他在访问数据之前对此极限的不确定性。不同的贝叶斯算法可能具有不同的先验先验，但是在适当的规律性条件下，他们将获得有关（类似后验者）的协议，因为他们获得了有关结果的越来越多的信息。

Θ

$\Theta$

{\bar{X}}_{n}

$\bar{X}_n$

Θ

$\Theta$

μ_{Θ}

$\mu_\Theta$

a posteriori

$\textit{a posteriori}$

Θ

$\Theta$

— 2012年

固定但未知的不是贝叶斯概念。

θ

$\theta$

— 2012年

关于您的第三个项目符号，给定：1）谢尔维什是贝叶斯统计学家；2）他花大量时间和精力讨论书中的可交换性；我相信De Finetti定理对他的作用非常深刻，远远超出了冷静。但是我还是同意这非常酷！

— 2012年

为了阐明我的观点：我不认为“基本”（非分层）贝叶斯模型中存在随机的。有一个固定的未知，并且先验分布描述了对此的信念。随机变量的作用仅仅是贝叶斯推理的数学处理，它并没有在实验中的任何解释。如果您确实假设可交换但非独立的观察结果（例如我的第三个项目符号的示例），则必须在和上放置超级优先级。

θ

$\theta$

θ

$\theta$

Θ

$\Theta$

a

$a$

b

$b$

— 斯蒂芬·洛朗

你们可能对此主题的论文感兴趣（访问需要订阅期刊-尝试从您的大学访问）：

O'Neill，B.（2011）可交换性，相关性和贝叶斯效应。国际统计评论77（2），第241-250页。

本文讨论了表示定理，将其作为贝叶斯和常客IID模型的基础，并将其应用于投币示例。它应该清除关于频繁主义者范式的假设的讨论。实际上，它在二项式模型之外对表示定理使用了更广泛的扩展，但是它仍然应该有用。

— 统计资料
source

您可能有此工作文件的版本吗？我没有访问atm的权限：-（

— IMA

@Stats看到您的回答后，我已经阅读了该论文。我必须说，这是我见过的关于贝叶斯和频率论者的最佳论文。我希望我能早些阅读本文。（+1）

— KevinKim's