IID数据的悖论（至少对我而言）

就我在统计上的综合（和稀缺）知识而言，我理解如果是同上的随机变量，则该术语暗示它们是独立且均等分布的。$X_1, X_2,..., X_n$

我在这里关心的是iid样本的前一个属性，其内容为：

$$p(X_{n}|X_{i_1},X_{i_2},...,X_{i_k}) = p(X_{n}),$$

对于不同 st任何集合。 1 ≤ 我Ĵ < $i_j$$1 \leq i_j < n$

但是，人们知道，具有相同分布的独立样本的集合提供了有关分布结构的信息，因此，在上述情况下，还提供了有关的信息，因此，实际上不应该是： p （X Ñ | X 我1，X 我2，。。。，X 我ķ）= p （X Ñ）$X_n$

$$p(X_{n}|X_{i_1},X_{i_2},...,X_{i_k}) = p(X_{n}).$$

我知道我是谬论的受害者，但我不知道为什么。请帮我解决这个问题。

我认为您正在将分布的估计模型与随机变量混淆。让我们将独立性假设重写为： 表示如果知道X n（并且可以通过一组参数θ进行识别

$$P(X_n | \theta, X_{i_1}, X_{i_2}, \dots, X_{i_k}) = P(X_n | \theta) \tag{1}$$ $X_n$$\theta$），则假设您已经观察到一些样本，则分布不会改变。

例如，将视为代表硬币第n次抛掷的结果的随机变量。知道的概率头和尾的硬币（其，顺便说一句，假定在编码θ）是足以知道的分布X Ñ。特别地，先前抛掷的结果不会改变第n次抛掷头部或尾巴的概率，并且（1 ）成立。$X_n$$n$$\theta$$X_n$$n$$(1)$

但是请注意，。$P(\theta | X_n) \neq P(\theta | X_{i_1}, X_{i_2}, \dots, X_{i_k})$

$X$$\theta$$P(X_n \mid X_{n-1}, \ldots X_1, \theta) = P(X_n \mid \theta)$

$\theta$$\theta$$\theta$

$X_n$$\theta$

贝叶斯与古典统计学家

$x_i$

• $P(x_i = H)$$\theta$$\theta$
• $\theta$

$\theta$$\theta$

这要去哪里

$n$

$$P(x_n=H \mid x_{n-1}, x_{n-2}, \ldots,x_{1}) = P(x_n=H) = \theta$$ $\theta$

贝叶斯对主观概率的深刻理解是，从她的角度来看，重要的是概率！。如果她连续看到10个头，则第11个头的可能性更高，因为连续10个头会使人相信硬币偏向正面。

$$P(x_{11} = H \mid x_{10}=H, x_{9}=H, \ldots,x_{1}=H) > P(x_1 = H)$$

$\theta$$\theta$$\theta$

$$P(x_{11} = H \mid x_{10}=H, x_{9}=H, \ldots,x_{1}=H, \theta) = P(x_1 = H \mid \theta) = \theta$$

$\theta$$\theta$

进一步说明

我已经尽力在这里做了简短的介绍，但是我所做的充其量只是肤浅的，从某种意义上讲，这些概念是很深的。如果您想深入探讨概率论，那么Savage在1954年出版的《统计学基础》一书就是经典。针对贝叶斯与常客的Google交易会大量涌现。

思考IID抽奖的另一种方法是de Finetti定理和可交换性的概念。在贝叶斯框架中，可交换性等同于以某个潜在随机变量（在这种情况下为硬币的偏斜度）为条件的独立性。