回归系数的抽样分布

之前，我了解了采样分布，这些分布根据未知参数给出了供估计器使用的结果。例如，对于线性回归模型中和的采样分布$\hat\beta_0$$\hat\beta_1$$Y_i = \beta_o + \beta_1 X_i + \varepsilon_i$

$$\hat{\beta}_0 \sim \mathcal N \left(\beta_0,~\sigma^2\left(\frac{1}{n}+\frac{\bar{x}^2}{S_{xx}}\right)\right)$$ 和 $$\hat{\beta}_1 \sim \mathcal N \left(\beta_1,~\frac{\sigma^2}{S_{xx}}\right)$$

其中$S_{xx} = \sum_{i=1}^n (x_i^2) -n \bar{x}^2$

但是现在我在书中看到了以下内容：

假设我们以通常的方式用最小二乘法拟合模型。考虑贝叶斯后验分布，并选择先验，这样就等于通常的常客抽样分布，即……

$$\left( \begin{matrix} \beta_0 \\ \beta_1 \end{matrix} \right) \sim \mathcal N_2\left[\left(\begin{matrix} \hat{\beta}_1 \\ \hat{\beta}_2 \end{matrix} \right),~\hat{\sigma}^2 \left(\begin{matrix} n & \sum_{i=1}^{n}x_i \\ \sum_{i=1}^{n}x_i & \sum_{i=1}^{n}x_i^2 \end{matrix} \right) ^{-1}\right]$$

这使我感到困惑，因为：

1. 为什么估算值出现在前两个表达式的左侧（lhs）和最后一个表达式的右侧（rhs）？
2. 为什么最后一个表达式中的beta帽子具有1和2下标而不是0和1？
3. 这些只是同一事物的不同表示吗？如果是的话，有人可以告诉我它们的等效方式吗？如果没有，有人可以解释一下区别吗？
4. 是否最后一个表达式是前两个表达式的“反转”？这就是为什么最后一个表达式中的2x2矩阵被求逆，并且估计值/参数从rhs lhs 切换吗？如果可以的话，有人可以告诉我如何从一个人到另一个人？$\leftrightarrow$

这部分主要涉及您的第一个，第三个和第四个问题：

贝叶斯统计和常客统计之间有根本的区别。

频率统计通常通过似然来推断哪些固定参数值与被视为随机数据的数据一致。您将（一个或多个参数）设为固定但未知，并查看哪些参数使数据更有可能；它查看给定参数的某个模型的采样属性，以推断出参数可能在哪里。（贝叶斯主义者可能会说，常客主义的做法是基于“未发生的事情的发生频率”）$\theta$

贝叶斯统计根据参数的概率分布来查看参数信息，该概率分布由数据通过可能性更新。参数具有分布，因此您查看。$P(\theta|\underline{x})$

这导致事情看上去通常很相似，但是通过另一种思考方式的角度来看，其中一个变量看起来“走错了方向”。

因此，从根本上说，它们是有所不同的东西，而一个LHS上的东西在另一个RHS上的事实并非偶然。

如果您对两者都做了一些工作，很快就会变得很清楚。

在我看来，第二个问题仅与错字有关。

---

陈述“等于通常的常客抽样分布，即”：我认为这是指作者在说明常客抽样分布。我读错了吗？

发生了两件事-它们有些松散地表达了一些内容（人们一直在表达这种特殊的过度松散的表达），而且我认为您对它的解释也与意图不同。

那么，他们给出的表达到底是什么意思呢？

希望下面的讨论将有助于阐明预期的含义。

如果您可以提供此表达式派生的参考（最好是在线，因为我没有很好的库访问权限），我将不胜感激。

从这里开始：

http://en.wikipedia.org/wiki/Bayesian_linear_regression

通过对采取平坦先验，我认为对也采取平坦先验。$\beta$$\sigma^2$

原因在于，后验由此与似然成正比，并且后验参数所产生的间隔与参数的频繁度置信区间匹配。

您可能会发现这里的前几页也很有帮助。