贝叶斯可信区间过程的决策理论依据是什么？

（要了解我为什么写这篇文章，请查看我对这个问题的回答下方的评论。）

III型错误和统计决策理论

为错误的问题提供正确的答案有时被称为III型错误。统计决策理论是不确定性下决策的形式化。它提供了一种概念框架，可以帮助避免III型错误。该框架的关键要素称为损失函数。它包含两个参数：第一个是世界的真实状态（的相关子集）（例如，在参数估计问题中，真实参数值）；第二个是一组可能动作中的一个元素（例如，在参数估计问题中，估计θ$\theta$$\hat{\theta})$。输出对与世界上每种可能的真实状态有关的每种可能的动作所造成的损失进行建模。例如，在参数估计问题中，一些众所周知的损失函数是：

• 绝对误差损失$L(\theta, \hat{\theta}) = |\theta - \hat{\theta}|$
• 平方误差损失$L(\theta, \hat{\theta}) = (\theta - \hat{\theta})^2$
• 哈尔瓦里安的LINEX损失$L(\theta, \hat{\theta}; k) = \exp(k(\theta - \hat{\theta})) - k(\theta - \hat{\theta}) - 1,\text{ } k \ne0$

检查答案以找到问题

在某些情况下，可能会试图通过着重于制定正确的损失函数并继续进行其余的决策理论方法（此处未详述）来避免III型错误。这不是我的简要介绍–毕竟，统计学家已经掌握了许多行之有效的技术和方法，即使它们并非源自这种方法。但是，在我看来，最终结果是绝大多数统计学家都不了解也不在乎统计决策理论，而且我认为他们不在了。对于那些统计学家，我认为他们之所以会发现统计决策理论在避免III类错误方面很有价值，是因为它提供了一个框架，可以在其中询问任何建议的数据分析程序：该程序可以最佳地应对什么损失函数（如果有）？也就是说，在什么决策情况下，它到底能提供最佳答案？

后预期损失

从贝叶斯角度来看，损失函数就是我们所需要的。我们几乎可以忽略决策理论的休息-几乎可以肯定，做的最好的事情是尽量减少后预期损失，也就是找到动作$a$最小化$\tilde{L}(a) = \int_{\Theta}L(\theta, a)p(\theta|D)d\theta$。

？（至于非贝叶斯观点嗯，这是频率论决策理论的定理-具体来说，沃尔德的完全类定理 -即最佳动作永远是尽量减少贝叶斯后验预期损失相对于一些（可能是不当）这个结果的困难在于它是一个存在定理，没有给出关于使用哪个先验的指导，但是它有效地限制了我们可以“反转”以弄清楚到底是哪个问题的过程的类别。特别是，反转任何非贝叶斯程序的第一步是弄清楚它复制或近似哪个贝叶斯程序（如果有）。

嘿，青色，您知道这是一个问答网站，对吗？

最后，这使我提出了一个统计问题。在贝叶斯统计中，当为单变量参数提供间隔估计时，两个常见的可信间隔过程是基于分位数的可信间隔和最高后验密度可信间隔。这些程序背后的损失函数是什么？

在单变量间隔估计中，可能的操作集合是指定间隔端点的有序对集合。让该集合的一个元素被表示为。$(a, b),\text{ } a \le b$

最高后密度间隔

令后验密度为。最高后验密度区间对应于损失函数，该函数对不能包含真实值的区间进行惩罚，并且还按其长度成比例地对区间进行惩罚：$f(\theta)$

，$L_{HPD}(\theta, (a, b); k) = I(\theta \notin [a, b]) + k(b – a), \text{} 0 < k \le max_{\theta} f(\theta)$

其中是指标函数。这给出了预期的后路损失$I(\cdot)$

$\tilde{L}_{HPD}((a, b); k) = 1 - \Pr(a \le \theta \le b|D) + k(b – a)$

设置为参数空间内部的局部最优： –正好符合HPD间隔的规则。˚F（一）=˚F（b）=$\frac{\partial}{\partial a}\tilde{L}_{HPD} = \frac{\partial}{\partial b}\tilde{L}_{HPD} = 0$$f(a) = f(b) = k$

的形式给出了一些洞察为什么HPD间隔不是不变的单调递增变换的参数的。转换为空间的 -space HPD间隔与 -space HPD间隔不同，因为两个间隔对应于不同的损失函数： -space HPD间隔对应于变换后的长度罚分。克（θ）θ克（θ）克（θ）克（θ$\tilde{L}_{HPD}((a, b); k)$$g(\theta)$$\theta$$g(\theta)$$g(\theta)$$g(\theta)$$k(g(b) – g(a))$

基于分位数的可信区间

考虑使用损失函数进行点估计

$L_q(\theta, \hat{\theta};p) = p(\hat{\theta} - \theta)I(\theta < \hat{\theta}) + (1-p)(\theta - \hat{\theta})I(\theta \ge \hat{\theta}), \text{ } 0 \le p \le 1$。

后验预期损失为

$\tilde{L}_q(\hat{\theta};p)=p(\hat{\theta}-\text{E}(\theta|\theta < \hat{\theta}, D)) + (1 - p)(\text{E}(\theta | \theta \ge \hat{\theta}, D)-\hat{\theta})$。

设置产生隐式方程$\frac{d}{d\hat{\theta}}\tilde{L}_q=0$

$\Pr(\theta < \hat{\theta}|D) = p$，

也就是说，最佳是后验分布的％分位数，与预期的一样。（100p$\hat{\theta}$$(100p)$

因此，为了获得基于分位数的区间估计，损失函数为

$L_{qCI}(\theta, (a,b); p_L, p_U) = L_q(\theta, a;p_L) + L_q(\theta, b;p_U)$。

最小间隔

损失函数用于区间选择（贝叶斯和频繁主义者）的一个明显选择是使用根据边际分布度量的区间大小。因此，从所需的属性或损失函数开始，并得出最佳间隔。尽管有可能，但这往往无法做到，正如本问题所举例说明的那样。对于贝叶斯可信集，这对应于最小化区间的先验概率，或最大化相对置信度，例如Evans（2016）中所述。大小也可用于选择常客性置信集（Schafer 2009）。这两种方法是相关的，并且可以通过决策规则轻松实现，该决策规则优先包含具有大型点向互信息的决策（Bartels 2017）。

Bartels，C.，2017年。在常客测试中使用先验知识。无花果。 https://doi.org/10.6084/m9.figshare.4819597.v3

Evans，M.，2016年。使用相对信念来衡量统计证据。计算和结构生物技术杂志，第14页，第91-96页。

Schafer，CM和Stark，PB，2009。构建最佳预期规模的置信区域。美国统计协会杂志，104（487），第1080-1089页。