二项式随机变量的预测区间

二项式随机变量的预测间隔的公式（近似或精确）是什么？

假设 $Y \sim \mathsf{Binom}(n, p)$ ，和我们观察 $y$ （从绘制 $Y$ ）。该 $n$ 是已知的。

我们的目标是从获得新抽签的95％预测间隔 $Y$ 。

点估计是 $n\hat{p}$ ，其中 $\hat{p}=\frac{y}{n}$ 。对于A置信区间是直截了当的，但我不能找到针对预测时间间隔的公式。如果我们知道（而不是那么95％的预测区间只是涉及寻找一个二项式的位数。有什么明显的我可以忽略的吗？ $\hat{p}$ $Y$ $p$ $\hat{p}$

confidence-interval binomial prediction-interval

— Statseeker
source

请参阅有哪些非贝叶斯方法可用于预测推理？。在这种情况下，使用枢轴的方法不可用（我不认为），但是您可以使用一种预测可能性。或者当然是贝叶斯方法。

— Scortchi-恢复莫妮卡

大家好，我想花点时间解决提出的问题。-关于p的信心：我对此不感兴趣。-关于预测是分布的95％：是的，确切地说，预测区间是什么，与上下文无关（在回归中，您必须假设正态误差，因为置信区间依赖于CLT-是的，该例子中预测头数的例子硬币翻转是正确的，这使这个问题很难解决，是我们现在没有“ p”，只是有一个估计

— 而已

@Addison阅读G. Hahn和W. Meeker的书《统计间隔》。他们解释了置信区间，预测区间，公差区间和贝叶斯可信区间之间的差异。95％的预测间隔不包含分布的95％。它会执行最频繁的间隔。如果您重复从B（n，p）采样并每次使用相同的方法为p生成95％的预测间隔，那么95％的预测间隔将包含p的真实值。如果要覆盖95％的分布，请构造一个公差区间。

— Michael R. Chernick

公差间隔覆盖分布的百分比。对于90％分布的95％公差区间，您需要重复多次该过程，并使用相同的方法每次生成该区间，然后在大约95％的情况下，至少90％的分布将落入该区间间隔中包含少于5％分布的5％的时间。

— Michael R. Chernick

劳利斯和弗雷戴特（2005），“频率论者预测区间和预测分布”，Biometrika，92，3是另一个很好的参考，除了那些在我给的链接。

— Scortchi-恢复莫妮卡

好的，让我们尝试一下。我将给出两个答案-贝叶斯答案（在我看来是简单自然的）和可能的常问问题之一。

贝叶斯解

我们假设一个测试之前对，I，E。，，这是因为β-二项式模型是共轭的，这意味着后验分布也是Beta分布与参数，（我使用表示在成功的次数试验中，代替）。因此，推断被大大简化。现在，如果您对...的可能值有一些先验知识 $p$ $p \sim Beta(\alpha,\beta)$ $\hat{\alpha}=\alpha+k,\hat{\beta}=\beta+n-k$ $k$ $n$ $y$ ，则可以使用它来设置的值和，即，事先定义贝塔，否则可能呈现均匀（无信息）之前，用，或其他无信息先验（参见例如这里）。无论如何，你的后 $p$ $\alpha$ $\beta$ $\alpha=\beta=1$

$Pr(p|n,k)=Beta(\alpha+k,\beta+n-k)$

在贝叶斯推理中，重要的是后验概率，这意味着一旦知道，就可以对模型中的所有其他量进行推理。您想对可观测值进行推论：尤其是在新结果的向量，其中不一定等于。具体来说，对于每个，假设我们得到，我们要计算在接下来的试验中恰好有成功的概率 $y$ $\mathbf{y}=y_1,\dots,y_m$ $m$ $n$ $j=0,\dots,m$ $j$ $m$ $k$ 在前试验中成功；后预测质量函数： $n$

但是，我们的的二项式模型意味着，在具有一定值的条件下，试验中成功的概率不取决于过去的结果： $Y$ $p$ $j$ $m$

$f(j|m,p)=\binom{j}{m} p^j(1-p)^j$

因此，表达式变为

$Pr(j|m,n,k)=\int_0^1 \binom{j}{m} p^j(1-p)^j Pr(p|n,k)dp=\int_0^1 \binom{j}{m} p^j(1-p)^j Beta(\alpha+k,\beta+n-k)dp$

该积分的结果是一个众所周知的Beta-Binomial分布：跳过段落，我们得到了可怕的表达式

$Pr(j|m,n,k)=\frac{m!}{j!(m-j)!}\frac{\Gamma(\alpha+\beta+n)}{\Gamma(\alpha+k)\Gamma(\beta+n-k)}\frac{\Gamma(\alpha+k+j)\Gamma(\beta+n+m-k-j)}{\Gamma(\alpha+\beta+n+m)}$

给定二次损失，我们对点估计当然是该分布的平均值，即 $j$

$\mu=\frac{m(\alpha+k)}{(\alpha+\beta+n)}$

现在，让我们寻找一个预测间隔。由于这是离散分布，因此我们没有的封闭形式表达式，因此。原因是，对于离散分布，取决于分位数的定义方式，分位数函数不是函数还是不连续函数。但是，这不是一个大问题：对于小，你可以写下概率 $[j_1,j_2]$ $Pr(j_1\leq j \leq j_2)= 0.95$ $m$ $m$ 并从这里找到使得 $Pr(j=0|m,n,k),Pr(j\leq 1|m,n,k),\dots,Pr(j \leq m-1|m,n,k)$ $j_1,j_2$

$Pr(j_1\leq j \leq j_2)=Pr(j\leq j_2|m,n,k)-Pr(j < j_1|m,n,k)\geq 0.95$

当然，您会发现不止一对，因此理想情况下，您会寻找最小的来满足上述要求。注意 $[j_1,j_2]$

$Pr(j=0|m,n,k)=p_0,Pr(j\leq 1|m,n,k)=p_1,\dots,Pr(j \leq m-1|m,n,k)=p_{m-1}$

只是Beta-Binomial分布的CMF（累积质量函数）的值，因此存在一个封闭形式的表达式，但这在广义超几何函数方面非常复杂。我宁愿只安装R包extraDistr并调用pbbinom以计算Beta-Binomial分布的CMF。具体来说，如果您想一次性计算所有概率，则只需编写： $p_0,\dots,p_{m-1}$

library(extraDistr)  
jvec <- seq(0, m-1, by = 1) 
probs <- pbbinom(jvec, m, alpha = alpha + k, beta = beta + n - k)

其中alpha和beta是Beta先验参数的值，即和（如果在使用统一先验，则为1 ）。当然，如果R为Beta-Binomial分布提供分位数函数，则一切都会简单得多，但不幸的是，事实并非如此。 $\alpha$ $\beta$ $p$

贝叶斯解决方案的实际示例

令，（因此，我们最初在100个试验中观察到了70次成功）。我们希望在接下来的试验中获得成功次数的点估计和95％的预测间隔。然后 $n=100$ $k=70$ $j$ $m=20$

n <- 100
k <- 70
m <- 20
alpha <- 1
beta  <- 1

我在上假设一个统一的先验，这取决于您特定应用程序的先验知识，这可能是一个好的先验，也可能不是一个好的先验。从而 $p$

bayesian_point_estimate <- m * (alpha + k)/(alpha + beta + n) #13.92157

显然，的非整数估计没有意义，因此我们可以舍入到最接近的整数（14）。然后，对于预测间隔： $j$

jvec <- seq(0, m-1, by = 1)
library(extraDistr)
probabilities <- pbbinom(jvec, m, alpha = alpha + k, beta = beta + n - k)

概率是

> probabilities
 [1] 1.335244e-09 3.925617e-08 5.686014e-07 5.398876e-06
 [5] 3.772061e-05 2.063557e-04 9.183707e-04 3.410423e-03
 [9] 1.075618e-02 2.917888e-02 6.872028e-02 1.415124e-01
[13] 2.563000e-01 4.105894e-01 5.857286e-01 7.511380e-01
[17] 8.781487e-01 9.546188e-01 9.886056e-01 9.985556e-01

对于相同的尾概率区间，我们希望最小，使得和最大，使得 $j_2$ $Pr(j\leq j_2|m,n,k)\ge 0.975$ $j_1$ 。这样，我们将拥有 $Pr(j < j_1|m,n,k)=Pr(j \le j_1-1|m,n,k)\le 0.025$

$Pr(j_1\leq j \leq j_2|m,n,k)=Pr(j\leq j_2|m,n,k)-Pr(j < j_1|m,n,k)\ge 0.975-0.025=0.95$

因此，通过查看上述概率，我们看到和。该贝叶斯预测间隔的概率为0.9778494，大于0.95。我们可以找到较短的时间间隔，使得，但在这种情况下，两个不等式尾概率中的至少一个不被满足。 $j_2=18$ $j_1=9$ $Pr(j_1\leq j \leq j_2|m,n,k)\ge 0.95$

频频解决方案

我将关注Krishnamoorthy和Peng（2011）的治疗方法。让和被独立地Binominally分布。我们希望有一个用于预测的间隔，基于的观察。换句话说，我们寻找 $Y\sim Binom(m,p)$ $X\sim Binom(n,p)$ $1-2\alpha-$ $Y$ $X$ 使得： $I=[L(X;n,m,\alpha),U(X;n,m,\alpha)]$

$Pr_{X,Y}(Y\in I)=Pr_{X,Y}(L(X;n,m,\alpha)\leq Y\leq U(X;n,m,\alpha)]\geq 1-2\alpha$

该“ ”是因为我们正在处理一个离散型随机变量，因此，我们不能期望得到准确的报道的事实......但我们可以寻找具有总是至少标称覆盖的间隔，因此是一个保守的间隔。现在，可以证明给定时的条件分布是超几何的，样本大小为，总体中成功的次数为，总体大小为。因此，条件pmf为 $\geq 1-2\alpha$ $X$ $X+Y=k+j=s$ $s$ $n$ $n+m$

$Pr(X=k|X+Y=s,n,n+m)=\frac{\binom{n}{k}\binom{m}{s-k}}{\binom{m+n}{s}}$

$X$ $X+Y=s$

$Pr(X\leq k|s,n,n+m)=H(k;s,n,n+m)=\sum_{i=0}^k\frac{\binom{n}{i}\binom{m}{s-i}}{\binom{m+n}{s}}$

$p$ $k$ $1-\alpha$ $L$

$Pr(X\geq k|k+L,n,n+m)=1-H(k-1;k+L,n,n+m)>\alpha$

$1-\alpha$

$Pr(X\leq k|k+U,n,n+m)=H(k;k+U,n,n+m)>\alpha$

$[L,U]$ $Y$ $1-2\alpha$ $p$ $n$ $m$ $1-2\alpha$

惯常解决方案的实际示例

$\alpha$ $\beta$

n <- 100
k <- 70
m <- 20

$\hat{p}=\frac{k}{n}$ $m$

frequentist_point_estimate <- m * k/n #14

$U$ $Pr(X\leq k|k+U,n,n+m)=H(k;k+U,n,n+m)>\alpha$ $U$ $[0,m]$

jvec <- seq(0, m, by = 1)
probabilities <- phyper(k,n,m,k+jvec)

$U$

jvec[which.min(probabilities > 0.025) - 1] # 18

$L$ $Pr(X\geq k|k+L,n,n+m)=1-H(k-1;k+L,n,n+m)>\alpha$

probabilities <- 1-phyper(k-1,n,m,k+jvec)
jvec[which.max(probabilities > 0.025) - 1] # 8

$[L,U]=[8,18]$

— 三角洲IV
source