预期平均值将超过一个值的预期次数

给定一系列iid随机变量，例如，对于，为，我试图限制经验均值的预期次数会超过一个值，因为我们继续绘制样本，即： $X_i \in [0,1]$ $i = 1,2,...,n$ $\frac{1}{n}\sum_{i=1}^n X_i$ $c \geq 0$

T \overset{d e f}{=} \sum_{j = 1}^{n} P ({\frac{1}{j} \sum_{i = 1}^{j} X_{i} \geq c})

$\mathcal{T} \overset{def}{=} \sum_{j=1}^n \mathbb{P} \left(\left\{ \frac{1}{j}\sum_{i=1}^j X_i \geq c\right\}\right)$

如果我们假设对于，我们可以使用Hoeffding不等式得出 $c = a + \mathbb{E}[X]$ $a > 0$

\begin{aligned} T & \leq \sum_{j = 1}^{n} e^{- 2 j a^{2}} \\ = \frac{1 - e^{- 2 a^{2} n}}{e^{2 a^{2}} - 1} \end{aligned}

$\begin{align} \mathcal{T} & \leq \sum_{j=1}^n e^{-2ja^2} \\ & = \frac{1 - e^{-2 a^2 n}}{e^{2 a^2}-1} \end{align}$

哪个看起来不错（也许），但实际上是一个松散的界限，是否有更好的方法来限制此值？我希望可能会有一种方法，因为不同的事件（每个）显然不是独立的，我不知道有任何方法可以利用这种依赖性。同样，最好删除大于平均值的限制。 $j$ $c$

编辑：如果我们使用马尔可夫不等式，可以消除对大于均值的限制： $c$

\begin{aligned} T & \leq \sum_{j = 1}^{n} \frac{\frac{1}{j} E [X]}{c} \\ = \frac{E [X] H_{n}}{c} \end{aligned}

$\begin{align} \mathcal{T} & \leq \sum_{j=1}^n \frac{\frac{1}{j}\mathbb{E}[X]}{c} \\ & = \frac{\mathbb{E}[X]H_n}{c} \end{align}$ 尽管更明显，但每当时必须偏离。

T

$\mathcal{T}$

c \leq E [X]

$c \leq \mathbb{E}[X]$

mathematical-statistics expected-value bounds

— Fairidox
source

您对定义不符合您的描述。如果“ ”被拆除这将是预期数量的超标，但写它是线性组合倍。这显然不是期望，因为概率不是互斥的。例如，当，。

T

$\mathcal{T}$

j \times

$j\times$

c

$c$

c \leq 0

$c\le 0$

T = n (n + 1) / 2

$\mathcal{T} = n(n+1)/2$

— ub

@whuber哦，对了，非常感谢，我已经在上面修复了它。

— fairidox

我注意到您更改了上限。现在看来是负面的；-)。

— ub

指数中的“ ” 不应该平方吗？-好吧，它简化为[0,1]域

j

$j$

— Alecos Papadopoulos

这是一种手工制作的方法，对此我将不胜感激，（对此提出批评通常是最有帮助的）。如果我理解正确，OP将计算样本均值，其中每个样本包含来自新rv的先前样本+1观测值。表示每个样本均值的分布。然后我们可以写 $\bar x_j$ $F_j$

T \overset{d e f}{=} \sum_{j = 1}^{n} (1 - F_{j} (c)) = n - \sum_{j = 1}^{n} F_{j} (c)

$\mathcal{T} \overset{def}{=} \sum_{j=1}^n \left(1-F_j(c)\right) = n- \sum_{j=1}^n F_j(c)$

考虑的样品大小之后将样本均值的分布几乎是正常的，表示它。然后我们可以写 $m$ $\hat G$

T = n - \sum_{j = 1}^{m} F_{j} (c) - \sum_{j = m + 1}^{n} {\hat{G}}_{j} (c) < n - \sum_{j = m + 1}^{n} {\hat{G}}_{j} (c)

$\mathcal{T} = n- \sum_{j=1}^m F_j(c)-\sum_{j=m+1}^n \hat G_j(c) < n-\sum_{j=m+1}^n \hat G_j(c)$

解决我们得到其中是标准法线cdf，是iid进程的标准偏差，是其平均值。插入边界并重新排列，我们得到 $\hat G_j(c)$

{\hat{G}}_{j} (c) = 1 - Φ (\frac{\sqrt{j}}{σ} (μ - c))

$\hat G_j(c) = 1- \Phi\left(\frac{\sqrt j}{\sigma}(\mu-c)\right)$

Φ

$\Phi$

σ

$\sigma$

μ

$\mu$

T < m + \sum_{j = m + 1}^{n} Φ (\frac{\sqrt{j}}{σ} (- a))

$\mathcal{T} < m+\sum_{j=m+1}^n \Phi\left(\frac{\sqrt j}{\sigma}(-a)\right)$

请注意，此界限还取决于过程的差异。这比问题中提出的约束更好吗？这将主要取决于样本平均值的分布如何“迅速”变为“几乎正态”。为了给出一个数值例子，假设该。还假设随机变量在是统一的。然后和。考虑与平均值的10％的偏差，即设置。然后：对于，我建议的边界（对于有意义）变得更加严格。对于，霍夫廷界为 $m= 30$ $[0,1]$ $\sigma = \sqrt \frac{1}{12}$ $\mu = \frac 12$ $a=0.05$ $n=34$ $n>30$ $n=100$ $78.5$ 而我建议的是。Hoeffding边界收敛到而我建议的边界如果增大，则两个边界之间的差异减小但仍然可见：对于20％的偏差，，Hoeffding边界收敛到而我建议将收敛到（即正常cdfs的总和对整体界线的贡献很小）。更一般地说，我们注意到对于，霍夫定界收敛于 $36.2$ $\approx 199.5$ $\approx 38.5$ $a$ $a=0.1$ $49.5$ $30.5$
$n\rightarrow \infty$

H_{b} \to \frac{1}{e^{2 a^{2}} - 1}

$H_b\rightarrow \frac{1}{e^{2 a^2}-1}$ 而我绑定到

A_{b} \to m

$A_b \rightarrow m$

由于对于较小的值（这是有意义的情况），变大了，因此即使样本使得样本均值的分布缓慢收敛为，仍然存在在紧密度可能胜过它的情况。正态分布。 $a$ $H_b$ $A_b$

— 阿莱科斯·帕帕多普洛斯
source

“ （即，不超过假设的样本量阈值，则需要获得样本均值分布的正态近似值） ”“您在这里在说什么？

— Glen_b-恢复莫妮卡

没有要紧的。当我在上面写一些行时，有一条经验法则，以便使样本均值的分布像正常情况一样“很多”，这就是我们至少需要30个样本量。因此，对于100个样本量和20％的偏差情况下，我的边界是即换句话说部分贡献很小。

\approx 30.5

$\approx 30.5$

m + 0.5

$m + 0.5$

\sum_{j = m + 1}^{n} Φ (\frac{\sqrt{j}}{σ} (- a))

$\sum_{j=m+1}^n \Phi\left(\frac{\sqrt j}{\sigma}(-a)\right)$

— Alecos Papadopoulos

除非您能说明它所处的环境，否则请避免以任何一般意义将其称为经验法则。30的数字是完全任意的（通常太弱或太强），而您认为30也出现了，我相信这是简单的巧合。

— Glen_b-恢复莫妮卡

@Glen_b“ 30”甚至不是巧合-我只是用它来提供一个数值示例。我对这个问题没有异议，我不喜欢“经验法则”（尤其是当它们可疑时）。我对答案做了一些更改。感谢您的输入。

— Alecos Papadopoulos

@Glen_b感谢您可能的非固定（即长）内存！

— Alecos Papadopoulos