优惠券收集时间的下限是多少？

20

在经典的Coupon Collector问题中，众所周知，完成一组随机挑选的优惠券所需的时间满足，和。 $T$ $n$ $E[T] \sim n \ln n$ $Var(T) \sim n^2$ $\Pr(T > n \ln n + cn) < e^{-c}$

这个上限比切比雪夫不等式给出的上限更好，后者约为 $1/c^2$ 。

我的问题是：是否有相应优于切比雪夫下限为 $T$ ？（例如，类似 $\Pr(T < n \ln n - cn) < e^{-c}$ ）？

probability probability-inequalities coupon-collector-problem

— 大卫
source

一个明显的下界是

Pr (T < n) = 0

$\Pr(T<n) = 0$ ，但我想您已经意识到了这一点

— 一站式服务

14

我将其作为第二个答案，因为分析是完全基本的，并且可以提供所需的结果。

命题对于 $c > 0$ 和 $n \geq 1$ ，

P (T < n \log n - c n) < e^{- c} .

$\mathbb{P}(T < n \log n - c n ) < e^{-c} \>.$

证明背后的想法很简单：

直到所有的试样被收集作为表示时间 $T = \sum_{i=1}^n T_i$ ，其中 $T_i$ 是，时间 $i$ 个（以往）唯一优惠券被收集。的 $T_i$ 是与平均时间几何随机变量 $\frac{n}{n-i+1}$ 。
应用版本的Chernoff边界并简化。

证明

对于任何和任何，我们具有 $t$ $s > 0$

P (T < t) = P (e^{- s T} > e^{- s t}) \leq e^{s t} E e^{- s T} .

$\mathbb{P}(T < t) = \mathbb{P}( e^{-s T} > e^{-s t} ) \leq e^{s t} \mathbb{E} e^{-s T} \> .$

由于和是独立的，因此我们可以写 $T = \sum_i T_i$ $T_i$

E e^{- s T} = \prod_{i = 1}^{n} E e^{- s T_{i}}

$\mathbb{E} e^{-s T} = \prod_{i=1}^n \mathbb{E} e^{- s T_i}$

现在，既然是几何的，那么以成功的概率，那么一个简单的计算显示 $T_i$ $p_i$

E e^{- s T_{i}} = \frac{p_{i}}{e^{s} - 1 + p_{i}} .

$\mathbb{E} e^{-s T_i} = \frac{p_i}{e^s - 1 + p_i} .$

对于我们的问题，为，，等，因此 $p_i$ $p_1 = 1$ $p_2 = 1 - 1/n$ $p_3 = 1 - 2/n$

\prod_{i = 1}^{n} E e^{- s T_{i}} = \prod_{i = 1}^{n} \frac{i / n}{e^{s} - 1 + i / n} .

$\prod_{i=1}^n \mathbb{E} e^{-s T_i} = \prod_{i=1}^n \frac{i/n}{e^s - 1 + i/n}.$

让我们为某些选择和。然后和，产生 $s = 1/n$ $t = n \log n - c n$ $c > 0$

e^{s t} = n e^{- c}

$e^{s t} = n e^{-c}$

e^{s} = e^{1 / n} \geq 1 + 1 / n

$e^s = e^{1/n} \geq 1 + 1/n$

\prod_{i = 1}^{n} \frac{i / n}{e^{s} - 1 + i / n} \leq \prod_{i = 1}^{n} \frac{i}{i + 1} = \frac{1}{n + 1} .

$\prod_{i=1}^n \frac{i/n}{e^s - 1 + i/n} \leq \prod_{i=1}^n \frac{i}{i+1} = \frac{1}{n+1} \> .$

放在一起，我们得到

P (T < n \log n - c n) \leq \frac{n}{n + 1} e^{- c} < e^{- c}

$P(T < n \log n - c n) \leq \frac{n}{n+1} e^{-c} < e^{-c}$

如预期的。

— 红衣主教
source

很好，这正是医生命令的。谢谢。

— 大卫（David）

@David，只是好奇：预期的应用程序是什么？

— 红衣主教

很长的故事。我正在尝试证明已经煮熟的马尔可夫链的混合时间的下限，以便分析我感兴趣的算法的运行时间-事实证明可以减少到c的下界.collector问题。顺便说一句，我一直在努力寻找恰好是切尔诺夫风格的界限，但还没有想出如何在摆脱这种产品。选择 :-)的良好通话。

i

$i$

s = 1 / n

$s = 1/n$

— 大卫，

@David，，尽管几乎可以肯定是次优的，但似乎很容易尝试，因为它给出了，这与从推导中获得的术语相同。上限。

s = 1 / n

$s = 1/n$

e^{s t} = n e^{- c}

$e^{s t} = n e^{-c}$

— 主教

1

请求：我上面提供的证明是我自己的。因为这个问题引起了我的兴趣，所以我出于愉悦地工作。但是，我不主张新颖性。的确，我无法想象文献中还没有使用类似技术的类似证据。如果有人知道参考文献，请在此处发表它作为评论。我会很感兴趣的。

— 主教

9

尽管@cardinal已经给出了一个答案，该答案给出了我一直在寻找的界限，但是我发现了类似的Chernoff风格的论点，可以给出一个更强的界限：

命题：（对于来说更强）

P r (T \leq n \log n - c n) \leq \exp (- \frac{3 c^{2}}{π^{2}}) .

$Pr (T \leq n \log n - c n) \leq \exp(- \frac{3c^2}{\pi^2} ) \> .$

c > \frac{π^{2}}{3}

$c > \frac{\pi^2}{3}$

证明：

就像@cardinal的答案一样，我们可以使用是具有成功概率的独立几何随机变量之和的事实。因此，和。 $T$ $T_i$ $p_i = 1 - i/n$ $E[T_i] = 1/p_i$ $E[T] = \sum_{i=1}^{n} E[T_i] = n \sum_{i=1}^n \frac{1}{i}\geq n \log n$

现在定义新变量和。然后我们可以写 $S_i : = T_i - E[T_i]$ $S : = \sum_i S_i$

Pr (T \leq n \log n - c n) \leq Pr (T \leq E [T] - c n) = Pr (S \leq - c n)

$\Pr (T \leq n \log n - c n) \leq \Pr (T \leq E[T] - c n) = \Pr (S \leq - c n)$

= Pr (\exp (- s S) \geq \exp (s c n)) \leq e^{- s c n} E [e^{- s S}]

$= \Pr\left(\exp(-s S ) \geq \exp( s cn) \right) \leq e^{-s c n} E\left[ e^{-s S} \right]$

计算平均值，我们有

E [e^{- s S}] = \prod_{i} E [e^{- s S_{i}}] = \prod_{i} \frac{e^{s / p_{i}}}{1 + \frac{1}{p_{i}} (e^{s} - 1)} \leq e^{\frac{1}{2} s^{2} \sum_{i} p_{i}^{- 2}}

$E[e^{-s S}] = \prod_i E[e^{-s S_i}] = \prod_i \frac{e^{s / p_i} } {1 + \frac{1}{p_i} (e^s -1)} \leq e^{\frac{1}{2}s^2\sum_i p_i^{-2}}$ ，其中不等式来自于和表示。

e^{s} - 1 \geq s

$e^s - 1\geq s$

\frac{e^{z}}{1 + z} \leq e^{\frac{1}{2} z^{2}}

$\frac{e^z}{1+z}\leq e^{\frac{1}{2}z^2}$

z \geq 0

$z\geq 0$

因此，由于，我们可以写 $\sum_i p_i ^{-2} = n^2 \sum_{i=1}^{n-1} \frac{1}{i^2} \leq n^2 \pi^2/6$

\begin{aligned} Pr (T \leq n \log n - c n) \leq e^{\frac{1}{12} (n π s)^{2} - s c n} . \end{aligned}

$\begin{align*} \Pr( T \leq n \log n - c n ) \leq e^{\frac{1}{12} (n \pi s)^2 - s c n}. \end{align*}$

最小化，我们最终获得 $s>0$

Pr (T \leq n \log n - c n) \leq e^{- \frac{3 c^{2}}{π^{2}}}

$\Pr( T \leq n\log n -cn ) \leq e^{-\frac{3 c^2 }{\pi^2}}$

— 大卫
source

1

（+1）Modulo几次轻微的错字，这很好。当您完成工作时，将内容扩展到接近平均值的效果通常会更好。鉴于渐近结果，我不感到惊讶地看到更高阶的收敛。现在，如果显示类似的上限，则证明在Vershynin的术语中是次指数的，这对量度具有许多含义。

(T - n \log n) / n

$(T-n\log n)/n$

— 主教

1

该论点似乎并没有直接推广到上限。交换为（和为），可以按照相同的步骤直至计算的点。然而，此时，我能做的最好的就是使用，仍然留下而我没有不知道该怎么办

c

$c$

- c

$-c$

s

$s$

- s

$-s$

E [e^{s S}] \leq \prod_{i} \frac{e^{- s / p_{i}}}{1 - \frac{s}{p_{i}}}

$E[e^{sS}] \leq \prod_i \frac{e^{-s/p_i}}{1 - \frac{s}{p_i}}$

\frac{e^{- z}}{1 - z} \leq \exp (\frac{z^{2}}{2 (1 - z)})

$\frac{e^{-z}}{1-z} \leq \exp( \frac{z^2}{2(1-z)} )$

E [e^{s S}] \leq e^{\frac{1}{2} s^{2} \sum_{i} \frac{p_{i}^{2}}{(1 - s / p_{i})}}

$E[e^{sS}] \leq e^{\frac{1}{2} s^2\sum_i \frac{p_i^2}{(1-s/p_i)}}$

— David

2

不过，有趣的是，整个论点（针对下限）似乎不仅适用于息票收集器问题，而且适用于任何具有方差的不相同，独立的几何变量之和。具体来说：给定，其中每个是具有成功概率的独立GV ，其中，则

T = \sum_{i} T_{i}

$T = \sum_i T_i$

T_{i}

$T_i$

p_{i}

$p_i$

\sum_{i} p_{i}^{- 2} \leq A < \infty

$\sum_i p_i^{-2} \leq A < \infty$

Pr (T \leq E [T] - a) \leq e^{- \frac{a^{2}}{2 A}}

$\Pr ( T \leq E[T] - a ) \leq e^{-\frac{a^2}{2A}}$

— David David

4

重要说明：我决定删除我最初在此答案中提供的证明。与我提供的其他证明相比，它更长，计算量更大，使用的锤子更大，并且证明了结果较弱。到处都是（我认为）劣等的方法。如果您真的有兴趣，我想您可以看看所做的修改。

我最初引用的渐近结果仍然可以在下面的答案中找到，该结果确实表明，对于我们可以做的比其他答案中证明的界更好，后者适用于所有。 $n \to \infty$ $n$

下列渐近结果成立

P (T > n \log n + c n) \to 1 - e^{- e^{- c}}

$\mathbb{P}(T > n \log n + c n ) \to 1 - e^{-e^{-c}}$

和

P (T \leq n \log n - c n) \to e^{- e^{c}} .

$\mathbb{P}(T \leq n \log n - c n ) \to e^{-e^c} \>.$

常数和极限取为。请注意，尽管将它们分为两个结果，但它们几乎是相同的结果，因为在任何情况下都不会被约束为非负数。 $c \in \mathbb{R}$ $n \to \infty$ $c$

有关证明，请参见例如Motwani和Raghavan的《随机算法》，第60--63页。

另外：大卫请为这个答案的注释中的陈述上限提供证明。

— 红衣主教
source

是的，它适用于每个固定。可以找到一个（非常简单的）证明，例如在Levin，Peres和Wilmer的著作《马尔可夫链和混合时间》（命题2.4）中。但是，该证明不适用于下限。

n

$n$

— 大卫，

1

实际上，我不妨在这里转录证明：“让是第个[coupon]类型没有出现在抽取的前优惠券中的情况。首先观察。由于每个试验都有的概率没有提取优惠券并且这些试验是独立的，上方的右上方由，证明（2.7）。”

A_{i}

$A_i$

i

$i$

n \log n + c n

$n \log n + cn$

P (τ > n \log n + c n) = P (\cup_{i} A_{i}) \leq \sum_{i} P (A_{i})

$P(\tau >n\log n+cn )=P (\cup_{i} A_i ) \leq \sum_i P(A_i)$

1 - n^{- 1}

$1 − n^{−1}$

i

$i$

\sum_{i} (1 - 1 / n)^{n \log n + c n} \leq n \exp (\frac{n \log n + c n}{n}) = e^{- c}

$\sum_i (1 - 1/n)^{n \log n + cn} \leq n \exp(\frac{n \log n + cn}{n} ) = e^{-c}$

— 大卫

@David，很好，很简单。我很快就将包含-排除公式扩展为另一个术语，但并没有很快到达，也没有时间进一步研究它。事件等同于试用后不剩下优惠券的事件。应该有一个与此相关的mar。您是否在（假定的）关联mar上尝试了霍夫丁不等式？渐近结果表明强烈的措施集中。

{T < t_{n}}

$\{T < t_n\}$

t_{n}

$t_n$

— 红衣主教

@David，上面的证明中有一个符号翻转，但是我敢肯定，这对其他读者也很明显。

— 红衣主教

@David，请参阅我对您问题的其他已发布答案。该方法与您给出的上限不同，但是与我在此处给出的答案相反，所使用的工具几乎是基本的。

— 红衣主教

2

本杰明·杜尔给（本章“分析随机搜索的启发式：从概率论工具”中的书“随机搜索的启发式理论”，见链接在线PDF）的稍显简单的证明

命题设是优惠券收集过程的停止时间。然后。 $T$ $\Pr[T\le (1-\epsilon)(n-1)\ln n]\le e^{-n^{\epsilon}}$

这似乎给出了所需的渐近性（来自@cardinal的第二个答案），但具有对所有和成立的优点。 $n$ $\epsilon$

这是一个证明草图。

证明草图：假设是在第抽奖中收集到第个优惠券的事件。因此，。关键的事实是，是负相关的，对于任何，。直观地说，这是相当清楚的，因为明知在第一个券平会使其不太可能的是，个券也被拉在第一平局。 $X_i$ $i$ $t$ $\Pr[X_i=1]=(1-1/n)^t$ $X_i$ $I\subseteq[n]$ $\Pr[\forall i\in I, X_i=1]\le\prod_{i\in I}\Pr[X_i=1]$ $i$ $t$ $j$ $t$

可以证明要求，但在每一步将集合放大1。然后，它为对显示。等效地，通过平均，它简化为显示。Doerr为此仅给出了直观的论据。证明的一种途径如下。可以观察到，以所有优惠券之后的优惠券为条件，到目前为止，在抽取之后从抽取新优惠券的概率现在为，而不是以前的 $I$ $\Pr[\forall i\in I, X_i=1|X_j=1]\le\Pr[\forall i\in I,X_i=1]$ $j\notin I$ $\Pr[\forall i\in I, X_i=1|X_j=0]\ge\Pr[\forall i\in I,X_i=1]$ $j$ $I$ $I$ $k$ $\frac{|I|-k}{n-1}$ $\frac{|I|-k}{n}$ 。因此，将收集所有优惠券的时间分解为几何随机变量的总和，我们可以看到对优惠券的调节是在增加成功概率之后进行的，因此进行调节只会使其更有可能更早地收集优惠券（通过随机优势：就随机优势而言，每个几何随机变量都通过条件调节而增加，然后可以将该优势应用于总和。 $j$ $I$

给定这种负相关性，则得出，期望界。 $\Pr[T\le (1-\epsilon)(n-1)\ln n]\le (1-(1-1/n)^t)^n$ $t=(1-\epsilon)(n-1)\ln n$

— 米福布斯
source