证明更深入的结构

35

Chernoff边界的标准证明（来自“ 随机算法”教科书）使用了马尔可夫不等式和矩生成函数，并附带了泰勒展开式。没什么困难，但有些机械。

但是，还有其他切尔诺夫界证明可以揭示驱动结果的更深层次结构。例如，有一个信息理论版本，它通过类型方法进行处理，例如Impagliazzo和Kabanets的这篇论文以及Sanjoy Dasgupta的这篇简短文章。后面的这些证明更为“直观”，因为它们提供了标准结果的概括，并解释了指数中有趣的术语来自何处（这是KL散度）。

这样的事有哪些好的例子？更具体地说，以下是规则：

该声明应相当知名（在某种研究生班中会讲的那种东西）

教科书或标准参考资料中应有“通常”教示的“标准”证明

应该有一个不太为人所知的替代证明，也不是通常不教授的，或者证明更笼统的陈述或将陈述与更深层的数学结构联系起来。

我将从两个示例开始。

切尔诺夫界
- “教科书”证明：马尔可夫不等式，矩生成函数，泰勒展开（MR）
- 罕见而有见地的证明：类型方法，涉及KL发散的尾部指数
Schwartz-Zippel引理
- “教科书”证明：涉及单变量多项式的基本情况。归纳变量数
- “罕见”证明：通过Dana Moshkovitz（和Per Vognsen）进行几何论证

请为每个答案举一个例子。

ps我不一定暗示应该教授不常见的证明：直接证明对于学生来说通常更容易。但是从某种意义上来说，“证明可以帮助我们理解”，这些替代证明非常有用。

big-list proofs

— Suresh Venkat
source

23

我不确定这是否正是您要寻找的东西，因为我已经在教科书中看到了“罕见”的证明，但是：快速排序的时间为O（n log n）。

“教科书”证明：建立随机的递归关系，通过归纳证明其具有所需的解决方案。
“罕见”证明：为比较任意两个元素的概率找到一个简单的公式（仅为2 /（d + 1），其中d是排序顺序上其秩之间的差），并使用期望值和谐波序列的线性计算得到的预期对数。

教科书证明要求较少的创造性洞察力，但罕见的证明引入了一种在其他算法分析中非常有用的技术，例如用于计算几何中的随机增量算法。

— 大卫·埃普斯坦
source

3

我认为这可行。这是一个很好的例子。您是对的，“不常见”的证明也在教科书中，但仍然不那么普遍。

— Suresh Venkat 2010年

1

十多年来，我一直在教本科生“罕见”的证明。

— 杰夫·杰夫

我不知道别人怎么想的；但乔恩·本特利（Jon Bentley）在“美丽代码”一文中对快速排序的预期运行时进行了非常优雅的运行时分析。您也可以在<a href=" youtube.com/watch?v=aMnn0Jq0J-E">此处</ a > 上通过同一主题访问他的视频。我很确定这是quicksort预期运行时的“书本分析”

— Akash Kumar

19

$\Sigma_2^p$ $\exists\forall$ $\exists$ $\forall$

— 兰斯·福特诺
source

除此之外，劳特曼的证明大大简化了西普瑟的证明（1983），这是西普瑟归因于Gacs的。

— MS Dousti

1

是否有关于“罕见”证明的参考，还是民间传说？

— MS Dousti

2

证明在Nisan-Wigderson的论文中。

— Lance Fortnow

2

好的，这是一个“罕见的证明”，但是这个证明的“新理解”是什么？我认为劳特曼的证明更具启发性。我在这里想念什么吗？

— V Vinay

13

$\sum_i a_iX_i$ $\pm 1$ $X_i$ $\sigma = \|a\|_2$ $t \ge 2$

\begin{array}{rcl} Ë [{（ \sum_{一世} {一种}_{一世} X_{一世} ）}^{Ť}] & = & \sum_{{一世}_{1个} ， \dots ， {一世}_{Ť}} （ \prod_{Ĵ = 1个}^{Ť} {一种}_{{一世}_{Ĵ}} ） Ë [\prod_{Ĵ = 1个}^{Ť} X_{{一世}_{Ĵ}}] \\ \leq & \sum_{{一世}_{1个} ， \dots ， {一世}_{Ť}} （ \prod_{Ĵ = 1个}^{Ť} | {一种}_{{一世}_{Ĵ}} | ） Ë [\prod_{Ĵ = 1个}^{Ť} X_{{一世}_{Ĵ}}] \\ = & \sum_{\begin{matrix} {一世}_{1个} < \dots < {一世}_{米} \\ {[R}_{1个} ， \dots ， {[R}_{米} \\ \sum_{Ĵ} {[R}_{Ĵ} = Ť \\ \forall Ĵ {[R}_{Ĵ} > 0 \end{matrix}} （ \binom{Ť}{{[R}_{1个} ， \dots ， {[R}_{米}} ） （ \prod_{Ĵ = 1个}^{米} | {一种}_{{一世}_{Ĵ}} |^{{[R}_{Ĵ}} ） （ \prod_{Ĵ = 1个}^{米} Ë [X_{{一世}_{Ĵ}}^{{[R}_{Ĵ}}] ） \end{array}

$\begin{eqnarray*} \mathbf{E}\left[\left(\sum_i a_iX_i\right)^t\right] &=& \sum_{i_1,\ldots,i_t} \left(\prod_{j=1}^t a_{i_j}\right) \mathbf{E}\left[\prod_{j=1}^t X_{i_j}\right]\\ &\le& \sum_{i_1,\ldots,i_t} \left(\prod_{j=1}^t |a_{i_j}|\right) \mathbf{E}\left[\prod_{j=1}^t X_{i_j}\right]\\ &=& \sum_{\substack{i_1<\ldots< i_m\\ r_1,\ldots,r_m\\ \sum_j r_j = t\\ \forall j\ r_j > 0}} \binom{t}{r_1,\ldots,r_m}\left(\prod_{j=1}^m |a_{i_j}|^{r_j}\right)\left(\prod_{j=1}^m \mathbf{E}[X_{i_j}^{r_j}]\right) \end{eqnarray*}$

现在，让我们看一下右边的上述总和。在任何给定的求和中，要么为奇数，使期望为，要么全部为偶数，使期望为。想象一下用高斯替换所有。然后我们将处于类似情况：奇数将给出，而所有偶数将使乘积至少为。因此，高斯案例项在伯努利案例中占主导地位。从而， $r_j$ $0$ $1$ $X_i$ $G_i$ $r_j$ $0$ $r_j$ $1$

Ë [{（ \sum_{一世} {一种}_{一世} X_{一世} ）}^{Ť}] \leq Ë [{（ \sum_{一世} | {一种}_{一世} | G_{一世} ）}^{Ť}]

$\mathbf{E}\left[\left(\sum_i a_iX_i\right)^t\right] \le \mathbf{E}\left[\left(\sum_i |a_i|G_i\right)^t\right]$

但是，根据高斯稳定性，本身是具有标准偏差的高斯，因此我们知道其矩！因此，我们的第时刻以为界（大约）；这被称为Khintchine不等式。然后， $2$ $\sum_i |a_i| G_i$ $\|a\|_2$ $t$ $\|a\|_2^t \cdot t! / (2^{t/2} \cdot (t/2)!)$ $\|a\|_2^tt^{t/2}$

P [R [| \sum_{一世} {一种}_{一世} X_{一世} | > λ] < 2^{Ø （ Ť ）} \cdot λ^{- Ť} \cdot ‖ 一种 ‖_{2}^{Ť} Ť^{Ť / 2}

$\mathbf{Pr}\left[\left|\sum_i a_iX_i\right| > \lambda\right] < 2^{O(t)}\cdot \lambda^{-t}\cdot \|a\|_2^t t^{t/2}$ 设置对于足够大的常数，您将获得高斯尾部约束。与丹尼尔·凯恩（Daniel Kane）聊天时，我首先听到了这种钦钦不平等现象的证明，但可能有较旧的参考文献。注意，证明还清楚地表明了获得各种尾部边界所需的的独立性级别。

t = λ^{2} / (C \cdot ‖ a ‖_{2}^{2})

$t = \lambda^2 / (C\cdot \|a\|_2^2)$

C

$C$

e x p (- Ω (λ^{2} / ‖ a ‖_{2}^{2}))

$\mathrm{exp}(-\Omega(\lambda^2 / \|a\|_2^2))$

X_{i}

$X_i$

— Jelani Nelson
source

6

明茨推测和布雷格曼证明，如果是0-1矩阵 1点的行，那么永久的是在最 $A$ $r_i$ $i$ $A$

\prod_{一世} （ {[R}_{一世} ！ ）^{1个 / {[R}_{一世}} 。

$\prod_i (r_i!)^{1/r_i}.$ 在Alon和Spencer的教科书《概率方法》中有一个简短的证明，但可以说“书”证明是Jaikumar Radhakrishnan使用熵的证明（J. Combin。Theory Ser。A 77（1997），161-164）。从结果的陈述中根本看不出熵的概念在这里。

— 蒂莫西·周
source