随机化何时可以加速算法，但“不应该”？

Adleman证明包含的证明表明，如果存在一个针对大小为输入在时间上运行的问题的随机算法，那么对于在时间上运行的问题也存在确定性算法输入大小为 [算法在独立的随机字符串上运行随机算法。重复算法必须具有随机性，这对所有都有利P / p ö 升ý 吨（Ñ ）ñ Θ （吨（Ñ ）⋅ Ñ ）ñ Θ （Ñ ）2 $BPP$$P/poly$$t(n)$$n$$\Theta(t(n)\cdot n)$$n$$\Theta(n)$$2^n$可能的输入]。确定性算法不统一-对于不同的输入大小，其行为可能有所不同。因此，阿德勒曼（Adleman）的论点表明-如果不关心均匀性-随机化只能以输入大小呈线性的因数加速算法。

据我们所知，随机化可以加速计算的一些具体示例是什么？

一个例子是多项式身份测试。这里的输入是一个n大小的算术电路，用于计算一个字段上的m变量多项式，任务是找出该多项式是否相等为零。随机算法可以在随机点上评估多项式，而我们所知的最佳确定性算法（可能是现有的最好的）可以在许多点上评估多项式。

另一个例子是最小生成树，其中Karger-Klein-Tarjan的最佳随机算法是线性时间（错误概率呈指数小！），而Chazelle的最佳确定性算法在时间（是Ackermann逆函数，因此随机化加速确实很小）。有趣的是，Pettie和Ramachandran证明，如果最小生成树存在非统一的确定性线性时间算法，那么也存在统一的确定性线性时间算法。$O(m\alpha(m,n))$$\alpha$

还有哪些其他示例？您知道哪些示例的随机化加速率较高，但这可能仅仅是因为我们尚未找到足够有效的确定性算法？

我不知道随机化是否“应该”或“不应”帮助，但是，可以使用随机米勒-拉宾（Miller-Rabin在时间内完成整数素数测试，而据我所知，假定GRH（确定性Miller–Rabin）或（无条件）（假设AKS变体），最著名的确定性算法是）。〜ø（Ñ4）〜ø（Ñ6$\tilde O(n^2)$$\tilde O(n^4)$$\tilde O(n^6)$

一个古老的例子是体积计算。给定一个隶属度oracle描述的多面体，有一个在多项式时间内运行的随机算法来估计其体积为1因子，但是没有确定性算法可以无条件地接近。$1+\epsilon$

这种随机策略的第一个例子是Dyer，Frieze和Kannan，确定性算法的硬度结果是Bárány和Füredi。阿利斯泰尔（Alistair Sinclair）在这方面有很好的讲义。

我不确定我是否完全理解问题的“并且不应”部分，因此我不确定这是否符合要求。

我不知道这是否能回答您的问题（或至少是部分问题）。但是，对于在现实世界中，可以提高速度的示例是优化问题以及与“ 免费午餐（NFL）定理”的关系。

有一篇论文“也许不是免费的午餐，但至少是免费的开胃菜”，其中表明采用随机化（优化）算法可以具有更好的性能。

抽象：

通常要求进化算法优于其他优化技术，尤其是在对要优化的目标函数知之甚少的情况下。与此相反，Wolpert和Macready（1997）证明，所有优化技术在所有上平均具有相同的行为，其中和是有限集。该结果称为无免费午餐定理。这里介绍了不同的优化方案。有人争论为什么免费午餐定理所基于的场景不能对现实生活中的优化进行建模。对于更现实的场景，有人争论了为什么优化技术的效率会有所不同。仅举一个小例子就可以证明这一主张。X $f : X \rightarrow Y$$X$$Y$

参考文献：

1. 没有用于优化的免费午餐定理（用于优化的原始NFL定理）
2. 也许不是免费的午餐，但至少是免费的开胃菜
3. 无免费午餐和描述的长度（显示NFL结果对所有可能函数集的任何子集都成立，前提是在杯形排列下是封闭的）$F$$F$
4. 在没有免费午餐结果的功能类别上（已证明杯子的子集所占比例很小）
5. 没有免费午餐结果的两个大类函数（表明当函数的描述长度有足够的界限时，NFL结果不适用于一组函数）
6. 连续午餐是免费的，还可以设计最佳优化算法（表明对于连续域，NFL的官方版本不成立。该自由午餐定理基于通过随机场的随机适应度函数概念的形式化） ）
7. 超越免费午餐：任意问题类别的现实算法（表明“ .. [a] ll违反免费午餐定理可以表示为杯状问题子集上的非块均匀分布”）
8. 基于群体的元启发式算法和No-Free-Lunch定理（“ [..t]因此，对于重访案例，非重访时间顺序迭代的结果可能不正确，因为重访迭代破坏了以下重要假设：证明NFL定理所需的杯子（Marshall and Hinton，2010）“）
9. 没有免费的午餐和算法随机性
10. 没有免费的午餐和基准（一套理论方法可以推广到非特定于杯子的标准，但仍然要注意，（非平凡的）随机算法可以平均胜过确定性算法，“ [..]已证明，一般情况下，概率不足以肯定无约束的NFL结果。[..]本文放弃了概率，而是选择了一种集理论框架，该框架通过完全放弃概率来消除量度理论的局限性”。

David H. Wolpert的免费午餐（和免费午餐）摘要，晚餐费用是多少？（请注意，由于NFL型定理的证明类型，它从未指定实际的“ 价格 ”）

专门针对广义优化（GO）：

1. 两个空间和。例如，是输入，是输出上的分布。Z X $X$$Z$$X$$Z$

2. 适应度函数$f: X \to Z$

3. $m$的采样点：（其中， 每个的（可能是随机的）函数$f$

   $$d_m = \{d_m(1), d_m(2), ..., d_m(m)\}$$ $\forall t$ $$d_m(t) =\{d^X_m(t),d^Z_m(t)\}$$ $d^Z_m(t)$$f[d^X_m(t)]$

4. 搜索算法$a = \{d_t \to d^X_m(t) : t=0..m\}$

5. 欧式向量值成本函数$C(f, d_m)$

6. 为了捕获特定类型的优化问题，大部分问题结构用$C(., .)$

NFL定理主要取决于与无关。如果取决于，则可能有免费午餐。例如，除非，否则 独立于。f C f C （f ，d m）f = f $C$$f$$C$$f$$C$$(f, d_m)$$f = f^*$

最后，简单（不是那么简单）说明了为什么随机（以一种或另一种形式）可以提供比严格确定性算法更好的性能。

1. 在优化的上下文中（尽管不限于此），随机搜索过程平均 比确定性搜索更好地逃避局部极值，并达到全局极值。
2. 集合的顺序，基数和随机化之间（在一般意义上）存在一个有趣的关系（乍一看也不简单）。集合的幂集（及其基数）本质上取决于集合（元素）的某个（静态）固定排序。假设对（元素的）的排序不是（静态地）固定的（随机化可以以随机排序的形式输入到此处），则集合可以表示自己的幂集（如果它有助于将其视为一种幂集）经典集合的量子类似物的描述，其中动态排序起着解释一种叠加原理的作用）。 A A A $2^A$$A$$A$$A$$A$

最好的例子是在当前被认为是OWF的最佳候选人的地区，似乎每个煮熟的流行OWF都有一个随机的次指数算法，而没有确定性的次指数算法（例如，整数分解）。实际上，在许多情况下，给出一些建议字符串（密码分析）可能是一种有效的算法。

如果您有使用随机化的算法，则始终可以将其替换为使用伪随机数的确定性算法：对问题进行描述，计算哈希码，使用该哈希码作为良好伪随机数生成器的种子。实际上，这实际上是有人使用随机化实现算法时可能发生的情况。

如果我们省略哈希码，则该算法与使用真正随机化的算法之间的区别在于，我可以预测生成的随机数的序列，并且可以产生一个问题，使得应用于我的问题的预测随机数将始终做出最糟糕的决定。例如，对于具有伪随机枢轴的Quicksort，我可以构造一个输入数组，其中伪随机枢轴将始终在数组中找到最大可能的值。真正的随机性是不可能的。

使用哈希码，对我来说很难构造一个伪随机数产生最差结果的问题。我仍然可以预测随机数，但是如果我改变问题，伪随机数的序列将完全改变。不过，您要证明我无法构造这样的问题几乎是不可能的。