价格示例的例子?


112

理论计算机科学提供了“抽象价格”的一些示例。最突出的两个是高斯消除和排序。即:

  • 众所周知,如果将操作限制为整个行和列的整体,则高斯消除法对于计算行列式是最佳的[1]。显然,Strassen算法没有遵守该限制,并且在渐近性上优于高斯消去。
  • 在排序中,如果将列表的元素视为只能进行比较和移动的黑匣子,则我们具有标准的nlogn信息理论下限。据我所知,融合树克服了这一限制,因为巧妙地使用了乘法。

还有其他抽象价格的例子吗?

为了更加正式一点,我正在寻找一些示例,在某些弱计算模型中无条件地知道下界,而在更强大的模型中会违反下界。此外,弱模型的弱点应该以抽象的形式出现,这无疑是一个主观的概念。例如,我不认为对单调电路的限制是一种抽象。希望上面的两个例子可以清楚说明我在寻找什么。

[1] KLYUYEV,VV和NI KOKOVKIN-SHcHERBAK:关于线性代数方程组解的最小算术运算数。GI TEE翻译:斯坦福大学计算机科学系,技术报告CS 24,6月t4,t965。


3
我真的很喜欢这个问题;期待看到更多答案。
randomwalker

1
还有抽象的“隐式”成本。您提到了排序中抽象价格的示例,以及这些抽象结果如何不适用于排序数字(实际上在某些情况下甚至可以使用bucketsort在O(n)中完成)。Voronoi图的下限通常是通过显示从Voronoi图到对数字列表进行排序的线性时间减少而得出的。并且许多几何算法都从计算voronoi的下限得出下界。
罗斯·斯尼德

为什么这是社区Wiki?
nanda 2010年

1
@nanda:因为没有一个正确的答案,实际上这个问题旨在产生许多正确的答案,就像我认为的那样。
约书亚·格罗肖

1
似乎您可能真的是在说放松而不是抽象
vzn

Answers:


38

另一个抽象价格的漂亮例子:网络编码。众所周知,在多播设置中,max-flow-min-cut关系不是相等的(原始和双重不匹配)。但是,传统模型假定流程只是传递而没有以任何方式进行“处理”。使用网络编码,您可以通过巧妙地组合流来突破此限制。该示例首先是研究网络编码的重要动力。


33

纯粹的函数式编程是一种流行的抽象,至少在其支持者的支持下,它大大提高了代码的表达能力,并带来了其他好处。但是,由于它是机器的限制性模型,尤其是不允许可变内存,因此与常规(RAM)模型相比,它提出了渐近减慢的问题。

这个问题在这里有很多线索。主要的收获似乎是:

  1. 您可以使用平衡的二叉树来模拟可变内存,因此最坏的情况是速度降低O(log n)。
  2. 随着急于评价,有问题的这这是你能做的最好的。
  3. 通过延迟评估,尚不知道是否存在差距。但是,存在许多自然问题,没有已知的纯功能算法可以匹配最佳RAM复杂度。

在我看来,这是一个令人惊讶的基本问题,尚待解决。


鉴于函数式编程是大数据计算的模型(请参见MapReduce),这种减慢速度可能会非常重要。
Suresh Venkat 2010年

5
另外,请务必记住SO线程中提到的警告。也就是说,问题的下界本身在一个甚至更受限制的模型中:在线与原子元素。我相信在函数式编程的标准模型中该形式的下限仍然是开放的。Ω(nlogn)
约书亚·格罗肖

1
至少,在该主题中提到的论文([Bird,Jones and De Moor,1997],请参见那里的完整参考资料)在渴望和懒惰的评价之间建立了差距。
Blaisorblade

对于非常大的数据计算,IO成本应占主导地位,以至于计算的对数减慢无关紧要,对吧?
adrianN 2012年

评估顺序是什么意思?
libeako

28

尽管您的问题侧重于复杂性理论,但类似的事情也可能在其他领域发生,例如编程语言理论。以下是几个使抽象无法确定的示例(即,弱模型的下限是不可能的,而强模型允许表达算法):

  • 在lambda演算中,有些函数无法直接表达(即,作为beta缩减为所需结果的lambda术语)。一个例子是parallel或(两个参数的函数返回终止的任何一个)。另一个示例是一个函数,该函数按字面意义输出其参数(一个函数显然无法区分两个beta等效参数)。缺乏表现力是由于强制执行这样的抽象,即等同于β的lambda术语必须被相同地对待。

  • 在仅具有参数多态性的静态类型语言(例如不带花哨扩展名的ML)中,不可能编写一些函数- 免费获得定理。例如,一个功能,其类型是(不管参数的类型是,返回相同类型的对象)必须是恒等函数或是非终止。缺乏表现力的原因是抽象的概念:如果您不知道值的类型,则它是不透明的(只能传递它)。α,αα


4
希望我可以多次投票。
雅克·卡莱特

26

解决密码学中的离散对数问题时,也可以找到“抽象的代价”。Shoup(1997)表明,任何通用方法(即仅使用组运算的算法)都必须至少使用Ω(m)mZn

Zn


25

stststmin+maxmin

令为输入图中顶点的数量。就像所有对最短路径问题一样Karger,Koller和Phillips的路径比较模型中已知此问题需要时间 。(路径对比模型支持传统的算法,如弗洛伊德-沃肖尔。)然而,与所有点对最短路径,事实证明,所有点对瓶颈路径可要解决小于使用快速矩阵乘法。nΩ(n3)O(n2.8)


22

通过对这个问题的讨论,计算几何中的许多问题在计算的代数决策树或代数计算树模型中都有下界,这是由于诸如排序或元素区分性之类的基本问题引起的。不难发现有论文声称相关问题(例如Delaunay三角剖分的构造上限是最优的,因为它们与这些下限匹配。Ω(nlogn)O(nlogn)

但是,当输入是在整数笛卡尔坐标中指定时(通常在实践中,浮点数不适合计算几何),这些下限与计算模型不匹配。使用适应于整数排序的技术可以更快地解决正交范围搜索类型的问题也许并不奇怪,但是即使非正交问题也通常可以具有更快的算法(在使用O(1 )乘以输入整数的精度)。有关一组示例,请参见例如arXiv:1010.1948


感谢您强调“悖论”,以及Chan和Pǎtraşcu的最新论文。
安德拉斯·萨拉蒙(AndrásSalamon)2010年

17

密码学中有很多这样的例子,尤其是零知识证明。参见例如论文:

Boaz Barak,《密码学中的非黑匣子技术》,2003年。

(顺便说一句,论文标题提供了此注释有效性的零知识证明:)


请更正引证年从2006年到2003
。– MS Dousti

@Sadeq Dousti:完成了。这是社区Wiki,您的声誉比我高,所以我想您可能已经纠正了您自己;-)
Blaisorblade 2010年

17

代数决策树用作计算几何的基础,以显示许多简单问题,例如元素唯一性为。然后使用这些下限显示更复杂的问题,例如Voronoi图也具有下限。然后,我后来惊讶地阅读了预期时间算法,用于求解平面中最接近的一对点,这是元素唯一性的概括。它通过使用散列来转义代数决策树。我在Klein和Tardos的《算法设计》一书中找到了它。RJ Lipton的博客中描述了解决相同问题的类似但更复杂的算法。Ω(nlogn)Ω(nlogn)O(n)

参考:


15

考虑同步确定性分布式算法,用于将循环图中的颜色数量从到。也就是说,您给了循环一个合适的色,并且您想输出一个正确的循环色;循环的每个节点都是一个处理器。k3k3

如果您假设一个基于比较的模型(将种颜色视为只能从一个节点传输到另一个节点并相互比较的黑盒,则对于交流回合。kΩ(k)

但是,这种抽象可以说是公然的错误:如果您可以在通信网络中传输某些内容,则将有某种方式可以将“某物”编码为一串比特。现在情况看起来好多了。

如果您的颜色不是黑匣子,而是整数,则可以在通信回合中使用Cole-Vishkin技术进行颜色减少。即使您的颜色是巨大的位字符串,例如,也将获得相同的边界。Ô 日志* ķ 1 2 10 10 k O log k 1,2,...,kO(logk)1,2,...,1010kO(logk)

底线:“错误”抽象的价格:与。Ω k O(logk)Ω(k)


13

我想到的一个例子是体积的计算。Barany和Furedi的结果是您需要指数级的查询,并且Dyer-Frieze-Kannan提供了一个随机多项式时间算法。差距代表了抽象的价值,也代表了随机性的好处,但我认为造成这种差距的主要原因是抽象的价格。(我希望我理解了这个问题,并且它朝着正确的方向发展。)


10

这可能与您的想法不完全相同。但是从某种意义上说,P与NP的独立性就是这样的例子。它的真正含义是,如果您只关心模拟和枚举(即,如果这是您的计算“模型”),那么您将无法分离这些类或将其折叠。

一个更具体的算法示例来自“反向”方向上的近似范围搜索。具体来说,大多数范围搜索问题都用半组和表示,上下限的表达不考虑该半组的结构(某些轻技术条件除外)。艾莉亚Arya),马拉马托斯(Malamatos)和芒特(Mount)的最新工作表明,如果仔细研究半群结构(幂等性和完整性),那么您可以证明近似范围搜索的边界不同(并且更严格)。


4
作为p VS NP是不是我的初衷,它不是这样一个坏榜样。顺便提一下,Arora,Impagliazzo和Vazirani(cseweb.ucsd.edu/~russell/ias.ps)提出,通用oracle模型抽象出来的关键属性是计算的局部可检查性。特别是,如果任何Oracle保留了局部可检查性,并且则;如果则。他们的工作颇具争议(我认为这涉及使小空间有界类相对化的问题),但我认为这很有趣。P XN P X P N P P X = N P X N P = c o N PXPXNPXPNPPX=NPXNP=coNP
约书亚·格罗夫

10

Shannon-Nyquist采样定理为交流信息理论界提出了充分条件。采样理论是围绕输入信号具有紧凑/随机表示的示例工作的。采样方面的最新进展表明,这种抽象可能确实要付出一定的代价-我们感兴趣的度量事物通常具有稀疏的表示形式,因此这些界限并不严格。另外,信息可以以比最初认为的密集得多的方式进行编码。

  • 纠错代码表明,在受到噪声影响的网络环境中,对香农极限值进行了一些重新评估。
  • 压缩感测的全新领域推动了我们发现的各种图像重建方法,这些方法超出了香农极限。

您可以为此提供一些参考吗?
Vivek Bagaria

8

自然科学提出的许多有趣的问题在古典意义上都是NP难题。尽管该概念在理论上是完全正确的,但它对生物学家或物理学家没有任何帮助。我们发现,一些NP难题是可以解决的固定参数,并且通常带有一个在现实世界中被一个小常数限制的参数。

也就是说,TCS告诉我们,我们不希望为抽象问题提供有效的解决方案,但可以快速解决实际发生的实例,这是一个很大的差距。


5

在本文http://www.mimuw.edu.pl/~szymtor/papers/atom-turing.pdf中, 我们研究了数据访问受限的图灵机。形式化为在关系结构的自同构下不变。例如,在排序的O(n log n)下限中,您会说机器可以处理和存储有理数,但在(Q,<)自同构(即单调双射)下,其转换应是不变的。为了精确指定机器可以在内存中存储哪种数据结构(从
某种意义上说,它应该是“有限的” ,但我们可以存储比仅元数据元组更复杂的结构),形式化定义更为复杂。例如无序元组)。

在本文中,我们证明了其他具有“受限数据访问”功能的图灵机的下限。特别是,我们表明:

•可以处理矢量的确定性图灵机(例如,在两个元素的字段上),但只能使用矢量加法和相等性检验,不能在多项式时间内确定给定的矢量列表是否线性相关(从正式意义上讲,机器转换应在向量空间的自同构下是不变的)。这与非确定性机器相反,后者可以简单地猜测向量加起来为0的组合。观察到高斯消除在多项式时间内运行,但可以访问向量的坐标;特别是在向量空间的自同构下,它的跃迁不是不变的。

•在适当定义的模型中,无法确定只能比较自然数的均等(而不是甚至)的图灵机。在这里,我们考虑关系结构(N,=)和在其自同构下不变的机器。有一个构造(类似于有限模型理论的Cai-Furer-Immerman构造)表明,实际上,在此模型中P≠NP。允许机器使用<比较数字,从而赋予它们足够的确定能力。


2

黑匣子框架中存在抽象的一般价格,例如决策树复杂性或量子查询复杂性。如果将分析限制在这些模型上,那么我们通常可以找到任务复杂性的很好界限。实际上,对于量子查询,我们基本上可以解决问题的复杂性,因为否定对手方法提供了严格的下限(在log n / loglog n:1005.1601范围内)。这为我们提供了一个用于分析查询复杂性的好工具,但通常很难将查询复杂性与更标准的图灵机时间/空间复杂性进行比较(除非作为粗略的下限)。


您是否有一些具体示例显示出可以通过“打开黑匣子”打破的下限?
约书亚·格罗肖

好的排序是一个决策树模型为您提供n log n的示例,但是通过查看输入的结构可以使您得到更好的选择。
Suresh Venkat 2010年

@Suresh:我的意思是尚未提及的示例:)。
约书亚·格罗夫

对不起这是我的错。
Suresh Venkat 2010年

好吧,有时您可以拥有相对不错的量子查询复杂性,但没有快速运行的算法。一个例子是隐藏子组问题,其中我们需要多项式查询,但是对于任何已知算法[1],它仍然是指数时间(尽管显然没有证明时间的下限)。我猜这是相反的价格。[1] arxiv.org/abs/quant-ph/0401083
Artem Kaznatcheev

1

这是两个示例,都与连续模型和离散模型有关:

  1. [0,1]xyx<yx=yx>yx|xy|y=x

    y[0,1]y=x

  2. 问题A的动机来自于令人羡慕的蛋糕分割问题Stromquist表明,如果每个玩家要获得一个相连的棋子,那么有限的协议(即使是无边界的)也无法保证在三个或更多玩家之间实现令人羡慕的蛋糕分配。

    iαixvi(0,x)=α

    此外,结果与具有连续操作的算法(例如移动刀程序)无关。


0

当用一阶逻辑表示时,固定n信鸽原理的任何证明都是长度指数的。但是,使用算术可以更简洁地表达证明。

SMT求解器的成功来自于将问题简化为SAT的抽象模型的支持,从而允许更丰富的理论极大地减少了所需的计算量。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.