确定复杂度下界的先进技术


23

你们中有些人可能一直在关注这个问题该问题由于尚未达到研究水平而被关闭。因此,我正在提取问题的一部分,它是在研究水平上。

除了“简单”的技术(例如归结为排序问题或EXPTIME完全问题)之外,还使用了哪些技术来证明问题的时间复杂性的下限?

特别是:

  • 在过去的十年中开发了哪些“尖端”技术?
  • 是否可以应用抽象代数,分类理论或其他通常“纯”数学分支的技术?(例如,我经常听到提到排序的“代数结构”,而没有任何真正的解释。)
  • 对于下限复杂度,什么是重要但鲜为人知的结果?

2
您是否对函数计算问题的下限或包括分布式计算,数据结构等在内的任何事物的下限感兴趣?
卡夫

1
我主要对函数的计算感兴趣。我敢肯定,一旦您平行进行,那将是另一回事。
jmite

2
分布式与并行不一样。:)
Kaveh

1
对,对。我的意思是,这不是我的初衷,但这并不是我反对分布式计算的答案。
jmite

1
当然,我刚刚问过,因为使用相当高级的数学的分布式计算有较低的结果。
卡夫

Answers:


17

代数电路的下界

在代数电路的设置中,电路尺寸的下限类似于时间的下限,已知许多结果,但是在更现代的结果中只有少​​数核心技术。我知道您要求时间下界,但我认为在许多情况下,希望代数下界有一天会导致布尔/图灵机下界。正如您所说,这些结果通常使用“纯数学”中的更深层次的技术。

一,度界。

Strassen表明,与一个(或多个)函数(组)相关联的某些代数变数的程度的对数是计算这些函数的代数电路大小的下限。

二。连接的组件(或更一般地说,是任何更高同源性组的维度)。

Ben-Or表明,确定(半代数)集合中成员资格的真实代数决策树的大小至少为,其中是该集合的连接组件数。Ben-Or用它证明了在真正的代数决策树模型中排序的下界(嗯,元素唯一性,但是元素唯一性降低到排序)。Yao将其从连通分量扩展到贝蒂数的总和,并证明了对于其他问题(例如等于)的最优下界。在另一篇论文中,Yao将其扩展到整数上的代数决策树。Ç Ω Ñ 登录Ñ ķlogCCΩ(nlogn)k

三,偏导数。

这已成为许多现代代数电路下界的主力军。我相信偏导数首先被Baur-Strassen证明是一个下界,在那里他们证明了所有第一部分的计算都可以在内完成,其中是计算所需的大小。结合Strassen的度界,这为各种函数提供了大小的下界,对于显式函数而言,这仍然是无限制算术电路大小上最强的下界。5 小号小号˚F Ω Ñ 登录Ñ f5ssfΩ(nlogn)

对偏导数的最新使用似乎源于Nisan的论文,在该论文中,他通过考虑所有偏导数的空间尺寸证明了非交换电路的下界。Nisan-Wigderson用这证明了受限种类的depth-3电路的下界,Raz用了类似的想法证明了多线性公式大小的下界(Raz和合作者使用了相关模型)。Gupta,Kayal,Kamath和Saptharishi最近的深度4和深度3下界使用了这种思想的概括,以计算“移位的偏导数”空间的维数-您可以取偏导数,然后乘以给定程度的任何单项式。将GKKS结果提高到永久值下限的超多项式大小(这意味着VPVNP)可能只是为了更好地理解永久性未成年人产生的理想(请参见论文结尾的猜想)。

IV。定义品种方程。

这里的想法是将某个代数形式与“简单函数”相关联,找到在该形式上消失的方程,并表明这些方程在您的“硬函数”上不消失。(因此证明您的硬函数不是各种简单函数,因此实际上很难。)在矩阵乘法的下限中特别有用。有关最新信息,请参见arXiv上的Landsberg-Ottaviani,以及对先前下限的引用。

(实际上,上面的I,II和III都可以看作是为某些品种找到定义方程式的特殊情况,尽管使用I,II,III的证明基本上从不用这种方式表达,因为实际上并没有需要。)

五,表征理论,特别是 如几何复杂度理论中一样。

实际上,Landsberg-Ottaviani也使用它来查找某些特定种类的方程。Burgisser-Ikenmeyer还使用它来“纯粹”的表示理论证明,证明矩阵乘法的下界稍微弱一些。Mulmuley和Sohoni猜想(参见“几何复杂度理论I和II”)对于解决与以及最终与很有用。V Ñ P Ñ P P / p ö ÿVPVNPNPP/poly


1
您能否再详细说明一下?V
T ....


12

Kaveh在他的回答中温和地建议我应该说些什么。对于这个非常全面的答案列表,我没有其他贡献。我可以添加一些关于过去十年左右“结构复杂性”下限如何演变的通用词语。(我使用“结构复杂性”这个名称只是为了与代数,通信复杂性等区分开来。)

当前的方法仍主要基于对角化,尤其是以下基本范例:从下界的相反假设开始。这为您解决某些问题提供了一种不错的算法。尝试使用该算法与基于对角化的某些层次定理相矛盾,例如时间层次或空间层次。由于仅对角化论点不足以证明新的下限,因此将其他成分添加到混合中以获得矛盾的配方。

我应该说,也可以说70年代和80年代的许多论点都遵循上述模式。如今的主要区别是“其他成分”-有很多成分可供选择,并且成分的应用方式似乎仅受您自己的创造力的限制。有时,当您不知道如何混合特定成分以获得更好的食谱,但您非常了解它们如何混合时,这有助于编写一个计算机程序,为您建议新的食谱。

获得肯定不会遵循该范式的最近下界的新证明将是非常有趣的。例如,可以不引用对角线化参数吗?首先,是否可以在不调用不确定时间层次定理的情况下进行证明?(例如,可以使用“电路尺寸层次结构”吗?)NEXPACC


10

技术取决于要获得下限的模型和资源类型。请注意,要证明问题复杂性的下限,我们必须首先修复数学计算模型:问题的下限是,没有一种算法可以使用一定数量的资源来解决问题,即我们正在普遍地进行量化超过算法。我们需要对量化域进行数学定义。(对于不可能的结果通常是正确的。)因此,下限结果仅适用于特定的计算模型。例如,Ω(nlogn)排序下限仅适用于基于比较的排序算法,没有此限制,在更通用的计算模型中,可能可以更快地解决排序,甚至线性时间也可以。(请参阅下面的乔什评论。)

这里有一些基本的直接方法可以证明更复杂的计算模型(图灵机和电路)的计算复杂度理论的下限。

一,计数:

想法:我们证明算法还有更多的功能。

例如:有些功能需要成倍增大的电路。

这种方法的问题在于,它是一个存在的参数,没有给出任何明确的函数,也没有给出证明是困难的问题复杂性的上限。

二。组合/代数:

想法:我们分析电路并证明它们具有特定的属性,例如,由它们计算的函数可以由一些不错的数学对象类来近似,而目标函数则不具有该属性。

例如:Håstad的交换引理及其变体使用决策树来逼近 ,Razborov-Smolensky在字段上使用多项式来逼近函数等。AC0AC0[p]

这种方法的问题在于,实际上,它仅适用于小型且相对容易分析的类。还有Razborov-Rudich的自然证明障碍,以某种方式形式化了为什么简单的特性本身不足以证明更通用的电路下限的形式。

拉兹伯罗夫(Razborov)的论文“ 关于逼近的方法 ”认为,逼近方法在某种意义上是证明下界的完整方法。

三,对角线化:

理念。我们对较小类中的函数进行对角化处理。这个想法可以追溯到哥德尔(甚至是康托尔)。

例如 时间层次定理空间层次定理

这种方法的主要问题是要获得一个上限,我们需要为较小的类提供一个通用模拟器,并且很难找到好的非平凡模拟器。例如,要将与 我们需要在内有一个的模拟器,结果表明,如果有这样的模拟器,他们将不会对人好点。因此,我们通常最终将具有相同资源类型的类分开,在其中使用更多的资源可以普遍模拟较小的类。PPSpacePPSpace

我们也有相对化障碍(回到贝克,吉尔和索洛维)和代数障碍(由Aaronson和Wigderson撰写),其中指出对角化参数的特定类型将转移到其他结果证明是错误的设置。

请注意,这些障碍不适用于更一般的对角化参数。实际上,根据Dexter Kozen的论文“ 子递归类的索引 ”,对角化完全证明了下界。

您可能已经注意到,在为复杂性类找到好的通用模拟器与将复杂性类与较大的类分离之间有很强的联系(有关正式声明,请参阅Kozen的论文)。

最近的作品

对于最新进展,请查看Ryan Williams最近的论文。我不会在此答案中讨论它们,因为我希望Ryan自己会写一个答案。


2
重新排序:实际上,在RAM模型中,人们可以击败,尽管尚不知道时间。另外,re:III(对角化):值得一提的是,Ryan Williams的NEXP vs AC ^ 0结果最终依赖于不确定的时间层次定理(对角化参数),但要想达到此目的,就要巧妙地结合许多不同的结果和算法。nlognO(n)
Joshua Grochow

1
每个下限仅在特定的计算模型中有效,而不仅仅是排序下限。图灵机和布尔电路也是计算模型。
Jeffε

@Jɛff E,我认为这是我答案的第一句中所含的内容,但我将对其进行澄清。
卡夫

2
我认为这一点应该明确。它经常被忽略。
Jeffε

9

代数决策树

这不是最近的技术,而是对某些问题非常强大的技术。

代数决策树模型是比较树的强大概括。在此模型中,将算法建模为决策树的非统一类,每个输入大小。具体地说,阶代数决策树是具有以下结构的根三元树:nd

  • 每个非叶结点标记有多元查询多项式至多度。例如,在比较树中,某些查询和每个查询多项式都具有的形式。vqv(x1,,xn)dxixjij

  • 离开每个非叶结点的边缘被标记为,,和。0 + 110+1

  • 每个叶子都标记有可能的输出描述。例如,对于排序问题,每个叶子都用集合的排列来标记。对于决策问题,每个叶子都标记为“是”或“否”。{1,2,,n}

给定输入向量,我们通过从根向下遍历路径进行计算,并根据访问节点中查询多项式的符号进行分支。遍历最终到达一片叶子;该叶子的标签是输出。算法的“运行时间”定义为所遍历路径的长度;因此,最坏的运行时间是决策树的深度。xRn

特别要注意的是,每个查询多项式都可以具有不同的项;尽管如此,该模型假设我们可以在恒定时间内评估任何查询多项式的符号。Ω(nd)

对于每个叶子,让表示执行到的输入向量的集合。通过构造,是一个半代数子集由下式定义最多至多度的多项式不等式,对于某一常数。Petrovskiĭ和Oleĭnik,Thom和Milnor独立证明的经典定理表明,这种半代数集最多具有分量。- [R ř ñ- [R - [R Ñ= 深度d d d ø Ñ R()RnR()Rnt=depth()dd(dt)O(n)

假设我们要确定输入向量是否位于子集。仅当最多具有分量时,我们才能使用深度为的阶决策树做出此决策。等效地,我们有下限。WRndtW3t(dt)O(n)t=Ω(log#Wnlogd)

例如,假设我们要确定输入向量的所有坐标是否都不同。“是”实例的集合恰好具有组件,每个大小为排列,因此我们立即有一个下界。nWn!nΩ(nlogn)

请注意,此下限以两种方式加强了经典比较下界的排序。首先,计算模型比以单位成本进行的比较允许更复杂的查询。其次,更重要的是,下限适用于决策问题-只有两个截然不同的输出,因此幼稚的信息理论界限微不足道。 Ω(nlogn)

该论点的扩展使用了比组件数量更有趣的复杂性度量,例如更高的贝蒂数,欧拉特征,体积或低维面的数量。在所有情况下,Petrovskiĭ-Oleĭnik-Thom-Milnor定理的推广都意味着每个集合最多具有“复杂性”。R()(dt)O(n)

这种下限技术有两个明显的缺点。首先,考虑具有多项式深度的代数决策树族可以解决的任何问题。Petrovskiĭ-Oleĭnik-Thom-Milnor定理及其推广表明,定义此类问题的半代数集最多具有复杂度。 因此,对于可以在多项式时间内解决的任何问题,该技术都不能用于证明大于该模型中的下界nO(n)nlogn

对于某些NP难题,可以证明下界,但是由于类似的原因,没有更好的希望。实际上,Meyer auf der Heide证明了只有使用多项式深度的线性决策树才能真正解决一些NP难题。具体而言,背包可以在 “时间”中求解。Meyer auf der Heide的算法后来被Meiser应用于任何解决方案,该解决方案的解决方案是中超平面的单元的并集。 因此,对于这种问题,不可能在该模型中证明大于下界O n 4 log n 2 O n R n n 4 log n k k k k O n kΩ(n2)O(n4logn)2O(n)Rnn4logn对于任何常数 ,这样的问题的一个示例是 -SUM(该集合的元素的总和是否为零?); -SUM 最快的统一算法大约在时间内运行。实际执行Meier auf der Heide算法将需要反复解决几个NP难题,以找到合适的查询多项式;在下限模型中,此构建时间是免费的。kkkkOn4lognO(nk/2)O(n4logn)

万岁双负结果!


7

Manindra Agrawal的论文不错,“通过Psuedorandom发生器证明下界”。这可能是奔跑中证明下限的“黑马”,但本文很有趣。


4
您能否提供更多细节以使您的答案自成一体?
Jeffε

5
@JeffE:我不会梦想在由戈德尔奖得主撰写的论文上写胶囊摘要,但是我会尽力让你更好。我将向Agrawal先生发送电子邮件,看看他是否想在这里发表评论,他可能会对他认为PRG可以/不能用于证明下限的观点有新的见解。
威廉·希德

基于线性反馈移位寄存器的伪随机数发生器对代数性质进行了深入研究。有可能使用几何复杂度理论来表明某些生成器是下一位不可预测的,并且根据Agrawal先生的说法,如此强大的伪随机生成器会给您一个下限。
威廉·希尔德

1

这是一个32p的调查,只是针对被测对象的电路下界角而出现(内容与此处的其他答案有很强的重叠)。

已经使用了不同的技术来证明几种转移定理,其形式为“电路类C的非平凡算法产生针对C的电路下限”。在本次调查中,我们将回顾许多这些结果。我们讨论了如何从去随机化,压缩,学习和可满足性算法中获得电路下限。我们还讨论了电路下限和有用属性之间的联系,这一概念在这些转移定理的背景下被证明是基础。在此过程中,我们获得了一些新结果,简化了一些证明,并展示了涉及不同框架的联系。我们希望我们的演讲将成为那些有志于从事这一领域研究的人的独立介绍。


有点类似的参考/调查:具有讽刺意味的同谋:可满足性算法和下限由Santhanam,BEATCS#106
vzn 2013年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.