Kolmogorov复杂度在计算复杂度中的应用

44

非正式地说，字符串 Kolmogorov复杂度是输出的最短程序的长度。我们可以使用它定义“随机字符串”的概念（如果，则是随机的），很容易看出，大多数字符串都是随机的（没有那么多短程序）。 $x$ $x$ $x$ $K(x) \geq 0.99 |x|$

如今，Kolmogorov复杂性理论和算法信息论已经相当发达。还有几个有趣的例子，它们在不同定理的证明中使用Kolmogorov复杂度，这些定理的陈述中不包含有关Kolmogorov复杂度的任何东西（构造性LLL，Loomis-Whitney不等式等）。

Kolmogorov复杂度和算法信息论在计算复杂度和相关领域中是否有很好的应用？我认为应该有使用Kolmogorov复杂度作为简单计数参数的直接替代的结果。当然，这不是那么有趣。

— 伊利亚拉兹
source

2

您是否只是在寻找与Kolmogorov复杂性无关的问题示例？根据Kolmogorov复杂度定义的各种集合的计算复杂度有很多结果（最著名的是Kolmogorov随机字符串的集合），还有很多将资源有限的Kolmogorov复杂度与标准复杂度有关的结果（例如P与NP），保理等）。但是我不确定后者是否是您想要的。

— Joshua Grochow'8

1

>您是否只是在寻找与Kolmogorov复杂性无关的问题示例？正是如此。

— ilyaraz 2010年

16

兰斯·福特诺（Lance Fortnow）撰写了有关该主题的文章：Kolmogorov复杂度和计算复杂度

您还应该查看有关此主题的权威书籍Li和Vitanyi撰写的《Kolmogorov复杂性及其应用简介》。特别是，第6章“不可压缩性方法”讨论了许多复杂性中的应用，例如Hastad切换引理的Kolmogorov复杂性证明（Fortnow和Laplante的Circuit Lower Boundsàla Kolmogorov）。

通讯复杂性中也有应用（例如，Kaplan和Laplante提出的Kolmogorov复杂性和“通讯复杂性中的组合方法”）。

— 2转
source

1

谢谢。这篇文章非常好并且有用，但是我想要的是在语句中不提及K复杂度的应用程序。

— ilyaraz

1

ilyaraz，尽管本文提到的大多数结果都是含意的，而不是应用程序，但您可能会考虑将Kolmogorov复杂度描述为复杂性类，将其作为“应用程序”的弱形式。

— Joshua Grochow 2010年

我用一些参考资料更新了帖子，这些参考资料可能更符合您的需求。

— 伊恩

14

就在几天前，斯科特·亚伦森（Scott Aaronson）使用了基于Kolmogorov复杂度的论证来证明采样和搜索的等效性。他进一步论证说，在他的论点中，Kolmogorov复杂性是一种必不可少的方式，而不仅仅是计数论证的捷径。

— 马丁·施瓦兹
source

11

Alon等人的结果。可以通过Kolmogorov复杂度获得。

“每个有限二分图的边E的集合都可以分成子集，以便所有生成的二分图几乎都是规则的。” $\mathrm{poly}(\log |E|)$

— 伊利亚拉兹
source

似乎违反直觉。有谁知道有关二部图和正则图的其他结果吗？

— vzn13年

11

我知道的一篇优秀论文（除了其他答案中提到的其他优秀论文）：

Juris Hartmanis，《广义Kolmogorov复杂性和可行计算的结构》，FOCS 1983。

我从那篇论文中记住的主要内容是一个基于Kolmogorov复杂度的构造，该解释将P与NP分开。

我想到的另一篇论文是

Allender等人，《随机字符串的力量》，FOCS 2002（ECCC版本）和SICOMP 2006。

如果我还记得的话，后一篇论文使用Kolmogorov复杂度参数将PSPACE中的多项式时间Turing完整性与对数空间多一完整性分开。当然，它还可以做很多其他事情，但是我记得分离是一种在算法信息论之外具有独立利益的应用程序。

— Dave Doty
source

9

还有一种使用Kolmogorov复杂度的量子下界技术：

“ 下界随机和量子查询的复杂使用柯尔莫哥洛夫参数 ”由苏菲Laplante提供和弗雷德里克Magniez

— 罗宾·科塔里（Robin Kothari）
source

9

（首先是个玩笑。）面对复杂的计算难题时，总会感到应用Kolmogorov复杂性可以振奋精神。这也称为代码高尔夫。对于与字符串对应的一系列小问题，可以在http://codegolf.com/上竞争性地研究内在复杂度，或者在http://golf.shinh.org/上以乐趣为乐（有80种不同的需要估计不变性定理常数的后一种语言）。 与所有不确定的功能一样，谨慎处理。 $s$ $K(s)$

（现在要严肃一点。）丹尼尔·穆萨托夫（Daniil Musatov）最近表明，单纯的随机化可以为通常通过概率方法非结构性存在的对象提供合理的构造。我认为这很可能为资源有限的Kolmogorov复杂度到计算复杂度的将来提供重要的应用。

丹尼尔·穆萨托夫（Daniil Musatov），通过“天真”非随机化改进了 Muchnik 条件复杂性定理的有界形式，CSR 2011，LNCS 6651，64-76。doi：10.1007 / 978-3-642-20712-9_6 （预印本）

另请参见引用该论文的论文。

（编辑：链接到更新的发布版本。）

— AndrásSalamon
source

1

我要说的是，后者将计算复杂度（即Nisan的伪随机生成器）应用于资源受限的Kolmogorov复杂度，反之亦然。

— ilyaraz

1

@ilyaraz：这是一个准确的摘要。我要指出的是，鉴于这些链接在一个方向上，也应该有可能使这些应用程序以另一种方式工作。

— 安德拉斯·萨拉蒙（AndrásSalamon）2010年

8

H. Buhrman，L。Fortnow和S. Laplante。重新审视了资源密集型的Kolmogorov的复杂性。SIAM Journal on Computing，31（3）：887-905，2002。（journal，Lance的网页）。

包括Kolmogorov复杂度的应用程序，例如：

Valiant-Vazirani的证明
如果可以快速找到唯一的赋值，则可以在输出大小的时间多项式中枚举布尔公式的令人满意的赋值
BPP存在于Sigma_2 P中的新证据
几个甲骨文的构造

上文中的某些首先在本文中得到了证明，而其他只是使用Kolmogorov复杂度的旧定理的新证明。

有时间限制的Kolmogorov复杂度在复杂度理论中的应用是Eric Allender对其他应用程序的一次很好的调查。尽管此处的许多结果是含意的，但其中一些是真正的应用程序，例如：

Cor 13：相对于通用Oracle，没有伪随机生成器可以安全地防御P / poly对手。
Thm 16 [Allender和Gore，1991]：有一个相对论，所有NE谓词都可以在指数时间内求解，并且E = Union_k \ Sigma_k-TIME（n）。

两种证明都充分利用了Kolmogorov的复杂性。

— 约书亚·格罗夫（Joshua Grochow）
source

我猜想原始Sipser的“ BPP在Sigma_2中”证明使用了Kolmogorov复杂性。

— ilyaraz 2010年

6

一个例子是Bogdanov和Trevisan在调查中描述的以下结果：存在分布，使得语言相对于易于平均，而最坏情况下则容易。 $D$ $D$

— 伊利亚拉兹
source

顺便说一句，此版本的调查中的证明存在缺陷。但是，它可以固定:)

— Grigory Yaroslavtsev

关心详细吗？

— ilyaraz

顺便说一句，我有种奇怪的感觉，我可以提高这一证明：一个人可以摆脱并放置任何次等概率。我很好奇哪里出错了。

1 / n^{3}

$1/n^3$

— ilyaraz

是。我发现了一个错误，但是我觉得我有更直观的证明（不过使用）。

1 / n^{1 + ϵ}

$1/n^{1 + \epsilon}$

— ilyaraz

5

最小描述长度在信息理论学习和推理理论中使用Kolmogorov复杂度（或由于不确定性而导致的近似和概括）。具体来说，MDL用于查找自然避免过度拟合的数据说明。

Jorma Rissanen很好地介绍了他的概念：http : //www.mdl-research.org/jorma.rissanen/pub/Intro.pdf

— 罗斯·斯尼德
source

3

ilyaraz，你的意思是这样吗？

http://arxiv.org/abs/1004.3993

— 亚伦·斯特林
source

是的，这似乎令人鼓舞。

— ilyaraz 2010年