是否有将机器学习和更复杂的复杂性理论形式相结合的工作？

在我看来，机器学习/数据挖掘专家熟悉P和NP，但是很少谈论一些更细微的复杂性类（例如NC，BPP或IP）及其对有效分析数据的影响。有做这项工作的调查吗？

cc.complexity-theory reference-request machine-learning

据我所知，没有调查，但可以从这篇文章中找到指向“量子学习”的指针（＃5）：blog.computationalcomplexity.org/2012/10/quantum-workshop.html

— Suresh Venkat

机器学习通常会攻击非常棘手的问题，这些问题在NP之外对于“全局”优化来说可能是问题，但在NP内则要比对“局部”优化的问题要难得多。因此，当人们针对“足够好”的结果进行优化时，复杂度类的整个概念变得模糊不清，这些结果更多地取决于与应用相关的质量度量，并且在某种意义上说，这不是运行算法的先验....

— vzn

@vzn对我来说，这种微妙之处似乎更值得我们注意复杂性！它可能会提供一些非常有趣的见解。

— Mike Izbicki 2012年

学习理论，电路复杂性和密码学之间肯定存在联系。但这是学习理论的一个角落，它已从机器学习实践中移开了一点。如果您有兴趣，我可以提出一些建议

— Sasho Nikolov 2012年

是的，另一个例子是BDD（二进制决策图）已用于数据库算法/数据挖掘中，并且与电路复杂性有很强的联系。但是在我看来，整个问题似乎有点棘手，因为很多机器学习都是实用的，而且应用ML的复杂性通常是通过分析算法的实际实现来间接/凭经验进行研究，而不是尝试从理论上对其进行预期或严格分类。

— vzn 2012年

应用机器学习和TCS /复杂性理论这两个领域之间存在一些固有的差异或不同之处。

这是普林斯顿计算难易中心最近举办的有关该主题的讲习班，上面有很多视频。

描述：机器学习中的许多当前方法都是启发式的：我们无法证明它们的性能或运行时间是一个很好的界限。这个小型研讨会将重点关注可以严格分析其性能的算法和方法设计项目。目标是超越已经存在可证明界限的设置。

讲习班：机器学习中的可行界限— 2012年8月1-2日

在TCS中，“学习”的主要研究领域有时甚至会令人困惑，甚至也称为“机器学习”，这称为PAC理论，它代表“大概近似正确”。它的1980年代早期起源于对“机器学习”的现代研究。维基百科将其称为现场计算学习理论的一部分。PAC通常关注给定分布等的统计样本时学习布尔公式的结果，以及给定各种算法或有限样本时学习的可达到的准确性。这是通过严格的理论方法与复杂性类相结合来研究的。但这并不是关于机器学习的应用研究和维基百科页面，甚至没有列出它。

Kearns 的机器学习博士学位论文的计算复杂性
Xing在（PAC）机器学习上的经验

— z
source

“维基百科呼吁” ...您实际上对这个主题一无所知吗？1）机器学习Wiki的理论部分链接到计算学习理论页面2）Valiant，Vapnik，Schapire等人的学习理论工作对机器学习的实践产生了巨大影响。

— Sasho Nikolov