SQ学习的计算查询复杂度


12

众所周知,对于PAC学习,存在一些自然概念类(例如,决策列表的子集),在这些概念类中,计算无边界学习者进行信息理论学习所需的样本复杂度与多项式所需的样本复杂度之间存在多项式差距。时间学习者。(请参见例如http://portal.acm.org/citation.cfm?id=267489&dl=GUIDEhttp://portal.acm.org/citation.cfm?id=301437

但是,这些结果似乎取决于对特定示例中的秘密进行编码,因此不会自然地转化为学习的SQ模型,学习者只能在其中查询分布的统计属性。

是否知道是否存在可以通过O(f(n))查询在SQ模型中进行信息理论学习的概念类,但是只有通过g(n)的Omega(g(n))查询才可以进行计算有效的学习)>> f(n)?

Answers:


9

我刚才问过这个问题。至少对于特定分布的学习,有一个概念类的相当简单的示例,该类在理论上是可以通过SQ学习的信息,但是对于SQ学习来说却是NP困难的。令\ phi为SAT实例的二进制编码,并且y为按字典顺序首先令人满意的赋值(或0 ^ n是该实例不满意)。现在让f(\ phi)是一个函数,该域的一半以上是MAJ(\ phi),而域的后一半以上等于PAR(y)。MAJ是字符串\ phi中设置为1的变量的多数函数,而PAR(y)是字符串y中设置为1的变量的奇偶校验函数。令F为以此方式获得的函数类别。要通过均匀分布U进行SQ学习F,只需学习多数(很容易)即可找到\ phi然后找到y。另一方面,在均匀分布上将SAT简化为F的SQ学习(精确度明显大于3/4)非常容易。原因自然是,奇偶校验对于SQ基本上是“不可见的”,因此必须解决SAT才能学习F。


5

这是一个很好的问题。统计查询模型的强大功能恰恰是能够证明无条件下限以进行SQ学习的能力-例如,对于多项式统计查询来说,奇偶校验是不可学习的。

我不知道您所要求的表格的结果,但也许我们遗漏了一些明显的东西...

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.