均匀分布下2-DNF的正确PAC学习

关于具有样本查询且分布均匀的适当 PAC学习2-DNF公式的查询复杂性的最新结果是什么？还是任何不平凡的约束呢？

因为我对学习理论一点都不熟悉，并且这个问题是由另一个领域提出的，所以答案可能很明显。我检查了Kearns和Vazirani的书，但他们似乎并未明确考虑此设置。

更新。尽管感兴趣的主要参数是查询复杂度，但是运行时间也很重要。如果可能，运行时间最好应与查询复杂度大致相同或最多为多项式。

更新。Balcan和Harvey的“学习亚模函数”论文的附录B（第18页的顶部）提到：“众所周知，2-DNF可以有效地进行PAC学习。” 但是，他们没有提及此结果是用于适当学习还是提供任何参考。

我不知道您是否会认为以下微不足道的限制，但是我在这里。

首先，要清楚一点，以免引起混淆 $c$-DNF与 $k$DNF（我经常这样做）， $c$-DNF变量的公式 $x_1, \ldots, x_n$ 的形式 $\vee_{i=1}^{k}(\ell_{i,1} \wedge \ell_{i,2} ... \ell_{i,c})$ 哪里 $\forall 1 \le i \le k$ 和 $1 \le j \le c$， $\ell_{i,j} \in \{x_1, \ldots, x_n, \bar{x}_1, \ldots, \bar{x}_n \}$。

我们首先要问一个词中可以存在多少个不同的词 $c$-DNF。每个学期都有$c$ 的 $n$ 变量，每个变量是否取反-使 $2^c\binom{n}{c}$不同的可能术语。在2-DNF实例中，每个术语都会出现或不出现，使得$|\mathcal{H}| = 2^{2^c\binom{n}{c}}$ 可能的“目标”，其中 $\mathcal{H}$ 是假设空间。

想象一个算法需要 $m$ 采样，然后尝试所有 $|\mathcal{H}|$假设，直到找到一个可以完美地预测样本的样本。 奥卡姆的剃刀定理说，你只需要考虑一下$m = O(\frac{1}{\epsilon}|(\mathcal{H}|+\frac{1}{\delta})$ 该算法的样本以查找有错误的目标 $\le \epsilon$ 很有可能 $\ge 1-\delta$。

就我们而言 $c=2$， $\lg|\mathcal{H}| = O(n^2)$，这意味着您需要 $n^2$ 样本进行（正确）学习。

但是学习中的整个游戏并不是真正的样本复杂性（尽管这是游戏的一部分，尤其是在属性有效的学习中），而是尝试设计多项式时间算法。如果您不关心效率，那么$n^2$ 是PAC样品复杂度的最简单答案。

更新（鉴于已更改的问题）：

因为您明确声明只关心样本的复杂性，所以我介绍了蛮力Occam算法，这可能是最简单的参数。但是，我的回答有点y。 $2$-DNF实际上可以在多项式时间内学习！这是来自Valiant的原始论文“ 可学习的理论”的结果。事实上$c$-DNF对任何人都是可学的 $c = O(1)$。

论据如下。您可以查看$c$-DNF与 $\approx n^c$ “元变量”，并尝试通过消除与示例不一致的元变量来学习析取。这样的解决方案可以轻松地转换回“适当的”解决方案，并且$O(n^c)$时间。附带说明一下，是否存在多项式时间算法$c = \omega(1)$。

至于是否 $n^2$样本复杂度也是一个下限，答案几乎是肯定的。 Ehrenfeucht等人的这篇论文。表明Occam绑定几乎是紧密的。