成员资格查询和反例模型中的学习下限


11

Dana Angluin(1987 ; pdf)定义了一种具有成员资格查询和理论查询(拟议功能的反例)的学习模型。她展示的是由最小DFA的代表的正规语言状态是可以学习在多项式时间内(这里建议功能的DFA)与Ø ñ 2会员的查询,并在最ñ - 1理论查询(是导师提供的最大反例的大小)。不幸的是,她没有讨论下界。ñØñ2ñ-1个

我们可以通过假设一个魔术师来稍微概括一下模型,该老师可以检查任意函数之间的相等性,并提供反例(如果不同)。然后我们可以问学习比普通语言更大的课程有多困难。我对这种概括以及对常规语言的原始限制很感兴趣。

成员资格和反示例模型中的查询数量是否存在已知的下限?

我对成员资格查询,理论查询或两者之间的权衡取舍的下限感兴趣。我对任何函数类的下限都感兴趣,甚至比常规语言更复杂的类也是如此。

如果没有下界:在此模型中是否存在证明查询下界的障碍?


相关问题

Dana Angluin用于学习常规集的算法是否有改进

Answers:


11

是的,一些下限是已知的。例如,假设,您甚至无法在多项式时间内正确学习三次三次DNF公式。整张纸都使用所谓的“表示问题”来显示这种硬度结果。ñPCØñP

要回答您的链接问题:Schapire在其论文中,除了证明“弱学习” =“强学习”外,还对Angluin的边界进行了改进,并给出了使用等价查询和O n 2 + n log m )个成员查询,以学习DFA。ØñØñ2+ñ日志

获得下界的一种简单方法是信息理论。您可以找出有多少个不同的目标以及查询为您提供多少位,等等。这些上限接近但不存在。关于“反例”如何到达学习者,还需要考虑一些问题。精心选择的反例可以提供很多信息。

更新上面的讨论:Angluin和Dohrn在最近的一篇论文中用随机的反例解决了问题学习。


感谢你的回答!您介意我对链接的问题(在此处返回链接)给出您对链接的问题的回答吗?还是您打算创建一个CS.SE帐户?我完全同意第3段的规定,我在愚弄自己,要求导师提供最少的反例,并且学习似乎变得容易得多。
Artem Kaznatcheev

没问题!并随时发布到链接的CS.SE问题。
列夫Reyzin

我通读了沙皮尔论文的相关部分(第5.4.5节)并总结了改进之处,希望我的主旨是正确的。我将在本周晚些时候更仔细地研究您引用的下限文章:D。
Artem Kaznatcheev

凉。如果我有CS.SE帐户,我会投票赞成:)
Lev Reyzin
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.