生成分类规则的算法

因此，我们有潜力将一种机器学习应用程序很好地适合分类器所解决的传统问题领域，即，我们拥有一组属性，这些属性描述了最终出现的项目和“存储桶”。但是，不是创建模型对于诸如朴素贝叶斯（Naive Bayes）或类似分类器之类的概率，我们希望我们的输出是一组大致人类可读的规则，可由最终用户查看和修改。

关联规则学习看起来像解决这类问题的算法家族，但是这些算法似乎专注于识别功能的常见组合，并且不包括这些功能可能指向的最终存储桶的概念。例如，我们的数据集如下所示：

Item A { 4-door, small, steel } => { sedan }
Item B { 2-door, big,   steel } => { truck }
Item C { 2-door, small, steel } => { coupe }

我只想要说“如果大而有两扇门，那是一辆卡车”的规则，而不是说“如果是四成之门也很小”的规则。

我可以想到的一种解决方法是，仅使用关联规则学习算法，而忽略不涉及结束存储桶的规则，但这似乎有些hacker。我是否错过了一些算法系列？还是我一开始就错误地解决了这个问题？

Quinlan生产的C45能够产生预测规则。检查此维基百科页面。我知道在Weka中它的名字叫J48。我不知道这是在R或Python中的实现。无论如何，从这种决策树中，您应该能够推断出预测规则。

以后编辑

另外，您可能对直接推断分类规则的算法感兴趣。RIPPER是其中之一，它在Weka中又获得了另一个名称JRip。参见RIPPER：快速有效规则归纳的原始论文，WW Cohen 1995

根据您的描述，它实际上甚至比这还要简单-您只需要寻找一种基本的分类树算法即可（因此，不需要像C4.5这样稍微更复杂的变量，这些变量针对预测精度进行了优化）。规范文本为：

http://www.amazon.com/Classification-Regression-Wadsworth-Statistics-Probability/dp/0412048418

这很容易在R中实现：

http://cran.r-project.org/web/packages/tree/tree.pdf

和Python：

http://scikit-learn.org/stable/modules/tree.html

您可以在Orange 2 http://orange.biolab.si/orange2/中查看CN2规则学习器

您应该尝试使用 R中的arules软件包。它不仅可以创建关联规则，还可以指定每个规则的长度，每个规则的重要性，还可以过滤它们，这就是您想要的（尝试此包的rhs（）命令）。