减少无序分类预测变量的级别数

我想训练一个分类器，例如SVM，随机森林或任何其他分类器。数据集中的特征之一是具有1000个级别的分类变量。减少此变量的级别数的最佳方法是什么。在R combine.levels()中，Hmisc程序包中有一个函数，它结合了很少的级别，但是我在寻找其他建议。

如何做到最好，取决于您正在执行的任务，因此会有很大的不同，因此无法以独立于任务的方式说出最好的方法。

如果您的级别是顺序的，可以尝试两种简单的方法：

1. 垃圾桶 例如，0 =（0 250），1 =（251 500），依此类推。您可能需要选择限制，以使每个垃圾箱都有相同数量的项目。
2. 您还可以对级别进行对数转换。这将缩小范围。

如果级别不是顺序的，则可以根据数据集中的其他功能/变量对级别进行聚类，并用聚类ID替换先前的级别。执行此操作的方法与使用聚类算法的方法一样多，因此是一个广阔的领域。在我阅读本文时，这就是combine.levels()正在做的事情。您可以使用kmeans()或进行类似的操作prcomp()。（您可能/随后应训练分类器以预测新数据点的群集。）