具有高基数分类特征的特征重要性用于回归（数字依赖变量）

我试图使用随机森林中的特征重要性来对回归问题执行一些经验性特征选择，该回归问题中所有特征都是分类的，并且其中许多特征具有许多级别（大约100-1000）。假设一键编码会为每个级别创建一个虚拟变量，那么功能的重要性是针对每个级别的，而不是针对每个功能（列）。汇总这些功能重要性的好方法是什么？

我考虑过对某个功能的所有级别进行求和或得出平均重要性（可能前者会偏向具有更高级别的那些功能）。关于这个问题有参考吗？

还有什么可以减少功能数量的呢？我知道套索组，找不到任何易于使用的scikit-learn。

这取决于您如何对它们进行一键编码。为此的许多自动化解决方案都将使用模式来命名所有已转换的布尔值，以使名为AZ的分类变量的值AZ最终将变为：

字母A，字母B，字母C，字母D ...

如果在确定了特征重要性之后，您有了一个特征数组以及相关的权重/重要性，那么我将分析该数组，并总结以“ letter％”开头的任何东西的特征重要性权重。