什么时候不平衡数据真的是机器学习中的问题？

使用logistic回归，SVM，决策树，装袋和许多其他类似问题时，我们已经对不平衡数据提出了多个问题，这使它成为一个非常受欢迎的话题！不幸的是，每个问题似乎都是特定于算法的，我没有找到任何处理不平衡数据的通用准则。

引用Marc Claesen的答案之一，处理不平衡数据

（...）在很大程度上取决于学习方法。大多数通用方法都有一种（或几种）方法来解决此问题。

但是，到底什么时候我们应该担心数据不平衡？哪些算法最受它影响，哪些能够处理？我们需要哪种算法来平衡数据？我知道在像这样的问答网站上讨论每种算法都是不可能的，我宁愿寻找有关何时可能出现问题的一般准则。

这不是一个直接的答案，但值得注意的是，在统计文献中，对不平衡数据的某些偏见具有历史渊源。

许多经典模型在平衡数据的假设下都进行了巧妙地简化，尤其是对于与实验设计密切相关的方差分析（ANOVA）之类的方法而言，这是开发统计方法的传统/原始动机。

但是统计/概率算法在数据不平衡的情况下变得非常难看，很快。在计算机被广泛采用之前，手工计算已经非常广泛，以至于几乎不可能估计不平衡数据的模型。

当然，计算机基本上已将其变为非问题。同样，我们可以估计海量数据集上的模型，解决高维优化问题，并从分析上难以解决的联合概率分布中抽取样本，而这些在功能上都是不可能的，比如五十年前。

这是一个老问题了，学者们花了很多时间来研究这个问题...与此同时，许多应用问题超过了/避免了研究的进行，但旧习惯却死了...

编辑添加：

我意识到我没有出来只是说：使用不平衡数据没有低级的问题。以我的经验，“避免不平衡数据”的建议要么是特定于算法的，要么是继承的智慧。我同意AdamO的观点，总的来说，不平衡的数据不会对特定模型造成任何概念上的问题。

在WLOG中，您可以将重点放在单个因素上的不平衡上，而不是更细微的“数据稀疏”或小单元数概念。

在不专注于学习的统计分析中，我们经常发现，使用倾向得分将较小的群体与较大的群体匹配时，可以提供相似或更好的功效。这部分是因为匹配在“平衡”组成员资格的决定因素方面具有与混杂调整相同的目的，从而阻止了混杂的影响。在多变量分析中可能需要调整的混杂因素数量的基本原理取决于样本量。一些经验法则说，每10到20个观察结果就有一个变量。在不平衡的数据中，您天真地认为您的数据足够大，但人稀少且情况稀少：方差膨胀会大大降低功率。实际上，您过度调整了。

因此，至少在回归分析中（但我怀疑在所有情况下），数据不平衡的唯一问题是有效地减少了样本量。如果有任何一种方法适合于稀有阶层的人数，那么他们的比例成员不平衡就不会有问题。

取决于您的应用程序，不平衡的数据只是一个问题。例如，如果您的数据表明A发生的时间为99.99％，B发生的时间为0.01％，并且您尝试预测某个结果，则算法可能始终会说A。这是正确的！您的方法不可能获得比99.99％更好的预测准确性。但是，在许多应用中，我们不仅对预测的正确性感兴趣，而且对为什么有时会发生B不感兴趣。这就是不平衡数据成为问题的地方。因为很难说服您的方法可以预测出99.99％以上的正确率。该方法是正确的，但不适合您的问题。因此，解决不平衡数据基本上是有意地使您的数据产生偏差，以获得有趣的结果而不是准确的结果。

通常有以下三种情况：

1. 您纯粹对准确的预测感兴趣，并且您认为您的数据具有代表性。在这种情况下，您根本不必进行校正，您可以尽情享受99.99％的准确预测：)。

2. 您对预测很感兴趣，但是您的数据来自一个合理的样本，但是却以某种方式丢失了许多观察结果。如果您以完全随机的方式丢失了观测值，则仍然可以。如果您以偏见的方式丢失了它们，但是您不知道偏见如何，那么您将需要新数据。但是，如果这些观察结果仅基于一项特征而丢失。（例如，您以A和B的形式对结果进行了排序，但没有其他任何方式，但是丢失了B的一半）。Ypu可以引导您的数据。

3. 您对精确的全局预测不感兴趣，仅在极少数情况下。在这种情况下，您可以通过引导数据来增加该案例的数据，或者如果您有足够的数据以其他案例的方式抛出该数据。请注意，这确实会使您的数据和结果产生偏差，因此，机会和结果都是错误的！

通常，它主要取决于目标是什么。有些目标遭受数据不平衡的困扰，而其他目标则没有。所有一般的预测方法都受此困扰，因为否则它们通常会给出可怕的结果。

假设我们有两个类：

• A，代表人口的99.99％
• B，占人口的0.01％

假设我们对识别B类元素感兴趣，这些元素可能是受罕见疾病或欺诈者影响的个人。

仅凭猜测，学习者将在其损失函数上得分很高，并且极少数错误分类的元素可能不会从数字上移动（在这种情况下为大海捞针）。这个例子将直觉带到了减轻“类不平衡”问题的“技巧”之一之后：调整成本函数。

当模型显示接近零的灵敏度和接近一的特异性时，我感到数据不平衡是一个问题。请参阅本文“忽略问题”部分下的示例。

问题通常可以解决。除了上述技巧外，还有其他选择。但是，它们是有代价的：模型和计算复杂性的增加。

该问题询问哪些模型更可能基于接近零的灵敏度和接近一的特异性。我觉得这取决于几个方面：

• 像往常一样减少容量。
• 某些成本函数可能比其他成本函数更难解决：均方误差（MSE）的暴露程度比Huber少-MSE对于错误分类的B类元素应该没有那么好。

如果您考虑一下：在完全可分离的高度不平衡的数据集上，几乎所有算法都可以正确执行。

因此，这更多的是数据中的噪声问题，而与特定算法的联系较少。而且您事先不知道哪种算法可以最好地补偿一种特定类型的噪声。

最后，您只需要尝试不同的方法并通过交叉验证来确定即可。