Logistic回归何时合适？

我目前正在自学如何进行分类，特别是正在研究三种方法：支持向量机，神经网络和逻辑回归。我想了解的是为什么逻辑回归会比其他两个更好。

根据我对逻辑回归的理解，这个想法是使逻辑函数适合整个数据。因此，如果我的数据是二进制的，则我所有带有标签0的数据都应映射到值0（或接近它），而我所有带有值1的数据都应映射到值1（或接近它）。现在，由于逻辑函数是连续且平滑的，因此执行此回归需要我所有的数据拟合曲线。决策边界附近的数据点没有受到更大的重视，所有数据点对损失的贡献程度不同。

但是，对于支持向量机和神经网络，只有决策边界附近的那些数据点才重要。只要数据点保留在决策边界的同一侧，它将造成相同的损失。

因此，为什么逻辑回归会比支持向量机或神经网络更胜一筹，原因是逻辑回归会“浪费资源”来使曲线拟合许多不重要的（易于分类的）数据，而不是只关注决策周围的困难数据边界？

$(Y=1|X)$ 有力的论据支持概率推理。

$Y$

$Y$

一些分析家认为，逻辑回归假设对数几率尺度上预测变量的线性关系。只有在1958年DR Cox发明了逻辑模型时，当时才无法使用回归样条之类的工具进行计算来扩展模型，这才是正确的。逻辑回归的唯一真正缺点是，您需要指定要允许在模型中进行哪些交互。对于大多数数据集来说，这是有优势的，因为相加的主要影响通常比交互作用更强，而交互作用具有同等优先权的机器学习方法可能不稳定，难以解释，并且需要比逻辑回归预测更大的样本量好。

您是对的，通常逻辑回归作为分类器的效果不佳（尤其是与其他算法比较时）。但是，这并不意味着应该将Logistic回归遗忘并且从不进行研究，因为它具有两个主要优点：

1. 概率结果。弗兰克·哈雷尔（Frank Harrell）（+1）在回答中对此做了很好的解释。

2. $Y=1$$X_1 = 1$$2$$X_2,...X_p$