为什么Logistic回归不称为Logistic分类?


75

由于Logistic回归是处理分类因变量的统计分类模型,因此为什么不将其称为Logistic分类?不应该将“回归”名称保留给处理连续因变量的模型吗?


5
Logistic回归属于GLM模型系列。
斯特凡劳伦

10
您可以使用它来回归概率。
Emre 2014年

25
虽然逻辑回归可以通过在返回的概率上引入阈值来肯定地用于分类,但这并不是它的唯一用途-甚至它的主要用途。它是为回归而开发的,并将继续用于与分类无关的回归目的。我认为这仍然是最常用的方法,但是我想这取决于您的观察。
Glen_b 2014年

6
您可能会发现关于逻辑回归开发的这篇文章很有趣,特别是因为它确实提供了一些用于回归技术的问题的感觉。
Glen_b 2014年

Answers:


102

逻辑回归本身并不是一个分类算法。它只是决策规则结合的分类算法,可将结果的预测概率一分为二。逻辑回归一种回归模型,因为它将类成员资格的概率估计为要素的多线性函数(的一种转换)。

弗兰克·哈雷尔(Frank Harrell)在该网站上发布了许多答案,列举了将逻辑回归作为分类算法的陷阱。其中:

如果我没记错的话,他曾经把我指向他的回归策略书,以对这些(以及更多!)要点做进一步的阐述,但是我似乎找不到那个特别的帖子。


1
如果是这样,所有(或大多数)分类器将首先预测概率属于一个类(据我所知),然后将该概率转换为类。不是吗?
2014年

9
@Outlier反例:SVM根本不计算类概率,它仅测量观测值与超平面之间的距离。
Sycorax 2014年

@ML中的离群值称为概率分类器;树和随机森林不是,xgboost是-至少具有对数损失)
seanv507

12

E[Y|X=x]

  • 假设(Y | X = x)为正态分布,则使用经典线性回归得出。
  • 假设泊松分布会产生泊松回归。
  • 假设伯努利分布产生逻辑回归。

(Y|X=x)


-3

除了已经提供好的答案之外,另一种观点是Logistic回归预测的概率(连续值)的范围是0到1。

在此处输入图片说明

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.