二项式回归和逻辑回归之间有什么区别?


20

我一直认为逻辑回归只是二项式回归的一种特殊情况,其中链接函数是逻辑函数(而不是概率函数)。

但是,通过阅读我遇到的另一个问题的答案,听起来我可能会感到困惑,并且逻辑回归和具有逻辑联系的二项式回归之间存在差异。

有什么不同?

Answers:


13

逻辑回归是具有“逻辑”链接功能的二项式回归:

g(p)=log⁡(p1−p)=Xβ

尽管我也认为逻辑回归通常应用于二项式比例而不是二项式计数。


1
您通常将逻辑回归应用于比例而不是计数是什么意思?假设我正在尝试预测人们是否会参加一个聚会,并且对于某个特定的聚会,我知道有9人参加了会议,而1人没有参加-您是说逻辑回归将此作为一个培训示例(例如,该方的成功率为0.9),而通过链接进行二项式回归将以此为10个训练示例(9个成功,1个失败)?
— raegtin

@raehtin -在两种情况下这将是取样/训练的情况下,与(Ñ 我,˚F 我)= (10 ,0.9 )和(Ñ 我,X 我)= (10 ,9 )分别。区别在于均值和方差函数的形式。对于二项,意思是μ 我 = Ñ 我p 我,则canoncial链路现在是登录(μ 我1(ni,fi)=(10,0.9)(ni,xi)=(10,9)μi=nipi(也被称为“自然参数”),和方差函数是V(μ我)=μ我(Ñ我-μ我)log⁡(μini−μi),色散参数ϕi=1。后勤我们有平均μ我=p我,以上的链接,方差函数V(μ我)=μ我(1-μ我)和色散等于φ我=1V(μi)=μi(ni−μi)niϕi=1μi=piV(μi)=μi(1−μi)。ϕi=1ni
— 概率

使用logistic可以将与均值和方差函数分开,因此可以通过加权更轻松地将其考虑在内ni
— 概率

嗯,知道了,我想我明白了。这是否意味着它们产生了相等的结果(只是通过不同的方式得出)?
— raegtin

1
@raegtin-我想是的。GLM权重,在两种情况下相等,并且该链接功能产生相同的分对数的值。因此,只要X变量也相同,那么它应该给出相同的结果。wi2=1ϕiV(μi)[g′(μi)]2
— 概率

4

二项回归是使用其中的方差由下式给出一个二项式均方差关系的任何类型的GLM 。在逻辑回归的Ŷ = 分对数- 1(X β)= 1 /(1 - EXP (X β))var(Y)=Y^(1−Y^)Y^=logit−1(Xβ^)=1/(1−exp⁡(Xβ^))[0,1]

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.