比较具有不同因变量的模型的逻辑系数?


14

这是我几天前问的一个后续问题。我觉得它在这个问题上有不同的倾向,因此列出了一个新问题。

问题是:我可以比较具有不同因变量的模型之间的系数大小吗?例如,我只想说一个例子,就是想知道经济是在众议院还是在总统选举中更能预测投票结果。在这种情况下,我的两个因变量将是众议院的投票(民主党代表1,共和党代表0)和总统投票(民主党代表1,共和党代表0),而我的独立变量是经济。我希望两个办公室都能取得统计上的显著成果,但是我如何评估它在两个方面的作用是否更大?这可能不是一个特别有趣的示例,但是我很好奇是否有一种比较方法。我知道不能只看系数的“大小”。所以,有可能比较具有不同因变量的模型上的系数吗?而且,如果是这样,怎么做?

如果这没有任何意义,请告诉我。所有建议和评论表示赞赏。


2
您怎么知道不能只看系数的“大小”?
一站式

我合并了您的两个帐户。如FAQ所示,您仍然需要注册。(@onestop Thx指向副本。)
chl

我以为我无法通过查看上一个问题的答案中的系数来比较各个模型中预测变量的“效果”。我上面的例子有什么不同吗?
Ejs 2011年

2
悬赏-似乎是一个重要的问题,有三个截然不同的答案,没有一个可以投票。我们可以做得更好。Andy W 关于这个相关问题论文链接似乎是相关的。
马特·帕克

Answers:


4

简短的答案是“可以”-但是您应该将“大型模型”的最大似然估计(MLE)与适合这两种模型的两种模型的所有协变量进行比较。

这是一种通过概率论来回答您问题的“准形式”方法

在示例中,Y 2是相同类型的变量(分数/百分比),因此它们是可比较的。我将假设您对两者都适用相同的模型。因此,我们有两种模型:Y1Y2

Ô p 1

M1:Y1iBin(n1i,p1i)
中号2ý2ÑÑ2p2Ôp 2
log(p1i1p1一世)=α1个+β1个X一世
中号2ÿ2一世一世ññ2一世p2一世
ØGp2一世1个-p2一世=α2+β2X一世

因此,您有了要评估的假设:

H0:β1>β2

并且您有一些数据,还有一些先验信息(例如使用逻辑模型)。因此,您可以计算出概率:{Y1i,Y2i,Xi}i=1n

P=Pr(H0|{Y1i,Y2i,Xi}i=1n,I)

现在不依赖于任何回归参数的实际值,因此必须通过边缘化将其删除。H0

P=Pr(H0,α1,α2,β1,β2|{Y1i,Y2i,Xi}i=1n,I)dα1dα2dβ1dβ2

该假设仅限制了集成范围,因此我们具有:

P=β2Pr(α1,α2,β1,β2|{Y1i,Y2i,Xi}i=1n,I)dα1dα2dβ1dβ2

因为该概率取决于数据,所以对于每个模型,它将被分解为两个独立的后验因子

Pr(α1,β1|{Y1i,Xi,Y2i}i=1n,I)Pr(α2,β2|{Y2i,Xi,Y1i}i=1n,I)

Y1iα2,β2XiY2i

V1V2αj

P=Φ(β^2,MLEβ^1,MLEV1:β,β+V2:β,β)

Where Φ()只是标准的普通CDF。这是正常均值测试的通常比较。但请注意,这种方法要求每个方法都使用相同的回归变量集。在具有许多预测变量的多变量情况下,如果您具有不同的回归变量,则积分将有效地等于上述检验,但来自“大模型”中两个beta的MLE,其中包括两个模型的所有协变量。


3

Why not? The models are estimating how much 1 unit of change in any model predictor will influence the probability of "1" for the outcome variable. I'll assume the models are the same-- that they have the same predictors in them. The most informative way to compare the relative magnitudes of any given predictor in the 2 models is to use the models to calculate (either deterministically or better by simulation) how much some meaningful increment of change (e.g., +/- 1 SD) in the predictor affects the probabilities of the respective outcome variables--& compare them! You'll want to determine confidence intervals for the two estimates as well as so you can satisfy yourself that the difference is "significant," practically & statistically.


Thanks dmk8, very useful. Some follow-up points/questions: is this what is often meant when referring to varying the variable of interest (the economy from bad to good for example) while holding all control variables at their means? What do you mean by deterministically? How do I determine the confidence intervals around the probabilities?
Ejs

2
咨询国王。他不会失望的。King,G.,Tomz,M.&Wittenberg。,J.(2000)。充分利用统计分析:改进解释和表示。上午。J.波尔 科学,44(2),347-361。
dmk38

2

我假设通过“我的自变量是经济”,您正在使用某些特定预测变量的简写。

在一个层面上,我认为做出这样的陈述没有错

X预测Y1的比值比为_和[_ _的95%置信区间。

@ dmk38最近的建议在这方面很有帮助。

您可能还需要标准化系数以方便比较。

At another level, beware of taking inferential statistics (standard errors, p-values, CIs) literally when your sample constitutes a nonrandom sample of the population of years to which you might want to generalize.


Yes, 'the economy' is shorthand for perceptions of national economic conditions. Does the same advice apply when other predictors (controls) are included in the model?
Ejs

@Ejs - I'm afraid there's no short answer to your last question. You're getting into what it means to assess relationships when using statistical control - a fabulously intricate topic worthy of extensive study. You're also probably getting into the topic of variable selection, which is a big one as well. Imho the best source for the committed student of these topics is Pedhazur's amazon.com/Multiple-regression-behavioral-research-Pedhazur/…
rolando2

1

Let us say the interest lies in comparing two groups of people: those with X1=1 and those with X1=0.

The exponential of β1, the corresponding coefficient, is interpreted as the ratio of the odds of success for those with X1=1 对于那些拥有 X1个=0,该条件取决于模型中的其他变量。

因此,如果您有两个具有不同因变量的模型,则对 β1个更改,因为它不受一组相同的变量的限制。因此,比较不是直接的。


这对roland2的建议有什么影响吗?
Ejs 2011年

@Ejs. Do you refer to the standardisation step? By the way, does my answer help ? Have I misunderstood the question ?
ocram
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.