寻求对生育逻辑回归的理论理解

我试图理解Firth逻辑回归（在逻辑回归中处理完全/完全或准完全分离的方法），所以我可以用简化的方式向他人解释。有人对Firth估计对MLE所做的修改有模糊的解释吗？

我已尽力阅读Firth（1993），并且我了解到对分数函数进行了更正。我对修正的起源和合理性以及分数函数在MLE中所起的作用不甚了解。

抱歉，这是基本知识。我所阅读的文献似乎需要比我拥有的对MLE的更深刻的理解。

logistic maximum-likelihood separation

— 史密斯5988
source

Firth的校正等同于指定Jeffrey的先验并寻求后验分布的模式。粗略地讲，它假设回归参数的真值等于零，因此将观测值的一半加到了数据集上。

$\hat \theta_n \approx \theta_0$ $\theta_0$ $\theta_n = \theta_0 + O(n^{-1/2}) = \theta_0 + v_1 n^{-1/2} + o(n^{-1/2})$ $v_1$ $\sigma_1^2$ $n(\hat\theta_n - \theta_0)^2/\sigma_1^2 \sim \chi^2_1$

$o(n^{-1/2})$ $O(n^{-1})$ $1/n$ $\frac12 \ln \det I(\theta)$ $1/n$

— 斯塔克
source

抱歉，我缺乏理解，但我没有完全关注。当您说“粗略地，它假设回归参数的真值等于零时，会将观测值的一半加到数据集上。” 为什么要假设回归参数的真实值等于零？另外，如何将一半的观察值添加到数据集？

— ESmith5988 2014年

从您的其余解释来看，似然函数正在通过固定量进行调整，从而减少了小样本的正偏差。固定数量实际上是信息的函数，随着样本量的增加，信息量变为零，对吗？

— ESmith5988 2014年

关于您的第一个评论-广度校正大致是对有效权重为1/2的观测值所增加的似然贡献的期望值。这绝不是正确的解释，更不用说您为什么要这么做了。它只是给你的味道。将系数设置为零是因为您对数字将是什么没有更好的了解（零系数恰好对应于回归变量的作用，这在大多数情况下是有意义的）。关于您的第二条评论-正确。

— StasK 2014年