当我们适合GLM时，为什么在使用Fisher评分时大做文章？

我很好奇为什么我们将拟合GLMS看作是一些特殊的优化问题。是吗 在我看来，它们只是最大可能性，我们写下可能性，然后……将其最大化！那么，为什么我们使用Fisher评分而不是应用数学文献中已经开发的无数优化方案呢？

Fisher的评分只是牛顿方法的一种版本，碰巧可以用GLM进行识别，除了在指数族中很容易找到Fisher信息矩阵这一事实之外，它没有什么特别的地方。它还与许多其他趋于同时出现的数学统计材料相关联，并且对费舍尔信息的确切含义给出了很好的几何直觉。

如果您愿意，我绝对没有理由不使用某些其他优化程序，除了您可能必须手动编写它而不是使用预先存在的程序包。我怀疑对费舍尔评分的任何强调都归结为（按体重减轻的顺序）教学法，推论的难易程度，历史偏见和“此处未发明”综合症。

这是历史的，务实的；Nelder和Wedderburn对GLM进行了逆向工程，作为一组模型，您可以使用Fisher评分（即，迭代最小加权平方）找到MLE。至少在一般情况下，算法优先于模型。

还值得记住的是，IWLS是他们在70年代初可用的产品，因此GLM是一类重要的模型。您可以使用牛顿型算法（它们通常具有唯一的MLE）可靠地最大化GLM可能性，这一事实也意味着像GLIM这样的程序可供那些没有数值优化技能的人使用。