唯一可以确定的方法是通过基准测试,但是对于glm而言,Fisher评分应比协调下降要快。Fisher评分是Newton Raphson的一个特例,它的收敛速度比坐标下降快(Newton-Raphson是二次收敛的,而坐标下降是线性收敛的。)因此,虽然二阶导数信息的计算意味着每一步都需要更多时间时间,所需的步骤比协调下降所需的步骤少得多。
对于套索而言,惩罚项的特殊形式使其成为一种非常特殊的情况(实际上绝对值是不可微分的,尽管有时您可以做到这一点)。对于这个特殊问题,坐标下降被证明是特别快的。在实践中还有许多其他优化问题,其中牛顿-拉夫森的速度更快。