使用MLE与OLS


13

什么时候最好使用最大似然估计而不是普通最小二乘?它们各自的优点和局限性是什么?我试图收集有关在常见情况下在何处使用的实践知识。

Answers:


1

正如解释这里,OLS是MLE的只是一个特定实例。是一个密切相关的问题,是根据MLE推导OLS的。

条件分布对应于您的噪声模型(对于OLS:高斯分布,所有输入的分布相同)。还有其他选择(t-Student处理异常值,或者允许噪声分布取决于输入


t

6
OLS是最小化距离的近似/估计方法,而ML是“似然”最大化方法。OLS不需要随机假设提供他距离最小化的解决方案,同时ML 开始通过假设的联合概率密度/质量函数。两者在某些情况下提供相同的解决方案这一事实,决不会使一个成为另一个的特定实例。
Alecos Papadopoulos
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.