从RMSE计算似然

我有一个模型来预测带有几个参数的轨迹（x作为时间的函数）。目前，我计算了预测轨迹与实验记录的轨迹之间的均方根误差（RMSE）。当前，我使用单纯形（matlab中的fminsearch）将这种差异（RMSE）最小化。虽然此方法可以很好地拟合，但我想比较几种不同的模型，所以我认为我需要计算似然性，以便可以使用最大似然估计而不是最小化RMSE（然后使用AIC或BIC比较模型）。有什么标准的方法可以做到这一点吗？

maximum-likelihood curve-fitting

— 杰森
source

均方根误差和可能性实际上密切相关。假设您有对的数据集，并且您想使用模型为它们的关系建模。您决定最小化二次误差 $\lbrace x_i, z_i \rbrace$ $f$

\sum_{i} {(f (x_{i}) - z_{i})}^{2}

$\sum_i \left(f(x_i) - z_i\right)^2$

这个选择不完全是武断的吗？当然，您要对完全错误的估计比对正确的估计更严厉。但是有一个很好的理由使用平方误差。

$\frac{1}{Z}\exp \frac{-(x - \mu)^2}{2\sigma^2}$ $Z$ $z$

L = \prod_{i} \frac{1}{Z} \exp \frac{- (f (x_{i}) - z_{i})^{2}}{2 σ^{2}}

$\mathcal{L} = \prod_i \frac{1}{Z}\exp \frac{-(f(x_i) - z_i)^2}{2\sigma^2}$

现在，如果您采用这个的对数...

\log L = \sum_{i} \frac{- (f (x_{i}) - z_{i})^{2}}{2 σ^{2}} - \log Z

$\log \mathcal{L} = \sum_i \frac{-(f(x_i) - z_i)^2}{2\sigma^2} - \log Z$

……事实证明，这与均方根非常相关：唯一的区别是一些常数项，平方根和乘法。

长话短说：最小化均方根误差等效于最大化数据的对数似然。

— 拜耳
source

感谢您的明确解释。因此，如果我想使用BIC比较两个（非嵌入式）模型，则可以在计算似然比时丢弃sigma ^ 2和Z项（有效地假设它们在模型中相同）？

— 杰森

σ

$\sigma$

σ

$\sigma$

\log L = \sum_{i} \frac{(f (x_{i}) - z_{i})^{2}}{2 σ^{2}} - \log Z

$\log \mathcal{L} = \sum_i \frac{(f(x_i) - z_i)^2}{2\sigma^2} - \log Z$

高斯分布中是否缺少负号？

— Manoj 2014年

σ

$\sigma$