您如何计算MLE转换的标准误？

我需要推断一个正参数。为了减轻积极性，我重新设定了。使用MLE例程，我计算了点估计和se 。MLE的不变性直接给了我的点估计，但是我不确定如何为计算se 。在此先感谢您的任何建议或参考。 $p$ $p=\exp(q)$ $q$ $p$ $p$

maximum-likelihood standard-error delta-method

— 马塞尔
source

您不能使用相同的MLE例程直接计算的点估计和se 吗？

p

$p$

— ub

Answers:

该三角洲方法被用于此目的。在某些标准规则的假设，我们知道MLE，为约为（即渐近）分布 $\hat{\theta}$ $\theta$

\hat{θ} \sim N (θ, I^{- 1} (θ))

$\hat{\theta} \sim N(\theta, \mathcal{I}^{-1}(\theta))$

其中是的逆Fisher信息对整个样品，在评价和表示与平均值的正态分布和方差。MLE 的函数不变性表示的MLE其中是一些已知函数）是（如您所指出），并且具有近似分布 $\mathcal{I}^{-1}(\theta)$ $\theta$ $N(\mu,\sigma^{2})$ $\mu$ $\sigma^{2}$ $g(\theta)$ $g$ $g(\hat{\theta})$

g (\hat{θ}) \sim N (g (θ), I^{- 1} (θ) [g^{'} (θ)]^{2})

$g(\hat{\theta}) \sim N( g(\theta), \mathcal{I}^{-1}(\theta) [g'(\theta)]^{2} )$

您可以在其中插入未知数量的一致估算器（即，插入，其中在方差中出现）。我认为您的标准错误是基于Fisher信息的（因为您有MLE）。用表示标准误。然后，如您的示例所示，的标准误差为 $\hat{\theta}$ $\theta$ $s$ $e^{\hat{\theta} }$

\sqrt{s^{2} e^{2 \hat{θ}}}

$\sqrt{s^{2}e^{2 \hat{\theta}}}$

我可能向后解释您，实际上您有的MLE的方差，并且想要的MLE的方差，在这种情况下，标准是 $\theta$ $\log(\theta)$

\sqrt{s^{2} / {\hat{θ}}^{2}}

$\sqrt{ s^{2}/\hat{\theta}^{2} }$

— 巨集
source

附带说明一下：还有适当的多元扩展，用梯度替换导数，并且乘法必须是矩阵乘法，因此在弄清转置的位置时还有些头疼。

— StasK 2011年

感谢您指出StasK。我相信在多元情况下，的渐近协方差是

g (\hat{θ})

$g(\hat{\theta})$

\nabla g (θ)^{'} I (θ)^{- 1} \nabla g (θ)

$\nabla g(\theta)' \mathcal{I}(\theta)^{-1} \nabla g(\theta)$

— Macro

（+1）我添加了指向规则性假设（以及其他一些东西）的链接，因为尚不清楚在OP的问题中是否满足这些假设。我可能已经说过是渐近正常的，而不是近似正常的，因为收敛速度有时会很慢。

\hat{θ}

$\hat{\theta}$

— MånsT

谢谢@MånsT，我也做了澄清，当我大约说::时，我的意思是渐近的：

— Macro

宏给出了有关如何通过delta方法转换标准错误的正确答案。尽管OP特别要求标准误差，但我怀疑目标是为产生置信区间。除了计算的估计的标准误差可以直接转换的置信区间，，在 -parametrization到的置信区间在 -参数化。这是完全正确的，并且甚至可能更好，这取决于参数化与参数化时基于标准误差用于证明置信区间合理的正态近似的效果如何。 $p$ $\hat{p}$ $[q_1, q_2]$ $q$ $[\exp(q_1), \exp(q_2)]$ $p$ $q$ $p$ -参数化。而且，直接变换的置信区间将满足正约束。

— NRH
source