观测到的费舍尔信息

从Y. Pawitan的“在所有可能性中：使用可能性进行统计建模和推断”中，重新参数化的可能性被定义为使得如果是一对一，则（第45页）。我试图显示练习2.20，其中指出如果是标量（并且我假设也应该是标量函数），则其中 $\theta\mapsto g(\theta)=\psi$

L^{*} (ψ) = max_{{θ : g (θ) = ψ}} L (θ)

$L^*(\psi)=\max_{\{\theta:g(\theta)=\psi\}} L(\theta)$

g

$g$

L^{*} (ψ) = L (g^{- 1} (ψ))

$L^*(\psi)=L(g^{-1}(\psi))$

θ

$\theta$

g

$g$

I^{*} (g (\hat{θ})) = I (\hat{θ}) {| \frac{\partial g (\hat{θ})}{\partial \hat{θ}} |}^{- 2},

$I^*(g(\hat{\theta}))=I(\hat{\theta})\left|\frac{\partial g(\hat{\theta})}{\partial \hat{\theta}}\right|^{-2},$

I (θ) = - \frac{\partial^{2}}{\partial θ^{2}} l (θ)

$I(\theta)=-\frac{\partial^2}{\partial\theta^2} l(\theta)$ 是观察到的Fisher信息，并且

l (θ) = \log L (θ)

$l(\theta)=\log L(\theta)$ 。

如果 $g$ 是一对一的，那么使用链规则和不变性原理就很简单。我只是想知道几件事：

他为什么坚持写绝对值？这可以省去吧？
通过 $\frac{\partial g(\hat{\theta})}{\partial \hat{\theta}}$ 他表示函数 $\frac{\partial g(\theta)}{\partial \theta}$ 在求值 $\theta=\hat{\theta}$ ，对吗？如果是这种情况，那么这不是一个糟糕的符号选择吗？我认为，通常对此的简写应该是 $\frac{\partial g(\hat{\theta})}{\partial \theta}$ 。
当 $g$ 不一定是一对一时，该如何显示？

— 斯蒂芬·汉森
source

绝对值是不必要的。这可能只是一个错字。
没错更好的表示法是 $\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=\hat{\theta}}$ 。
它一般不成立。修复一些并通过定义。rhs是不确定的，因为每个的导数为零。 $\psi_0$ $g:\mathbb{R}\to\mathbb{R}$ $g(\theta)=\psi_0$ $\theta$

常规情况的草图：

对于光滑一个到一与。由于，我们有因此， $g$ $\psi=g(\theta)$ $d/d\psi = d\theta/d\psi\cdot d/d\theta$

\begin{aligned} I^{*} (ψ) & = - \frac{d^{2} L^{*} (ψ)}{d ψ^{2}} = - \frac{d}{d ψ} (\frac{d L^{*} (ψ)}{d ψ}) = - \frac{d}{d ψ} (\frac{d L^{*} (ψ)}{d θ} \frac{d θ}{d ψ}) \\ = - \frac{d^{2} L^{*} (ψ)}{d θ^{2}} {(\frac{d θ}{d ψ})}^{2} - \frac{d L^{*} (ψ)}{d θ} \frac{d^{2} θ}{d ψ^{2}} \frac{d θ}{d ψ} . \end{aligned}

$\begin{align} I^*(\psi) &= -\frac{d^2L^*(\psi)}{d\psi^2} = -\frac{d}{d\psi}\left(\frac{dL^*(\psi)}{d\psi} \right) = -\frac{d}{d\psi}\left(\frac{dL^*(\psi)}{d\theta} \frac{d\theta}{d\psi}\right) \\ &= - \frac{d^2L^*(\psi)}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^*(\psi)}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi}\, . \end{align}$

\begin{aligned} I^{*} (g (\hat{θ})) & = - \frac{d^{2} L^{*} (g (\hat{θ}))}{d θ^{2}} {(\frac{d θ}{d ψ})}^{2} - \frac{d L^{*} (g (\hat{θ}))}{d θ} \frac{d^{2} θ}{d ψ^{2}} \frac{d θ}{d ψ} \\ = - \frac{d^{2} L (g^{- 1} (g (\hat{θ})))}{d θ^{2}} {(\frac{d g (θ)}{d θ} |_{θ = g^{- 1} (g (\hat{θ}))})}^{- 2} - \frac{d L (g^{- 1} (g (\hat{θ})))}{d θ} \frac{d^{2} θ}{d ψ^{2}} \frac{d θ}{d ψ} \\ = I (\hat{θ}) {(\frac{d g (θ)}{d θ} |_{θ = \hat{θ}})}^{- 2}, \end{aligned}

$\begin{align} I^*(g(\hat{\theta})) &= -\frac{d^2L^*(g(\hat{\theta}))}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^*(g(\hat{\theta}))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \\ &= -\frac{d^2L(g^{-1}(g(\hat{\theta})))}{d\theta^2} \left(\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=g^{-1}(g(\hat{\theta}))}\right)^{-2} - \frac{dL(g^{-1}(g(\hat{\theta})))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \\ &= I(\hat{\theta}) \left(\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=\hat{\theta}}\right)^{-2} \, , \end{align}$ ，我们在其中使用了。

d L (g^{- 1} (g (\hat{θ}))) / d θ = d L (\hat{θ}) / d θ = 0

$dL(g^{-1}(g(\hat{\theta})))/d\theta=dL(\hat{\theta})/d\theta=0$

— 禅
source

感谢您解决我的所有疑问，并感谢提供了常数简单示例。您对常规案例的了解与我所做的类似，所以都很好。谢谢。

g

$g$

— Stefan Hansen 2014年