关于最大似然的一致性和渐近正态性的一般性定理

我对有关最大似然估计器的渐近性质的结果有很好的参考价值感兴趣。考虑模型其中是维密度，并且是基于样本来自的MLE其中是的“真”值。我感兴趣的是两个违规行为。˚F Ñ（X | θ ）ñ θ Ñ X 1，... ，X Ñ ˚F Ñ（＆CenterDot;＆| θ 0）θ 0$\{f_n(\cdot \mid \theta): \theta \in \Theta, n \in \mathbb N\}$$f_n(\mathbf x \mid \theta)$$n$$\hat \theta_n$$X_1, \ldots, X_n$$f_n(\cdot \mid \theta_0)$$\theta_0$$\theta$

1. 数据不是iid，因此，关于的Fisher信息的累积速率比慢。 θ $X_1, \ldots, X_n$$\theta$$n$
2. $\Theta$是一个有界集合，并且具有正概率位于边界上。边界对应于“简单”模型，因此是否位于边界上引起了特别的兴趣。θ$\hat \theta_n$$\theta_0$

我的具体问题是

1. 让表示对应于所观察到的Fisher信息，并假定在内部谎言。在什么条件下渐近正态为？尤其是，规律性条件是否与通常的条件相似，在，相关的修改是？θ θ 0 Θ [ Ĵ Ñ（θ Ñ）]$J_n(\theta)$$\theta$$\theta_0$$\Theta$ñ→交通∞ĴÑ（ θ Ñ）→交通

   $$\left[J_n(\hat \theta_n)\right]^{1/2}(\hat \theta_n - \theta_0)$$ $n \to \infty$$J_n(\hat \theta_n) \to \infty$

2. 假设在边界上，并再次想起发生正概率-具体而言，在混合效应模型我们可以有。条件是什么（几乎可以肯定或有概率），并且最终条件是什么（对于混合效果模型，这可能会失败，但对应于“ oracle”属性LASSO和相关的估算器，所以要求总体结果也许太多了？θ Ñ = θ 0 Ŷ 我Ĵ = μ + β 我 + ε 我Ĵ σ 2 β = 0 θ Ñ →交通θ 0 θ Ñ = θ $\theta_0$$\hat \theta_n = \theta_0$$Y_{ij} = \mu + \beta_i + \epsilon_{ij}$$\hat \sigma_{\beta}^2 = 0$$\hat \theta_n \to \theta_0$$\hat \theta_n = \theta_0$

再次强调，仅是指向具有这种通用性的结果的文本的指针。

您可以从以下参考开始：

对于真实参数位于边界上的情况：
Moran（1971）“非标准条件下的最大似然估计”

Steven G. Self和Kung-Yee Liang（1987）“在非标准条件下最大似然估计的渐近性质和似然比检验”

Ziding Feng和Charles E. McCulloch（1990）“当真实参数位于参数空间的边界时，使用最大似然估计和广义似然比进行统计推断”

对于非相同但独立的rv：
Bruce Hoadley（1971）“独立非相同分布情况的最大似然估计的渐近性质”

对于从属RV：
Martin J. Crowder（1976）“从属观测的最大似然估计”

也

Huber，PJ（1967）。“在非标准条件下最大似然估计的行为”。在第五届伯克利数学统计和概率研讨会论文集（第1卷，第1期，第221-233页）中。

更新17-03-2017：如评论中所建议，此处可以参考以下论文

安德鲁斯（DW）（1987）。非线性计量经济学模型中的一致性：大数的通用统一定律。《计量经济学》：《计量经济学学会杂志》，1465-1471年。