使用最大似然拟合多元正态模型时，如何确保协方差矩阵的性质？
假设我有以下模型 yi=f(xi,θ)+εiyi=f(xi,θ)+εiy_i=f(x_i,\theta)+\varepsilon_i 其中， 是解释变量的向量，\ theta是非线性函数f和\ varepsilon_i \ sim N（0，\ Sigma）的参数，其中\ Sigma自然是K \ times K矩阵。yi∈RKyi∈RKy_i\in \mathbb{R}^Kxixix_iθθ\thetafffε一世〜ñ（0 ，Σ ）εi∼N(0,Σ)\varepsilon_i\sim N(0,\Sigma)ΣΣ\Sigmaķ× KK×KK\times K 通常的目标是估算θθ\theta和ΣΣ\Sigma。明显的选择是最大似然法。此模型的对数似然性（假设我们有一个样本（y一世，X一世），我= 1 ，。。。，n(yi,xi),i=1,...,n(y_i,x_i),i=1,...,n）看起来像 l （θ ，Σ ）= − n2日志（2 π）− n2日志DET Σ - Σ我= 1ñ（y一世- ˚F（x一世，θ ））′Σ− 1（y- ˚F（x一世,θ)))l(θ,Σ)=−n2log(2π)−n2logdetΣ−∑i=1n(yi−f(xi,θ))′Σ−1(y−f(xi,θ)))l(\theta,\Sigma)=-\frac{n}{2}\log(2\pi)-\frac{n}{2} \log\det\Sigma-\sum_{i=1}^n(y_i-f(x_i,\theta))'\Sigma^{-1}(y-f(x_i,\theta))) 现在，这似乎很简单，指定了对数似然性，将其放入数据中，并使用某种算法进行非线性优化。问题是如何确保ΣΣ\Sigma为正定。例如，optim在R中使用R（或任何其他非线性优化算法）将无法保证ΣΣ\Sigma是正定的。 那么问题是如何确保ΣΣ\Sigma保持正定值？我看到两种可能的解决方案： 重新参数化ΣΣ\Sigma为 RR′RR′RR'，其中RRR是上三角或对称矩阵。然后ΣΣ\Sigma将始终是正定的，并且RRR可以不受约束。 使用配置文件可能性。推导θ^(Σ)θ^(Σ)\hat\theta(\Sigma)和\ hat {\ Sigma}（\ theta）的公式Σ^(θ)Σ^(θ)\hat{\Sigma}(\theta)。从一些\ theta_0开始θ0θ0\theta_0并迭代Σ^Ĵ= …