假设我有以下模型
其中, 是解释变量的向量,\ theta是非线性函数f和\ varepsilon_i \ sim N(0,\ Sigma)的参数,其中\ Sigma自然是K \ times K矩阵。
通常的目标是估算和。明显的选择是最大似然法。此模型的对数似然性(假设我们有一个样本)看起来像
现在,这似乎很简单,指定了对数似然性,将其放入数据中,并使用某种算法进行非线性优化。问题是如何确保为正定。例如,optim
在R中使用R(或任何其他非线性优化算法)将无法保证是正定的。
那么问题是如何确保保持正定值?我看到两种可能的解决方案:
重新参数化为 ,其中是上三角或对称矩阵。然后将始终是正定的,并且可以不受约束。
使用配置文件可能性。推导和\ hat {\ Sigma}(\ theta)的公式。从一些\ theta_0开始并迭代,直到收敛为止。
还有其他方法吗,这两种方法又会起作用吗,它们是标准的吗?这似乎是很标准的问题,但是快速搜索没有给我任何提示。我知道贝叶斯估计也是可能的,但目前我不想参与其中。