我怎么知道选择哪种参数估计方法？

那里有很多用于参数估计的方法。MLE，UMVUE，MoM，决策理论等似乎都具有合理的理由说明为什么它们可用于参数估计。是任何一种方法都比其他方法更好，还是仅取决于我们如何定义“最佳拟合”估计量（类似于最小化正交误差如何与普通最小二乘法产生不同的估计值）？

这里有两件事有些混淆：推导估算器的方法和估算估算器的标准。最大似然（ML）和矩量法（MoM）是推导估计量的方法。一致的最小方差无偏度（UMVU）和决策理论是评估不同估计量的标准，但是它们不会告诉您如何得出它们。

在推导估算器的方法中，如果您知道数据的推导模型（用术语“数据生成过程”（DGP）），则ML通常会产生比MoM更有效（即方差较低）的估算器。但是MoM对模型的假设较少；顾名思义，它仅使用一个或多个矩，通常仅使用均值或均值和方差，因此，如果您不确定DGP ，则有时会更可靠。对于同一问题，可能有多个MoM估计器，而如果您知道DGP，则只有一个ML估计器。

在评估估算器的方法中，决策理论取决于要使用损失函数来判断您的估算器，尽管结果对于一系列“合理的”损失函数可能相当健壮。UMVU估算器通常甚至不存在。在许多情况下是总是有最小方差无偏估计量。而且，无偏性的准则是否有用也值得怀疑，因为它对变换不是不变的。例如，您是否希望比值比或对数比值比的无偏估计器？两者将有所不同。

我建议估算器的类型取决于以下几点：

1. 错误估算会带来什么后果？（例如，如果您的估算器过高，而不是过低，那么它是否较差？或者您对误差的方向无动于衷？如果误差是两倍大，是两倍吗？是百分比误差还是绝对误差？重要吗？估计是预测所需的仅中间步骤吗？大样本行为比小样本行为重要还是不重要？）
2. 您有关估计数量的先验信息是什么？（例如，数据在功能上与您的数量有什么关系？您知道数量是否为正吗？离散的？您之前曾估算过此数量吗？您有多少数据？您的数据中是否有“组不变性”结构？）
3. 您有什么软件？（例如，如果您没有安装MCMC的软件，则没有很好的建议；如果您不知道如何使用，则建议使用GLMM。）

前两点是特定于上下文的，通过考虑您的特定应用程序，您通常可以定义希望估算器具有的某些属性。然后，您选择可以实际计算的估计量，该估计量具有所需的许多属性。

我认为教学课程缺乏估算的上下文，这意味着经常使用“默认”标准，类似于先验信息（最明显的“默认”是您知道数据的采样分布）。话虽如此，一些默认方法还是不错的，特别是如果您对上下文不了解的话。但是，如果您确实了解上下文，并且您具有合并该上下文的工具，则应该这样做，否则，您可能会得到与直觉相反的结果（由于忽略了某些内容）。

一般而言，我不是MVUE的忠实拥护者，因为您经常需要牺牲太多差异才能获得公正。例如，假设您在飞镖板上投掷飞镖，而您想撞向靶心。假设对于特定的投掷策略，与靶心的最大偏差为6cm，但飞镖点的中心在靶心上方1cm。这不是MVUE，因为中心应该在靶心上。但是，假设要使分布向下平均移动1厘米（平均），您必须将半径至少增加到10厘米（因此，最大误差现在为10厘米，而不是6厘米）。除非差异很小，否则 MVUE可能会发生这种情况。假设我的投掷更为准确，并且可以将误差缩小到0.1cm。现在，偏见真的很重要，因为我永远也不会靶心！

简而言之，对我而言，偏差仅在与方差相比较小时才重要。通常，只有大样本时，方差才会很小。