什么是联合估算？

我的问题很简单：什么是联合估算？在回归分析中这意味着什么？怎么做？我在强大的互联网上徘徊了一段时间，但没有找到这些问题的答案。

regression estimation terminology

— 回归失败
source

非常感谢您提供的所有有用的答案以及您为向我澄清这一点所做的努力！

— 在

Answers:

简单来说，联合估算就是同时估算两个（或多个）事物。它可以像估计样本的平均值和标准偏差一样简单。

在许多文献中，由于必须使用特殊的估算程序，因此会调用该术语。当一个量依赖于另一个量而反之亦然时，通常是这种情况，这样就很难解决问题。联合估算的精确度完全取决于问题。

EM算法是经常出现的用于“联合建模”或联合估计的方法。EM代表期望-最大化。通过交替执行这些步骤，E步骤将填充依赖于组件A的缺失数据，而M步骤将找到组件B的最佳估计值。通过迭代E和M步骤，您可以找到A的最大似然估计和B，从而共同估算这些东西。

— 亚当
source

您能否举一个例子，说明我们没有估计一个变量的均值和标准差？那么使用哪种算法？

— smci

@smci线性混合建模共同估算固定和随机分量。

— AdamO

谢谢，我的意思是，请将其（以及其他示例）编辑成您的答案。该算法与EM完全不同吗？（如何同时估算两个分量？保证收敛吗？等）

— smci

@smci我不同意。a）这不是OP的问题。b）有无限的“其他例子” c）LME的算法是什么以及它与EM有何不同是另一个问题。

— AdamO

它有助于举例说明答案。这是一个更好的答案，因此是要求的一部分。

— smci

在统计上下文中，术语“联合估计”可以想象为两件事之一：

1. 所述的两个或更多个标量参数同时估计（或等价地，具有至少两个元素的向量参数的估计）; 要么
1. 与关节有关的单个参数的估计（例如，在木工，管道系统或大麻吸烟的研究中）。

在这两个选项中，第二个是个玩笑，因此几乎可以肯定，联合估计是指同时估计两个标量参数。

— Ben-恢复莫妮卡
source

要学究，两个或两个以上

— qwr

Pedantry已接受-已编辑。

— 本-恢复莫妮卡

联合估计是使用数据同时估计两个或多个参数。单独的估算一次评估每个参数。

估算是某种形式的优化过程的结果。因此，统计中不存在唯一的估计解决方案。如果您改变目标，那么您将改变最佳目标。当您第一次学习诸如回归之类的东西时，没有人告诉您您为什么要做自己的事情。讲师的目标是使用可以在多种情况下使用的方法为您提供一定程度的基本功能。刚开始，您不是在学习回归。相反，您正在学习一种或两种在多种情况下广泛适用的回归方法。

您正在寻找可以解决隐藏目标的解决方案这一事实使您很难理解。

在回归的上下文中，假设以下代数表达式为true。统计信息的真实性在于，您拥有的信息越多，您的生活就越好。让我们假设您需要确定在看到时会发生什么值。问题是您不知道的真实值。您有一个完整的数据集。

z = β_{x} x + β_{y} y + α

$z=\beta_xx+\beta_yy+\alpha$

z

$z$

(x, y)

$(x,y)$

{β_{x}, β_{y}, α}

$\{\beta_x,\beta_y,\alpha\}$

{x, y, z}

$\{x,y,z\}$

在单独的估算中，您将一次估算一个参数。在联合估计中，您将一次估计所有这些。

根据经验，联合估计比具有大量完整数据集的单独估计更为准确。有一个普遍的例外。假设您有大量的和但是有少量的。想象一下，您的大多数值都丢失了。 $x$ $z$ $y$ $y$

在许多估计例程中，您将删除丢失的 s和 s并减少正在使用的集合，直到所有集合都完整为止。如果您已删除了足够的数据，则使用多个 s和 s分别估算和可能会更准确。 $x$ $z$ $x$ $z$ $z=\beta_xx+\alpha$ $z=\beta_yy+\alpha$

现在到如何完成。除少数例外情况外，所有估计都使用演算来找到使某种形式的损失或某种风险最小化的估计器。担心的是您会很不幸地选择样品。不幸的是，有无数个损失函数。还有无数的风险函数。

我为您找到了几个视频，因为这是一个巨大的话题，因此您可以更一般地观看它。他们来自数学和尚。

https://www.youtube.com/watch?v=6GhSiM0frIk

https://www.youtube.com/watch?v=5SPm4TmYTX0

https://www.youtube.com/watch?v=b1GxZdFN6cY

和

https://www.youtube.com/watch?v=WdnP1gmb8Hw。

— 戴夫·哈里斯（Dave Harris）
source