数据集的皮尔逊相关性可能具有零标准偏差？

我在计算标准偏差可能为零的数据集的皮尔逊相关系数时遇到问题（即所有数据具有相同的值）。

假设我有以下两个数据集：

float x[] = {2, 2, 2, 3, 2};
float y[] = {2, 2, 2, 2, 2};

相关系数“ r”将使用以下公式计算：

float r = covariance(x, y) / (std_dev(x) * std_dev(y));

但是，由于数据集“ y”中的所有数据都具有相同的值，因此标准偏差std_dev（y）将为零，而“ r”将不确定。

这个问题有什么解决办法吗？还是在这种情况下我应该使用其他方法来测量数据关系？

“抽样理论”人士会告诉您，不存在这样的估计。但是您可以得到一个，您只需要对先验信息有一个合理的了解，并做很多困难的数学工作即可。

如果您指定了贝叶斯估计方法，并且后验与前验相同，那么您可以说数据对参数什么也没说。因为事情可能会在我们身上变得“奇异”，所以我们不能使用无限的参数空间。我假设因为您使用Pearson相关，所以您具有双变量正态似然：

Q我=（X我-μX）

$$p(D|\mu_x,\mu_y,\sigma_x,\sigma_y,\rho)=\left(\sigma_x\sigma_y\sqrt{2\pi(1-\rho^2)}\right)^{-N}exp\left(-\frac{\sum_{i}Q_i}{2(1-\rho^2)}\right)$$ 其中 $$Q_i=\frac{(x_i-\mu_x)^2}{\sigma_x^2}+\frac{(y_i-\mu_y)^2}{\sigma_y^2}-2\rho\frac{(x_i-\mu_x)(y_i-\mu_y)}{\sigma_x\sigma_y}$$

现在表明一个数据集可能是相同的值，写，然后我们得到：$y_i=y$

小号2X=

$$\sum_{i}Q_i=N\left[\frac{(y-\mu_y)^2}{\sigma_y^2}+\frac{s_x^2 + (\overline{x}-\mu_x)^2}{\sigma_x^2}-2\rho\frac{(\overline{x}-\mu_x)(y-\mu_y)}{\sigma_x\sigma_y}\right]$$ 其中 $$s_x^2=\frac{1}{N}\sum_{i}(x_i-\overline{x})^2$$

因此，您的可能性取决于四个数字。因此，您需要一个的估计值，因此需要乘以一个先验值，并整合出讨厌的参数。现在为集成做准备，我们“完成平方” $s_x^2,y,\overline{x},N$$\rho$$\mu_x,\mu_y,\sigma_x,\sigma_y$

$$\frac{\sum_{i}Q_i}{1-\rho^2}=N\left[\frac{\left(\mu_y-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]\right)^2}{\sigma_y^2(1-\rho^{2})}+\frac{s_x^2}{\sigma_{x}^{2}(1-\rho^{2})} + \frac{(\overline{x}-\mu_x)^2}{\sigma_x^2}\right]$$

现在，我们应该谨慎行事，并确保正确归一化的概率。这样我们就不会遇到麻烦。一种这样的选择是使用信息量较弱的先验，这仅限制了每种方法的范围。因此对于具有平坦先验的均值，我们具有对于具有jeffreys的标准差，我们具有先验。可以通过一些“常识”问题来轻松设置这些限制。我将对使用一个未指定的，这样我们就可以了（如果没有在处截断奇点，则制服应该可以正常工作）：$L_{\mu}<\mu_x,\mu_y<U_{\mu}$$L_{\sigma}<\sigma_x,\sigma_y<U_{\sigma}$$\rho$$\pm 1$

$$p(\rho,\mu_x,\mu_y,\sigma_x,\sigma_y)=\frac{p(\rho)}{A\sigma_x\sigma_y}$$

其中。这给出了以下条件：$A=2(U_{\mu}-L_{\mu})^{2}[log(U_{\sigma})-log(L_{\sigma})]^{2}$

$$p(\rho|D)=\int p(\rho,\mu_x,\mu_y,\sigma_x,\sigma_y)p(D|\mu_x,\mu_y,\sigma_x,\sigma_y,\rho)d\mu_y d\mu_x d\sigma_x d\sigma_y$$

$$=\frac{p(\rho)}{A[2\pi(1-\rho^2)]^{\frac{N}{2}}}\int_{L_{\sigma}}^{U_{\sigma}}\int_{L_{\sigma}}^{U_{\sigma}}\left(\sigma_x\sigma_y\right)^{-N-1}exp\left(-\frac{N s_x^2}{2\sigma_{x}^{2}(1-\rho^{2})}\right) \times$$ $$\int_{L_{\mu}}^{U_{\mu}}exp\left(-\frac{N(\overline{x}-\mu_x)^2}{2\sigma_x^2}\right)\int_{L_{\mu}}^{U_{\mu}}exp\left(-\frac{N\left(\mu_y-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]\right)^2}{2\sigma_y^2(1-\rho^{2})}\right)d\mu_y d\mu_x d\sigma_x d\sigma_y$$

现在在第一积分可以通过使变量的变化来进行和第一积分超过变为：$\mu_y$$z=\sqrt{N}\frac{\mu_y-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]}{\sigma_y\sqrt{1-\rho^{2}}}\implies dz=\frac{\sqrt{N}}{\sigma_y\sqrt{1-\rho^{2}}}d\mu_y$$\mu_y$

$$\frac{\sigma_y\sqrt{2\pi(1-\rho^{2})}}{\sqrt{N}}\left[\Phi\left( \frac{U_{\mu}-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]}{\frac{\sigma_y}{\sqrt{N}}\sqrt{1-\rho^{2}}} \right)-\Phi\left( \frac{L_{\mu}-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]}{\frac{\sigma_y}{\sqrt{N}}\sqrt{1-\rho^{2}}} \right)\right]$$

您可以从这里看到没有解析解决方案。但是，还值得一提的是值尚未从方程式中删除。这意味着数据和先验信息仍然对真正的相关性有话要说。如果数据避谈相关性，那么我们就可以简单地留下了作为唯一的功能这些方程。$\rho$$p(\rho)$$\rho$

它还显示了传递到到无穷大的极限是如何“丢弃”一些有关的信息的，这些信息包含在看上去很复杂的普通CDF函数。现在，如果您有大量数据，那么传递到极限就可以了，您不会丢失太多，但是，如果您有非常稀少的信息（例如您的情况），那么请务必保留所有废料。这意味着很难看的数学，但是这个例子在数字上并不难。因此，我们可以很容易地评估在值的积分似然。只需在足够小的时间间隔内用求和替换积分-这样您就可以进行三次求和$\mu_y$$\rho$$\Phi(.)$$\rho$$-0.99,-0.98,\dots,0.98,0.99$

我同意sesqu的观点，在这种情况下，相关性是不确定的。根据您的应用程序类型，您可以例如计算两个向量之间的Gower相似度，即： 其中表示kronecker-delta，在上用作函数。 δv1，v$gower(v1,v2)=\frac{\sum_{i=1}^{n}\delta(v1_i,v2_i)}{n}$$\delta$$v1,v2$

因此，例如，如果所有值都相等，则gower（。，。）= 1。另一方面，如果它们仅在一个维度上不同，则gower（。，。）= 0.9。如果它们在每个维度上都不同，则gower（。，。）= 0，依此类推。

当然，这不是相关性的度量，但是它允许您计算s> 0的向量与s = 0的向量有多接近。当然，如果它们更好地满足您的目的，您也可以应用其他指标。

在这种情况下，相关性是不确定的。如果必须定义它，我将其定义为0，但请考虑一个简单的平均绝对差。

这个问题来自程序员，所以我建议插入零。没有相关性的证据，零假设为零（无相关性）。可能还有其他上下文知识可以在一个上下文中提供“典型”关联，但是代码可以在另一上下文中重用。