数据具有不确定性的线性模型，使用R

假设我有一些不确定性的数据。例如：

X  Y
1  10±4
2  50±3
3  80±7
4  105±1
5  120±9

不确定度的性质可以是重复测量或实验，或例如测量仪器不确定度。

我想使用R拟合曲线，通常我会这样做lm。但是，当它给我拟合系数的不确定性以及预测间隔的不确定性时，就没有考虑数据的不确定性。查看文档，lm页面具有以下内容：

权重可以用来表示不同的观察结果具有不同的方差

因此，我认为也许这与它有关。我知道手动执行操作的原理，但是我想知道是否可以使用该lm功能执行操作。如果没有，是否还有其他功能（或包装）能够做到这一点？

编辑

看到一些评论，这里有一些澄清。举个例子：

x <- 1:10
y <- c(131.4,227.1,245,331.2,386.9,464.9,476.3,512.2,510.8,532.9)
mod <- lm(y ~ x + I(x^2))
summary(mod)

给我：

Residuals:
    Min      1Q  Median      3Q     Max 
-32.536  -8.022   0.087   7.666  26.358 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  39.8050    22.3210   1.783  0.11773    
x            92.0311     9.3222   9.872 2.33e-05 ***
I(x^2)       -4.2625     0.8259  -5.161  0.00131 ** 
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 18.98 on 7 degrees of freedom
Multiple R-squared:  0.986, Adjusted R-squared:  0.982 
F-statistic: 246.7 on 2 and 7 DF,  p-value: 3.237e-07

所以基本上我的系数是a = 39.8±22.3，b = 92.0±9.3，c = -4.3±0.8。现在让我们说对于每个数据点，错误是20。我将weights = rep(20,10)在lm调用中使用它，而得到的是：

Residual standard error: 84.87 on 7 degrees of freedom

但是系数的标准误差不会改变。

手动地，我知道如何使用矩阵代数计算协方差矩阵并将权重/误差放在其中，并由此得出置信区间，以完成此操作。那么在lm函数本身或任何其他函数中有没有办法做到这一点？

实际上，与“正常”线性回归相比，这种类型的模型在科学（例如物理学）和工程学的某些分支中更为常见。因此，在这类物理工具中ROOT，进行这种拟合是微不足道的，而线性回归并不是本地实现的！物理学家倾向于将其称为“拟合”或卡方最小化拟合。

正常的线性回归模型假设每个度量值都有一个整体方差。然后，它最大化似然性 或等效地以对数 因此，最小二乘这个名字（使可能性最大化）是相同最小平方之和，和是一个不重要的常数，只要它是恒定的。使用已知不确定性不同的测量，您将需要最大化 $\sigma$

$$L \propto \prod_i e^{-\frac{1}{2} \left( \frac{y_i-(ax_i+b)}{\sigma} \right)^2}$$ $$\log(L) = \mathrm{constant} - \frac{1}{2\sigma^2} \sum_i (y_i-(ax_i+b))^2$$ $\sigma$ $$L \propto \prod e^{-\frac{1}{2} \left( \frac{y-(ax+b)}{\sigma_i} \right)^2}$$ 或等效其对数 所以，您实际上想通过反方差而不是方差来加权测量。这是有道理的-更精确的测量具有较小的不确定性，应给予更大的权重。请注意，如果此权重是恒定的，它仍然会超出总和。所以，它不会影响的估计值，但它应该影响标准误差，从所述第二导数取。 $$\log(L) = \mathrm{constant} - \frac{1}{2} \sum \left( \frac{y_i-(ax_i+b)}{\sigma_i} \right)^2$$ $1/\sigma_i^2$$\log(L)$

但是，在这里，我们得出了物理学/科学与统计学之间的另一个差异。通常，在统计数据中，您希望两个变量之间可能存在相关性，但是很少是精确的。另一方面，在物理学和其他科学中，如果不是因为讨厌的测量误差（例如，而不是），通常会期望相关或关系是精确的。您的问题似乎更多地属于物理/工程案例。因此，对于您的测量附带的不确定性和权重的解释与您想要的不完全相同。权衡一下，但它仍然认为总体上存在$F=ma$$F=ma+\epsilon$lm$\sigma^2$考虑到回归误差，这不是您想要的-您希望测量误差是唯一的误差。（lm的解释的最终结果是仅权重的相对值很重要，这就是为什么您添加为测试的恒定权重无效的原因）。这里的问题和答案有更多详细信息：

lm重量和标准误差

答案中提供了两种可能的解决方案。特别是，那里的匿名答案建议使用

vcov(mod)/summary(mod)$sigma^2

基本上，lm根据估计的缩放协方差矩阵，并且您要撤消此操作。然后，您可以从校正后的协方差矩阵中获取所需的信息。尝试一下，但是如果可以使用手动线性代数，请尝试仔细检查。请记住，权重应为反方差。$\sigma$

编辑

如果你正在做这样的事情很多，你可能会考虑使用ROOT（这似乎同时，要做到这一点本身lm并glm没有）。这是在中执行此操作的简短示例ROOT。首先，ROOT可以通过C ++或Python使用它，并且其下载和安装庞大。您可以使用Jupiter笔记本在浏览器中进行尝试，单击此处的链接，在右侧选择“ Binder”，在左侧选择“ Python”。

import ROOT
from array import array
import math
x = range(1,11)
xerrs = [0]*10
y = [131.4,227.1,245,331.2,386.9,464.9,476.3,512.2,510.8,532.9]
yerrs = [math.sqrt(i) for i in y]
graph = ROOT.TGraphErrors(len(x),array('d',x),array('d',y),array('d',xerrs),array('d',yerrs))
graph.Fit("pol2","S")
c = ROOT.TCanvas("test","test",800,600)
graph.Draw("AP")
c.Draw()

我将平方根作为值的不确定性。拟合的输出是$y$

Welcome to JupyROOT 6.07/03

****************************************
Minimizer is Linear
Chi2                      =       8.2817
NDf                       =            7
p0                        =      46.6629   +/-   16.0838     
p1                        =       88.194   +/-   8.09565     
p2                        =     -3.91398   +/-   0.78028    

并产生一个不错的情节：

ROOT钳工还可以处理值中的不确定性，这可能需要对进行更多的修改。如果有人知道在R中执行此操作的本机方法，我将有兴趣学习它。$x$lm

第二编辑

@Wolfgang的相同问题的另一个答案给出了一个更好的解决方案：程序包中的rma工具metafor（我最初解释该答案中的文本是指它没有计算截距，但事实并非如此）。将测量值y的方差简单地设为y：

> rma(y~x+I(x^2),y,method="FE")

Fixed-Effects with Moderators Model (k = 10)

Test for Residual Heterogeneity: 
QE(df = 7) = 8.2817, p-val = 0.3084

Test of Moderators (coefficient(s) 2,3): 
QM(df = 2) = 659.4641, p-val < .0001

Model Results:

         estimate       se     zval    pval    ci.lb     ci.ub     
intrcpt   46.6629  16.0838   2.9012  0.0037  15.1393   78.1866   **
x         88.1940   8.0956  10.8940  <.0001  72.3268  104.0612  ***
I(x^2)    -3.9140   0.7803  -5.0161  <.0001  -5.4433   -2.3847  ***

---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

对于我发现的这种类型的回归，这绝对是最好的纯R工具。