从线性回归中提取p值和r平方


179

您如何从简单的线性回归模型中提取p值(对于单个解释变量的系数的重要性为非零)和R平方值?例如...

x = cumsum(c(0, runif(100, -1, +1)))
y = cumsum(c(0, runif(100, -1, +1)))
fit = lm(y ~ x)
summary(fit)

我知道可以summary(fit) 显示 p值和R平方值,但是我希望能够将它们粘贴到其他变量中。


如果您未将输出分配给对象(例如r <- summary(lm(rnorm(10)~runif(10))),不显示任何内容),则仅显示值。
约书亚·乌尔里希

Answers:


157

r平方:您可以直接从summary对象返回r平方值summary(fit)$r.squared。请参阅names(summary(fit))以获取可以直接提取的所有项目的列表。

模型p值:如果要获取整体回归模型的p值, 此博客文章概述了返回p值的函数:

lmp <- function (modelobject) {
    if (class(modelobject) != "lm") stop("Not an object of class 'lm' ")
    f <- summary(modelobject)$fstatistic
    p <- pf(f[1],f[2],f[3],lower.tail=F)
    attributes(p) <- NULL
    return(p)
}

> lmp(fit)
[1] 1.622665e-05

在使用一个预测变量进行简单回归的情况下,模型的p值和系数的p值将相同。

系数p值:如果您有多个预测变量,则以上将返回模型p值,并且可以使用以下公式提取系数的p值:

summary(fit)$coefficients[,4]  

另外,您可以anova(fit)采用与上述汇总对象类似的方式从对象中获取系数的p值。


13
使用起来inheritsclass直接使用要好一些。也许您想要unname(pf(f[1],f[2],f[3],lower.tail=F))
哈德利2011年

150

请注意,这将summary(fit)生成包含您需要的所有信息的对象。beta,se,t和p向量存储在其中。通过选择系数矩阵的第四列(存储在摘要对象中)来获取p值:

summary(fit)$coefficients[,4] 
summary(fit)$r.squared

尝试str(summary(fit))查看该对象包含的所有信息。

编辑:我误读了蔡斯的回答,它基本上告诉您如何获得我在这里给出的信息。


11
注意:这是使您可以轻松访问截距的p值以及其他预测变量的唯一方法。到目前为止最好的。
Daniel Egan

2
这是正确的答案。最受好评的答案对我不起作用。
克里斯

8
如果您想轻松获得P值,请使用此答案。当您只需要在摘要输出本身中查找p值时,会有些困难,为什么还要编写多行函数或创建新对象(即anova输出)呢?分离单一p值本身,你会行号添加到文森特的回答是:例如,summary(fit)$coefficients[1,4] 对于THEI截距
theforestecologist

2
注意:此方法适用于使用创建的模型,lm()但不适用于gls()模型。
theforestecologist

3
Chase的答案返回模型的p值,此答案返回系数的p值。在简单回归的情况下,它们是相同的,但是在具有多个预测变量的模型的情况下,它们是不相同的。因此,这两个答案都取决于您要提取的内容。
Jeromy Anglim '18

44

您可以summary()通过调用查看返回的对象的结构str(summary(fit))。可以使用访问每个片段$。从所返回的对象中,更容易获得F统计量的p值anova

简而言之,您可以执行以下操作:

rSquared <- summary(fit)$r.squared
pVal <- anova(fit)$'Pr(>F)'[1]

10
这仅适用于单变量回归在回归的p- val是相同预测的
Bakaburg

23

尽管以上两个答案都不错,但是提取对象的部分过程更为通用。

在许多情况下,函数会返回列表,并且可以访问单个组件,并使用str()这些组件打印组件及其名称。然后,您可以使用$运算符(即)访问它们myobject$componentname

在LM对象的情况下,也有一些预定义的方法可以使用,如coef()resid()summary()等等,但你不会总是这么幸运。


23

我在探索类似问题的建议解决方案时遇到了这个问题。我想为将来参考,可能有必要使用利用该broom软件包的解决方案来更新可用的答案列表。

样例代码

x = cumsum(c(0, runif(100, -1, +1)))
y = cumsum(c(0, runif(100, -1, +1)))
fit = lm(y ~ x)
require(broom)
glance(fit)

结果

>> glance(fit)
  r.squared adj.r.squared    sigma statistic    p.value df    logLik      AIC      BIC deviance df.residual
1 0.5442762     0.5396729 1.502943  118.2368 1.3719e-18  2 -183.4527 372.9055 380.7508 223.6251          99

旁注

我发现该glance函数很有用,因为它可以很好地总结键值。结果存储为,data.frame这使得进一步操作变得容易:

>> class(glance(fit))
[1] "data.frame"

这是一个很好的答案!
AndrewBrēza

9

@Vincent 答案的扩展:

对于lm()生成的模型:

summary(fit)$coefficients[,4]   ##P-values 
summary(fit)$r.squared          ##R squared values

对于gls()生成的模型:

summary(fit)$tTable[,4]         ##P-values
##R-squared values are not generated b/c gls uses max-likelihood not Sums of Squares

要隔离单个p值本身,可以在代码中添加一个行号:

例如,在两个模型摘要中访问截距的p值:

summary(fit)$coefficients[1,4]
summary(fit)$tTable[1,4]  
  • 注意,在上述每个实例中,都可以用列名替换列号:

    summary(fit)$coefficients[1,"Pr(>|t|)"]  ##lm 
    summary(fit)$tTable[1,"p-value"]         ##gls 

如果您仍然不确定如何从摘要表访问值,请使用该表str()来确定摘要表的结构:

str(summary(fit))

7

这是拉取p值的最简单方法:

coef(summary(modelname))[, "Pr(>|t|)"]

1
我尝试了这种方法,但是如果线性模型包含任何NA项,它将失败
j_v_wow_d

5

我使用了很多次lmp函数。

有一次我决定添加新功能来增强数据分析。我不是R或统计方面的专家,但是人们通常会查看线性回归的不同信息:

  • p值
  • a和b
  • 当然还有点分布的方面

让我们举个例子。你在这里

这是一个具有不同变量的可重现示例:

Ex<-structure(list(X1 = c(-36.8598, -37.1726, -36.4343, -36.8644, 
-37.0599, -34.8818, -31.9907, -37.8304, -34.3367, -31.2984, -33.5731
), X2 = c(64.26, 63.085, 66.36, 61.08, 61.57, 65.04, 72.69, 63.83, 
67.555, 76.06, 68.61), Y1 = c(493.81544, 493.81544, 494.54173, 
494.61364, 494.61381, 494.38717, 494.64122, 493.73265, 494.04246, 
494.92989, 494.98384), Y2 = c(489.704166, 489.704166, 490.710962, 
490.653212, 490.710612, 489.822928, 488.160904, 489.747776, 490.600579, 
488.946738, 490.398958), Y3 = c(-19L, -19L, -19L, -23L, -30L, 
-43L, -43L, -2L, -58L, -47L, -61L)), .Names = c("X1", "X2", "Y1", 
"Y2", "Y3"), row.names = c(NA, 11L), class = "data.frame")


library(reshape2)
library(ggplot2)
Ex2<-melt(Ex,id=c("X1","X2"))
colnames(Ex2)[3:4]<-c("Y","Yvalue")
Ex3<-melt(Ex2,id=c("Y","Yvalue"))
colnames(Ex3)[3:4]<-c("X","Xvalue")

ggplot(Ex3,aes(Xvalue,Yvalue))+
          geom_smooth(method="lm",alpha=0.2,size=1,color="grey")+
          geom_point(size=2)+
          facet_grid(Y~X,scales='free')


#Use the lmp function

lmp <- function (modelobject) {
  if (class(modelobject) != "lm") stop("Not an object of class 'lm' ")
  f <- summary(modelobject)$fstatistic
    p <- pf(f[1],f[2],f[3],lower.tail=F)
    attributes(p) <- NULL
    return(p)
    }

# create function to extract different informations from lm

lmtable<-function (var1,var2,data,signi=NULL){
  #var1= y data : colnames of data as.character, so "Y1" or c("Y1","Y2") for example
  #var2= x data : colnames of data as.character, so "X1" or c("X1","X2") for example
  #data= data in dataframe, variables in columns
  # if signi TRUE, round p-value with 2 digits and add *** if <0.001, ** if < 0.01, * if < 0.05.

  if (class(data) != "data.frame") stop("Not an object of class 'data.frame' ")
  Tabtemp<-data.frame(matrix(NA,ncol=6,nrow=length(var1)*length(var2)))
  for (i in 1:length(var2))
       {
  Tabtemp[((length(var1)*i)-(length(var1)-1)):(length(var1)*i),1]<-var1
  Tabtemp[((length(var1)*i)-(length(var1)-1)):(length(var1)*i),2]<-var2[i]
  colnames(Tabtemp)<-c("Var.y","Var.x","p-value","a","b","r^2")

  for (n in 1:length(var1))
  {
  Tabtemp[(((length(var1)*i)-(length(var1)-1))+n-1),3]<-lmp(lm(data[,var1[n]]~data[,var2[i]],data))

  Tabtemp[(((length(var1)*i)-(length(var1)-1))+n-1),4]<-coef(lm(data[,var1[n]]~data[,var2[i]],data))[1]

  Tabtemp[(((length(var1)*i)-(length(var1)-1))+n-1),5]<-coef(lm(data[,var1[n]]~data[,var2[i]],data))[2]

  Tabtemp[(((length(var1)*i)-(length(var1)-1))+n-1),6]<-summary(lm(data[,var1[n]]~data[,var2[i]],data))$r.squared
  }
  }

  signi2<-data.frame(matrix(NA,ncol=3,nrow=nrow(Tabtemp)))
  signi2[,1]<-ifelse(Tabtemp[,3]<0.001,paste0("***"),ifelse(Tabtemp[,3]<0.01,paste0("**"),ifelse(Tabtemp[,3]<0.05,paste0("*"),paste0(""))))
  signi2[,2]<-round(Tabtemp[,3],2)
  signi2[,3]<-paste0(format(signi2[,2],digits=2),signi2[,1])

  for (l in 1:nrow(Tabtemp))
    {
  Tabtemp$"p-value"[l]<-ifelse(is.null(signi),
         Tabtemp$"p-value"[l],
         ifelse(isTRUE(signi),
                paste0(signi2[,3][l]),
                Tabtemp$"p-value"[l]))
  }

   Tabtemp
}

# ------- EXAMPLES ------

lmtable("Y1","X1",Ex)
lmtable(c("Y1","Y2","Y3"),c("X1","X2"),Ex)
lmtable(c("Y1","Y2","Y3"),c("X1","X2"),Ex,signi=TRUE)

当然有比此功能更快的解决方案,但是它可以工作。


2

对于末尾显示的最终p值summary(),该函数用于pf()根据这些summary(fit)$fstatistic值进行计算。

fstat <- summary(fit)$fstatistic
pf(fstat[1], fstat[2], fstat[3], lower.tail=FALSE)

来源:[1][2]


1
x = cumsum(c(0, runif(100, -1, +1)))
y = cumsum(c(0, runif(100, -1, +1)))
fit = lm(y ~ x)
> names(summary(fit))
[1] "call"          "terms"        
 [3] "residuals"     "coefficients" 
 [5] "aliased"       "sigma"        
 [7] "df"            "r.squared"    
 [9] "adj.r.squared" "fstatistic"   
[11] "cov.unscaled" 
    summary(fit)$r.squared

1
即使简短,也要提供解释,以说明此代码为何起作用?
aribeiro

如何改善现有答案(尤其是已接受的答案)?
Ben Bolker

0

另一种选择是使用cor.test函数而不是lm:

> x <- c(44.4, 45.9, 41.9, 53.3, 44.7, 44.1, 50.7, 45.2, 60.1)
> y <- c( 2.6,  3.1,  2.5,  5.0,  3.6,  4.0,  5.2,  2.8,  3.8)

> mycor = cor.test(x,y)
> mylm = lm(x~y)

# r and rsquared:
> cor.test(x,y)$estimate ** 2
      cor 
0.3262484 
> summary(lm(x~y))$r.squared
[1] 0.3262484

# P.value 

> lmp(lm(x~y))  # Using the lmp function defined in Chase's answer
[1] 0.1081731
> cor.test(x,y)$p.value
[1] 0.1081731

0

用:

(summary(fit))$coefficients[***num***,4]

其中num的数字表示系数矩阵的行。这将取决于您的模型中具有多少个特征以及要为其提取p值的那个。例如,如果您只有一个变量,则截距的一个p值将为[1,4],而实际变量的下一个p值将为[2,4]。所以你num将是2。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.