如何连接(合并)数据框(内部,外部,左侧,右侧)


1231

给定两个数据帧:

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2, 4, 6), State = c(rep("Alabama", 2), rep("Ohio", 1)))

df1
#  CustomerId Product
#           1 Toaster
#           2 Toaster
#           3 Toaster
#           4   Radio
#           5   Radio
#           6   Radio

df2
#  CustomerId   State
#           2 Alabama
#           4 Alabama
#           6    Ohio

如何进行数据库样式(即sql样式)的联接?也就是说,我如何获得:

  • 一个内连接df1df2
    只返回其左表已在右表的匹配键的行。
  • 一个外连接df1df2
    返回两个表中的所有行,加入从左侧具有右表中的匹配关键字的记录。
  • 左外部联接(或简称为左联接)df1df2
    从左表返回所有行,并从右表返回具有匹配键的任何行。
  • 一个右外连接df1,并df2
    返回右表中的所有行,任何行与左表中匹配的密钥。

额外信用:

如何执行SQL样式选择语句?


4
同构

由RStudio创建和维护的带有dplyr备忘单的数据转换在dplyr rstudio.com/resources/cheatsheets中也显示了有关联接工作方式的出色信息
Arthur Yip,

2
如果您来这里只是想了解有关合并熊猫数据帧的信息,可以在此处找到该资源。
cs95

Answers:


1347

通过使用merge函数及其可选参数:

内部 merge(df1, df2)联接适用于这些示例,因为R会通过通用变量名称自动联接框架,但是您很可能希望指定merge(df1, df2, by = "CustomerId")以确保仅在所需的字段上进行匹配。如果匹配的变量在不同的数据框中具有不同的名称,则也可以使用by.xby.y参数。

外部联接: merge(x = df1, y = df2, by = "CustomerId", all = TRUE)

左外: merge(x = df1, y = df2, by = "CustomerId", all.x = TRUE)

右外: merge(x = df1, y = df2, by = "CustomerId", all.y = TRUE)

交叉连接: merge(x = df1, y = df2, by = NULL)

与内部联接一样,您可能希望将“ CustomerId”显式传递给R作为匹配变量。 我认为几乎总是最好明确声明要合并的标识符。如果输入data.frames发生意外更改,则更安全,以后更易于阅读。

您可以通过给出by一个向量(例如)在多列上合并by = c("CustomerId", "OrderId")

如果要合并的列名称不相同,则可以指定,例如,by.x = "CustomerId_in_df1", by.y = "CustomerId_in_df2"where CustomerId_in_df1是第一个数据框中CustomerId_in_df2的列名称,是第二个数据框中的列名称。(如果您需要在多列上合并,这些也可以是向量。)


2
@MattParker我一直在使用sqldf包对数据帧进行一整套复杂查询,确实需要它来进行自交叉连接(即data.frame交叉连接本身),我想知道从性能角度来看它是如何比较的... 。???
尼古拉斯·汉密尔顿

9
@ADP我从未真正使用过sqldf,所以我不确定速度。如果性能对您来说是一个主要问题,那么您还应该研究一下data.table软件包-这是一整套全新的连接语法,但它的速度比我们在此讨论的要快得多。
马特·帕克

5
随着越来越多的清晰度和解释..... mkmanu.wordpress.com/2016/04/08/...
马诺库马尔

42
一项对我有帮助的较小补充-当您想使用多个列进行合并时:merge(x=df1,y=df2, by.x=c("x_col1","x_col2"), by.y=c("y_col1","y_col2"))
Dileep Kumar Patchigolla

8
这部作品在data.table现在,同样的功能只是速度更快。
2016年

222

我建议您检出Gabor Grothendieck的sqldf软件包,该软件包可让您用SQL表示这些操作。

library(sqldf)

## inner join
df3 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              JOIN df2 USING(CustomerID)")

## left join (substitute 'right' for right join)
df4 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              LEFT JOIN df2 USING(CustomerID)")

我发现SQL语法比R语法更简单,更自然(但这可能只反映了我的RDBMS偏见)。

有关联接的更多信息,请参见Gabor的sqldf GitHub


198

有一个用于内部联接的data.table方法,这种方法非常节省时间和内存(对于某些较大的data.frames是必需的):

library(data.table)

dt1 <- data.table(df1, key = "CustomerId") 
dt2 <- data.table(df2, key = "CustomerId")

joined.dt1.dt.2 <- dt1[dt2]

merge也适用于data.tables(因为它是通用和调用merge.data.table

merge(dt1, dt2)

在stackoverflow上记录的data.table:
如何执行data.table合并操作
将外键上的SQL连接转换为R data.table语法
为较大的data.frames R进行合并的有效替代方法
如何使用data.table进行基本的左外部连接在R?

另一个选择是plyr软件包中的join功能

library(plyr)

join(df1, df2,
     type = "inner")

#   CustomerId Product   State
# 1          2 Toaster Alabama
# 2          4   Radio Alabama
# 3          6   Radio    Ohio

为选项typeinnerleftrightfull

From ?join:与不同mergejoin无论使用哪种连接类型,[ ]都会保留x的顺序。


8
+1提及plyr::join。微基准测试表明它的执行速度比快3倍merge
Beasterfield

20
但是,data.table两者的速度要快得多。在SO中也有很大的支持,我看不到很多软件包编写者在这里回答问题的人数和data.table编写者或贡献者一样多。
2014年

1
data.table合并数据帧列表的语法是什么?
Aleksandr Blekh

5
请注意:dt1 [dt2]是右外部联接(不是“纯”内部联接),因此即使dt1中没有匹配的行,来自dt2的所有行也将成为结果的一部分。影响:如果dt2中的键值与dt1的键值不匹配,则结果可能会有不需要的行
R Yoda

8
您可以nomatch = 0L在这种情况下指定@RYoda 。
大卫·阿伦堡

181

您也可以使用Hadley Wickham的超棒dplyr软件包进行联接。

library(dplyr)

#make sure that CustomerId cols are both type numeric
#they ARE not using the provided code in question and dplyr will complain
df1$CustomerId <- as.numeric(df1$CustomerId)
df2$CustomerId <- as.numeric(df2$CustomerId)

突变联接:使用df2中的匹配项将列添加到df1

#inner
inner_join(df1, df2)

#left outer
left_join(df1, df2)

#right outer
right_join(df1, df2)

#alternate right outer
left_join(df2, df1)

#full join
full_join(df1, df2)

过滤联接:过滤出df1中的行,请勿修改列

semi_join(df1, df2) #keep only observations in df1 that match in df2.
anti_join(df1, df2) #drops all observations in df1 that match in df2.

16
为什么需要转换CustomerId为数字?我没有在文档中(针对plyrdplyr)都提及这种限制。如果merge列的character类型(特别是对感兴趣plyr),您的代码将无法正常工作?我想念什么吗?
Aleksandr Blekh 2014年

可以使用semi_join(df1,df2,df3,df4)仅在df1中保留与其余列匹配的观测值吗?
Ghose Bishwajit

@GhoseBishwajit假设您的意思是其余数据帧而不是列,则可以在df2,df3和df4上使用rbind,如果它们具有相同的结构,例如semi_join(df1,rbind(df2,df3,df4))
abhy3

是的,我的意思是数据框。但是它们的结构不同,因为某些行中缺少某些结构。对于四个数据框,我有关于不同国家/地区的四个不同指标(GDP,GNP GINI,MMR)的数据。我想以这样的方式加入数据框,即在所有四个指标中仅使那些国家在场。
Ghose Bishwajit

86

R Wiki上有一些很好的例子。我会在这里偷几个:

合并方法

由于您的键名相同,因此进行内部联接的简短方法是merge():

merge(df1,df2)

可以使用“ all”关键字创建完整的内部联接(来自两个表的所有记录):

merge(df1,df2, all=TRUE)

df1和df2的左外部联接:

merge(df1,df2, all.x=TRUE)

df1和df2的右外部连接:

merge(df1,df2, all.y=TRUE)

您可以向下翻转'em','slap'em和'rub'em以获得您询问的其他两个外部联接:)

下标方法

使用下标方法在左侧带有df1的外部左连接为:

df1[,"State"]<-df2[df1[ ,"Product"], "State"]

外部联接的其他组合可以通过杂凑左外部联接下标示例来创建。(是的,我知道这相当于说“我将其留给读者练习……”)


4
“ R Wiki”链接已损坏。
zx8754

79

2014年的新功能:

尤其是如果您还对一般的数据操作(包括排序,过滤,子集,汇总等)感兴趣,则一定要看一下dplyr,它附带了各种功能,旨在帮助您专门处理数据帧和某些其他数据库类型。它甚至提供了相当复杂的SQL接口,甚至提供了将(大多数)SQL代码直接转换为R的功能。

dplyr软件包中的四个与联接有关的函数是(引用):

  • inner_join(x, y, by = NULL, copy = FALSE, ...):返回x中所有在y中有匹配值的行,以及x和y中的所有列
  • left_join(x, y, by = NULL, copy = FALSE, ...):从x返回所有行,从x和y返回所有列
  • semi_join(x, y, by = NULL, copy = FALSE, ...):返回x中所有在y中有匹配值的行,仅保留x中的列。
  • anti_join(x, y, by = NULL, copy = FALSE, ...):从x返回所有y中没有匹配值的行,仅保留x中的列

这一切都在这里非常详细。

可以通过选择列select(df,"column")。如果那还不足以满足您的SQL需求,那么sql()您可以使用其中的功能,按原样输入SQL代码,它将执行您指定的操作,就像您一直在用R编写一样(有关更多信息,请参阅到dplyr / databases小插图)。例如,如果正确应用,sql("SELECT * FROM hflights")将从“ hflights” dplyr表(“ tbl”)中选择所有列。


鉴于dplyr软件包在过去两年中已变得越来越重要,绝对是最佳解决方案。
Marco Fumagalli

72

更新data.table方法以连接数据集。有关每种连接类型,请参见以下示例。有两种方法,一种是从[.data.table将第二个data.table作为第一个参数传递给子集时,另一种方法是使用merge分派到快速data.table方法的函数。

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2L, 4L, 7L), State = c(rep("Alabama", 2), rep("Ohio", 1))) # one value changed to show full outer join

library(data.table)

dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
setkey(dt1, CustomerId)
setkey(dt2, CustomerId)
# right outer join keyed data.tables
dt1[dt2]

setkey(dt1, NULL)
setkey(dt2, NULL)
# right outer join unkeyed data.tables - use `on` argument
dt1[dt2, on = "CustomerId"]

# left outer join - swap dt1 with dt2
dt2[dt1, on = "CustomerId"]

# inner join - use `nomatch` argument
dt1[dt2, nomatch=NULL, on = "CustomerId"]

# anti join - use `!` operator
dt1[!dt2, on = "CustomerId"]

# inner join - using merge method
merge(dt1, dt2, by = "CustomerId")

# full outer join
merge(dt1, dt2, by = "CustomerId", all = TRUE)

# see ?merge.data.table arguments for other cases

在基准测试以下,基于R,sqldf,dplyr和data.table。
基准测试未加密/未索引的数据集。基准测试是对50M-1行数据集执行的,联接列上有50M-2个通用值,因此可以测试每种情况(内部,左,右,满),联接仍然不容易执行。这种连接类型很好地强调了连接算法。时序为sqldf:0.4.11dplyr:0.7.8data.table:1.12.0

# inner
Unit: seconds
   expr       min        lq      mean    median        uq       max neval
   base 111.66266 111.66266 111.66266 111.66266 111.66266 111.66266     1
  sqldf 624.88388 624.88388 624.88388 624.88388 624.88388 624.88388     1
  dplyr  51.91233  51.91233  51.91233  51.91233  51.91233  51.91233     1
     DT  10.40552  10.40552  10.40552  10.40552  10.40552  10.40552     1
# left
Unit: seconds
   expr        min         lq       mean     median         uq        max 
   base 142.782030 142.782030 142.782030 142.782030 142.782030 142.782030     
  sqldf 613.917109 613.917109 613.917109 613.917109 613.917109 613.917109     
  dplyr  49.711912  49.711912  49.711912  49.711912  49.711912  49.711912     
     DT   9.674348   9.674348   9.674348   9.674348   9.674348   9.674348       
# right
Unit: seconds
   expr        min         lq       mean     median         uq        max
   base 122.366301 122.366301 122.366301 122.366301 122.366301 122.366301     
  sqldf 611.119157 611.119157 611.119157 611.119157 611.119157 611.119157     
  dplyr  50.384841  50.384841  50.384841  50.384841  50.384841  50.384841     
     DT   9.899145   9.899145   9.899145   9.899145   9.899145   9.899145     
# full
Unit: seconds
  expr       min        lq      mean    median        uq       max neval
  base 141.79464 141.79464 141.79464 141.79464 141.79464 141.79464     1
 dplyr  94.66436  94.66436  94.66436  94.66436  94.66436  94.66436     1
    DT  21.62573  21.62573  21.62573  21.62573  21.62573  21.62573     1

要知道还有其他类型的连接,你可以使用执行data.table
- 在加入更新,如果你想查找另一个表中的值传送到主表-
- 上加入骨料,如果你想要聚合关键要加入你没有-实现所有联接结果
- 重叠联接 -如果要按范围合并
- 滚动联接 -如果希望通过向前或向后滚动使其能够与先前行/后续行中的值匹配
- 非等联接 -如果连接条件不相等

复制代码:

library(microbenchmark)
library(sqldf)
library(dplyr)
library(data.table)
sapply(c("sqldf","dplyr","data.table"), packageVersion, simplify=FALSE)

n = 5e7
set.seed(108)
df1 = data.frame(x=sample(n,n-1L), y1=rnorm(n-1L))
df2 = data.frame(x=sample(n,n-1L), y2=rnorm(n-1L))
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)

mb = list()
# inner join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x"),
               sqldf = sqldf("SELECT * FROM df1 INNER JOIN df2 ON df1.x = df2.x"),
               dplyr = inner_join(df1, df2, by = "x"),
               DT = dt1[dt2, nomatch=NULL, on = "x"]) -> mb$inner

# left outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.x = TRUE),
               sqldf = sqldf("SELECT * FROM df1 LEFT OUTER JOIN df2 ON df1.x = df2.x"),
               dplyr = left_join(df1, df2, by = c("x"="x")),
               DT = dt2[dt1, on = "x"]) -> mb$left

# right outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.y = TRUE),
               sqldf = sqldf("SELECT * FROM df2 LEFT OUTER JOIN df1 ON df2.x = df1.x"),
               dplyr = right_join(df1, df2, by = "x"),
               DT = dt1[dt2, on = "x"]) -> mb$right

# full outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all = TRUE),
               dplyr = full_join(df1, df2, by = "x"),
               DT = merge(dt1, dt2, by = "x", all = TRUE)) -> mb$full

lapply(mb, print) -> nul

是否值得添加一个示例来说明如何也使用不同的列名on =
SymbolixAU

1
@Symbolix,我们可能要等待1.9.8发行,因为它将把非等距联接运算符添加到onarg
jangorecki,2016年

另一个想法;值得一提的是,merge.data.table这里有默认sort = TRUE参数,该参数在合并过程中添加了一个键,并将其保留在结果中。这是要提防的事情,尤其是在您要避免设置键的情况下。
SymbolixAU

1
我感到惊讶的是,没有人提到如果有公仔,其中大多数都无法正常工作……
statquant

@statquant您可以使用进行笛卡尔联接data.table,这是什么意思?请您更具体一点。
David Arenburg

32

dplyr从0.4开始实现了所有这些连接,包括outer_join,但是值得注意的是,在0.4之前的前几个版本中,dplyr 以前没有提供过outer_join,因此,有很多很糟糕的解决方法,用户代码在相当长的一段时间内一直徘徊之后(您仍可以在那个时期在SO,Kaggle答案和github中找到这样的代码。因此,此答案仍然有用。)

与联接有关的发行要点

v0.5(6/2016)

  • 处理POSIXct类型,时区,重复项,不同因子级别。更好的错误和警告。
  • 新的后缀参数可控制接收哪些后缀重复的变量名(#1296)

v0.4.0(1/2015)

  • 实施右联接和外联接(#96)
  • 突变联接,将新变量从另一个匹配的行添加到一个表。过滤联接,根据联接是否与另一表中的观测值匹配来过滤其中一个表中的观测值。

v0.3(10/2014)

  • 现在可以通过每个表中的不同变量进行left_join:df1%>%left_join(df2,c(“ var1” =“ var2”))

v0.2(5/2014)

  • * _join()不再对列名重新排序(#324)

v0.1.3(4/2014)

哈德利在该问题中的评论的变通办法:

  • right_join(x,y)在行方面与left_join(y,x)相同,只是列的顺序不同。使用select(new_column_order)轻松解决
  • external_join基本上是union(left_join(x,y),right_join(x,y))-即保留两个数据帧中的所有行。

1
@Gregor:不,不应删除它。对于R用户来说,了解联接功能已经丢失了很多年非常重要,因为那里的大多数代码都包含变通办法或临时手动实现,或者带有索引向量的临时文件,或者更糟糕的是避免使用这些软件包或操作。每周我都会在SO上看到这样的问题。我们将在未来多年消除这种混乱。
smci 2016年

@Gregor和其他提出问题的人:更新,总结了历史变化以及提出该问题几年来缺少的内容。这说明了为什么那个时期的代码主要是hacky,或者避免使用dplyr联接而回落到合并中。如果您检查SO和Kaggle上的历史代码库,您仍然可以看到采用延迟以及导致严重混淆的用户代码。请告诉我您是否仍然缺少答案。
smci

@Gregor:我们中在2014年中期采用它的人没有选择最好的时刻。(我认为2013年左右有更早的版本(0.0.x),但不,我的错误。)不管怎样,到2015年仍然有很多废话代码,这就是促使我发布此代码的原因,我试图揭开神秘面纱我在Kaggle,github等上找到的原始人。
smci

2
是的,我了解,我认为您在这方面做得很好。(我也是一个早期采用者,虽然我仍然喜欢dplyr语法,但是从lazyevalrlang后端的更改对我来说是一堆代码,这驱使我学习更多的知识data.table,现在我主要使用data.table。)
Gregor Thomas

@Gregor:有趣的是,您能指出涉及我的任何问题(您或其他人的问题)吗?似乎我们对plyr/ dplyr/ data.table/ tidyverse的采用在很大程度上取决于我们从哪一年开始的,以及那时(与现在相比)软件包的状态(胚胎)?
smci

25

在连接两个数据帧时,我惊奇地发现merge(..., all.x = TRUE, all.y = TRUE),将两个数据帧各有约100万行,一个有2列,另一个有〜20行dplyr::full_join()。这是dplyr v0.4

合并大约需要17秒,full_join需要大约65秒。

不过有些吃,因为我通常默认使用dplyr进行操作。


24

对于具有0..*:0..1基数的左连接或具有基数的右连接,0..1:0..*可以从连接器中就地分配单边列(0..1联接,可以将来自联接器(0..*表)直接到联接器(表)上,从而避免创建全新的数据表。这要求将参与者中的键列匹配到参与者中,并相应地索引并排序参与者的行以进行分配。

如果键是单个列,那么我们可以使用单个调用进行match()匹配。我将在此答案中介绍这种情况。

这是一个基于OP的示例,除了我添加了一个额外的行df2,其ID为7,以测试连接器中不匹配键的情况。这实际上是df1左联接df2

df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L)));
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas'));
df1[names(df2)[-1L]] <- df2[match(df1[,1L],df2[,1L]),-1L];
df1;
##   CustomerId Product   State
## 1          1 Toaster    <NA>
## 2          2 Toaster Alabama
## 3          3 Toaster    <NA>
## 4          4   Radio Alabama
## 5          5   Radio    <NA>
## 6          6   Radio    Ohio

在上面,我对键列是两个输入表的第一列的假设进行了硬编码。我认为,通常来说,这不是一个不合理的假设,因为如果您有一个带有键列的data.frame,那么如果没有将它设置为data.frame的第一列,那将很奇怪。一开始。而且,您可以随时对列进行重新排序。这种假设的一个有利结果是,键列的名称不必进行硬编码,尽管我认为它只是将一种假设替换为另一种假设。简洁是整数索引以及速度的另一个优点。在下面的基准测试中,我将更改实现以使用字符串名称索引来匹配竞争的实现。

我认为,如果要对单个大表保留多个表,这是一个特别合适的解决方案。对于每个合并重复地重建整个表将是不必要且效率低下的。

另一方面,如果出于任何原因需要参加者通过此操作保持不变,则不能使用此解决方案,因为它直接修改了参加者。尽管在那种情况下,您可以简单地制作副本并在副本上执行就地分配。


附带说明一下,我简要研究了多列键的可能匹配解决方案。不幸的是,我找到的唯一匹配的解决方案是:

  • 无效的串联。例如match(interaction(df1$a,df1$b),interaction(df2$a,df2$b)),或与paste()
  • 低效的笛卡尔连词,例如 outer(df1$a,df2$a,`==`) & outer(df1$b,df2$b,`==`)
  • base R merge()和等效的基于包的合并函数,它们始终分配新表以返回合并的结果,因此不适合就地基于分配的解决方案。

例如,看到在不同的数据帧匹配的多个列,并且让其他列结果配合另外两列,两列多个列匹配,而这个问题,我本来想出了就地解决方案的欺骗,合并用不同数量的在R行的两个数据帧


标杆管理

我决定做自己的基准测试,以了解就地分配方法与该问题中提供的其他解决方案的比较。

测试代码:

library(microbenchmark);
library(data.table);
library(sqldf);
library(plyr);
library(dplyr);

solSpecs <- list(
    merge=list(testFuncs=list(
        inner=function(df1,df2,key) merge(df1,df2,key),
        left =function(df1,df2,key) merge(df1,df2,key,all.x=T),
        right=function(df1,df2,key) merge(df1,df2,key,all.y=T),
        full =function(df1,df2,key) merge(df1,df2,key,all=T)
    )),
    data.table.unkeyed=list(argSpec='data.table.unkeyed',testFuncs=list(
        inner=function(dt1,dt2,key) dt1[dt2,on=key,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2,key) dt2[dt1,on=key,allow.cartesian=T],
        right=function(dt1,dt2,key) dt1[dt2,on=key,allow.cartesian=T],
        full =function(dt1,dt2,key) merge(dt1,dt2,key,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    data.table.keyed=list(argSpec='data.table.keyed',testFuncs=list(
        inner=function(dt1,dt2) dt1[dt2,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2) dt2[dt1,allow.cartesian=T],
        right=function(dt1,dt2) dt1[dt2,allow.cartesian=T],
        full =function(dt1,dt2) merge(dt1,dt2,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    sqldf.unindexed=list(testFuncs=list( ## note: must pass connection=NULL to avoid running against the live DB connection, which would result in collisions with the residual tables from the last query upload
        inner=function(df1,df2,key) sqldf(paste0('select * from df1 inner join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        left =function(df1,df2,key) sqldf(paste0('select * from df1 left join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        right=function(df1,df2,key) sqldf(paste0('select * from df2 left join df1 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from df1 full join df2 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    sqldf.indexed=list(testFuncs=list( ## important: requires an active DB connection with preindexed main.df1 and main.df2 ready to go; arguments are actually ignored
        inner=function(df1,df2,key) sqldf(paste0('select * from main.df1 inner join main.df2 using(',paste(collapse=',',key),')')),
        left =function(df1,df2,key) sqldf(paste0('select * from main.df1 left join main.df2 using(',paste(collapse=',',key),')')),
        right=function(df1,df2,key) sqldf(paste0('select * from main.df2 left join main.df1 using(',paste(collapse=',',key),')')) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from main.df1 full join main.df2 using(',paste(collapse=',',key),')')) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    plyr=list(testFuncs=list(
        inner=function(df1,df2,key) join(df1,df2,key,'inner'),
        left =function(df1,df2,key) join(df1,df2,key,'left'),
        right=function(df1,df2,key) join(df1,df2,key,'right'),
        full =function(df1,df2,key) join(df1,df2,key,'full')
    )),
    dplyr=list(testFuncs=list(
        inner=function(df1,df2,key) inner_join(df1,df2,key),
        left =function(df1,df2,key) left_join(df1,df2,key),
        right=function(df1,df2,key) right_join(df1,df2,key),
        full =function(df1,df2,key) full_join(df1,df2,key)
    )),
    in.place=list(testFuncs=list(
        left =function(df1,df2,key) { cns <- setdiff(names(df2),key); df1[cns] <- df2[match(df1[,key],df2[,key]),cns]; df1; },
        right=function(df1,df2,key) { cns <- setdiff(names(df1),key); df2[cns] <- df1[match(df2[,key],df1[,key]),cns]; df2; }
    ))
);

getSolTypes <- function() names(solSpecs);
getJoinTypes <- function() unique(unlist(lapply(solSpecs,function(x) names(x$testFuncs))));
getArgSpec <- function(argSpecs,key=NULL) if (is.null(key)) argSpecs$default else argSpecs[[key]];

initSqldf <- function() {
    sqldf(); ## creates sqlite connection on first run, cleans up and closes existing connection otherwise
    if (exists('sqldfInitFlag',envir=globalenv(),inherits=F) && sqldfInitFlag) { ## false only on first run
        sqldf(); ## creates a new connection
    } else {
        assign('sqldfInitFlag',T,envir=globalenv()); ## set to true for the one and only time
    }; ## end if
    invisible();
}; ## end initSqldf()

setUpBenchmarkCall <- function(argSpecs,joinType,solTypes=getSolTypes(),env=parent.frame()) {
    ## builds and returns a list of expressions suitable for passing to the list argument of microbenchmark(), and assigns variables to resolve symbol references in those expressions
    callExpressions <- list();
    nms <- character();
    for (solType in solTypes) {
        testFunc <- solSpecs[[solType]]$testFuncs[[joinType]];
        if (is.null(testFunc)) next; ## this join type is not defined for this solution type
        testFuncName <- paste0('tf.',solType);
        assign(testFuncName,testFunc,envir=env);
        argSpecKey <- solSpecs[[solType]]$argSpec;
        argSpec <- getArgSpec(argSpecs,argSpecKey);
        argList <- setNames(nm=names(argSpec$args),vector('list',length(argSpec$args)));
        for (i in seq_along(argSpec$args)) {
            argName <- paste0('tfa.',argSpecKey,i);
            assign(argName,argSpec$args[[i]],envir=env);
            argList[[i]] <- if (i%in%argSpec$copySpec) call('copy',as.symbol(argName)) else as.symbol(argName);
        }; ## end for
        callExpressions[[length(callExpressions)+1L]] <- do.call(call,c(list(testFuncName),argList),quote=T);
        nms[length(nms)+1L] <- solType;
    }; ## end for
    names(callExpressions) <- nms;
    callExpressions;
}; ## end setUpBenchmarkCall()

harmonize <- function(res) {
    res <- as.data.frame(res); ## coerce to data.frame
    for (ci in which(sapply(res,is.factor))) res[[ci]] <- as.character(res[[ci]]); ## coerce factor columns to character
    for (ci in which(sapply(res,is.logical))) res[[ci]] <- as.integer(res[[ci]]); ## coerce logical columns to integer (works around sqldf quirk of munging logicals to integers)
    ##for (ci in which(sapply(res,inherits,'POSIXct'))) res[[ci]] <- as.double(res[[ci]]); ## coerce POSIXct columns to double (works around sqldf quirk of losing POSIXct class) ----- POSIXct doesn't work at all in sqldf.indexed
    res <- res[order(names(res))]; ## order columns
    res <- res[do.call(order,res),]; ## order rows
    res;
}; ## end harmonize()

checkIdentical <- function(argSpecs,solTypes=getSolTypes()) {
    for (joinType in getJoinTypes()) {
        callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
        if (length(callExpressions)<2L) next;
        ex <- harmonize(eval(callExpressions[[1L]]));
        for (i in seq(2L,len=length(callExpressions)-1L)) {
            y <- harmonize(eval(callExpressions[[i]]));
            if (!isTRUE(all.equal(ex,y,check.attributes=F))) {
                ex <<- ex;
                y <<- y;
                solType <- names(callExpressions)[i];
                stop(paste0('non-identical: ',solType,' ',joinType,'.'));
            }; ## end if
        }; ## end for
    }; ## end for
    invisible();
}; ## end checkIdentical()

testJoinType <- function(argSpecs,joinType,solTypes=getSolTypes(),metric=NULL,times=100L) {
    callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
    bm <- microbenchmark(list=callExpressions,times=times);
    if (is.null(metric)) return(bm);
    bm <- summary(bm);
    res <- setNames(nm=names(callExpressions),bm[[metric]]);
    attr(res,'unit') <- attr(bm,'unit');
    res;
}; ## end testJoinType()

testAllJoinTypes <- function(argSpecs,solTypes=getSolTypes(),metric=NULL,times=100L) {
    joinTypes <- getJoinTypes();
    resList <- setNames(nm=joinTypes,lapply(joinTypes,function(joinType) testJoinType(argSpecs,joinType,solTypes,metric,times)));
    if (is.null(metric)) return(resList);
    units <- unname(unlist(lapply(resList,attr,'unit')));
    res <- do.call(data.frame,c(list(join=joinTypes),setNames(nm=solTypes,rep(list(rep(NA_real_,length(joinTypes))),length(solTypes))),list(unit=units,stringsAsFactors=F)));
    for (i in seq_along(resList)) res[i,match(names(resList[[i]]),names(res))] <- resList[[i]];
    res;
}; ## end testAllJoinTypes()

testGrid <- function(makeArgSpecsFunc,sizes,overlaps,solTypes=getSolTypes(),joinTypes=getJoinTypes(),metric='median',times=100L) {

    res <- expand.grid(size=sizes,overlap=overlaps,joinType=joinTypes,stringsAsFactors=F);
    res[solTypes] <- NA_real_;
    res$unit <- NA_character_;
    for (ri in seq_len(nrow(res))) {

        size <- res$size[ri];
        overlap <- res$overlap[ri];
        joinType <- res$joinType[ri];

        argSpecs <- makeArgSpecsFunc(size,overlap);

        checkIdentical(argSpecs,solTypes);

        cur <- testJoinType(argSpecs,joinType,solTypes,metric,times);
        res[ri,match(names(cur),names(res))] <- cur;
        res$unit[ri] <- attr(cur,'unit');

    }; ## end for

    res;

}; ## end testGrid()

这是我之前演示的基于OP的示例的基准:

## OP's example, supplemented with a non-matching row in df2
argSpecs <- list(
    default=list(copySpec=1:2,args=list(
        df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L))),
        df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas')),
        'CustomerId'
    )),
    data.table.unkeyed=list(copySpec=1:2,args=list(
        as.data.table(df1),
        as.data.table(df2),
        'CustomerId'
    )),
    data.table.keyed=list(copySpec=1:2,args=list(
        setkey(as.data.table(df1),CustomerId),
        setkey(as.data.table(df2),CustomerId)
    ))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(CustomerId);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(CustomerId);'); ## upload and create an sqlite index on df2

checkIdentical(argSpecs);

testAllJoinTypes(argSpecs,metric='median');
##    join    merge data.table.unkeyed data.table.keyed sqldf.unindexed sqldf.indexed      plyr    dplyr in.place         unit
## 1 inner  644.259           861.9345          923.516        9157.752      1580.390  959.2250 270.9190       NA microseconds
## 2  left  713.539           888.0205          910.045        8820.334      1529.714  968.4195 270.9185 224.3045 microseconds
## 3 right 1221.804           909.1900          923.944        8930.668      1533.135 1063.7860 269.8495 218.1035 microseconds
## 4  full 1302.203          3107.5380         3184.729              NA            NA 1593.6475 270.7055       NA microseconds

在这里,我以随机输入数据为基准,尝试在两个输入表之间使用不同的比例和不同的键重叠模式。此基准仍然仅限于单列整数键的情况。同样,为了确保就地解决方案适用于同一张表的左右联接,所有随机测试数据都使用0..1:0..1基数。这是通过在生成第二个data.frame的关键列时进行采样而不替换第一个data.frame的关键列来实现的。

makeArgSpecs.singleIntegerKey.optionalOneToOne <- function(size,overlap) {

    com <- as.integer(size*overlap);

    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- data.frame(id=sample(size),y1=rnorm(size),y2=rnorm(size)),
            df2 <- data.frame(id=sample(c(if (com>0L) sample(df1$id,com) else integer(),seq(size+1L,len=size-com))),y3=rnorm(size),y4=rnorm(size)),
            'id'
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            'id'
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkey(as.data.table(df1),id),
            setkey(as.data.table(df2),id)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf('create index df1_key on df1(id);'); ## upload and create an sqlite index on df1
    sqldf('create index df2_key on df2(id);'); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.singleIntegerKey.optionalOneToOne()

## cross of various input sizes and key overlaps
sizes <- c(1e1L,1e3L,1e6L);
overlaps <- c(0.99,0.5,0.01);
system.time({ res <- testGrid(makeArgSpecs.singleIntegerKey.optionalOneToOne,sizes,overlaps); });
##     user   system  elapsed
## 22024.65 12308.63 34493.19

我编写了一些代码来创建上述结果的对数-对数图。我为每个重叠百分比生成了一个单独的图。有点混乱,但是我喜欢所有解决方案类型和联接类型在同一图中表示。

我使用样条曲线插值法显示了每个解决方案/联接类型组合的平滑曲线,并使用单独的pch符号绘制。连接类型由pch符号捕获,内部圆括号,左侧和右侧尖括号分别表示左和右,圆点用菱形表示。解决方案类型由图例中所示的颜色捕获。

plotRes <- function(res,titleFunc,useFloor=F) {
    solTypes <- setdiff(names(res),c('size','overlap','joinType','unit')); ## derive from res
    normMult <- c(microseconds=1e-3,milliseconds=1); ## normalize to milliseconds
    joinTypes <- getJoinTypes();
    cols <- c(merge='purple',data.table.unkeyed='blue',data.table.keyed='#00DDDD',sqldf.unindexed='brown',sqldf.indexed='orange',plyr='red',dplyr='#00BB00',in.place='magenta');
    pchs <- list(inner=20L,left='<',right='>',full=23L);
    cexs <- c(inner=0.7,left=1,right=1,full=0.7);
    NP <- 60L;
    ord <- order(decreasing=T,colMeans(res[res$size==max(res$size),solTypes],na.rm=T));
    ymajors <- data.frame(y=c(1,1e3),label=c('1ms','1s'),stringsAsFactors=F);
    for (overlap in unique(res$overlap)) {
        x1 <- res[res$overlap==overlap,];
        x1[solTypes] <- x1[solTypes]*normMult[x1$unit]; x1$unit <- NULL;
        xlim <- c(1e1,max(x1$size));
        xticks <- 10^seq(log10(xlim[1L]),log10(xlim[2L]));
        ylim <- c(1e-1,10^((if (useFloor) floor else ceiling)(log10(max(x1[solTypes],na.rm=T))))); ## use floor() to zoom in a little more, only sqldf.unindexed will break above, but xpd=NA will keep it visible
        yticks <- 10^seq(log10(ylim[1L]),log10(ylim[2L]));
        yticks.minor <- rep(yticks[-length(yticks)],each=9L)*1:9;
        plot(NA,xlim=xlim,ylim=ylim,xaxs='i',yaxs='i',axes=F,xlab='size (rows)',ylab='time (ms)',log='xy');
        abline(v=xticks,col='lightgrey');
        abline(h=yticks.minor,col='lightgrey',lty=3L);
        abline(h=yticks,col='lightgrey');
        axis(1L,xticks,parse(text=sprintf('10^%d',as.integer(log10(xticks)))));
        axis(2L,yticks,parse(text=sprintf('10^%d',as.integer(log10(yticks)))),las=1L);
        axis(4L,ymajors$y,ymajors$label,las=1L,tick=F,cex.axis=0.7,hadj=0.5);
        for (joinType in rev(joinTypes)) { ## reverse to draw full first, since it's larger and would be more obtrusive if drawn last
            x2 <- x1[x1$joinType==joinType,];
            for (solType in solTypes) {
                if (any(!is.na(x2[[solType]]))) {
                    xy <- spline(x2$size,x2[[solType]],xout=10^(seq(log10(x2$size[1L]),log10(x2$size[nrow(x2)]),len=NP)));
                    points(xy$x,xy$y,pch=pchs[[joinType]],col=cols[solType],cex=cexs[joinType],xpd=NA);
                }; ## end if
            }; ## end for
        }; ## end for
        ## custom legend
        ## due to logarithmic skew, must do all distance calcs in inches, and convert to user coords afterward
        ## the bottom-left corner of the legend will be defined in normalized figure coords, although we can convert to inches immediately
        leg.cex <- 0.7;
        leg.x.in <- grconvertX(0.275,'nfc','in');
        leg.y.in <- grconvertY(0.6,'nfc','in');
        leg.x.user <- grconvertX(leg.x.in,'in');
        leg.y.user <- grconvertY(leg.y.in,'in');
        leg.outpad.w.in <- 0.1;
        leg.outpad.h.in <- 0.1;
        leg.midpad.w.in <- 0.1;
        leg.midpad.h.in <- 0.1;
        leg.sol.w.in <- max(strwidth(solTypes,'in',leg.cex));
        leg.sol.h.in <- max(strheight(solTypes,'in',leg.cex))*1.5; ## multiplication factor for greater line height
        leg.join.w.in <- max(strheight(joinTypes,'in',leg.cex))*1.5; ## ditto
        leg.join.h.in <- max(strwidth(joinTypes,'in',leg.cex));
        leg.main.w.in <- leg.join.w.in*length(joinTypes);
        leg.main.h.in <- leg.sol.h.in*length(solTypes);
        leg.x2.user <- grconvertX(leg.x.in+leg.outpad.w.in*2+leg.main.w.in+leg.midpad.w.in+leg.sol.w.in,'in');
        leg.y2.user <- grconvertY(leg.y.in+leg.outpad.h.in*2+leg.main.h.in+leg.midpad.h.in+leg.join.h.in,'in');
        leg.cols.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.join.w.in*(0.5+seq(0L,length(joinTypes)-1L)),'in');
        leg.lines.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in-leg.sol.h.in*(0.5+seq(0L,length(solTypes)-1L)),'in');
        leg.sol.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.main.w.in+leg.midpad.w.in,'in');
        leg.join.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in+leg.midpad.h.in,'in');
        rect(leg.x.user,leg.y.user,leg.x2.user,leg.y2.user,col='white');
        text(leg.sol.x.user,leg.lines.y.user,solTypes[ord],cex=leg.cex,pos=4L,offset=0);
        text(leg.cols.x.user,leg.join.y.user,joinTypes,cex=leg.cex,pos=4L,offset=0,srt=90); ## srt rotation applies *after* pos/offset positioning
        for (i in seq_along(joinTypes)) {
            joinType <- joinTypes[i];
            points(rep(leg.cols.x.user[i],length(solTypes)),ifelse(colSums(!is.na(x1[x1$joinType==joinType,solTypes[ord]]))==0L,NA,leg.lines.y.user),pch=pchs[[joinType]],col=cols[solTypes[ord]]);
        }; ## end for
        title(titleFunc(overlap));
        readline(sprintf('overlap %.02f',overlap));
    }; ## end for
}; ## end plotRes()

titleFunc <- function(overlap) sprintf('R merge solutions: single-column integer key, 0..1:0..1 cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,T);

R合并基准单个列整数键,可选一对一99

R合并基准单个列整数键,可选一对一50

R合并基准单个列整数键,可选一对一


关于键列的数量和类型以及基数,这是第二个更大规模的基准测试。在此基准测试中,我使用了三个关键列:一个字符,一个整数和一个逻辑,对基数(即0..*:0..*)没有任何限制。(通常,由于浮点比较的复杂性,不建议将键列定义为双精度或复数值,并且基本上没有人使用原始类型,对于键列而言则少得多,因此我没有在键中包含这些类型另外,为了提供信息,我最初尝试通过包含POSIXct键列来使用四个键列,但是POSIXct类型sqldf.indexed由于某种原因不能很好地与解决方案配合使用,可能是由于浮点比较异常,所以我删除它。)

makeArgSpecs.assortedKey.optionalManyToMany <- function(size,overlap,uniquePct=75) {

    ## number of unique keys in df1
    u1Size <- as.integer(size*uniquePct/100);

    ## (roughly) divide u1Size into bases, so we can use expand.grid() to produce the required number of unique key values with repetitions within individual key columns
    ## use ceiling() to ensure we cover u1Size; will truncate afterward
    u1SizePerKeyColumn <- as.integer(ceiling(u1Size^(1/3)));

    ## generate the unique key values for df1
    keys1 <- expand.grid(stringsAsFactors=F,
        idCharacter=replicate(u1SizePerKeyColumn,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=sample(u1SizePerKeyColumn),
        idLogical=sample(c(F,T),u1SizePerKeyColumn,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+sample(u1SizePerKeyColumn)
    )[seq_len(u1Size),];

    ## rbind some repetitions of the unique keys; this will prepare one side of the many-to-many relationship
    ## also scramble the order afterward
    keys1 <- rbind(keys1,keys1[sample(nrow(keys1),size-u1Size,T),])[sample(size),];

    ## common and unilateral key counts
    com <- as.integer(size*overlap);
    uni <- size-com;

    ## generate some unilateral keys for df2 by synthesizing outside of the idInteger range of df1
    keys2 <- data.frame(stringsAsFactors=F,
        idCharacter=replicate(uni,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=u1SizePerKeyColumn+sample(uni),
        idLogical=sample(c(F,T),uni,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+u1SizePerKeyColumn+sample(uni)
    );

    ## rbind random keys from df1; this will complete the many-to-many relationship
    ## also scramble the order afterward
    keys2 <- rbind(keys2,keys1[sample(nrow(keys1),com,T),])[sample(size),];

    ##keyNames <- c('idCharacter','idInteger','idLogical','idPOSIXct');
    keyNames <- c('idCharacter','idInteger','idLogical');
    ## note: was going to use raw and complex type for two of the non-key columns, but data.table doesn't seem to fully support them
    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- cbind(stringsAsFactors=F,keys1,y1=sample(c(F,T),size,T),y2=sample(size),y3=rnorm(size),y4=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            df2 <- cbind(stringsAsFactors=F,keys2,y5=sample(c(F,T),size,T),y6=sample(size),y7=rnorm(size),y8=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            keyNames
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            keyNames
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkeyv(as.data.table(df1),keyNames),
            setkeyv(as.data.table(df2),keyNames)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf(paste0('create index df1_key on df1(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df1
    sqldf(paste0('create index df2_key on df2(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.assortedKey.optionalManyToMany()

sizes <- c(1e1L,1e3L,1e5L); ## 1e5L instead of 1e6L to respect more heavy-duty inputs
overlaps <- c(0.99,0.5,0.01);
solTypes <- setdiff(getSolTypes(),'in.place');
system.time({ res <- testGrid(makeArgSpecs.assortedKey.optionalManyToMany,sizes,overlaps,solTypes); });
##     user   system  elapsed
## 38895.50   784.19 39745.53

使用与上面给出的相同绘图代码生成的绘图:

titleFunc <- function(overlap) sprintf('R merge solutions: character/integer/logical key, 0..*:0..* cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,F);

R合并基准各式各样的键,可选多对多99

R合并基准各式各样的键,可选多对多50

R合并基准各种键(可选,多对多1)


非常好的分析,但是将标度从10 ^ 1设置为10 ^ 6太可惜了,这些设置太小了,速度差几乎无关紧要。10 ^ 6到10 ^ 8将会很有趣!
jangorecki

1
我还发现您在基准测试中包含了类强制的时间,这使其对于联接操作无效。
jangorecki

8
  1. 使用 merge函数,我们可以选择左侧表或右侧表的变量,就像我们都熟悉SQL中的select语句一样(例如:从.....中选择a。* ...或Select b。*)。
  2. 我们必须添加额外的代码,这些代码将从新加入的表中获得子集。

    • SQL:- select a.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

    • R:- merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df1)]

同样的方式

  • SQL:- select b.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

  • R:- merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df2)]


7

有关所有列的内部连接,你也可以使用fintersectdata.table -package或intersectdplyr -package作为替代merge不指定by-columns。这将使两个数据帧之间的行相等:

merge(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
dplyr::intersect(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
data.table::fintersect(setDT(df1), setDT(df2))
#    V1 V2
# 1:  B  2
# 2:  C  3

示例数据:

df1 <- data.frame(V1 = LETTERS[1:4], V2 = 1:4)
df2 <- data.frame(V1 = LETTERS[2:3], V2 = 2:3)

5

更新联接。另一种重要的SQL风格的联接是“ 更新联接 ”,其中一个表中的列使用另一表进行更新(或创建)。

修改OP的示例表...

sales = data.frame(
  CustomerId = c(1, 1, 1, 3, 4, 6), 
  Year = 2000:2005,
  Product = c(rep("Toaster", 3), rep("Radio", 3))
)
cust = data.frame(
  CustomerId = c(1, 1, 4, 6), 
  Year = c(2001L, 2002L, 2002L, 2002L),
  State = state.name[1:4]
)

sales
# CustomerId Year Product
#          1 2000 Toaster
#          1 2001 Toaster
#          1 2002 Toaster
#          3 2003   Radio
#          4 2004   Radio
#          6 2005   Radio

cust
# CustomerId Year    State
#          1 2001  Alabama
#          1 2002   Alaska
#          4 2002  Arizona
#          6 2002 Arkansas

假设我们想将客户的状态从添加cust到购买表sales,而忽略year列。使用基数R,我们可以识别匹配的行,然后在以下位置复制值:

sales$State <- cust$State[ match(sales$CustomerId, cust$CustomerId) ]

# CustomerId Year Product    State
#          1 2000 Toaster  Alabama
#          1 2001 Toaster  Alabama
#          1 2002 Toaster  Alabama
#          3 2003   Radio     <NA>
#          4 2004   Radio  Arizona
#          6 2005   Radio Arkansas

# cleanup for the next example
sales$State <- NULL

从这里可以看到,match从客户表中选择第一个匹配的行。


更新具有多个列的联接。当我们仅在单个列上联接并且对第一个匹配感到满意时,上述方法效果很好。假设我们希望客户表中的度量年份与销售年份匹配。

正如@bgoldst的答案所提到的,在这种情况下,可以选择matchwith interaction。更直接地说,可以使用data.table:

library(data.table)
setDT(sales); setDT(cust)

sales[, State := cust[sales, on=.(CustomerId, Year), x.State]]

#    CustomerId Year Product   State
# 1:          1 2000 Toaster    <NA>
# 2:          1 2001 Toaster Alabama
# 3:          1 2002 Toaster  Alaska
# 4:          3 2003   Radio    <NA>
# 5:          4 2004   Radio    <NA>
# 6:          6 2005   Radio    <NA>

# cleanup for next example
sales[, State := NULL]

滚动更新联接。或者,我们可能希望采用在以下位置找到客户的最新状态:

sales[, State := cust[sales, on=.(CustomerId, Year), roll=TRUE, x.State]]

#    CustomerId Year Product    State
# 1:          1 2000 Toaster     <NA>
# 2:          1 2001 Toaster  Alabama
# 3:          1 2002 Toaster   Alaska
# 4:          3 2003   Radio     <NA>
# 5:          4 2004   Radio  Arizona
# 6:          6 2005   Radio Arkansas

最重要的三个示例着重于创建/添加新列。有关更新/修改现有列的示例,请参见相关的R FAQ

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.