熊猫左外联接的结果表大于左表


78

根据我对左外部联接的了解,结果表的行数永远不应超过左表的行数......如果这是错误的话,请告诉我...

我的左表是192572行和8列。

我的右边表格是42160行和5列。

我的左表中有一个名为“ id”的字段,该字段与我的右表中一列称为“键”的字段相匹配。

因此,我将它们合并为:

combined = pd.merge(a,b,how='left',left_on='id',right_on='key')

但是组合的形状是236569。

我有什么误会?


您可以发布一些最小数据来演示此信息吗(请不要全部提供200k)?
Paul H

@PaulH的问题是我找不到执行此操作的原因...当我pd.merge在代码的一小部分上使用它时,结果表的确仅是左侧表的大小
Terence Chow 2014年

Answers:


117

如果键与另一个DataFrame中的多个行匹配,则可以预期这种情况会增加:

In [11]: df = pd.DataFrame([[1, 3], [2, 4]], columns=['A', 'B'])

In [12]: df2 = pd.DataFrame([[1, 5], [1, 6]], columns=['A', 'C'])

In [13]: df.merge(df2, how='left')  # merges on columns A
Out[13]: 
   A  B   C
0  1  3   5
1  1  3   6
2  2  4 NaN

为避免此行为,将重复项放在df2中:

In [21]: df2.drop_duplicates(subset=['A'])  # you can use take_last=True
Out[21]: 
   A  C
0  1  5

In [22]: df.merge(df2.drop_duplicates(subset=['A']), how='left')
Out[22]: 
   A  B   C
0  1  3   5
1  2  4 NaN

有没有办法抑制这种情况?在您的示例中,我不需要看0或1行,而只需看2行中的一条...
Terence Chow

1
@Chowza是的,删除重复项,编辑答案以反映这一点。
安迪·海登2014年

1
仅供参考,cols现在已弃用。相反,请使用“子集”:df.merge(df2.drop_duplicates(subset = ['A']),how ='left')
SummerEla 2015年

3
@SummerEla谢谢!我真的应该仔细研究所有问题并修正不推荐使用的内容(应该可以编写脚本)...
Andy Hayden 2015年

3
刚刚意识到,如果对内部联接而不是对左联接执行此操作,则需要按照答案在两个数据框中删除重复项。
cardamom

7

您还可以使用一些策略来避免此行为,例如,如果并非所有列都被复制,则这些策略不涉及丢失重复的数据。如果你有

In [1]: df = pd.DataFrame([[1, 3], [2, 4]], columns=['A', 'B'])

In [2]: df2 = pd.DataFrame([[1, 5], [1, 6]], columns=['A', 'C'])

一种方法是取重复项的均值(也可以取总和,等等。)

In [3]: df3 = df2.groupby('A').mean().reset_index()

In [4]: df3
Out[4]: 
     C
A     
1  5.5

In [5]: merged = pd.merge(df,df3,on=['A'], how='outer')

In [6]: merged
Out[204]: 
   A  B    C
0  1  3  5.5
1  2  4  NaN

另外,如果您有无法使用pd.to_numeric()进行转换的非数字数据,或者您只是不想采用均值,则可以通过枚举重复项来更改合并变量。但是,当两个数据集中都存在重复项时,将应用此策略(这将导致相同的有问题的行为,并且也是常见问题):

In [7]: df = pd.DataFrame([['a', 3], ['b', 4],['b',0]], columns=['A', 'B'])

In [8]: df2 = pd.DataFrame([['a', 3], ['b', 8],['b',5]], columns=['A', 'C'])

In [9]: df['count'] = df.groupby('A')['B'].cumcount()

In [10]: df['A'] = np.where(df['count']>0,df['A']+df['count'].astype(str),df['A'].astype(str))

In[11]: df
Out[11]: 
    A  B  count
0   a  3      0
1   b  4      0
2  b1  0      1

对df2进行相同的操作,将df和df2中的计数变量删除并合并到'A'上:

In [16]: merged
Out[16]: 
    A  B  C
0   a  3  3        
1   b  4  8        
2  b1  0  5        

几个注意事项。在这最后一种情况下,我使用.cumcount()而不是.duplicated,因为对于给定的观察结果,您可能有多个重复项。另外,我使用.astype(str)将计数值转换为字符串,因为我使用了np.where()命令,但是使用pd.concat()或其他方法可能允许不同的应用程序。

最后,如果只有一个数据集具有重复项,但您仍要保留它们,则可以使用后一种策略的前半部分来区分结果合并中的重复项。


4

给定答案的一个小补充是,有一个名为validate的参数,如果在右表中匹配重复的ID,则可以使用该参数引发错误:

combined = pd.merge(a,b,how='left',left_on='id',right_on='key', validate = 'm:1')
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.