根据我对左外部联接的了解,结果表的行数永远不应超过左表的行数......如果这是错误的话,请告诉我...
我的左表是192572行和8列。
我的右边表格是42160行和5列。
我的左表中有一个名为“ id”的字段,该字段与我的右表中一列称为“键”的字段相匹配。
因此,我将它们合并为:
combined = pd.merge(a,b,how='left',left_on='id',right_on='key')
但是组合的形状是236569。
我有什么误会?
根据我对左外部联接的了解,结果表的行数永远不应超过左表的行数......如果这是错误的话,请告诉我...
我的左表是192572行和8列。
我的右边表格是42160行和5列。
我的左表中有一个名为“ id”的字段,该字段与我的右表中一列称为“键”的字段相匹配。
因此,我将它们合并为:
combined = pd.merge(a,b,how='left',left_on='id',right_on='key')
但是组合的形状是236569。
我有什么误会?
pd.merge
在代码的一小部分上使用它时,结果表的确仅是左侧表的大小
Answers:
如果键与另一个DataFrame中的多个行匹配,则可以预期这种情况会增加:
In [11]: df = pd.DataFrame([[1, 3], [2, 4]], columns=['A', 'B'])
In [12]: df2 = pd.DataFrame([[1, 5], [1, 6]], columns=['A', 'C'])
In [13]: df.merge(df2, how='left') # merges on columns A
Out[13]:
A B C
0 1 3 5
1 1 3 6
2 2 4 NaN
为避免此行为,将重复项放在df2中:
In [21]: df2.drop_duplicates(subset=['A']) # you can use take_last=True
Out[21]:
A C
0 1 5
In [22]: df.merge(df2.drop_duplicates(subset=['A']), how='left')
Out[22]:
A B C
0 1 3 5
1 2 4 NaN
您还可以使用一些策略来避免此行为,例如,如果并非所有列都被复制,则这些策略不涉及丢失重复的数据。如果你有
In [1]: df = pd.DataFrame([[1, 3], [2, 4]], columns=['A', 'B'])
In [2]: df2 = pd.DataFrame([[1, 5], [1, 6]], columns=['A', 'C'])
一种方法是取重复项的均值(也可以取总和,等等。)
In [3]: df3 = df2.groupby('A').mean().reset_index()
In [4]: df3
Out[4]:
C
A
1 5.5
In [5]: merged = pd.merge(df,df3,on=['A'], how='outer')
In [6]: merged
Out[204]:
A B C
0 1 3 5.5
1 2 4 NaN
另外,如果您有无法使用pd.to_numeric()进行转换的非数字数据,或者您只是不想采用均值,则可以通过枚举重复项来更改合并变量。但是,当两个数据集中都存在重复项时,将应用此策略(这将导致相同的有问题的行为,并且也是常见问题):
In [7]: df = pd.DataFrame([['a', 3], ['b', 4],['b',0]], columns=['A', 'B'])
In [8]: df2 = pd.DataFrame([['a', 3], ['b', 8],['b',5]], columns=['A', 'C'])
In [9]: df['count'] = df.groupby('A')['B'].cumcount()
In [10]: df['A'] = np.where(df['count']>0,df['A']+df['count'].astype(str),df['A'].astype(str))
In[11]: df
Out[11]:
A B count
0 a 3 0
1 b 4 0
2 b1 0 1
对df2进行相同的操作,将df和df2中的计数变量删除并合并到'A'上:
In [16]: merged
Out[16]:
A B C
0 a 3 3
1 b 4 8
2 b1 0 5
几个注意事项。在这最后一种情况下,我使用.cumcount()而不是.duplicated,因为对于给定的观察结果,您可能有多个重复项。另外,我使用.astype(str)将计数值转换为字符串,因为我使用了np.where()命令,但是使用pd.concat()或其他方法可能允许不同的应用程序。
最后,如果只有一个数据集具有重复项,但您仍要保留它们,则可以使用后一种策略的前半部分来区分结果合并中的重复项。
给定答案的一个小补充是,有一个名为validate的参数,如果在右表中匹配重复的ID,则可以使用该参数引发错误:
combined = pd.merge(a,b,how='left',left_on='id',right_on='key', validate = 'm:1')