熊猫有条件地创建系列/数据框列


314

我有下面的数据框:

    Type       Set
1    A          Z
2    B          Z           
3    B          X
4    C          Y

我想向数据框添加另一列(或生成一系列),该列的长度与数据框的长度相同(=记录/行的数目相等),如果Set ='Z'则设置为绿色,如果Set ='否则为'red' 。

最好的方法是什么?

Answers:


710

如果您只有两个选择供您选择:

df['color'] = np.where(df['Set']=='Z', 'green', 'red')

例如,

import pandas as pd
import numpy as np

df = pd.DataFrame({'Type':list('ABBC'), 'Set':list('ZZXY')})
df['color'] = np.where(df['Set']=='Z', 'green', 'red')
print(df)

产量

  Set Type  color
0   Z    A  green
1   Z    B  green
2   X    B    red
3   Y    C    red

如果您有两个以上的条件,请使用np.select。例如,如果您想color成为

  • yellow 什么时候 (df['Set'] == 'Z') & (df['Type'] == 'A')
  • 否则blue,当(df['Set'] == 'Z') & (df['Type'] == 'B')
  • 否则purple,当(df['Type'] == 'B')
  • 否则black

然后使用

df = pd.DataFrame({'Type':list('ABBC'), 'Set':list('ZZXY')})
conditions = [
    (df['Set'] == 'Z') & (df['Type'] == 'A'),
    (df['Set'] == 'Z') & (df['Type'] == 'B'),
    (df['Type'] == 'B')]
choices = ['yellow', 'blue', 'purple']
df['color'] = np.select(conditions, choices, default='black')
print(df)

产生

  Set Type   color
0   Z    A  yellow
1   Z    B    blue
2   X    B  purple
3   Y    C   black

1
如果我在where子句中使用和放置两个条件,则不起作用
Amol Sharma

2
df ['color'] = list(np.where(df ['Set'] =='Z','green','red'))将禁止显示熊猫警告:试图在副本上设置一个值来自DataFrame的切片。尝试改用.loc [row_indexer,col_indexer] = value
denson

3
“绿色”和“红色”也可以用列算法替换。 例如df['foo'] = np.where(df['Set']=='Z', df['Set'], df['Type'].shift(1))
Alejandro

np.where是否创建新列?我用这个代码,当我做df.color.head()我得到:“numpy.ndarray”对象有没有属性“头”
VVV

3
可惜我不能多次投票。一次投票似乎还不够。
哈珀

120

列表理解是有条件创建另一列的另一种方法。如果像在示例中那样使用列中的对象dtype,则列表理解通常胜过大多数其他方法。

示例列表理解:

df['color'] = ['red' if x == 'Z' else 'green' for x in df['Set']]

%timeit测试:

import pandas as pd
import numpy as np

df = pd.DataFrame({'Type':list('ABBC'), 'Set':list('ZZXY')})
%timeit df['color'] = ['red' if x == 'Z' else 'green' for x in df['Set']]
%timeit df['color'] = np.where(df['Set']=='Z', 'green', 'red')
%timeit df['color'] = df.Set.map( lambda x: 'red' if x == 'Z' else 'green')

1000 loops, best of 3: 239 µs per loop
1000 loops, best of 3: 523 µs per loop
1000 loops, best of 3: 263 µs per loop

4
请注意,使用更大的数据帧(请考虑pd.DataFrame({'Type':list('ABBC')*100000, 'Set':list('ZZXY')*100000})-size)时,其性能会numpy.where超过map,但列表理解才是王道(比快约50%numpy.where)。
blacksite '17

3
如果条件需要多列信息,可以使用列表理解方法吗?我正在寻找这样的东西(这不起作用):df['color'] = ['red' if (x['Set'] == 'Z') & (x['Type'] == 'B') else 'green' for x in df]
Mappi,

2
将它添加到数据框中,然后您可以通过行访问多个列:['red'if(row ['Set'] =='Z')&(row ['Type'] =='B')否则为'green '以获取索引,在df.iterrows()中排入行列
cheekybastard,

1
请注意,如果您需要从数据框中的另一个系列中获取替换值,例如df['color_type'] = np.where(df['Set']=='Z', 'green', df['Type'])
Paul Rougieux

@cheekybastard还是不要这样做,因为.iterrows()众所周知它很慢并且在迭代时不应修改DataFrame。
AMC

21

可以实现这一目标的另一种方法是

df['color'] = df.Set.map( lambda x: 'red' if x == 'Z' else 'green')

好的方法,可以记住此方法以提高效率(在较大的数据集中),尽管这需要额外的步骤。
Yaakov Bressler,

21

这是给这只猫换皮的另一种方法,使用字典将新值映射到列表中的键上:

def map_values(row, values_dict):
    return values_dict[row]

values_dict = {'A': 1, 'B': 2, 'C': 3, 'D': 4}

df = pd.DataFrame({'INDICATOR': ['A', 'B', 'C', 'D'], 'VALUE': [10, 9, 8, 7]})

df['NEW_VALUE'] = df['INDICATOR'].apply(map_values, args = (values_dict,))

看起来像什么:

df
Out[2]: 
  INDICATOR  VALUE  NEW_VALUE
0         A     10          1
1         B      9          2
2         C      8          3
3         D      7          4

当您要执行许多ifelse-type语句(即要替换的许多唯一值)时,此方法可能非常强大。

当然,您可以始终这样做:

df['NEW_VALUE'] = df['INDICATOR'].map(values_dict)

但是apply在我的机器上,这种方法的速度是上面的方法的三倍以上。

您也可以使用dict.get

df['NEW_VALUE'] = [values_dict.get(v, None) for v in df['INDICATOR']]

我喜欢这个答案,因为它显示了如何进行多个值的替换
Monica Heddneck

但是,这种方法的速度是我的机器上上述应用方法的三倍以上。您是如何进行基准测试的?根据我的快速测量,该.map()解决方案的速度比快约10倍.apply()
AMC

更新:在100,000,000行上,使用52个字符串值.apply()需要47秒,而对于则仅需5.91秒.map()
AMC

19

以下内容比此处介绍的方法要慢,但是我们可以根据多于一列的内容来计算额外的列,并且可以为额外的列计算两个以上的值。

仅使用“设置”列的简单示例:

def set_color(row):
    if row["Set"] == "Z":
        return "red"
    else:
        return "green"

df = df.assign(color=df.apply(set_color, axis=1))

print(df)
  Set Type  color
0   Z    A    red
1   Z    B    red
2   X    B  green
3   Y    C  green

具有更多颜色和更多列的示例:

def set_color(row):
    if row["Set"] == "Z":
        return "red"
    elif row["Type"] == "C":
        return "blue"
    else:
        return "green"

df = df.assign(color=df.apply(set_color, axis=1))

print(df)
  Set Type  color
0   Z    A    red
1   Z    B    red
2   X    B  green
3   Y    C   blue

编辑(21/06/2019):使用plydata

也可以使用plydata来执行这种操作(尽管这似乎比使用assignand 还要慢apply)。

from plydata import define, if_else

简单if_else

df = define(df, color=if_else('Set=="Z"', '"red"', '"green"'))

print(df)
  Set Type  color
0   Z    A    red
1   Z    B    red
2   X    B  green
3   Y    C  green

嵌套if_else

df = define(df, color=if_else(
    'Set=="Z"',
    '"red"',
    if_else('Type=="C"', '"green"', '"blue"')))

print(df)                            
  Set Type  color
0   Z    A    red
1   Z    B    red
2   X    B   blue
3   Y    C  green

10

也许是通过更新Pandas来实现的,但到目前为止,我认为以下是该问题的最短和最佳答案。您可以使用该.loc方法,并根据需要使用一个或多个条件。

代码摘要:

df=pd.DataFrame(dict(Type='A B B C'.split(), Set='Z Z X Y'.split()))
df['Color'] = "red"
df.loc[(df['Set']=="Z"), 'Color'] = "green"

#practice!
df.loc[(df['Set']=="Z")&(df['Type']=="B")|(df['Type']=="C"), 'Color'] = "purple"

说明:

df=pd.DataFrame(dict(Type='A B B C'.split(), Set='Z Z X Y'.split()))

# df so far: 
  Type Set  
0    A   Z 
1    B   Z 
2    B   X 
3    C   Y

添加“颜色”列并将所有值设置为“红色”

df['Color'] = "red"

应用您的单个条件:

df.loc[(df['Set']=="Z"), 'Color'] = "green"


# df: 
  Type Set  Color
0    A   Z  green
1    B   Z  green
2    B   X    red
3    C   Y    red

或多个条件(如果需要):

df.loc[(df['Set']=="Z")&(df['Type']=="B")|(df['Type']=="C"), 'Color'] = "purple"

您可以在此处阅读Pandas逻辑运算符和条件选择: Pandas中用于布尔索引的逻辑运算符


2
到目前为止最好的。您可能需要添加更多条件,将其作为代码df.loc[(df['Set']=="Z") & (df['Type']=="A"), 'Color'] = "green"
Salvador Vigo

2
这应该是公认的答案。实际上是惯用的和可扩展的。
AMC

1

一种带有.apply()方法的衬纸如下:

df['color'] = df['Set'].apply(lambda set_: 'green' if set_=='Z' else 'red')

之后,df数据帧如下所示:

>>> print(df)
  Type Set  color
0    A   Z  green
1    B   Z  green
2    B   X    red
3    C   Y    red

0

如果您要处理海量数据,则最好采用记忆方式:

# First create a dictionary of manually stored values
color_dict = {'Z':'red'}

# Second, build a dictionary of "other" values
color_dict_other = {x:'green' for x in df['Set'].unique() if x not in color_dict.keys()}

# Next, merge the two
color_dict.update(color_dict_other)

# Finally, map it to your column
df['color'] = df['Set'].map(color_dict)

当您有很多重复的值时,这种方法将是最快的。我的一般经验法则是记住以下情况:data_size> 10**4n_distinct<data_size/4

例如,在10,000行中记录2,500个或更少的不同值。


好的,因此仅要映射2个不同的值(100,000,000行),不进行“内存化”就需要6.67秒,而要进行“内存化”则需要9.86秒。
AMC

100,000,000行,52个不同的值,其中一个映射到第一个输出值,其他51个都对应于另一个:不带备忘录的7.99秒,带备忘录的11.1秒。
AMC

您的值是否随机排列?还是他们背靠背?熊猫的高速运行可能是由于@AMC缓存
Yaakov Bressler

1
您的值是否随机排列?还是他们背靠背?值是随机的,使用选择random.choices()
AMC
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.