从pandas.DataFrame使用复杂条件选择


234

例如,我有简单的DF:

import pandas as pd
from random import randint

df = pd.DataFrame({'A': [randint(1, 9) for x in xrange(10)],
                   'B': [randint(1, 9)*10 for x in xrange(10)],
                   'C': [randint(1, 9)*100 for x in xrange(10)]})

我可以使用熊猫的方法和惯用法从“ A”中选择与B对应的值大于50的值,对于C对应的值大于900的值吗?


df.query并且pd.eval看起来很好拟合这个用例。有关pd.eval()功能系列,其功能和使用案例的信息,请访问使用pd.eval()在熊猫中进行动态表达评估
cs95

Answers:


390

当然!建立:

>>> import pandas as pd
>>> from random import randint
>>> df = pd.DataFrame({'A': [randint(1, 9) for x in range(10)],
                   'B': [randint(1, 9)*10 for x in range(10)],
                   'C': [randint(1, 9)*100 for x in range(10)]})
>>> df
   A   B    C
0  9  40  300
1  9  70  700
2  5  70  900
3  8  80  900
4  7  50  200
5  9  30  900
6  2  80  700
7  2  80  400
8  5  80  300
9  7  70  800

我们可以应用列操作并获取布尔系列对象:

>>> df["B"] > 50
0    False
1     True
2     True
3     True
4    False
5    False
6     True
7     True
8     True
9     True
Name: B
>>> (df["B"] > 50) & (df["C"] == 900)
0    False
1    False
2     True
3     True
4    False
5    False
6    False
7    False
8    False
9    False

[更新,切换到新样式.loc]:

然后我们可以使用它们来索引对象。对于读取访问,可以链接索引:

>>> df["A"][(df["B"] > 50) & (df["C"] == 900)]
2    5
3    8
Name: A, dtype: int64

但是由于视图和执行写操作的副本之间的差异,您可能会遇到麻烦。您可以.loc改用:

>>> df.loc[(df["B"] > 50) & (df["C"] == 900), "A"]
2    5
3    8
Name: A, dtype: int64
>>> df.loc[(df["B"] > 50) & (df["C"] == 900), "A"].values
array([5, 8], dtype=int64)
>>> df.loc[(df["B"] > 50) & (df["C"] == 900), "A"] *= 1000
>>> df
      A   B    C
0     9  40  300
1     9  70  700
2  5000  70  900
3  8000  80  900
4     7  50  200
5     9  30  900
6     2  80  700
7     2  80  400
8     5  80  300
9     7  70  800

请注意,我不小心输入了== 900not != 900和或~(df["C"] == 900),但是我懒得修复它。为读者练习。:^)


5
关于.loc更新-如果您弄清楚我们从哪里获得副本以及从何处获得意见,那将是很好的。
Gill Bates

3
是否可以过滤熊猫数据框并使用OR运算符。例如,如果有一个列月份,您可以说df = data ['month'== JAN或'month'== FEB]吗?也许包括第二列使查询更复杂,newdf其中col_month = jan或feb AND col_day = MONDAY或WENDNESDAY
yoshiserry

7
@yoshiserry:请另作一个问题。在一个旧答案的评论中,没有人会在这里看到它。
DSM

2
不要忘记括号-您会得到奇怪的错误,例如{TypeError}cannot compare a dtyped [int64] array with a scalar of type [bool]
Mr_and_Mrs_D

括号的使用不是导致整个序列的计算吗?如果我们想重复子集以提高效率怎么办?
ifly6 '19

56

另一种解决方案是使用查询方法:

import pandas as pd

from random import randint
df = pd.DataFrame({'A': [randint(1, 9) for x in xrange(10)],
                   'B': [randint(1, 9) * 10 for x in xrange(10)],
                   'C': [randint(1, 9) * 100 for x in xrange(10)]})
print df

   A   B    C
0  7  20  300
1  7  80  700
2  4  90  100
3  4  30  900
4  7  80  200
5  7  60  800
6  3  80  900
7  9  40  100
8  6  40  100
9  3  10  600

print df.query('B > 50 and C != 900')

   A   B    C
1  7  80  700
2  4  90  100
4  7  80  200
5  7  60  800

现在,如果要更改A列中的返回值,可以保存其索引:

my_query_index = df.query('B > 50 & C != 900').index

...并用于.iloc更改它们,即:

df.iloc[my_query_index, 0] = 5000

print df

      A   B    C
0     7  20  300
1  5000  80  700
2  5000  90  100
3     4  30  900
4  5000  80  200
5  5000  60  800
6     3  80  900
7     9  40  100
8     6  40  100
9     3  10  600

12

并记住要使用括号!

请记住,&运算符的优先级高于诸如>或的运算符<。这就是为什么

4 < 5 & 6 > 4

评估为False。因此,如果使用pd.loc,则需要在逻辑语句两边加上方括号,否则会出现错误。这就是为什么:

df.loc[(df['A'] > 10) & (df['B'] < 15)]

代替

df.loc[df['A'] > 10 & df['B'] < 15]

这将导致

TypeError:无法将dtyped [float64]数组与类型为[bool]的标量进行比较


3

您可以使用熊猫它具有一些内置功能进行比较。因此,如果您想选择“ B”和“ C”条件满足的“ A”值(假设您要返回一个DataFrame pandas对象)

df[['A']][df.B.gt(50) & df.C.ne(900)]

df[['A']] 将以DataFrame格式返回A列。

pandas的“ gt”函数将返回大于50的列B的位置,而“ ne”函数将返回不等于900的位置。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.