从pandas DataFrame删除包含空单元格的行


87

我有一个pd.DataFrame通过解析一些excel电子表格创建的。一列的单元格为空。例如,以下是该列的频率输出,32320条记录的Tenant值缺失。

>>> value_counts(Tenant, normalize=False)
                              32320
    Thunderhead                8170
    Big Data Others            5700
    Cloud Cruiser              5700
    Partnerpedia               5700
    Comcast                    5700
    SDP                        5700
    Agora                      5700
    dtype: int64

我正在尝试删除缺少租户的行,但是该.isnull()选项无法识别丢失的值。

>>> df['Tenant'].isnull().sum()
    0

该列的数据类型为“对象”。在这种情况下会发生什么?如何在租户丢失的地方删除记录?

Answers:


174

如果熊猫是一个np.nan对象,它将识别为空值,该值将NaN在DataFrame中打印。您缺少的值可能是空字符串,Pandas无法将其识别为null。要解决此问题,您可以使用将空字符串(或空单元格中的任何东西)转换为np.nan对象replace(),然后调用dropna()DataFrame删除具有空租户的行。

为了说明这一点,我们创建了一个DataFrame,该DataFrame在Tenants列中包含一些随机值和一些空字符串:

>>> import pandas as pd
>>> import numpy as np
>>> 
>>> df = pd.DataFrame(np.random.randn(10, 2), columns=list('AB'))
>>> df['Tenant'] = np.random.choice(['Babar', 'Rataxes', ''], 10)
>>> print df

          A         B   Tenant
0 -0.588412 -1.179306    Babar
1 -0.008562  0.725239         
2  0.282146  0.421721  Rataxes
3  0.627611 -0.661126    Babar
4  0.805304 -0.834214         
5 -0.514568  1.890647    Babar
6 -1.188436  0.294792  Rataxes
7  1.471766 -0.267807    Babar
8 -1.730745  1.358165  Rataxes
9  0.066946  0.375640         

现在,我们Tenantsnp.nan对象替换列中的任何空字符串,如下所示:

>>> df['Tenant'].replace('', np.nan, inplace=True)
>>> print df

          A         B   Tenant
0 -0.588412 -1.179306    Babar
1 -0.008562  0.725239      NaN
2  0.282146  0.421721  Rataxes
3  0.627611 -0.661126    Babar
4  0.805304 -0.834214      NaN
5 -0.514568  1.890647    Babar
6 -1.188436  0.294792  Rataxes
7  1.471766 -0.267807    Babar
8 -1.730745  1.358165  Rataxes
9  0.066946  0.375640      NaN

现在我们可以删除空值:

>>> df.dropna(subset=['Tenant'], inplace=True)
>>> print df

          A         B   Tenant
0 -0.588412 -1.179306    Babar
2  0.282146  0.421721  Rataxes
3  0.627611 -0.661126    Babar
5 -0.514568  1.890647    Babar
6 -1.188436  0.294792  Rataxes
7  1.471766 -0.267807    Babar
8 -1.730745  1.358165  Rataxes

非常感谢,我会尝试一下,然后再回来!
Amrita Sawant'3

2
@mcmath,有点好奇。为什么要导入numpy并np.nan在可以的时候使用pd.np.nan
propjk007 2015年

3
@ propjk007,就像生活中的很多事情一样,有很多方法可以做很多事情
安德鲁(

根据我的测试,它看起来df[df['Tenant'].astype(bool)](假设没有空格字符-仅空字符串)比df.replace('', np.nan).dropna(subset=['Tenant'])
cs95

42

Pythonic + Pandorable: df[df['col'].astype(bool)]

空字符串是虚假的,这意味着您可以像这样过滤布尔值:

df = pd.DataFrame({
    'A': range(5),
    'B': ['foo', '', 'bar', '', 'xyz']
})
df
   A    B
0  0  foo
1  1     
2  2  bar
3  3     
4  4  xyz
df['B'].astype(bool)                                                                                                                      
0     True
1    False
2     True
3    False
4     True
Name: B, dtype: bool

df[df['B'].astype(bool)]                                                                                                                  
   A    B
0  0  foo
2  2  bar
4  4  xyz

如果您的目标不仅是删除空字符串,而且还删除仅包含空格的字符串,请str.strip事先使用:

df[df['B'].str.strip().astype(bool)]
   A    B
0  0  foo
2  2  bar
4  4  xyz

比您想像的快

.astype是向量化操作,比到目前为止提供的每个选项都要快。至少从我的测试来看。YMMV。

这是一个时序比较,我提出了一些我能想到的其他方法。

在此处输入图片说明

基准测试代码,以供参考:

import pandas as pd
import perfplot

df1 = pd.DataFrame({
    'A': range(5),
    'B': ['foo', '', 'bar', '', 'xyz']
})

perfplot.show(
    setup=lambda n: pd.concat([df1] * n, ignore_index=True),
    kernels=[
        lambda df: df[df['B'].astype(bool)],
        lambda df: df[df['B'] != ''],
        lambda df: df[df['B'].replace('', np.nan).notna()],  # optimized 1-col
        lambda df: df.replace({'B': {'': np.nan}}).dropna(subset=['B']),  
    ],
    labels=['astype', "!= ''", "replace + notna", "replace + dropna", ],
    n_range=[2**k for k in range(1, 15)],
    xlabel='N',
    logx=True,
    logy=True,
    equality_check=pd.DataFrame.equals)

33

默认情况下,value_counts省略NaN,因此您很可能处理“”。

所以你可以像这样过滤掉它们

filter = df["Tenant"] != ""
dfNew = df[filter]

1
@Bobs解决方案不适用于我。df.dropna(subset = ['tenant'],inplace = True)有效。
Amrita Sawant,2015年

1
对于那个很抱歉。我以为您在处理“”。您应该发布解决方案作为答案
Bob Haffner

8

在某些情况下,单元格具有空白,您看不到,请使用

df['col'].replace('  ', np.nan, inplace=True)

将空白替换为NaN,然后

df= df.dropna(subset=['col'])

4

您可以使用以下变体:

import pandas as pd
vals = {
    'name' : ['n1', 'n2', 'n3', 'n4', 'n5', 'n6', 'n7'],
    'gender' : ['m', 'f', 'f', 'f',  'f', 'c', 'c'],
    'age' : [39, 12, 27, 13, 36, 29, 10],
    'education' : ['ma', None, 'school', None, 'ba', None, None]
}
df_vals = pd.DataFrame(vals) #converting dict to dataframe

这将输出(**-仅突出显示所需的行):

   age education gender name
0   39        ma      m   n1 **
1   12      None      f   n2    
2   27    school      f   n3 **
3   13      None      f   n4
4   36        ba      f   n5 **
5   29      None      c   n6
6   10      None      c   n7

因此,要删除所有没有“教育”值的内容,请使用以下代码:

df_vals = df_vals[~df_vals['education'].isnull()] 

(“〜”表示不)

结果:

   age education gender name
0   39        ma      m   n1
2   27    school      f   n3
4   36        ba      f   n5
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.