选择两个日期之间的DataFrame行

195

我正在从csv创建DataFrame，如下所示：

stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)

DataFrame有一个日期列。有没有一种方法来创建一个新的DataFrame（或仅覆盖现有的DataFrame），该DataFrame仅包含日期值在指定日期范围内或两个指定日期值之间的行？

python  pandas 
— 暗池
source

Answers:

397

有两种可能的解决方案：

  • 使用布尔型掩码，然后使用 df.loc[mask]
  • 将日期列设置为DatetimeIndex，然后使用 df[start_date : end_date]

使用布尔型掩码：

确保df['date']是dtype系列datetime64[ns]：

df['date'] = pd.to_datetime(df['date'])

制作一个布尔型面具。start_date并且end_date可以datetime.datetimeS， np.datetime64S，pd.TimestampS，甚至日期时间字符串：

#greater than the start date and smaller than the end date
mask = (df['date'] > start_date) & (df['date'] <= end_date)

选择子DataFrame：

df.loc[mask]

或重新分配给 df

df = df.loc[mask]

例如，

import numpy as np
import pandas as pd

df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
mask = (df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')
print(df.loc[mask])

产量

            0         1         2       date
153  0.208875  0.727656  0.037787 2000-06-02
154  0.750800  0.776498  0.237716 2000-06-03
155  0.812008  0.127338  0.397240 2000-06-04
156  0.639937  0.207359  0.533527 2000-06-05
157  0.416998  0.845658  0.872826 2000-06-06
158  0.440069  0.338690  0.847545 2000-06-07
159  0.202354  0.624833  0.740254 2000-06-08
160  0.465746  0.080888  0.155452 2000-06-09
161  0.858232  0.190321  0.432574 2000-06-10

使用DatetimeIndex：

如果您打算按日期进行很多选择，则将date列首先设置为索引可能会更快 。然后，您可以使用按日期选择行 df.loc[start_date:end_date]。

import numpy as np
import pandas as pd

df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
df = df.set_index(['date'])
print(df.loc['2000-6-1':'2000-6-10'])

产量

                   0         1         2
date                                    
2000-06-01  0.040457  0.326594  0.492136    # <- includes start_date
2000-06-02  0.279323  0.877446  0.464523
2000-06-03  0.328068  0.837669  0.608559
2000-06-04  0.107959  0.678297  0.517435
2000-06-05  0.131555  0.418380  0.025725
2000-06-06  0.999961  0.619517  0.206108
2000-06-07  0.129270  0.024533  0.154769
2000-06-08  0.441010  0.741781  0.470402
2000-06-09  0.682101  0.375660  0.009916
2000-06-10  0.754488  0.352293  0.339337

相反，虽然Python列表索引（例如seq[start:end]包括start但不包括），但endPandas 如果在索引中，则在结果中df.loc[start_date : end_date]包括两个端点。但是，既不是start_date也不end_date是必须包含在索引中。

还要注意，pd.read_csv该parse_dates参数具有可用于将date列解析为datetime64s的参数。因此，如果使用parse_dates，则无需使用df['date'] = pd.to_datetime(df['date'])。

— Unutbu
source
将date列设置为索引效果很好，但是从我看到的文档中尚不清楚，我可以做到这一点。谢谢。
— Faheem Mitha
@FaheemMitha：我在上面添加了一个链接，其中记录了“部分字符串索引”。
— unutbu
可能不太清楚的部分是必须显式创建索引。而且，在没有显式创建索引的情况下，受限范围将返回一个空集，而不是一个错误。
— Faheem Mitha
8
在执行该df = df.set_index(['date'])步骤之后，我发现索引也需要进行排序（通过df.sort_index(inplace=True, ascending=True)），否则您可能会从中获得少于完整甚至空的DataFrame结果df.loc['2000-6-1':'2000-6-10']。如果您使用ascending=False，即使您使用df.loc['2000-6-10':'2000-6-1']
— bgoodr
如果要保留“日期”列，同时仍将其值提供给数据框的索引，则可以执行以下操作df.index = df ['date']
— Richard Liang
64

我觉得最好的选择是使用直接检查而不是loc函数：

df = df[(df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')]

这个对我有用。

带有切片的loc函数的主要问题是限制应该出现在实际值中，否则，将导致KeyError。

— 克里斯汀·何塞
source
我认为切片loc很棒。在我看来，就像unutbu所说，start_date和end_date都不必在索引中。
— nealmcb
如何（前14天，直到当前日期）来过滤日期。如果今天的日期是2019年1月15日...我需要从数据（2019年1月1日至2019年1月15日）
— 普利文雪
简洁大方。谢谢克里斯汀，这就是我想要做的。为我工作。
— brohjoe
19

您可以像这样使用列 isin上的方法datedf[df["date"].isin(pd.date_range(start_date, end_date))]

注意：这仅适用于日期（如问题所述），而不适用于时间戳记。

例： 

import numpy as np   
import pandas as pd

# Make a DataFrame with dates and random numbers
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')

# Select the rows between two dates
in_range_df = df[df["date"].isin(pd.date_range("2017-01-15", "2017-01-20"))]

print(in_range_df)  # print result

这使

           0         1         2       date
14  0.960974  0.144271  0.839593 2017-01-15
15  0.814376  0.723757  0.047840 2017-01-16
16  0.911854  0.123130  0.120995 2017-01-17
17  0.505804  0.416935  0.928514 2017-01-18
18  0.204869  0.708258  0.170792 2017-01-19
19  0.014389  0.214510  0.045201 2017-01-20
— 乔尼·布鲁克斯
source
9

保持解决方案简单和Pythonic，建议您尝试一下。

如果您要经常执行此操作，最好的解决方案是首先将date列设置为索引，这将转换DateTimeIndex中的列，并使用以下条件来分割任何日期范围。

import pandas as pd

data_frame = data_frame.set_index('date')

df = data_frame[(data_frame.index > '2017-08-10') & (data_frame.index <= '2017-08-15')]
— 阿比纳夫·阿南德（Abhinav Anand）
source
4

通过对pandas版本的测试，0.22.0您现在只需使用即可使用更具可读性的代码更轻松地回答此问题between。

# create a single column DataFrame with dates going from Jan 1st 2018 to Jan 1st 2019
df = pd.DataFrame({'dates':pd.date_range('2018-01-01','2019-01-01')})

假设您想获取2018年11月27日至2019年1月15日之间的日期：

# use the between statement to get a boolean mask
df['dates'].between('2018-11-27','2019-01-15', inclusive=False)

0    False
1    False
2    False
3    False
4    False

# you can pass this boolean mask straight to loc
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=False)]

    dates
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
335 2018-12-02

注意包含参数。当您想明确说明范围时非常有用。请注意，设置为True时，我们也将在2018年11月27日返回：

df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]

    dates
330 2018-11-27
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01

此方法也比前面提到的isin方法快：

%%timeit -n 5
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
868 µs ± 164 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)


%%timeit -n 5

df.loc[df['dates'].isin(pd.date_range('2018-01-01','2019-01-01'))]
1.53 ms ± 305 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)

但是，仅当已创建遮罩时，它才比unutbu提供的当前接受的答案快。但是，如果掩码是动态的，并且需要一遍又一遍地重新分配，则我的方法可能会更有效：

# already create the mask THEN time the function

start_date = dt.datetime(2018,11,27)
end_date = dt.datetime(2019,1,15)
mask = (df['dates'] > start_date) & (df['dates'] <= end_date)

%%timeit -n 5
df.loc[mask]
191 µs ± 28.5 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
— 马特
source
3

我宁愿不更改df。

一种选择是检索index的start和end日期：

import numpy as np   
import pandas as pd

#Dummy DataFrame
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')

#Get the index of the start and end dates respectively
start = df[df['date']=='2017-01-07'].index[0]
end = df[df['date']=='2017-01-14'].index[0]

#Show the sliced df (from 2017-01-07 to 2017-01-14)
df.loc[start:end]

结果是：

     0   1   2       date
6  0.5 0.8 0.8 2017-01-07
7  0.0 0.7 0.3 2017-01-08
8  0.8 0.9 0.0 2017-01-09
9  0.0 0.2 1.0 2017-01-10
10 0.6 0.1 0.9 2017-01-11
11 0.5 0.3 0.9 2017-01-12
12 0.5 0.4 0.3 2017-01-13
13 0.4 0.9 0.9 2017-01-14
— 阿拉瓦
source
2

实现此目标的另一种pandas.DataFrame.query()方法是使用方法。让我为您展示有关以下数据框的示例df。

>>> df = pd.DataFrame(np.random.random((5, 1)), columns=['col_1'])
>>> df['date'] = pd.date_range('2020-1-1', periods=5, freq='D')
>>> print(df)
      col_1       date
0  0.015198 2020-01-01
1  0.638600 2020-01-02
2  0.348485 2020-01-03
3  0.247583 2020-01-04
4  0.581835 2020-01-05

作为参数，使用如下条件进行过滤：

>>> start_date, end_date = '2020-01-02', '2020-01-04'
>>> print(df.query('date >= @start_date and date <= @end_date'))
      col_1       date
1  0.244104 2020-01-02
2  0.374775 2020-01-03
3  0.510053 2020-01-04

如果您不想包括边界，则只需更改条件，如下所示：

>>> print(df.query('date > @start_date and date < @end_date'))
      col_1       date
2  0.374775 2020-01-03
— 雅罗斯拉夫·贝兹杰克（JaroslavBezděk）
source
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.