使用numpy的数组的高效阈值过滤器


81

我需要过滤一个数组以删除低于某个阈值的元素。我当前的代码是这样的:

threshold = 5
a = numpy.array(range(10)) # testing data
b = numpy.array(filter(lambda x: x >= threshold, a))

问题在于,这会使用带有lambda函数(慢速)的过滤器来创建一个临时列表。

由于这是一个非常简单的操作,因此也许有一个numpy函数可以高效地完成此操作,但是我一直找不到它。

我以为实现此目的的另一种方法可能是对数组进行排序,找到阈值的索引,然后从该索引开始返回一个切片,但是即使对于较小的输入这会更快(而且无论如何也不会引起注意) ),随着输入大小的增加,它的渐近渐近效率降低。

有任何想法吗?谢谢!

更新:我也进行了一些测量,当输入为100.000.000条目时,sorting + slicing仍比纯python过滤器快两倍。

In [321]: r = numpy.random.uniform(0, 1, 100000000)

In [322]: %timeit test1(r) # filter
1 loops, best of 3: 21.3 s per loop

In [323]: %timeit test2(r) # sort and slice
1 loops, best of 3: 11.1 s per loop

In [324]: %timeit test3(r) # boolean indexing
1 loops, best of 3: 1.26 s per loop

2
是的,这非常好:-)如果代码只需花费很少的时间执行,它甚至会自动计算应执行多少次迭代以平均测量值
fortran

5
@yosukesabai-IPython%timeit使用内置timeit模块。也看一看。docs.python.org/library/timeit.html
Joe Kington

Answers:


112

b = a[a>threshold] 这应该做

我测试如下:

import numpy as np, datetime
# array of zeros and ones interleaved
lrg = np.arange(2).reshape((2,-1)).repeat(1000000,-1).flatten()

t0 = datetime.datetime.now()
flt = lrg[lrg==0]
print datetime.datetime.now() - t0

t0 = datetime.datetime.now()
flt = np.array(filter(lambda x:x==0, lrg))
print datetime.datetime.now() - t0

我有

$ python test.py
0:00:00.028000
0:00:02.461000

http://docs.scipy.org/doc/numpy/user/basics.indexing.html#boolean-or-mask-index-arrays


1
添加了测试结果,而不仅仅是我认为应该做的。:p
yosukesabai

3
这种索引不能保持数组的大小,怎么可能保持相同数量的元素并将零阈值归零?
linello 2013年

9
@ linello,a [a <=阈值] = 0将掩盖不超过阈值的部分
yosukesabai 2013年

4
我遇到了基于两个标准进行过滤的问题。解决方案如下:stackoverflow.com/a/3248599/1373468
Robin Newhouse 2014年

@yosukesabai是否可以精确地执行此操作,而无需实际更改原始值。如果np.ma打算这样做,我不知道怎么做。
2014年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.