加快滑动窗口平均计算

时间:2016-10-30 10:05:49

标签: python arrays performance numpy vectorization

我有一些数据(库存数据),需要通过对该数据进行一些计算来操纵它。我用numpy数组做了。 Numpy比python内置函数快得多。但是,我的代码的执行时间高于预期。我的代码在下面,我用ipython%timeit函数测试它。结果是这样的:总执行时间是5.44毫秒,第二个“for”循环占用大部分时间3.88毫秒,并且导致该循环中的'np.mean'函数。因此,'np.mean'的替代方案以及任何其他加快执行时间的建议都会有所帮助。

代码

data = my_class.Project.all_data["AAP_data"]
data = np.array(data[["High", "Low", "Close"]])

true_range = np.empty((data.shape[0]-1, 1))
for i in range(1, true_range.shape[0]+1):
    true_range[i-1] = max((data[i, 0] - data[i, 1]), (abs(data[i, 0] - data[i-1, 2])),
                          (abs(data[i, 1] - data[i-1, 2])))

average_true_range = np.empty((true_range.shape[0]-13, 1))
for i in range(13, average_true_range.shape[0]+13):
    lastn_tr = true_range[(i-13):(i+1)]
    average_true_range[i-13] = np.mean(lastn_tr)

1 个答案:

答案 0 :(得分:5)

这基本上是滑动窗口的平均值计算。这种平均可以被认为是滑动窗口中的求和并除以窗口大小的长度。因此,我们可以将1D convolutionnp.convolve一起用于矢量化解决方案,以摆脱整个循环过程,为我们提供average_true_range,就像这样 -

np.convolve(true_range,np.ones((14),dtype=int),'valid')/14.0

为了进一步提升性能,我们可能从研究CPU如何在乘法中比分割更有效的方法中学习到了。所以,让我们在这里使用它来改进版本 -

r = 1.0/14
out = np.convolve(true_range,np.ones((14),dtype=int),'valid')*r

运行时测试 -

In [53]: def original_app(true_range):
    ...:     average_true_range = np.zeros((true_range.shape[0]-13, 1))
    ...:     for i in range(13, average_true_range.shape[0]+13):
    ...:         lastn_tr = true_range[(i-13):(i+1)]
    ...:         average_true_range[i-13] = np.mean(lastn_tr)
    ...:     return average_true_range
    ...: 
    ...: def vectorized_app(true_range):
    ...:     return np.convolve(true_range,np.ones((14),dtype=int),'valid')/14.0
    ...: 
    ...: def vectorized_app2(true_range):
    ...:     r = 1.0/14
    ...:     return np.convolve(true_range,np.ones((14),dtype=int),'valid')*r
    ...: 

In [54]: true_range = np.random.rand(10000) # Input array

In [55]: %timeit original_app(true_range)
1 loops, best of 3: 180 ms per loop

In [56]: %timeit vectorized_app(true_range)
1000 loops, best of 3: 446 µs per loop

In [57]: %timeit vectorized_app2(true_range)
1000 loops, best of 3: 401 µs per loop

那里有大规模的加速!

稍后,瓶颈可能会转移到获取true_range的第一部分。为了对那里的事物进行矢量化,这是一种使用切片的方法 -

col0 = data[1:,0] - data[1:,1]
col1 = np.abs(data[1:,0] - data[:-1,2])
col2 = np.abs(data[1:,1] - data[:-1,2])
true_range = np.maximum(np.maximum(col0,col1),col2)