Question

我正在python中执行嵌套循环，包含在下面。这是搜索现有金融时间序列并查找符合某些特征的时间序列中的时段的基本方式。在这种情况下，有两个单独的，大小相等的数组，表示“收盘”（即资产价格）和“交易量”（即在此期间交换的资产数量）。对于每个时间段，我想期待所有未来的时间间隔，长度在1和INTERVAL_LENGTH之间，并查看这些时间间隔是否具有与我的搜索匹配的特征（在这种情况下，接近值的比率大于1.0001和更小超过1.5，总和的体积大于100）。

我的理解是，使用NumPy时加速的主要原因之一是，只要你在整个数组上运行，解释器就不需要在每次计算操作数时检查操作数。（例如numpy_array * 2），但显然下面的代码没有利用它。有没有办法用某种窗口函数替换内部循环，这可能会导致加速，或者使用numpy / scipy以任何其他方式在本机python中大幅提升速度？

或者，是否有更好的方法来执行此操作（例如，在C ++中编写此循环并使用编织会更快）？

ARRAY_LENGTH = 500000
INTERVAL_LENGTH = 15
close = np.array( xrange(ARRAY_LENGTH) )
volume = np.array( xrange(ARRAY_LENGTH) )
close, volume = close.astype('float64'), volume.astype('float64')

results = []
for i in xrange(len(close) - INTERVAL_LENGTH):
    for j in xrange(i+1, i+INTERVAL_LENGTH):
        ret = close[j] / close[i]
        vol = sum( volume[i+1:j+1] )
        if ret > 1.0001 and ret < 1.5 and vol > 100:
            results.append( [i, j, ret, vol] )
print results

Answer 1

在“new_function2”中更新:(几乎）完全矢量化版本......

我会添加评论来解释一下。

它提供了~50倍的加速，如果输出是numpy数组而不是列表，那么可以实现更大的加速。原样：

In [86]: %timeit new_function2(close, volume, INTERVAL_LENGTH)
1 loops, best of 3: 1.15 s per loop

您可以通过调用np.cumsum（）替换内部循环...请参阅下面的“new_function”函数。这给了相当大的加速......

In [61]: %timeit new_function(close, volume, INTERVAL_LENGTH)
1 loops, best of 3: 15.7 s per loop

VS

In [62]: %timeit old_function(close, volume, INTERVAL_LENGTH)
1 loops, best of 3: 53.1 s per loop

应该可以对整个事物进行矢量化并完全避免循环，但是......给我一分钟，我会看到我能做些什么......

import numpy as np

ARRAY_LENGTH = 500000
INTERVAL_LENGTH = 15
close = np.arange(ARRAY_LENGTH, dtype=np.float)
volume = np.arange(ARRAY_LENGTH, dtype=np.float)

def old_function(close, volume, INTERVAL_LENGTH):
    results = []
    for i in xrange(len(close) - INTERVAL_LENGTH):
        for j in xrange(i+1, i+INTERVAL_LENGTH):
            ret = close[j] / close[i]
            vol = sum( volume[i+1:j+1] )
            if (ret > 1.0001) and (ret < 1.5) and (vol > 100):
                results.append( (i, j, ret, vol) )
    return results


def new_function(close, volume, INTERVAL_LENGTH):
    results = []
    for i in xrange(close.size - INTERVAL_LENGTH):
        vol = volume[i+1:i+INTERVAL_LENGTH].cumsum()
        ret = close[i+1:i+INTERVAL_LENGTH] / close[i]

        filter = (ret > 1.0001) & (ret < 1.5) & (vol > 100)
        j = np.arange(i+1, i+INTERVAL_LENGTH)[filter]

        tmp_results = zip(j.size * [i], j, ret[filter], vol[filter])
        results.extend(tmp_results)
    return results

def new_function2(close, volume, INTERVAL_LENGTH):
    vol, ret = [], []
    I, J = [], []
    for k in xrange(1, INTERVAL_LENGTH):
        start = k
        end = volume.size - INTERVAL_LENGTH + k
        vol.append(volume[start:end])
        ret.append(close[start:end])
        J.append(np.arange(start, end))
        I.append(np.arange(volume.size - INTERVAL_LENGTH))

    vol = np.vstack(vol)
    ret = np.vstack(ret)
    J = np.vstack(J)
    I = np.vstack(I)

    vol = vol.cumsum(axis=0)
    ret = ret / close[:-INTERVAL_LENGTH]

    filter = (ret > 1.0001) & (ret < 1.5) & (vol > 100)

    vol = vol[filter]
    ret = ret[filter]
    I = I[filter]
    J = J[filter]

    output = zip(I.flat,J.flat,ret.flat,vol.flat)
    return output

results = old_function(close, volume, INTERVAL_LENGTH)
results2 = new_function(close, volume, INTERVAL_LENGTH)
results3 = new_function(close, volume, INTERVAL_LENGTH)

# Using sets to compare, as the output 
# is in a different order than the original function
print set(results) == set(results2)
print set(results) == set(results3)

Answer 2

一次加速就是删除sum部分，因为在此实现中，它将长度为2到INTERVAL_LENGTH的列表相加。相反，只需将volume[j+1]添加到循环的最后一次迭代的vol的先前结果中。因此，您每次只需添加两个整数，而不是将每个整数列表相加并对其进行切片。另外，不要从sum(volume[i+1:j+1])开始，只需执行vol = volume[i+1] + volume[j+1]，因为您知道这里的初始案例总是只有两个索引。

另一个加速是使用.extend而不是.append，因为python实现的extend运行得更快。

您还可以分解最终的if语句，以便仅在需要时进行某些计算。例如，您知道if vol <= 100，您无需计算ret。

这并没有完全回答你的问题，但我认为尤其是总和问题，你应该看到这些变化带来显着的加速。

编辑 - 您也不需要len，因为您已经具体了解了列表的长度（除非仅用于示例）。将其定义为数字而不是len(something)总是更快。

编辑 - 实施（这是未经测试的）：

ARRAY_LENGTH = 500000
INTERVAL_LENGTH = 15
close = np.array( xrange(ARRAY_LENGTH) )
volume = np.array( xrange(ARRAY_LENGTH) )
close, volume = close.astype('float64'), volume.astype('float64')

results = []
ex = results.extend
for i in xrange(ARRAY_LENGTH - INTERVAL_LENGTH):
    vol = volume[i+1]
    for j in xrange(i+1, i+INTERVAL_LENGTH):
        vol += volume[j+1]
        if vol > 100:
            ret = close[j] / close[i]
            if 1.0001 < ret < 1.5:
                ex( [i, j, ret, vol] )
print results

Answer 3

为什么不尝试将结果生成为单个列表（比追加或扩展快得多），如：

results = [ t for t in ( (i, j, close[j]/close[i], sum(volume[i+1:j+1]))
                         for i in xrange(len(close)-INT_LEN)
                             for j in xrange(i+1, i+INT_LEN)
                       )
            if t[3] > 100 and 1.0001 < t[2] < 1.5
          ]

如何加速python嵌套循环？

3 个答案: