Python Multiprocessing没有让它更快

时间:2017-07-30 04:28:38

标签: python multiprocessing progress-bar stdin

您好我有一个程序从stdin获取输入,我认为如果我使用多处理它会更快但实际上需要更长时间:

正常:

import sys
import hashlib
import base58
from progress.bar import ShadyBar


bar=ShadyBar('Fighting', max=100000, suffix='%(percent)d%% - %(index)d / %(max)d - %(elapsed)d')

listagood=[]
for cc in sys.stdin:
    try:
        bar.next()
        hexwif=cc[0:51]         
        enco=base58.b58decode_check(hexwif)     
        Fhash=hashlib.sha256(enco)          
        d2=hashlib.sha256() 
        d2.update(Fhash.digest())
        Shash=d2.hexdigest() 
        Conf1=Shash[0:8] 
        encooo=base58.b58decode(hexwif) 
        Conf2=encooo.encode("hex")
        Conf2=Conf2[len(Conf2)-8:len(Conf2)]
        if Conf1==Conf2:
            listagood.append(cc)
    except:
        pass



bar.finish()
print("\nChecksum: " )
print(listagood)
print("\n")

多处理:

def worker(line):
    try:
        hexwif=line[0:51]       
        enco=base58.b58decode_check(hexwif)
        Fhash=hashlib.sha256(enco)          
        d2=hashlib.sha256() 
        d2.update(Fhash.digest())
        Shash=d2.hexdigest()
        Conf1=Shash[0:8]
        encooo=base58.b58decode(hexwif)
        Conf2=encooo.encode("hex")
        Conf2=Conf2[len(Conf2)-8:len(Conf2)]
        if Conf1==Conf2:
            return(line)
    except:
        #e=sys.exc_info()
        #print(str(e))
        pass



listagood=[]
pool = multiprocessing.Pool(processes=4)
bar=ShadyBar('Fighting', max=100000, suffix='%(percent)d%% - %(index)d / %(max)d - %(elapsed)d')
for result in pool.imap(worker, sys.stdin):
    if result != None:
        listagood.append(result)
    #print "Result: %r" % (result)
    bar.next()


bar.finish()
print("\nChecksum: " )
print(listagood)
print("\n")

不幸的是,当我检查经过的时间时,它几乎是多进程的三倍。

每个物理核心都有一个处理器,两个物理核心和两个虚拟核心。

我怎么知道这是否是由多处理开销引起的?或者这是我做错了什么?

非常感谢任何帮助

1 个答案:

答案 0 :(得分:0)

Pool在多个进程中划分输入。在你的情况下4.但你一次传递一个输入,实际上并没有触发所有4个线程。 使用以下内容并查看时间的变化

 pool.imap(worker, sys.stdin.readlines())

希望这有帮助。