试图了解zeromq高水位行为

时间:2014-01-25 23:26:57

标签: python multithreading zeromq pyzmq

我一直在玩pyzmq和使用HWM进行简单的负载平衡,我不太了解我所看到的行为。

我已经建立了一个简单的多线程测试,DEALER客户端通过ROUTER到DEALER模式连接到两个工作人员。 HWM设置为1.其中一个工作人员非常快,另一个工作人员非常慢,而且所有客户端都向服务器发送了100封垃圾邮件。这通常似乎有效,而工作速度更快的工作人员处理的消息比慢工作者多。

然而,即使我将慢速工作者设置得如此之慢,以致快速工作者应该能够在慢速工作者完成之前处理99条消息,慢速工作者似乎仍然至少收到2或3条消息

高水印行为是否不准确或我遗失了什么?

服务器代码如下:

import re, sys, time, string, zmq, threading, signal


def worker_routine(worker_url, worker_id, context=None):
    # socket to talk to dispatcher
    context = context or zmq.Context.instance()
    socket = context.socket(zmq.REP)
    socket.set_hwm(1)
    socket.connect(worker_url)

    print "worker ", worker_id, " ready ..."
    while True:
        x = socket.recv()

        if worker_id==1:
            time.sleep(3)

        print worker_id, x
        sys.stdout.flush()

        socket.send(b'world')


context = zmq.Context().instance()
# socket facing clients
frontend = context.socket(zmq.ROUTER)
frontend.bind("tcp://*:5559")
# socket facing services
backend  = context.socket(zmq.DEALER)
url_worker = "inproc://workers"
backend.set_hwm(1)
backend.bind(url_worker)

# launch pool of worker threads
for i in range(2):
    thread = threading.Thread(target=worker_routine, args=(url_worker,i,))
    thread.start()
    time.sleep(0.1)

try:
    zmq.device(zmq.QUEUE, frontend, backend)
except:
    print "terminating!"

# we never get here
frontend.close()
backend.close()
context.term()

客户端代码如下:

import zmq, random, string, time, threading, signal

#  prepare our context and sockets
context = zmq.Context()
socket = context.socket(zmq.DEALER)
socket.connect("tcp://localhost:5559")

inputs = [''.join(random.choice(string.ascii_lowercase) for x in range(12)) for y in range(100)]

for x in xrange(100):
    socket.send_multipart([b'', str(x)])

print "finished!"

示例输出:

...
0 81
0 82
0 83
0 84
0 85
0 86
0 87
0 88
0 89
0 90
0 91
0 92
0 93
0 94
0 95
0 96
0 97
0 98
0 99
1 1
1 3
1 5

1 个答案:

答案 0 :(得分:3)

显然,ZeroMQ会从send()调用中异步发送消息。也就是说,当send()返回时,消息尚未发送或添加到内部队列。如果您发送的速度足够快,则下次调用发送时,该消息仍未添加到队列中,因此尚未达到水印。您可以在将某些消息放入队列之前添加数十或数百条消息,达到水印,并阻止发送行为。

换句话说,在send()之后尝试休息几分之一秒,看看会发生什么,它应该给消息提供足够的时间来添加到队列中,所以到下次发送时,它是能够看到水印已经到达。