RabbitMQ 分發到多Consumer(Publish/Subscribe)


     上篇文章中,我們把每個Message都是deliver到某個Consumer。在這篇文章中,我們將會將同一個Message deliver到多個Consumer中。這個模式也被成為 "publish / subscribe"。
    這篇文章中,我們將創建一個日志系統,它包含兩個部分:第一個部分是發出log(Producer),第二個部分接收到並打印(Consumer)。 我們將構建兩個Consumer,第一個將log寫到物理磁盤上;第二個將log輸出的屏幕。

1. Exchanges

    關於exchange的概念在《RabbitMQ消息隊列(一): Detailed Introduction 詳細介紹》中有詳細介紹。現在做一下簡單的回顧。

    RabbitMQ 的Messaging Model就是Producer並不會直接發送Message到queue。實際上,Producer並不知道它發送的Message是否已經到達queue。

   Producer發送的Message實際上是發到了Exchange中。它的功能也很簡單:從Producer接收Message,然后投遞到queue中。Exchange需要知道如何處理Message,是把它放到那個queue中,還是放到多個queue中?這個rule是通過Exchange 的類型定義的。

 

   我們知道有三種類型的Exchange:direct, topic 和fanout。fanout就是廣播模式,會將所有的Message都放到它所知道的queue中。創建一個名字為logs,類型為fanout的Exchange:

 

[python] view plain copy
 
print?
  1. channel.exchange_declare(exchange='logs',  
  2.                          type='fanout')  
channel.exchange_declare(exchange='logs',
                         type='fanout')

 

Listing exchanges

通過rabbitmqctl可以列出當前所有的Exchange:

 

[python] view plain copy
 
print?
  1. $ sudo rabbitmqctl list_exchanges  
  2. Listing exchanges ...  
  3. logs      fanout  
  4. amq.direct      direct  
  5. amq.topic       topic  
  6. amq.fanout      fanout  
  7. amq.headers     headers  
  8. ...done.  
$ sudo rabbitmqctl list_exchanges
Listing exchanges ...
logs      fanout
amq.direct      direct
amq.topic       topic
amq.fanout      fanout
amq.headers     headers
...done.


注意 amq.* exchanges 和the default (unnamed)exchange是RabbitMQ默認創建的。

 

現在我們可以通過exchange,而不是routing_key來publish Message了:

 

[python] view plain copy
 
print?
  1. channel.basic_publish(exchange='logs',  
  2.                       routing_key='',  
  3.                       body=message)  
channel.basic_publish(exchange='logs',
                      routing_key='',
                      body=message)

 

 

2. Temporary queues

 

    截至現在,我們用的queue都是有名字的:第一個是hello,第二個是task_queue。使用有名字的queue,使得在Producer和Consumer之前共享queue成為可能。

    但是對於我們將要構建的日志系統,並不需要有名字的queue。我們希望得到所有的log,而不是它們中間的一部分。而且我們只對當前的log感興趣。為了實現這個目標,我們需要兩件事情:
    1) 每當Consumer連接時,我們需要一個新的,空的queue。因為我們不對老的log感興趣。幸運的是,如果在聲明queue時不指定名字,那么RabbitMQ會隨機為我們選擇這個名字。方法:

[python] view plain copy
 
print?
  1. result = channel.queue_declare()  
result = channel.queue_declare()

    通過result.method.queue 可以取得queue的名字。基本上都是這個樣子:amq.gen-JzTY20BRgKO-HjmUJj0wLg。
    2)當Consumer關閉連接時,這個queue要被deleted。可以加個exclusive的參數。方法:

[python] view plain copy
 
print?
  1. result = channel.queue_declare(exclusive=True)  
result = channel.queue_declare(exclusive=True)
 
        

3. Bindings綁定

現在我們已經創建了fanout類型的exchange和沒有名字的queue(實際上是RabbitMQ幫我們取了名字)。那exchange怎么樣知道它的Message發送到哪個queue呢?答案就是通過bindings:綁定。

方法:

 

[python] view plain copy
 
print?
  1. channel.queue_bind(exchange='logs',  
  2.                    queue=result.method.queue)  
channel.queue_bind(exchange='logs',
                   queue=result.method.queue)

現在logs的exchange就將它的Message附加到我們創建的queue了。

 

Listing bindings

使用命令rabbitmqctl list_bindings。

 

4. 最終版本

    我們最終實現的數據流圖如下:

Producer,在這里就是產生log的program,基本上和前幾個都差不多。最主要的區別就是publish通過了exchange而不是routing_key。

emit_log.py script:

 

[python] view plain copy
 
print?
  1. #!/usr/bin/env python  
  2. import pika  
  3. import sys  
  4.   
  5. connection = pika.BlockingConnection(pika.ConnectionParameters(  
  6.         host='localhost'))  
  7. channel = connection.channel()  
  8.   
  9. channel.exchange_declare(exchange='logs',  
  10.                          type='fanout')  
  11.   
  12. message = ' '.join(sys.argv[1:]) or "info: Hello World!"  
  13. channel.basic_publish(exchange='logs',  
  14.                       routing_key='',  
  15.                       body=message)  
  16. print " [x] Sent %r" % (message,)  
  17. connection.close()  
#!/usr/bin/env python
import pika
import sys

connection = pika.BlockingConnection(pika.ConnectionParameters(
        host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='logs',
                         type='fanout')

message = ' '.join(sys.argv[1:]) or "info: Hello World!"
channel.basic_publish(exchange='logs',
                      routing_key='',
                      body=message)
print " [x] Sent %r" % (message,)
connection.close()

 

還有一點要注意的是我們聲明了exchange。publish到一個不存在的exchange是被禁止的。如果沒有queue bindings exchange的話,log是被丟棄的。
Consumer:receive_logs.py:

[python] view plain copy
 
print?
  1. #!/usr/bin/env python  
  2. import pika  
  3.   
  4. connection = pika.BlockingConnection(pika.ConnectionParameters(  
  5.         host='localhost'))  
  6. channel = connection.channel()  
  7.   
  8. channel.exchange_declare(exchange='logs',  
  9.                          type='fanout')  
  10.   
  11. result = channel.queue_declare(exclusive=True)  
  12. queue_name = result.method.queue  
  13.   
  14. channel.queue_bind(exchange='logs',  
  15.                    queue=queue_name)  
  16.   
  17. print ' [*] Waiting for logs. To exit press CTRL+C'  
  18.   
  19. def callback(ch, method, properties, body):  
  20.     print " [x] %r" % (body,)  
  21.   
  22. channel.basic_consume(callback,  
  23.                       queue=queue_name,  
  24.                       no_ack=True)  
  25.   
  26. channel.start_consuming()  
#!/usr/bin/env python
import pika

connection = pika.BlockingConnection(pika.ConnectionParameters(
        host='localhost'))
channel = connection.channel()

channel.exchange_declare(exchange='logs',
                         type='fanout')

result = channel.queue_declare(exclusive=True)
queue_name = result.method.queue

channel.queue_bind(exchange='logs',
                   queue=queue_name)

print ' [*] Waiting for logs. To exit press CTRL+C'

def callback(ch, method, properties, body):
    print " [x] %r" % (body,)

channel.basic_consume(callback,
                      queue=queue_name,
                      no_ack=True)

channel.start_consuming()

我們開始不是說需要兩個Consumer嗎?一個負責記錄到文件;一個負責打印到屏幕?
其實用重定向就可以了,當然你想修改callback自己寫文件也行。我們使用重定向的方法:
We're done. If you want to save logs to a file, just open a console and type:

[python] view plain copy
 
print?
  1. $ python receive_logs.py > logs_from_rabbit.log  
$ python receive_logs.py > logs_from_rabbit.log

Consumer2:打印到屏幕:

[python] view plain copy
 
print?
  1. $ python receive_logs.py  
$ python receive_logs.py

接下來,Producer:

[python] view plain copy
 
print?
  1. $ python emit_log.py  
$ python emit_log.py

使用命令rabbitmqctl list_bindings你可以看我們創建的queue。
一個output:

[python] view plain copy
 
print?
  1. $ sudo rabbitmqctl list_bindings  
  2. Listing bindings ...  
  3. logs    exchange        amq.gen-JzTY20BRgKO-HjmUJj0wLg  queue           []  
  4. logs    exchange        amq.gen-vso0PVvyiRIL2WoV3i48Yg  queue           []  
  5. ...done.  
$ sudo rabbitmqctl list_bindings
Listing bindings ...
logs    exchange        amq.gen-JzTY20BRgKO-HjmUJj0wLg  queue           []
logs    exchange        amq.gen-vso0PVvyiRIL2WoV3i48Yg  queue           []
...done.

這個結果還是很好理解的。


參考資料:

1. http://www.rabbitmq.com/tutorials/tutorial-three-python.html


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM