加入收藏 | 设为首页 | 会员中心 | 我要投稿 核心网 (https://www.hxwgxz.com/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 建站 > 正文

Python分布式进程中你会遇到的坑

发布时间:2019-05-29 11:56:05 所属栏目:建站 来源:编程思录
导读:小惊大怪 你是不是在用Python3或者在windows系统上编程?最重要的是你对进程和线程不是很清楚?那么恭喜你,在python分布式进程中,会有坑等着你去挖。。。(hahahaha,此处允许我吓唬一下你)开玩笑的啦,不过,如果你知道序列中不支持匿名函数,那这个坑就和

在task_master.py中修改如下:

  1. #!/user/bin/pytthon 
  2. # -*- coding:utf-8 -*- 
  3. # @Time: 2018/3/3 16:46 
  4. # @Author: lichexo 
  5. # @File: task_master.py 
  6. # task_master.py 
  7. import random,time,queue 
  8. from multiprocessing.managers import BaseManager 
  9. from multiprocessing import freeze_support 
  10. task_queue = queue.Queue() # 发送任务的队列: 
  11. result_queue = queue.Queue() # 接收结果的队列: 
  12. class QueueManager(BaseManager): # 从BaseManager继承的QueueManager: 
  13.  pass 
  14. # windows下运行 
  15. def return_task_queue(): 
  16.  global task_queue 
  17.  return task_queue # 返回发送任务队列 
  18. def return_result_queue (): 
  19.  global result_queue 
  20.  return result_queue # 返回接收结果队列 
  21. def test(): 
  22.  # 把两个Queue都注册到网络上, callable参数关联了Queue对象,它们用来进行进程间通信,交换对象 
  23.  #QueueManager.register('get_task_queue', callable=lambda: task_queue) 
  24.  #QueueManager.register('get_result_queue', callable=lambda: result_queue) 
  25.  QueueManager.register('get_task_queue', callable=return_task_queue) 
  26.  QueueManager.register('get_result_queue', callable=return_result_queue) 
  27.  # 绑定端口5000, 设置验证码'abc': 
  28.  #manager = QueueManager(address=('', 5000), authkey=b'abc') 
  29.  # windows需要写ip地址 
  30.  manager = QueueManager(address=('127.0.0.1', 5000), authkey=b'abc') 
  31.  manager.start() # 启动Queue: 
  32.  # 获得通过网络访问的Queue对象: 
  33.  task = manager.get_task_queue() 
  34.  result = manager.get_result_queue() 
  35.  for i in range(10): # 放几个任务进去: 
  36.  n = random.randint(0, 10000) 
  37.  print('Put task %d...' % n) 
  38.  task.put(n) 
  39.  # 从result队列读取结果: 
  40.  print('Try get results...') 
  41.  for i in range(10): 
  42.  # 这里加了异常捕获 
  43.  try: 
  44.  r = result.get(timeout=5) 
  45.  print('Result: %s' % r) 
  46.  except queue.Empty: 
  47.  print('result queue is empty.') 
  48.  # 关闭: 
  49.  manager.shutdown() 
  50.  print('master exit.') 
  51. if __name__=='__main__': 
  52.  freeze_support() 
  53.  print('start!') 
  54.  test() 

(编辑:核心网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

热点阅读