Can I pass queue object in multiprocessing pool starmap method(我可以在多处理池Starmap方法中传递队列对象吗)
本文介绍了我可以在多处理池Starmap方法中传递队列对象吗的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!
问题描述
关于在python多处理池的starmap方法中传递多个参数,在SO中有很多问题。但我想问的是,我是否可以在方法中发送一个可以在不同进程之间共享的队列对象?
我可以使用线程和多进程方法完成此操作,但不能使用Pool的星图方法。
from multiprocessing import Process, Queue, Pool
def get_data(pageNo,q):
q.put(pageNo*pageNo)
if __name__ == "__main__":
q = Queue()
p = {}
no_pages = 5
pool_tuple = [(x,q) for x in range(1,no_pages)]
with Pool(processes=3) as pool:
pool.starmap(get_data, pool_tuple)
我想要的是我应该能够将来自不同进程的结果放入队列。 我收到的错误是:队列对象应仅在进程之间通过继承共享
我传递队列对象的方式是否做错了什么?既然进程支持这一点,那么Pool方法也应该能够。
推荐答案
尝试这样使用Manager()
:
from multiprocessing import Manager, Pool
def get_data(pageNo, q):
q.put(pageNo * pageNo)
if __name__ == "__main__":
m = Manager()
q = m.Queue()
p = {}
no_pages = 5
pool_tuple = [(x, q) for x in range(1, no_pages)]
with Pool(processes=3) as pool:
pool.starmap(get_data, pool_tuple)
for i in range(1, no_pages):
print("result", i, ":", q.get())
输出:
result 1 : 1
result 2 : 4
result 3 : 9
result 4 : 16
这篇关于我可以在多处理池Starmap方法中传递队列对象吗的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持编程学习网!
沃梦达教程
本文标题为:我可以在多处理池Starmap方法中传递队列对象吗
猜你喜欢
- 计算测试数量的Python单元测试 2022-01-01
- 我如何卸载 PyTorch? 2022-01-01
- ";find_element_by_name(';name';)";和&QOOT;FIND_ELEMENT(BY NAME,';NAME';)";之间有什么区别? 2022-01-01
- YouTube API v3 返回截断的观看记录 2022-01-01
- 检查具有纬度和经度的地理点是否在 shapefile 中 2022-01-01
- 使用公司代理使Python3.x Slack(松弛客户端) 2022-01-01
- 使用 Cython 将 Python 链接到共享库 2022-01-01
- 如何使用PYSPARK从Spark获得批次行 2022-01-01
- CTR 中的 AES 如何用于 Python 和 PyCrypto? 2022-01-01
- 我如何透明地重定向一个Python导入? 2022-01-01