python 在类里使用进程池

  1. 【神一般的存在】武汉-学生-DF<project1230@126.com> 21:57:52

    【神一般的存在】武汉-学生-DF<project1230@126.com> 21:58:00
    亲测可用

    【神一般的存在】接项目-远程协助 5元-pyqt5.com(625781186) 21:58:50
    可以加self用吗
    【神一般的存在】武汉-学生-DF<project1230@126.com> 21:58:57
    可用
    【神一般的存在】武汉-学生-DF<project1230@126.com> 21:59:05
    https://stackoverflow.com/questions/1816958/cant-pickle-type-instancemethod-when-using-multiprocessing-pool-map

    一样的配方
  2. 首先, 进程池的作用就是减少进程的创建和释放 开销的, 所以在类中作为局部变量是不合适的;
  3. 其次, 进程池必须在if __name__ == "__main__"里 ,否则会报 frozen_ 什么什么的错误;(这一点可能解释有误);
  4. 然后, 线程池的apply_async 中如果传入self.xxx方法,会报multiprocessing.Pool pickling error什么的错误, 具体解释见https://blog.csdn.net/dutsoft/article/details/70336462, 里面有解决方法,但是我没有成功(最开始测试没有现在理解的透彻, 不过应该是可以的);

由于第1点 不合理, 所以有什么办法在类 函数中获取 进程池对象po的地址:

我的解决思路和方法是:
1. 通过globals() 取得全局变量 , 测试证明 :不同文件的globals()是不同的: 如Tab2.pyglobals()main_extra_func_file.py中的 globals()是不同的 , 所以 这样在Tab2.py中取不到po对象;
2. 通过__main__.po 来获取 (为什么会想到这个呢, 因为有时候导包 import .xxx 和import xxx 会报 __main__ 没有什么属性什么的):

 

def getPoolObject():
# po 的名字在main函数中定义
# __main__ 模块在sys.modules 的键是"__mp_main__"
    return sys.modules["__mp_main__"].po

 

ps : (图没截好 , rglob_worker 是外部函数 , 非类内函数 ,po = getPoolBojcet() 这一行是类内函数 ,红色箭头 2. 在的那条白色分割线 是2个函数。 )

<span style="font-family: Consolas, Monaco, monospace;">len(po._cache) == 1 : po._cache 是当前有任务的进程数, ==1表示所有任务结束;

利用回调 , 可以更轻松地进行进程通信。

点赞

发表评论