问题描述
|
我有一个执行几个独立且耗时的过程的python程序。 python代码通常是自动机,可通过popen调用多个批处理文件。
该程序目前需要花费几个小时,因此我想将其拆分到多台计算机上。如何在Intranet网络上拆分任务以与python并行处理?
解决方法
有很多Python并行化框架。仅有两个选项:
IPython的并行计算工具
并行化框架容器
, 对于远程执行,您可以使用execnet。您是否也必须分发数据?
, 我可能会建议STAF。它被宣传为一种软件测试框架,但它允许在多台PC(和多个平台)之间分配活动。您可以运行脚本,复制数据并在多个会话之间轻松进行通信。最重要的是,与现有脚本集成起来相当容易。