并发处理 NLP参考

问题描述

我理解,一般来说,在Python的concurrent.futures模块中,ProcesspoolExecutor用于cpu受限的任务,ThreadPoolExecutor用于I/O受限的输出

我有一个包含新闻文章的数据框,我想将这些新闻文章huggingface neuralcoref 包一起应用。由于这实际上是一个计算,我预计这是一个cpu 限制的进程,因此尝试使用 ProcesspoolExecutor。但是,我发现 ThreadPoolExecutor 方法在一半的时间内处理批处理。 我认为这是一个cpu 限制的进程的假设似乎是不正确的。为什么会这样?

如果这有帮助,这里是规格:

处理器:AMD FX-8350(8核)
主板:技嘉990FXA-UD3
内存:16GB DDR3
存储:三星固态硬盘

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

相关问答

Selenium Web驱动程序和Java。元素在(x,y)点处不可单击。其...
Python-如何使用点“。” 访问字典成员?
Java 字符串是不可变的。到底是什么意思?
Java中的“ final”关键字如何工作?(我仍然可以修改对象。...
“loop:”在Java代码中。这是什么,为什么要编译?
java.lang.ClassNotFoundException:sun.jdbc.odbc.JdbcOdbc...