python – 当工作人员数量增加并且numpy生成大型数组时,Keras使用较少的CPU

我的代码使用了相对广泛的扩充策略,但我注意到当fit_generator(… workers = N)中的N增加时,CPU利用率不成比例.我有一个4核CPU.

>当N = 1时,htop显示约105%的使用率
>当N = 2时,htop显示约202%的使用率
>当N = 3时,htop显示约287%的使用率
>当N = 4时,htop显示大约342%的使用率

GPU使用率始终低于40%.

如果我减少增强策略以省略噪声添加,当N = 4时,我可以实现大约360%和更高的GPU使用率.增加噪音

x = numpy.random.normal(0,noise_sigma,x.shape)/ 255.0

其中x是640×480 BGR输入图像.这是一个慢速呼叫,每次呼叫平均大约24.3ms,但是当N = 4时CPU不应该仍然工作吗? numpy如何在生成大量随机数时阻塞其他线程?

最佳答案
普通电话cont2_array *

https://github.com/numpy/numpy/blob/master/numpy/random/mtrand/mtrand.pyx#L1651

还有锁

这是什么原因?

您可以尝试使用单个RandomState生成随机数吗?

r = numpy.random.RandomState() 

.....

for ... :
    x += r.normal(0,x.shape) / 255.0

相关文章

Python中的函数(二) 在上一篇文章中提到了Python中函数的定...
Python中的字符串 可能大多数人在学习C语言的时候,最先接触...
Python 面向对象编程(一) 虽然Python是解释性语言,但是它...
Python面向对象编程(二) 在前面一篇文章中谈到了类的基本定...
Python中的函数(一) 接触过C语言的朋友对函数这个词肯定非...
在windows下如何快速搭建web.py开发框架 用Python进行web开发...