pytorch cpu占用较高

网友投稿 1538 2022-05-30

方法一、torch.set_num_threads(int thread) (亲测比较有效)

linux有效,不用时cpu占用能到5000%,设置3后,就到到300%。

法二、export OMP_NUM_THREADS = 1 (未测)

PyTorch 随机数生成占用 CPU 过高

今天在使用 pytorch 的过程中,发现 CPU 占用率过高。经过检查,发现是因为先在 CPU 中生成了随机数,然后再调用.to(device)传到 GPU,这样导致效率变得很低,并且CPU 和 GPU 都被消耗。

查阅PyTorch文档后发现,torch.randn(shape, out)可以直接在GPU中生成随机数,只要shape是tensor.cuda.Tensor类型即可。这样,就可以避免在 CPU 中生成过大的矩阵,而 shape 变量是很小的。因此,下面的代码就可以进行这种操作了。

noise = torch.cuda.FloatTensor(shape) if torch.cuda.is_available() else torch.FloatTensor(shape)

torch.randn(shape, out=noise)

windows也有效:

pytorch cpu占用较高

不设置,cpu51%,时间15ms

不设置的时候,torch会自动加载很多cpu,导致CPU占用很高。

2的时候,cpu17%,时间15ms变为25ms

4的时候,cpu34%,时间17ms

8的时候,cpu67%,

pytorch

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:Python 创建单元素的元组
下一篇:ocr
相关文章