千家信息网

Pytorch怎么查看、释放已关闭程序占用的GPU资源

发表于:2025-01-28 作者:千家信息网编辑
千家信息网最后更新 2025年01月28日,这篇文章主要介绍了Pytorch怎么查看、释放已关闭程序占用的GPU资源,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。看代码吧~imp
千家信息网最后更新 2025年01月28日Pytorch怎么查看、释放已关闭程序占用的GPU资源

这篇文章主要介绍了Pytorch怎么查看、释放已关闭程序占用的GPU资源,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。

看代码吧~

import torch print(torch.cuda.current_device())print(torch.cuda.device_count())print(torch.cuda.get_device_name())print(torch.cuda.is_available())

打开terminal输入nvidia-smi可以看到当前各个显卡及用户使用状况,使用kill -9 pid(需替换成具体的编号)即可杀掉占用资源的程序,杀完后结果

补充:如何处理Pytorch使用GPU后仍有GPU资源未释放的情况

使用PyTorch设置多线程(threads)进行数据读取(DataLoader),其实是假的多线程,他是开了N个子进程(PID都连着)进行模拟多线程工作,所以你的程序跑完或者中途kill掉主进程的话,子进程的GPU显存并不会被释放,需要手动一个一个kill才行

具体方法描述如下:

1.先关闭ssh(或者shell)窗口,退出重新登录

2.查看运行在gpu上的所有程序:

fuser -v /dev/nvidia*

3.kill掉所有(连号的)僵尸进程

感谢你能够认真阅读完这篇文章,希望小编分享的"Pytorch怎么查看、释放已关闭程序占用的GPU资源"这篇文章对大家有帮助,同时也希望大家多多支持,关注行业资讯频道,更多相关知识等着你来学习!

0