我在计算集群上运行一个需要GPU支持的python based软件时发现了这个问题，最终发现是因为pytorch版本问题，用了cpu版本的才会导致GPU支持跟不上。
通过conda list就可以看到自己的torch是不是cpu版本。是的话需要卸载重装，我用的conda。从官网复制命令下载，不要使用清华源。torch支持的cuda版本大于等于自己已有的cuda版本的情况都是可用的。
最后在python中查看cuda可用性，显示成功。
（代码就不贴了，这个问题比较常见网上应该到处都是解决方案与代码）
参考内容：
亲测有效解决torch.cuda.is_available()返回False的问题（分析+多种方案），点进不亏_torch.cuda.is_available()是false-CSDN博客