CUDA_VISIBLE_DEVICES:控制在固定的某些设备上运行Python程序

发布时间:2024年01月24日

设置CUDA设备?

1、首先设置环境变量:

设置仅使用CUDA 1 设备

export CUDA_VISIBLE_DEVICES=1

?设置仅使用CUDA 1、5、7 设备

export CUDA_VISIBLE_DEVICES=1,5,7

2、然后运行您的 Python 脚本:

python my_cuda_script.py

在这种情况下,export 命令会将 CUDA_VISIBLE_DEVICES 设置为环境变量,该变量会影响在同一会话中随后运行的所有命令。这意味着只要您在同一个终端会话中,之后运行的所有 CUDA 支持的程序都只能看到并使用编号为 1 的 GPU。

一旦关闭了终端会话,这个环境变量设置就会失效,如果需要在新的会话中使用相同的设置,您需要再次设置它。

检查当前命令是否生效

import pycuda.driver as cuda
cuda.init()

# 获取检测到的 CUDA 设备数量
device_count = cuda.Device.count()
print('Detected %d CUDA capable device(s)' % device_count)

# 列出所有设备的编号和名称
for i in range(device_count):
    device = cuda.Device(i)
    print(f"Device {i}: {device.name()}")

文章来源:https://blog.csdn.net/weixin_43135178/article/details/135813103
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。