1、首先查看顯卡的情況
命令： nvidia-smi
功能：顯示服務器上的GPU的情況
命令： nvidia-smi -l
功能：定時更新顯示服務器上的GPU的情況
命令：watch -n 3 nvidia-smi
功能：設定刷新時間（秒）顯示GPU使用情況
Fan：風扇速度 Temp：顯卡溫度 Perf：性能狀態，P0最小性能，P12最大性能 Usage/Cap： 當前功耗/最大功耗 Memory-Usage：以占用顯存/最大顯存 GPU-Util：浮動GPU利用率 Processes：每個進程分別占用GPU的用量
2、如果當前默認卡的空間不夠，你要換卡
import os os.environ["CUDA_DEVICES_ORDER"]="PCI_BUS_IS" os.environ["CUDA_VISIBLE_DEVICES"]="1" //指定使用第二塊GPU
這段代碼最好放在Python的最開頭
在終端中可以用：
CUDA_VISIBLE_DEVICES=O,1 python3 main.py //程序只能使用GPU:0，1 CUDA_VISIBLE_DEVICES="0,1" //同上 CUDA_VISIBLE_DEVICES="" //禁止程序使用GPU
參考鏈接：