在安装完显卡驱动的服务器使用

nvidia-smi

参数解释

GPU：显示为第几块卡 从0开始。
Fan：风扇的转速（0%-100%）。
Temp：显卡的温度，单位摄氏度。
Perf：性能，P0-P12级别，P0表示最大，P12表示最小。
Pwr:Usage/Cap：能耗。
Memory-Usage：显存占用/显存总数量。
Volatile GPU-Util：GPU利用率。
Compute M：计算模式，默认为计算。
===================================
Processes：正在运行的程序。
    GPU：该程序使用第几块卡。
    PID：该程序线程号。
    GPU Memory  Usage：使用的显存大小。

watch -n 1 nvidia-smi

每秒动态刷新GPU使用情况