WSL2中CUDA显存不足与Hyper-V显卡虚拟化冲突的检测命令汇总

文章导读
WSL2 中看到 CUDA 显存不足,先不要急着给 Hyper-V 定罪。显存不足可能来自两处:物理 GPU 显存已被别的进程占满,或者 WSL2 的 GPU 分区(GPU-PV)在申请显存时出现异常,导致 CUDA 拿不到可用显存。要区分这两条路径,需要在 WSL2 会话内和 Windows 主机各跑一遍检测命令,对比同一个时刻的显存占用。
📋 目录
  1. Ⅰ 先查物理 GPU 显存占用
  2. Ⅱ 检查 Hyper-V 虚拟化链路
  3. Ⅲ 哪些情况不能断定是虚拟化冲突
  4. Ⅳ 验证清单
A A

WSL2 中看到 CUDA 显存不足,先不要急着给 Hyper-V 定罪。显存不足可能来自两处:物理 GPU 显存已被别的进程占满,或者 WSL2 的 GPU 分区(GPU-PV)在申请显存时出现异常,导致 CUDA 拿不到可用显存。要区分这两条路径,需要在 WSL2 会话内和 Windows 主机各跑一遍检测命令,对比同一个时刻的显存占用。

下面这些命令只负责帮你看清状态,不负责自动修复。检测结果若有异常,通常重启 WSL 虚拟化会话可以恢复;但若物理显存本身不足,重启也没有用,需要先关闭占显存的进程或调整 CUDA 程序的使用量。

先查物理 GPU 显存占用

进入 WSL2 终端,执行:

nvidia-smi `--query-gpu`=memory.total,memory.used,memory.free `--format`=csv
nvidia-smi `--query-compute-apps`=pid,used_memory `--format`=csv

第一行输出描述整张 GPU 的显存总量,第二行列出当前占用显存的 CUDA 进程。如果第二行是空的,但第一行的 used 很高,说明显存被非 CUDA 进程或主机侧进程占用,例如图形桌面或视频解码。

WSL2中CUDA显存不足与Hyper-V显卡虚拟化冲突的检测命令汇总

再到 Windows 主机(PowerShell 或 CMD)中执行同一组 nvidia-smi 命令。WSL2 使用的物理 GPU 与主机共享,因此总量应一致。需要注意的是,主机侧 nvidia-smi 不一定能完整列出 WSL 内部进程的占用,所以不要因为主机侧没有进程列表就推断显存没被使用。

检查 Hyper-V 虚拟化链路

先确认 WSL2 的版本与虚拟化平台状态:

wsl `--status`
wsl `--version`

在管理员 PowerShell 里检查两个 Windows 可选功能:

WSL2中CUDA显存不足与Hyper-V显卡虚拟化冲突的检测命令汇总
Get-WindowsOptionalFeature -Online -FeatureName VirtualMachinePlatform
Get-WindowsOptionalFeature -Online -FeatureName Microsoft-Hyper-V

这两项是 WSL2 运行的基础。如果 VirtualMachinePlatform 为 Disabled,说明 WSL2 根本没起来,这种现象常被误解为 CUDA 不能用。

在 WSL2 内部检查 GPU-PV 设备节点:

ls /dev/dxg

如果提示 No such file or directory,说明虚拟 GPU 通道没有建立,CUDA 无法通过该路径访问物理 GPU。另外可以用 ls /usr/lib/wsl/lib/ 查看 CUDA 驱动库是否挂载,正常情况下应有 libcuda.so 等文件。缺少这些文件通常意味着 Windows 侧驱动与 WSL2 的集成组件未生效。

WSL2中CUDA显存不足与Hyper-V显卡虚拟化冲突的检测命令汇总

哪些情况不能断定是虚拟化冲突

WSL2 内 nvidia-smi 显示显存空闲很多,但 CUDA 应用程序仍然报 out of memory,这种情况才更像虚拟化链路异常。先执行 wsl `--shutdown` 在 PowerShell 中强制重启 WSL 会话,重新进入后再次运行应用。如果显存恢复,说明是前一时刻的虚拟化上下文异常,而不是物理显存不够。

相反,如果 WSL 和主机两侧的 nvidia-smi 都显示 used 已接近 total,那么就是真实的物理显存不足。此时优先查找占显存的进程,而不是盲目调整 WSL 配置。

还有一个常见误区:Windows 主机侧看不到 WSL 内的进程,不代表 WSL 没有在占用显存。WSL 内的进程可能以主机上的 System 或 vmmem 进程形态出现。因此,判断边界以两侧 used 数值对比为准,不要以进程列表为准。

验证清单

  1. 在 WSL2 内执行 nvidia-smi `--query-gpu`=memory.free `--format`=csv,连续观察几次,看空闲显存是否持续为 0。
  2. 切换到 Windows 主机执行同样的显存查询,比较同刻的 used 值与 WSL2 看到的值。
  3. 检查 /dev/dxg 是否存在;若不存在,重新安装或更新 Windows 侧 NVIDIA 驱动。
  4. 在 PowerShell 中执行 wsl `--shutdown`,重新进入 WSL2,再次运行出错的 CUDA 应用。
  5. 如果重启后仍报显存不足,再用 nvidia-smi `--query-compute-apps`=pid,used_memory `--format`=csv 定位占用进程,或者确认应用的单卡显存需求是否超出物理显存。