在WSL2里跑YOLO遇到“CUDA out of memory”时，需要先明确一个前提：WSL2没有像虚拟机那样“给GPU分配多少显存”的设置。它通过GPU虚拟化直接访问物理显卡的显存，容量由显卡决定。因此“切换GPU内存模式”在WSL2中并不是一个现成的开关。真正能做的，是减少单次显存占用，以及让系统内存分担一部分压力。

WSL2不提供独立的GPU内存池，显存大小由物理GPU决定。显存不足时，应先通过nvidia-smi确认占用情况，然后依次尝试降低batch size和输入分辨率、开启FP16、配置WSL2 swap，或利用驱动层面的后备内存策略。后者在WSL2下是否生效需要结合当前驱动和显卡环境确认，不应作为首选。

先确认显存占用在哪

在WSL2终端里直接运行nvidia-smi，可以看到GPU型号、显存总量和已用显存，以及当前占用显存的进程列表。如果输出中没有自己的YOLO进程，可能显示的是Windows侧进程，因为WSL2共享同一块GPU。

还需要确认当前是否已经用到显存上限。如果接近总显存，说明需要减少单次加载到GPU的数据量。

优先调低YOLO运行参数

YOLO的显存占用主要来自batch size和输入图片尺寸，将两者降低往往能立刻缓解OOM。下面是以YOLOv8为例的训练命令，需要根据自己环境调整：

yolo detect train data=coco.yaml model=yolov8s.pt batch=4 imgsz=640 workers=2

把batch从默认值减半，例如从16降到8，观察占用。如果仍不足，再降到4或2。imgsz从640降到512也可以减少显存占用，但会降低检测精度，建议在验证集上对比效果。

训练场景下还可以打开梯度累积，变相增大batch size而不增加显存峰值。YOLO训练参数中没有直接名称，一般需要在代码里设置，或者在训练脚本中通过accumulate控制。推理场景下，可以设置device=0 batch=1强制单张图片推理，避免一次加载多张图。

让系统内存做兜底

WSL2允许通过.wslconfig文件调整swap大小，这个swap用的是系统内存，不是显存，但能防止系统在内存吃紧时拖慢GPU进程。在Windows用户目录下创建或编辑.wslconfig，写入：

[wsl2]
swap=8GB

然后在cmd中运行wsl `--shutdown`重启WSL2，使配置生效。8GB只是示例，具体大小需要根据机器物理内存调整。需要明确的是，增加swap并不会提高显存上限，只是让WSL2的CPU内存压力不会反过来影响GPU计算。

另外，NVIDIA驱动面板中有一个“System Memory Fallback Policy”选项，允许GPU在显存不足时尝试借用系统内存。但该策略在不同驱动和显卡下行为不一致，而且WSL2环境下是否生效需要结合当前驱动版本自行确认。如果找不到这个选项，不必强求。

减少显存占用的其他思路

一是打开FP16半精度推理或训练。很多YOLO模型默认已支持，如果没开，可以在命令行中加half=True（PyTorch环境）或amp相关开关。半精度大约能减少一半显存占用，但会牺牲少量精度。

二是换更小的模型。YOLO系列有yolov8n、yolov8s、yolov8m等，显存占用依次增加。如果当前用m或l，先换s或n试试。

三是降低图片输入尺寸。YOLO默认缩放测试时可能使用较大尺寸，需要确认推理时是否设置过imgsz，例如yolo predict model=yolov8s.pt source=img.jpg imgsz=416。

常见问题

WSL2能不能像虚拟机一样调高显存？

不能。WSL2的GPU显存直接映射物理显卡，无法通过软件扩大。任何声称“调大WSL2显存”的操作，本质都是降低显存占用或使用系统内存后备，不是真正的增加显存。

驱动面板里切换“GPU内存模式”对WSL2有没有用？

Windows图形设置中有“硬件加速GPU调度”和NVIDIA控制面板中的内存策略，但这些主要影响Windows桌面渲染或OpenGL/Vulkan，对WSL2中的CUDA计算是否有影响需要结合具体驱动和任务验证。建议先做第一条的nvidia-smi排查，再决定是否调整。