遇到这个报错，最直接有效的办法是更新显卡驱动到 NVIDIA 官方提供的最新稳定版，通常能解决绝大多数因 CUDA 版本不匹配导致的问题。

命令速用版

如果你习惯使用命令行，可以通过以下步骤快速检查和处理：

# 1. 查看当前显卡驱动版本
nvidia-smi

# 2. 如果版本较旧，前往官网下载更新后，重启 Ollama 服务
# 在 PowerShell 或命令提示符（管理员）中执行
net stop ollama
net start ollama

# 3. 再次尝试运行模型
ollama run llama3

为什么会这样

Ollama 在 Windows 上运行 GPU 加速模型时，依赖 NVIDIA 的 CUDA 技术。CUDA 分为“驱动程序版本”和“运行时版本”：

• 驱动程序版本：由你安装的显卡驱动决定，必须足够新才能支持新的 CUDA 特性。
• 运行时版本：Ollama 内部打包了一个固定的 CUDA 运行时版本。

当 Ollama 内部的 CUDA 运行时版本高于你显卡驱动所支持的最高版本时，就会报“驱动版本过低”的错误。这不代表显卡硬件坏了，只是软件层面的版本不匹配。

分步处理

按照以下顺序操作，确保环境干净且更新到位：

1. 检查当前驱动版本

打开命令提示符，输入 nvidia-smi。查看右上角的 Driver Version。如果日期非常久远（例如一年以上），大概率需要更新。

2. 下载最新驱动

访问 NVIDIA 官方驱动下载页面，根据你的显卡型号（如 RTX 3060、4090 等）和操作系统（Windows 10/11 64-bit）搜索。建议下载“Game Ready 驱动程序”或“Studio 驱动程序”的最新稳定版，避免使用 Beta 版。

3. 执行安装

运行下载的安装包。在选择安装类型时，建议勾选“执行清洁安装”（Perform a clean install），这会清除旧的配置残留，减少冲突概率。安装过程中屏幕可能会闪烁几次，属于正常现象。

4. 重启 Ollama 服务

驱动更新后，有时不需要重启电脑，但必须重启 Ollama 服务才能加载新的驱动接口。可以在任务管理器中结束 ollama.exe 进程，或者在管理员权限的命令行中运行 net stop ollama followed by net start ollama。

怎么验证是否生效

更新完成后，通过以下方式确认问题是否解决：

• 运行测试：在终端执行 ollama run llama3，观察是否不再报错且开始下载或加载模型。
• 查看日志：如果仍然疑惑，可以查看 Ollama 的日志。通常在命令行启动 ollama serve 时，如果没有出现 CUDA driver version is insufficient 相关的错误日志，即表示驱动识别正常。
• 确认 GPU 占用：运行模型时，打开任务管理器的“性能”标签页，查看 GPU 的“CUDA”或“3D”占用率是否有波动，确认模型确实跑在了显卡上。

常见坑

• 笔记本双显卡：如果是笔记本电脑，确保 Ollama 使用的是独立显卡（NVIDIA）而不是集成显卡（Intel/AMD）。可以在 Windows 图形设置中，将 ollama.exe 强制指定为“高性能”。
• Windows 自动更新：有时 Windows Update 会自动覆盖你手动安装的驱动为旧版本。如果问题反复出现，建议暂停显卡驱动的自动更新。
• 权限问题：更新驱动和重启服务可能需要管理员权限，确保操作时右键选择了“以管理员身份运行”。
• 老旧显卡不支持：如果显卡型号太老（如 Pascal 架构之前），可能官方驱动已不再支持最新的 CUDA 版本，这种情况下可能无法使用新版 Ollama 的 GPU 加速功能。

参考来源

• Ollama GitHub Repository - Installation & Troubleshooting
• NVIDIA 官方驱动下载页面