Ollama如何删除不用的模型释放磁盘空间

文章导读
删除 Ollama 里不用的模型,通常一条 ollama rm <模型名> 就够了;但“删完磁盘没变小”也很常见,原因多半是模型仍在被服务占用、实际存储路径不是你以为的 ~/.ollama/models,或者手工动了共享的 blob 目录。所以先确认目标与位置,再动手删,最后用目录体积和分区可用空间两处结果互相印证。
📋 目录
  1. 壹 先确认当前场景和目标
  2. 贰 按这个顺序处理
  3. 叁 改完后怎么验证
  4. 肆 容易忽略的边界
A A

删除 Ollama 里不用的模型,通常一条 ollama rm <模型名> 就够了;但“删完磁盘没变小”也很常见,原因多半是模型仍在被服务占用、实际存储路径不是你以为的 ~/.ollama/models,或者手工动了共享的 blob 目录。所以先确认目标与位置,再动手删,最后用目录体积和分区可用空间两处结果互相印证。

处理顺序通常是:先用 ollama list 和 ollama ps 确认哪些模型真的不再需要、有没有进程正在加载,再用 ollama rm 按名字删除,最后用 du 与 df 对比模型目录和分区可用空间。不要跳过确认直接删 blobs 目录:多个模型可能共享同一层,误删会让保留的模型失效。

先确认当前场景和目标

要判断这件事成不成立,先分清两种场景:一是某个模型明确弃用,想精确删掉它;二是磁盘整体吃紧,想尽快腾空间。前者适合按名字删,后者还得先定位空间到底被什么占用,否则删完几个小模型也看不出变化。

操作前建议先确认下面几项,任何一项不清楚都先查再删:

  • 模型清单:ollama list 看名字、tag 和体积,确认要删的是哪个 tag,例如 llama3:8b 和 llama3:70b 是两条独立记录。
  • 是否在跑:ollama ps 看当前加载的模型,有应用依赖它时先停应用,不要让删除和调用撞在一起。
  • 真实存储位置:Ollama 的模型目录由 OLLAMA_MODELS 决定;systemd 方式安装时服务以单独用户运行,目录常在 /usr/share/ollama/.ollama/models,而不是当前登录用户的 home。
  • 安装形态:本机 systemd 服务、Docker 容器、桌面版应用,三种情况删除后的保留效果不一样,Docker 尤其要先弄清模型落在容器层还是挂载卷。

判断条件可以简化成一句:模型确定不再使用、没有业务在调用、并且你确认了目录位置,才进入删除;只是想暂时腾地方又可能再用,优先考虑迁移 OLLAMA_MODELS 到更大分区,而不是删除。

Ollama如何删除不用的模型释放磁盘空间

按这个顺序处理

先列出清单并记录当前占用,方便后面比较:

ollama list
ollama ps
# 如果知道目录位置,先记录基线
du -sh /usr/share/ollama/.ollama/models 2>/dev/null || du -sh ~/.ollama/models
df -h /

然后按名字逐个删除,一次可以给多个参数。删除正在被加载的模型时,Ollama 一般会先卸载再删,但仍建议先让调用方停止请求,避免请求中途报错:

Ollama如何删除不用的模型释放磁盘空间
ollama rm llama3:8b
ollama rm qwen2:7b mistral:7b   # 多个模型一起删
ollama list                     # 确认已从列表消失

如果删完后空间变化很小,先不要急着删目录里的文件。可以先确认当前版本是否提供清理类子命令,不同版本差异较大,用帮助信息判断比凭记忆猜稳妥:

ollama --help
ollama rm --help 2>/dev/null

真要手工动模型目录,前提是先停服务,并且只处理你确认过、已没有任何模型引用的残留。模型文件按摘要命名,多个 tag 可能共享同一层,直接按体积大小挑文件删,很容易破坏仍然要用的模型:

sudo systemctl stop ollama
# 确认目录后,再决定是否清理明显无引用的残留
sudo systemctl start ollama

如果删除时报成功但目录体积没变,常见原因是文件仍被进程持有,重启一次服务再看。Docker 场景下,模型若在容器层内,删除容器重建后会恢复,应改为检查卷挂载或改用宿主目录。

Ollama如何删除不用的模型释放磁盘空间

改完后怎么验证

验证不要只看一条命令,建议同时看三处信号:

  1. 列表信号:ollama list 中目标模型不再出现,保留的模型条目数量与预期一致。
  2. 体积信号:再次执行 du -sh 对比模型目录体积,执行 df -h 看该分区可用空间是否随之变化;两者都不动,说明删的不是实际占用位置。
  3. 可用性信号:对保留下来、业务还要用的模型跑一次简单请求,例如 ollama run <保留模型> "你好",能正常返回说明共享层没有被误伤。

预期结果是:清单干净、目录体积下降、保留模型仍可加载。若体积下降但保留模型加载失败,多半是手工删除碰到了共享 blob,回退方式是重新 ollama pull 该模型,而不是继续删。

容易忽略的边界

  • 不要删除模型名称以外的内容:ollama rm 只影响本地已有的 tag,不能删远端仓库条目;删了本地 tag 后想恢复只能重新拉取。
  • 共享层风险:手工清理 blobs 目录不适用于“想省事快速腾空间”的场景,只适合明确知道引用关系时使用;不确定就走了 ollama rm 这条路径。
  • 权限边界:用当前用户执行删除而服务以其他用户运行,可能出现命令成功、目录未变,需要改用与 service 一致的用户或加 sudo,并在操作后核对文件属主。
  • Docker 与快照:容器层删除、文件系统快照、回收站式目录都可能让空间看起来没释放,这类环境的结论要结合具体挂载方式确认,不能照搬本机经验。
  • 回退建议:操作前记录一次 ollama list 输出,必要时备份 manifests 目录;删除后空间依旧紧张,说明瓶颈不在模型目录,应转去排查日志、缓存和别的数据目录,而不是继续删模型。