本地模型重新加载后Web界面仍显示旧版本权重:清除模型缓存的正确步骤

文章导读
如果你已经替换了本地模型权重,Web 界面却还在回答旧版本的话,通常不是前端没刷新的问题,而是后端进程或模型缓存仍在指向旧文件。我处理这类问题时会先确认后端加载的到底是哪个模型文件,再决定要不要清缓存;不要一开始就删整个 ~/.cache,否则很容易把其他无关模型一起弄坏。
📋 目录
  1. Ⅰ 先确认后端进程是否真的读到了新权重
  2. Ⅱ 缓存目录要定位,不要整个删
  3. Ⅲ 先停服务,再删缓存,最后重启
  4. Ⅳ 验证新版本是否真的生效
A A

如果你已经替换了本地模型权重,Web 界面却还在回答旧版本的话,通常不是前端没刷新的问题,而是后端进程或模型缓存仍在指向旧文件。我处理这类问题时会先确认后端加载的到底是哪个模型文件,再决定要不要清缓存;不要一开始就删整个 ~/.cache,否则很容易把其他无关模型一起弄坏。

先确认后端进程是否真的读到了新权重

当你在终端或服务日志中看到模型加载的是新的权重文件,但 Web 界面返回的结果仍与旧版本一致时,先别急着清缓存。第一步应该确认界面所调用的模型实例是否真的被重启过。很多本地推理服务在启动时会自动加载默认路径下的模型,如果你把新权重放进了另一个目录,而后端并没有重新读取配置文件,那么界面对话的仍是旧实例。此时检查后端日志中打印的模型绝对路径和加载时间,如果加载时间早于你替换权重的时间,就说明服务进程没有真正重新加载。

这里要注意,“重新加载模型”按钮往往只是触发一次 HTTP 请求,并不代表模型实例被销毁重建。建议去服务日志里找模型加载时打印的绝对路径和加载时间。如果加载时间早于你替换权重的时间,那问题就不是缓存,而是启动脚本里的模型路径或环境变量没有更新。先改启动配置,再重启服务,优先级高于清缓存。

ps -eo pid,lstart,cmd | grep -E 'python|ollama serve'

在服务所在终端执行,查看进程启动时间。接着用 stat 对比模型配置文件的修改时间:

stat -c '%y %n' ./models/your-model/config.json

如果进程启动时间早于文件修改时间,说明当前进程还在用旧权重。这时应该修正启动脚本,而不是继续清缓存。

缓存目录要定位,不要整个删

模型缓存的清除范围取决于你使用的推理框架。对于 Hugging Face transformers,缓存通常位于用户目录下的 ~/.cache/huggingface/hub 中,对应每个模型有一个以模型 ID 命名的文件夹,内部包含 snapshots 和 blobs;对于 Ollama,模型文件存放在 ~/.ollama/models/blobs 下,但一般不建议直接手动删除 blobs,而是通过 ollama rm 命令移除旧模型。清除之前,先记录当前模型的存储大小,并只针对与问题模型名称相关的缓存目录操作,不要删除整个缓存根目录,否则会影响到其他无关模型。

动手前先看一下缓存目录里各部分的大小,把要清理的目录名记下来。比如 transformers 的 snapshots 下面可能保留多个 commit,blobs 里是实际的大文件;只删除问题模型对应的目录,其他目录保持不动。Ollama 场景下优先用 ollama rm,手动删 blobs 可能让 manifest 找不到对应文件。

本地模型重新加载后Web界面仍显示旧版本权重:清除模型缓存的正确步骤
du -sh ~/.cache/huggingface/hub/*
ls -la ~/.cache/huggingface/hub/some-model/snapshots/

如果 snapshots 里有多个版本,需要确认默认加载的 symlink 指向哪个 commit。失败的常见原因是 symlink 仍指向旧 commit,删除前先记录链接目标,方便回滚。

先停服务,再删缓存,最后重启

一个容易踩的坑是只删除 Web 前端的浏览器缓存,而没有清理后端模型的加载缓存。有些推理框架会把已加载的模型常驻内存,即使你删除了磁盘上的缓存文件,只要服务进程没有重启,它仍然会在内存中保留旧的权重。此时即使刷新页面,接口返回的仍然是旧实例的推理结果。解决的方法是必须强制终止服务进程,确认没有残留的 python 或 ollama 进程,再重新启动。另外,注意不要在前端界面中点击“重新加载模型”按钮后立刻又去操作其他任务,因为模型加载可能还在后台进行,界面的状态提示并不总是实时准确。

也就是说,只清理浏览器缓存不能解决后端模型缓存。正确的顺序是:先停 Web 服务进程,再备份目标模型的缓存目录,然后只删除该目录。备份目录放到服务目录之外,比如 ~/backup/。最后重新启动服务,确认新日志中打印的加载时间在替换权重之后。

cp -r ~/.cache/huggingface/hub/your-model ~/backup/your-model
rm -rf ~/.cache/huggingface/hub/your-model

停止进程可以用进程名匹配,或者用系统服务管理命令:

pkill -f 'python.*server.py'
# 或 systemctl stop your-service

重启前再检查一次有没有残留进程:

本地模型重新加载后Web界面仍显示旧版本权重:清除模型缓存的正确步骤
ps aux | grep -E 'python|ollama serve'

如果还有残留,需要先结束旧 worker,否则内存里仍然保留旧权重。这里要提一句:删除缓存目录前备份,不是因为它不能重新生成,而是为了在清理后模型加载失败时能快速回滚。

验证新版本是否真的生效

重启完成后,不要只看界面显示是否正常。最直接的办法是在 Web 界面输入一个旧模型会答错的问题,看回答是否更接近新模型的风格。更严谨的做法是调用后端暴露的健康检查或模型信息接口,返回里应包含 model_name、commit_hash 或 sha256 这类元数据。例如 Ollama 可以直接看本地模型列表:

ollama list

对比问题模型对应的模型 ID 是否变化。如果你用 transformers 加载本地目录,可以写一段很短的脚本打印配置信息:

from transformers import AutoConfig
cfg = AutoConfig.from_pretrained('./models/your-model')
print(cfg._name_or_path)

如果打印出的路径不是新权重所在路径,说明启动脚本里显式指定的模型来源有误。部分本地推理服务会提供一个 /model-info 之类的接口,可以试着用 curl 请求:

curl -s http://127.0.0.1:8000/model-info | grep model_name

这个端点不一定存在,如果没有就回到日志和文件修改时间来判断。要注意,浏览器硬刷新(Windows 下按 Ctrl+F5,Mac 下按 Cmd+Shift+R)只能避免页面脚本和状态被缓存,并不能改变后端模型实例。如果界面仍显示旧信息,还需要检查服务是否监听多个端口,或者是否有旧 worker 进程没杀干净。

最后补充一个容易忽略的检查点:环境变量。有些项目会设置 HUGGINGFACE_HUB_CACHE 或 HF_HOME,把缓存目录改到别的位置。你清理的路径未必是后端实际读取的目录。执行 echo $HUGGINGFACE_HUB_CACHE 看看是否为空,如果已经设置,就按这个路径去定位模型缓存。清理后重新启动,模型会重新从模型文件读取权重并生成缓存,这一过程通常会比首次加载慢一些,属于正常现象。