本地部署 Code Llama 模型配合编程插件，最推荐的做法是使用 Ollama 作为后端推理服务，并在 VS Code 中安装 Continue 插件进行对接。

该方案适合具备独立显卡的个人开发者，主要风险边界在于显存容量是否满足模型量化版本的需求，显存不足会导致服务无法启动。

命令速用版

在终端执行以下命令拉取并运行模型，默认端口为 11434。

ollama pull codellama
ollama run codellama

为什么会这样

编程插件本身不包含模型，而是通过 API 调用本地服务。

Code Llama 是模型权重，需要推理引擎（如 Ollama、llama.cpp）加载为服务。配置文件实际上是插件的客户端配置，用于告诉插件去哪里请求模型服务。分离架构允许用户在后台管理模型版本，同时在多个编辑器中复用同一模型服务。

分步处理

步骤 1：启动本地模型服务

安装 Ollama 后，在终端运行 ollama serve 保持后台运行。默认监听 http://localhost:11434。

步骤 2：安装编程插件

在 VS Code 扩展商店搜索并安装 Continue 插件，或者在 JetBrains marketplace 安装对应版本。

步骤 3：编写插件配置文件

打开插件配置文件（Continue 通常为 ~/.continue/config.json），在 models 数组中添加本地模型配置。

{
  "models": [
    {
      "title": "Code Llama Local",
      "provider": "ollama",
      "model": "codellama"
    }
  ],
  "tabAutocompleteModel": {
    "title": "Code Llama Autocomplete",
    "provider": "ollama",
    "model": "codellama"
  }
}

步骤 4：重载插件

保存配置文件后，在 IDE 中重载窗口或重启插件使配置生效。

怎么验证是否生效

观察 IDE 状态栏是否有插件图标且无报错红点。在代码编辑器中输入注释或代码片段，等待是否有灰色补全建议出现。使用插件侧边栏发送一条消息，若能收到回复则说明连接正常。

常见坑

模型名称不匹配：配置中的 model 字段必须与 Ollama 中拉取的模型标签完全一致，例如 codellama:7b。

显存溢出：如果同时运行多个大模型或占用显存的应用，可能导致 Ollama 加载模型失败，需关闭其他 GPU 任务。

上下文长度限制：本地部署通常受显存限制，配置文件中的 contextWindow 不宜设置过大，否则会导致推理速度极慢或崩溃。

常见问题

需要联网才能使用本地模型吗？

模型加载和推理过程不需要联网，但首次下载模型文件和插件安装需要网络连接。

Code Llama 支持中文代码注释吗？

支持，Code Llama 模型经过多语言训练，可以理解中文注释并生成相应代码，但英文提示词效果通常更稳定。

配置文件写错了怎么恢复？

删除或重命名配置文件，插件会在下次启动时生成默认配置模板，重新填写即可。