llama.cpp在Ubuntu下编译失败:G++版本与C++标准不兼容解决

文章导读
llama.cpp 在 Ubuntu 下编译失败,首先要怀疑的不是缺依赖,而是系统 g++ 版本太低,导致编译器使用的 C++ 标准跟当前 llama.cpp 源码要求对不上。llama.cpp 的 CMake 构建默认要求 C++17,较新的 master 提交里已经出现 C++20 写法;Ubuntu 20.04 自带 g++-9,22.04 自带 g++-11,直接编译最新代码很容易在标准库
📋 目录
  1. Ⅰ 先确认现象和版本
  2. Ⅱ 分支一:升级 g++,只影响 llama.cpp 构建
  3. Ⅲ 分支二:不想动系统,固定到旧版 llama.cpp
  4. Ⅳ 分支三:手动指定 C++ 标准并重建缓存
  5. Ⅴ 按版本组合判断下一步
A A

llama.cpp 在 Ubuntu 下编译失败,首先要怀疑的不是缺依赖,而是系统 g++ 版本太低,导致编译器使用的 C++ 标准跟当前 llama.cpp 源码要求对不上。llama.cpp 的 CMake 构建默认要求 C++17,较新的 master 提交里已经出现 C++20 写法;Ubuntu 20.04 自带 g++-9,22.04 自带 g++-11,直接编译最新代码很容易在标准库头文件处理阶段报错。先确认 g++ 实际版本和源码检出状态,再决定升级编译器还是固定到旧版 llama.cpp。

先确认现象和版本

编译中断时,报错通常集中在 string_view、format、模板实例化这些位置。典型信息是 error: 'format' is not a member of 'std',或者 error: expected unqualified-id before '&&' token,而且错误发生在编译早期,也就是刚展开头文件就停了。

先执行三组命令确认现状:

g++ `--version`
cmake `--version`
git -C /path/to/llama.cpp log -1 `--oneline`

判断方向:g++ 是 9.x 且源码是最新 master,优先升级编译器;g++ 是 11/12/13 仍然失败,先清空 build 缓存,再手动指定 C++ 标准。

分支一:升级 g++,只影响 llama.cpp 构建

适用场景是系统 g++ 明显低于源码要求,而且当前 Ubuntu 版本能装到新工具链。Ubuntu 20.04 和 22.04 通常可以通过 ubuntu-toolchain-r 工具链 PPA 安装更高版本:

llama.cpp在Ubuntu下编译失败:G++版本与C++标准不兼容解决
sudo add-apt-repository ppa:ubuntu-toolchain-r/test
sudo apt update
sudo apt install g++-12
CXX=g++-12 cmake -B build -DCMAKE_BUILD_TYPE=Release
cmake `--build` build -j4

注意风险边界:不要卸载旧 g++,系统里其他软件可能依赖它。只在 llama.cpp 构建时通过 CXX=g++-12 指定,系统默认 g++ 保持不变。验证信号是 CMake 配置阶段不再报 C++ 标准错误;想确认实际用的编译器,执行 cmake `--build` build -v,看编译命令里是否出现 g++-12 的完整路径。

分支二:不想动系统,固定到旧版 llama.cpp

适用场景是系统不允许更换编译器,或者机器是受限环境。做法是在 llama.cpp 仓库内回退到较早的 tag,再用干净目录重建:

git fetch `--tags`
git checkout v1.10.1
rm -rf build
cmake -B build -DCMAKE_BUILD_TYPE=Release
cmake `--build` build -j4

这里的 v1.10.1 只是示例,以你本地能拉到的 tag 为准。验证信号是配置阶段通过,报错位置不再出现。风险边界是旧版不包含后续修复,如果你需要新特性,这个方案会放弃对应收益。

分支三:手动指定 C++ 标准并重建缓存

适用场景是编译器本身支持 C++17/20,但 CMake 缓存或默认标准被旧配置污染。先看一下当前缓存里记录的标准:

llama.cpp在Ubuntu下编译失败:G++版本与C++标准不兼容解决
grep CMAKE_CXX_STANDARD build/CMakeCache.txt

然后强制指定 C++17 并重建:

rm -rf build
cmake -B build -DCMAKE_CXX_STANDARD=17 -DCMAKE_CXX_STANDARD_REQUIRED=ON -DCMAKE_BUILD_TYPE=Release

验证信号是配置阶段显示 CXX_STANDARD 为 17,之前报错的代码位置不再触发。风险边界:如果编译器是 g++-9 且源码使用了 C++20 语法,指定 17 仍然会失败,需要回退到分支一;另外,手动指定的标准不要低于 llama.cpp 自身的最低要求,否则会在配置阶段被 CMake 拒绝。

按版本组合判断下一步

整理成清单,方便直接对照:

  • g++ 9.x + 最新 master:升级编译器,或固定旧 tag,二选一。
  • g++ 9.x + 旧 tag:通常可以直接编译,不需要动编译器。
  • g++ 11/12/13 + 报错:清空 build 缓存,手动指定 C++17 再试。
  • 编译通过但运行时报段错误:不属于编译问题,回头检查 llama.cpp 的模型参数、内存和量化设置。

按这个顺序排查,绝大多数由 g++ 版本和 C++ 标准不匹配引起的编译失败,都能落在上面三个分支里;如果清空缓存后仍然报错,把完整的配置日志和 g++ 版本贴到问题描述里,会比只贴最后几行报错更容易定位。