把真实模型密钥从客户端移到 Nginx,常见做法是客户端只带一个可撤销的入口令牌,Nginx 校验后用 proxy_set_header 把真实密钥写进发往模型 API 的请求头。这样 App、前端和第三方调用方拿不到 sk- 密钥,轮换时只改 Nginx。前提是 Nginx 终止 TLS、覆盖客户端自带的 Authorization,并对调用方做身份校验;否则任何能访问网关的人仍可消耗额度。
适用场景是自建 Nginx 网关、调用方相对可信、上游使用固定鉴权头。操作上把密钥放进独立 include 文件并用map或set定义变量,在 location 中用proxy_set_header覆盖Authorization,同时校验入口令牌。验证时用临时回显上游确认真实密钥到达、客户端令牌被替换,并检查响应和日志不出现sk-。边界是 Nginx 配置、备份和nginx -T仍能读到密钥,高敏感场景需运行时取密钥。
先确认当前场景和目标
先确认三件事:上游用哪个鉴权头(OpenAI 兼容多为 Authorization: Bearer,Azure OpenAI 常用 api-key,Anthropic 常用 x-api-key);调用方是谁;Nginx 是不是唯一入口。密钥若已出现在前端、仓库或日志里,先在上游平台轮换,再改 Nginx。
调用方是可信后端,入口令牌可放服务端环境变量;调用方是浏览器或不可信第三方,固定令牌不够,需要登录态、短期令牌或 mTLS,并在 Nginx 侧限流。目标是客户端不再持有真实密钥、Nginx 覆盖鉴权头、调用方可识别、密钥可轮换。
按这个顺序处理
先在上游创建网关专用密钥并限制额度和模型,不要继续用旧密钥。Nginx 原生配置不能直接读取环境变量,env 指令只把变量留给 worker,不能在 proxy_set_header 里插值;通常用 map 或 set 在配置里定义变量,并把密钥文件权限收紧。
# /etc/nginx/conf.d/model-key.conf
# chown root:root; chmod 600
map $host $model_upstream_key {
default "sk-REPLACE_ME";
}
map $http_x_client_token $client_allowed {
default 0;
"REPLACE_CLIENT_TOKEN" 1;
}
在 server/location 里覆盖上游鉴权头并校验入口令牌,最小骨架如下:
server {
listen 443 ssl;
server_name model-gateway.example.com;
location /v1/ {
if ($client_allowed = 0) {
return 401;
}
proxy_pass https://api.openai.com;
proxy_http_version 1.1;
proxy_set_header Host api.openai.com;
proxy_set_header Authorization "Bearer $model_upstream_key";
proxy_ssl_server_name on;
proxy_ssl_name api.openai.com;
proxy_buffering off;
proxy_read_timeout 300s;
proxy_send_timeout 300s;
}
}
Nginx 默认透传客户端请求头,必须用 proxy_set_header Authorization ... 覆盖,否则客户端自带的 Authorization 会到达模型 API。不要随手加 proxy_pass_request_headers off,它会连 Content-Type 一起关掉。入口令牌放自定义头如 X-Client-Token,不要放查询参数,避免进访问日志。多个调用方时,if 只配合 return 做简单拒绝,复杂校验用 auth_request。
Azure OpenAI 把覆盖行换成 proxy_set_header api-key $model_upstream_key;,Anthropic 用 x-api-key;客户端身份头和上游鉴权头要分开。
改完后怎么验证
先 nginx -t 再 reload。不带入口令牌应 401,错误令牌应 401,正确令牌应返回正常结果;用 curl -i 看响应,不应出现 sk- 字符串。

确认上游收到真实密钥,可临时起回显上游:
python3 - <<'PY'
from http.server import BaseHTTPRequestHandler, HTTPServer
class H(BaseHTTPRequestHandler):
def do_POST(self):
print(self.headers)
self.send_response(200)
self.send_header('Content-Type', 'application/json')
self.end_headers()
self.wfile.write(b'{}')
HTTPServer(('127.0.0.1', 18080), H).serve_forever()
PY
把测试 server 的 proxy_pass 临时指向 http://127.0.0.1:18080,用正确令牌发 POST,终端应打印 Authorization: Bearer sk-REPLACE_ME,而不是客户端令牌;再带假 Authorization 重试,回显仍是真实密钥,说明覆盖生效。验证后撤掉测试配置。
最后查日志和流式:自定义 log_format 不要包含 $http_authorization 或 $http_x_client_token,用 grep -i 'sk-' /var/log/nginx/access.log 粗查。流式接口用 curl -N 看是否逐段返回,若整包返回,检查 proxy_buffering off 和超时。
容易忽略的边界
Nginx 隐藏的是客户端拿不到真实密钥,不是网关不会被攻破。密钥仍在配置、备份、镜像层和 nginx -T 输出里;能读配置或改 Nginx 的人仍能拿到。安全要求更高时,可用 njs、Lua 或旁路网关在运行时从密钥管理服务取密钥,Nginx 只做 TLS、鉴权和限流;这会增加组件,结合维护能力决定。
轮换注意旧 worker:改 include 后 reload,旧 worker 继续处理已建立连接,长流式可能仍用旧密钥;撤销旧密钥前留出连接排空窗口,或确认上游支持新旧并存。先撤销再 reload 会让旧 worker 请求失败。浏览器入口令牌写进前端 JS 等于公开,应改后端签发短期令牌或登录态,并加 limit_req 和配额。
路径和请求体也容易被改坏:proxy_pass 末尾带斜杠会改变转发 URI,/v1/... 可能错位;检查 client_max_body_size、proxy_read_timeout。条件不满足时,回退为仅内网可达的 Nginx 入口,先让可信后端接入,不要直接暴露公网。