先确认环境变量热更新在当前运行时里是否生效
云函数平台的环境变量热更新,不是所有运行时都可靠。AI 中转站为了减少握手开销,往往在实例里维护常驻进程或长连接,这种情况下,只改控制台配置不会立刻作用到运行中的实例。下面这段判断依据值得先记住:
环境变量热更新在云函数场景下的有效性,取决于运行时是否重新读取环境变量。对使用常驻进程或长连接的AI中转站,已启动的实例会保留旧的环境变量快照,修改控制台的配置不会影响正在运行的函数实例,只有新实例才会获取新值。判断是否需要重启,可先检查进程内环境变量值是否已变化,例如在函数中输出当前密钥尾号,若多次调用仍为旧值,则热更新已失效,必须通过重新部署或强制停止实例来触发更新。
在函数入口临时加一行日志,就能看到实例手里的密钥是否已经变化:
exports.handler = async (event) => {
const key = process.env.OPENAI_API_KEY || '';
console.log(`current_key_tail=${key.slice(-4)}`);
// 转发请求到 AI 上游
};连续调用函数几次,如果日志里的 current_key_tail 一直是旧值,说明热更新没有作用到当前实例。此时需要去平台的“实例列表”页面确认存量实例是否被回收,而不是只保存环境变量并等待自动刷新。
重新部署或强制停止实例:操作动作与检查
如果确认热更新失效,最直接的做法是重新部署函数,或强制停止全部实例。部分平台在重新部署后仍可能保留旧实例的残留进程,或因为并发实例没有全部回收,导致一部分请求仍然使用旧密钥。检查方式是在新部署后短时间内观察日志里的密钥尾号:如果出现新旧尾号混杂,说明旧实例没有完全退场,需要强制停止所有实例。
强制停止会清空实例上的临时状态,例如内存中的缓存和连接池。若AI中转站对请求延迟敏感,先确认代码支持冷启动后自动恢复,再执行这个操作。这里要看你的平台是否支持“停止全部实例”的独立按钮,有些平台只能通过修改最小实例数到0来触发回收。
外部配置中心:把密钥轮换从函数生命周期里拆出来
如果业务不允许频繁重启实例,可以把密钥从环境变量移到外部配置中心或对象存储,让函数自己拉取。判断这点很直接:
为避免直接改动环境变量导致的中断,可将密钥存放于外部配置中心或对象存储,函数在初始化时拉取,并每隔一段时间对比配置版本。具体做法是:在函数内存中缓存密钥及版本号,启动时或每次业务调用前请求一次配置服务,若版本号变化则重新读取。检查方法是在日志中打印密钥版本,确认切换时机。这种方式能将密钥轮换与函数生命周期解耦,但需额外处理配置服务的访问超时和缓存失效时间。
下面是一个简单的版本轮询实现,按分钟级频率拉取配置:
const configUrl = process.env.CONFIG_URL + '/api/keys';
const configToken = process.env.CONFIG_TOKEN;
let cachedKey = null;
let cachedVersion = '';
let lastFetch = 0;
async function getApiKey() {
const now = Date.now();
if (cachedKey && now - lastFetch < 60 * 1000) return cachedKey;
const resp = await fetch(configUrl, {
headers: { Authorization: `Bearer ${configToken}` }
});
const data = await resp.json();
if (data.version !== cachedVersion) {
cachedKey = data.apiKey;
cachedVersion = data.version;
}
lastFetch = now;
return cachedKey;
}这段代码里的 CONFIG_URL 可以是对象存储文件地址,也可以是配置中心接口。CONFIG_TOKEN 用于鉴权,不能和密钥放在同一个环境变量里。响应里需要有 apiKey 和 version 两个字段;如果 version 没变,就不更新缓存。初次部署时先手动调用一次,确认返回的密钥和日志版本一致。若配置服务不可用,代码会继续用旧缓存,但需要给 fetch 加超时,避免业务等待过久。超时时间可以先用 2 秒,具体需要结合环境确认。
有状态连接:新旧密钥共存和回滚边界
密钥轮换时,还要区分当前中转站对上、下游的连接形态。以下这段风险边界是常见处理底线:
密钥轮换时要区分有状态连接与无状态请求。若AI中转站依赖HTTP长轮询或WebSocket等保持连接的协议,直接替换密钥会导致已建立的连接因鉴权失败而中断。务必备份旧密钥,在一段时间内允许新旧密钥同时生效,待所有存量连接自然重建后再彻底回收旧密钥。同时设置轮换的过渡窗口,例如在低峰期执行,并监控错误率,一旦出现401或403比例上升,立即回滚到上一版本。
对于普通HTTP/SSE请求,可以在代码里做一次旧密钥回退:
async function callAI(payload, currentKey, previousKey) {
let resp = await fetch(UPSTREAM_URL, {
method: 'POST',
headers: { Authorization: `Bearer ${currentKey}` },
body: JSON.stringify(payload),
});
if (resp.status === 401 && previousKey) {
resp = await fetch(UPSTREAM_URL, {
method: 'POST',
headers: { Authorization: `Bearer ${previousKey}` },
body: JSON.stringify(payload),
});
}
return resp;
}这个回退逻辑只适用于无状态请求。如果上游连接是WebSocket,连接建立后不会因为401自动重连,必须提前在服务端配置新旧密钥同时有效,等到存量连接断开后,再把旧密钥从配置中心移除。回滚时同样要注意:切回旧密钥一样要重置环境变量或配置版本,并且让所有实例重新拉取。
别忘了检查这些点
轮换完成后,至少检查三处。第一处是密钥在配置中心里的访问权限,函数角色只应被授予读取指定密钥的权限,避免轮换过程中泄露其他配置。第二处是日志里是否有旧密钥尾号和版本号出现,如果轮换后仍有旧值,说明还有实例没有更新。第三处是旧密钥的回收时间,要结合连接超时和客户端重试间隔来定,不能只凭经验按小时数等待。
如果你直接把密钥放在代码里而不是环境变量,那这个方案本身就有泄漏面。可以先通过密钥管理服务把明文取到函数内存,再按较短有效期(例如10到15分钟)刷新。权限控制要严格,函数角色只授予读取指定密钥的权限,防止密钥泄露后影响其他服务。