移动端AI请求重试时如果用户发现回答内容与之前无关,或者需要重复之前的提问,基本可以确定是上下文丢失。通常发生在网络切换、应用切后台后恢复等场景。可以抓包对比两次请求的请求体,确认重试时是否携带了完整的对话历史。如果请求体只有当前问题,而服务端又是无状态设计,那么重试自然无法恢复前文。
先确认是不是上下文丢失
上面这段是排查时的第一判断依据。我还会做一次弱网复现:把应用切到后台再恢复,或者切换Wi-Fi和蜂窝网络,然后触发一次重试。如果用户需要重新提问,或者回答明显和上一轮无关,说明重试请求没有携带会话上下文。此时更直接的办法是抓包,对比第一次请求和重试请求的请求体,看消息列表里是否少了历史记录。如果少了,问题就不在模型,而在客户端重试逻辑。
容易误判的地方是把这个问题归因到流式响应解析异常或模型随机性。实际上,大多数重试请求只是把最后一个用户输入当作独立请求发送,之前的历史被丢弃了。这时候就算服务端再聪明,也无法知道前面聊了什么。
会话快照:让重试恢复上下文
确认是上下文丢失后,就需要引入会话快照。我们可以在客户端为每个会话保存一份完整状态,重试时用这份快照重建请求。
实现会话快照时,可以在客户端维护一个递增的会话版本号,每次对话变更后生成新快照。快照内容建议包含会话ID、用户ID、对话消息列表、当前正在生成的流式增量,以及一个md5校验值。发送请求时携带快照ID和版本号,服务端据此恢复上下文。重试时直接用本地最新快照,而不是重新发起原始请求。
这里有一个容易踩的坑:快照更新和请求发送的顺序。必须先更新快照再发请求,否则请求成功后快照还是旧版本,下次重试会丢失最后一条消息。我在代码里通常是把快照的写入和请求体构造放在同一个函数中,请求体直接由快照生成,而不是单独构造。
// 快照数据结构示意(客户端维护)
{
"sessionId": "sess_8f3a...",
"version": 12, // 每次对话变更递增
"messages": [
{ "role": "user", "content": "..." },
{ "role": "assistant", "content": "..." }
],
"streamDelta": "", // 当前正在生成的流式增量
"md5": "c4ca4238a0b923..." // 基于以上字段的校验值
}
存储上,小数据量直接用AsyncStorage或MMKV,每条对话存一个key,value为JSON字符串。快照ID可以用时间戳加随机数,避免冲突。如果担心异步写入未完成导致快照缺失,可以用同步写入接口,或者把写入操作放在请求发送之前的await队列里。每次成功响应后要同步更新快照,把assistant的最终内容追加到消息列表。
下面这段代码是重试时加载快照并发送请求的过程。关键参数是snapshot.version,服务端需要用它来判断是否幂等。
// 重试逻辑示例:先加载最新快照,再构造请求
async function retryWithSnapshot(sessionKey) {
const snapshot = await loadSnapshot(sessionKey); // 从 MMKV/AsyncStorage 读取
if (!snapshot) {
return createNewRequest(); // 没有快照,说明会话没持久化过
}
const payload = {
session_id: snapshot.sessionId,
snapshot_version: snapshot.version,
messages: snapshot.messages,
stream_delta: snapshot.streamDelta
};
return sendRequest(payload);
}
失败时优先检查快照文件是否存在、version是否为最新、messages尾部是不是最后一条用户输入。这三项无误,再去看服务端日志是否成功读取了snapshot_id对应的上下文。
怎么验证续传是否生效
验证无感续传,我的做法是模拟弱网超时,然后强制重试。观察服务端返回的内容是否与之前对话相关。更严格的是让服务端在快照恢复后返回一个上下文指纹,客户端用同样的算法计算本地快照指纹,两者一致才认为续传成功。否则打印告警日志并回滚到上一次有效快照。
// 客户端计算快照指纹(服务端使用同一算法)
function computeFingerprint(snapshot) {
const raw = snapshot.sessionId + '|' + snapshot.version + '|' + JSON.stringify(snapshot.messages);
return md5(raw);
}
// 请求完成后校验
if (response.data.fingerprint !== computeFingerprint(localSnapshot)) {
console.warn('快照指纹不一致,回滚到上一次有效快照');
rollbackTo(lastGoodSnapshot);
}
如果指纹不一致,优先检查服务端读取的是快照版本,还是当前请求体里的messages。有的服务端实现会忽略snapshot_id,直接用请求体里的messages,这样就会导致指纹不一致。回滚时不要直接删除当前快照,先保留一份上一版本,方便排查。
风险边界和清理策略
快照体积会随对话长度线性增长,超过几百KB时序列化和存储开销明显,建议限制会话长度,比如只保存最近20条消息。另外,快照中如果包含用户隐私或token,必须加密存储,且不要随日志上报。重试次数过多时,旧快照会堆积,需要设置失效时间,比如24小时后自动清理。不要无限重试,建议最多重试3次后提示用户。
除了体积,还要注意幂等问题。如果服务端没有做幂等,同一个快照被重复消费可能导致生成两次结果。所以重试时要带上快照ID和版本号,服务端需要根据版本号判断这个快照是否已经被处理过。如果服务端不支持幂等,那客户端需要保证同一时刻只有一个重试请求在途,比如用一个布尔变量禁止并发重试。
清理策略上,除了设置快照失效时间,还要在用户主动结束会话时删除对应快照。如果用户有“新建对话”功能,旧会话快照最好先标记为归档而不是立刻删除,因为用户可能还想恢复。归档时可以裁剪消息历史到最近20条,再重新计算md5,这样既保留了核心上下文,又控制了存储。
后续维护建议
上线后需要观察两类日志:一类是快照校验失败的告警,另一类是重试次数超过阈值的情况。这两类日志分别对应客户端快照逻辑错误和服务端上下文恢复异常,分开处理会更高效。每次修改消息结构时,比如增加stream_delta字段,要同步更新md5的计算方式,否则旧版本快照会全部校验失败,导致用户被迫重新开始对话。
如果后端同学愿意配合,可以约定一个“上下文恢复接口”:客户端把快照ID和版本号发给服务端,服务端返回恢复后的对话上下文,客户端再拿着这个上下文去发起真正的生成请求。这样可以把快照的存储和校验集中到服务端,客户端只负责传递ID,降低客户端状态管理的复杂度。这种方式需要额外的接口开销,但能让重试逻辑更稳定。
最后提一点:会话快照不是银弹。如果服务端需要的是用户的身份态或其他动态信息,快照里也要一并记录,否则重试时虽然上下文恢复了,但用户信息缺失,依然会导致回答错误。需要结合具体的业务场景决定快照字段。