DeepSeek接口流式输出怎么开启

文章导读
开启 DeepSeek 接口流式输出,通常是在 chat/completions 请求中把 stream 设为 true,并让客户端按 SSE 逐块读取。真正需要确认的不只是这个参数:网关是否缓冲响应、客户端是否边收边渲染、结束标记和异常是否处理,都会决定“看起来是不是流式”。如果只加了 stream=true,但前端等完整响应再显示,效果仍与非流式接近。
📋 目录
  1. 一 先确认当前场景和目标
  2. 二 按这个顺序处理
  3. 三 改完后怎么验证
  4. 四 容易忽略的边界
A A

开启 DeepSeek 接口流式输出,通常是在 chat/completions 请求中把 stream 设为 true,并让客户端按 SSE 逐块读取。真正需要确认的不只是这个参数:网关是否缓冲响应、客户端是否边收边渲染、结束标记和异常是否处理,都会决定“看起来是不是流式”。如果只加了 stream=true,但前端等完整响应再显示,效果仍与非流式接近。

判断是否已开启流式输出,先看请求体是否带 stream=true,再看响应是否以 data: 分块返回并以 [DONE] 结束,最后看客户端是否在收到首个增量时就渲染。适用于自建服务或兼容接口;若网关缓冲、SDK 不支持或接口不返回流式,应先修链路,必要时回退非流式。

先确认当前场景和目标

先确认你要解决的是“用户界面逐字显示”,还是“后端逐块拿到结果再做处理”。这两种目标都依赖同一个前提:调用的接口支持流式返回,并且整条链路没有把响应攒成一整包。

  • 接口地址和模型名以控制台或现有配置为准,不要只凭示例硬写;请求路径通常与 chat/completions 兼容。
  • 确认客户端使用的 SDK 或 HTTP 库支持 stream 模式,且代码不是先读取完整 response.text 再解析。
  • 确认服务端前面是否有 Nginx、网关或函数计算层。只要其中一层开启缓冲,客户端就可能收不到增量。
  • 确认鉴权、超时和额度正常。流式请求仍然是普通请求,鉴权失败或模型名错误会直接返回错误。

按这个顺序处理

  1. 先把请求体固定为 stream=true,保留 messages、model 等已有字段,不要同时改多个变量。
  2. 用最小脚本直接请求接口,绕开前端和业务代码,观察是否逐块返回。
  3. 确认返回是 SSE 格式后,再在业务代码里按行解析,遇到 [DONE] 结束。
  4. 最后处理服务端转发:把上游分块及时写给下游,并关闭不必要的缓冲。

下面是一个可替换的通用请求与解析骨架,重点是 stream=True、逐行读取和 [DONE] 判断。BASE_URL、密钥和模型名需要换成你环境中的值。

DeepSeek接口流式输出怎么开启
import json, os, requests

url = os.environ['BASE_URL'].rstrip('/') + '/chat/completions'
headers = {
    'Authorization': 'Bearer ' + os.environ['DEEPSEEK_API_KEY'],
    'Content-Type': 'application/json',
}
payload = {
    'model': os.environ.get('MODEL', 'deepseek-chat'),
    'messages': [{'role': 'user', 'content': '用三句话解释流式输出'}],
    'stream': True,
}

with requests.post(url, headers=headers, json=payload, stream=True, timeout=(10, 120)) as resp:
    resp.raise_for_status()
    for raw in resp.iter_lines(decode_unicode=True):
        if not raw or not raw.startswith('data:'):
            continue
        data = raw[5:].strip()
        if data == '[DONE]':
            break
        chunk = json.loads(data)
        delta = chunk.get('choices', [{}])[0].get('delta', {})
        if delta.get('content'):
            print(delta['content'], end='', flush=True)

如果使用兼容 OpenAI 的 SDK,通常只需在创建请求时加 stream=True,再遍历返回对象;字段路径可能因 SDK 不同而略有差异,需要以实际对象为准。

stream = client.chat.completions.create(
    model=os.environ.get('MODEL', 'deepseek-chat'),
    messages=[{'role': 'user', 'content': '用三句话解释流式输出'}],
    stream=True,
)
for chunk in stream:
    text = chunk.choices[0].delta.content
    if text:
        print(text, end='', flush=True)

如果请求经过 Nginx 或自建转发层,可先检查并关闭该路径的缓冲;不要直接改全站配置。示例只表达需要关注的项,具体写法按你的网关调整。

DeepSeek接口流式输出怎么开启
proxy_buffering off;
proxy_cache off;
proxy_read_timeout 300s;

改完后怎么验证

先用 curl -N 或上面的最小脚本发起一次请求,观察终端是否陆续出现 data: 行,而不是最后一次性出现全部内容。预期信号是:响应头正常,正文中出现形如 data: {...} 的增量块,最后出现 data: [DONE]。如果只有完整 JSON 或长时间无输出,优先怀疑网关缓冲或客户端没有逐行读取。

DeepSeek接口流式输出怎么开启
  • 在浏览器开发者工具的 Network 面板查看该请求的响应体,确认内容是否持续到达;若整段同时出现,检查转发层和前端读取方式。
  • 在业务代码中给每个增量打日志,确认日志条数随生成过程增加,且最终能退出循环;不要只记录一次总结果。
  • 前端渲染时采用追加方式更新文本,不要用最后一次结果覆盖已有内容;同时提供停止生成或取消请求的入口。
  • 用错误模型名或无效鉴权做一次反向检查,确认错误在开始输出前被识别,而不是被当成正常文本显示。

容易忽略的边界

流式输出不是所有接口、模型和 SDK 都表现一致。不同 SDK 对 stream 的封装、增量字段名称和结束方式可能有差异,升级依赖后需要重新跑一次最小验证。浏览器原生 EventSource 只适合 GET,若你要发送 POST 请求和消息体,通常要用 fetch 配合可读流读取。

还要注意超时和重试。生成时间较长时,网关或客户端读超时可能先断开;已经收到部分内容后再盲目重试,容易造成重复输出。建议在客户端保留取消能力,并只在尚未输出内容时做有限重试。若接口或当前网关确实不支持流式,stream=false 仍是可用的回退路径;对只需要完整 JSON 再解析的场景,非流式更简单,不要为了形式强行改成流式。