AI 流式回答收尾不完整怎么处理:增量缓冲、结束事件与可恢复状态
AI 对话页面最容易被忽略的故障,不是请求完全失败,而是文字已经显示了大半,连接却在最后一个片段附近断掉。用户看到的是一段像“完成了”又没有收尾的回答,重试后还可能出现两份内容拼在一起。处理这类问题,关键是把“收到文本”“收到结束事件”和“已经可以恢复”当成三个不同状态。
增量片段只负责追加到缓冲区,只有明确的结束事件才把回答标记为完成;连接中断时保留可识别的缓冲内容,恢复操作从上次游标继续,而不是把旧文本再拼一次。
ReadableStream每次读到的只是片段,不能把一次读取当成一条完整消息。- 文本缓冲、结束标记和连接状态分开保存,避免“有字可显示”被误判为“回答已完成”。
AbortController负责用户主动停止;网络断开则进入可恢复状态,两者提示语和按钮动作不同。- 恢复前先按消息编号或游标去重,恢复后再接收新片段,避免重复渲染。
先区分三种收尾结果
假设服务端把回答拆成若干事件:文本事件携带一小段增量,结束事件携带最终状态,异常事件说明连接不能继续。前端如果只监听文本,就会在最后一个增量到达后立刻显示“已完成”,这正是半截回答最常见的来源。
| 状态 | 页面可以做什么 | 不能做什么 |
|---|---|---|
| receiving | 追加文本、显示停止按钮 | 不能宣布回答完成 |
| completed | 收起加载提示、允许复制全文 | 不能再次拼接旧片段 |
| recoverable | 保留缓冲、显示恢复按钮 | 不能把断线当成正常完成 |
ReadableStream 只追加片段,不负责宣布完成
浏览器读取流时,reader.read() 返回的是当前可用的一段字节。文本可能被拆在任意位置,甚至一个多字节字符也可能跨越两次读取,所以要用同一个 TextDecoder 维护解码状态,再把事件交给解析器。
async function readAnswer(response, onUpdate) {
const reader = response.body.getReader();
const decoder = new TextDecoder();
let buffer = '';
let state = 'receiving';
try {
while (true) {
const { value, done } = await reader.read();
if (done) break;
buffer += decoder.decode(value, { stream: true });
const lines = buffer.split('\n');
buffer = lines.pop() ?? '';
for (const line of lines) {
if (!line.startsWith('data:')) continue;
const event = JSON.parse(line.slice(5));
if (event.type === 'text') {
onUpdate({ type: 'text', text: event.text });
}
if (event.type === 'done') {
state = 'completed';
onUpdate({ type: 'done' });
}
}
}
if (state !== 'completed') state = 'recoverable';
} catch (error) {
state = 'recoverable';
onUpdate({ type: 'recoverable', error });
}
return state;
}
这段代码有两个刻意的边界。第一,末尾没有换行的残余内容仍留在 buffer 中,不能直接当作完整事件解析;第二,流结束但没有收到 done 时,返回的是 recoverable,而不是 completed。页面可以展示已经收到的文字,但按钮应写成“继续获取”,不能写“已完成”。

用 AbortController 把主动停止和断线恢复分开
用户点击停止时,前端知道这是主动行为,可以把状态落为 stopped;网络异常则应保留回答缓冲并落为 recoverable。如果两个分支都只设置一个布尔值,下一次点击恢复时就无法判断该从哪里继续。
const controller = new AbortController();
let answer = { text: '', cursor: 0, state: 'receiving' };
function stopAnswer() {
controller.abort();
answer.state = 'stopped';
render(answer);
}
function appendText(text, cursor) {
if (cursor
cursor 是去重的关键,resumeAnswer 只在可恢复状态下使用它。服务端恢复接口收到 after 后,只返回这个位置之后的事件;前端的 appendText 仍然做一次保护,遇到旧游标直接丢弃。这样即使网络重试把上一段事件送来两次,也不会让回答重复。

恢复动作要经过一次轻量验收
恢复按钮不要只重新发起同一个请求。点击后至少检查三件事:当前回答确实处于 recoverable,保存的 cursor 不是空值,服务端返回的新事件编号大于本地游标。任何一项不满足,都先显示“请重新开始”,避免把不完整上下文伪装成续写。
- 恢复成功:新片段接在原缓冲后面,收到
done后才显示完成。 - 再次断开:保留最新游标,按钮仍然是“继续获取”,不要清空已显示内容。
- 用户主动停止:状态保持
stopped,新请求由用户明确点击“重新生成”触发。
常见问题
为什么 response.body 读完了还不能算成功?
流读完只说明连接结束,不代表业务事件完整。没有 done 或等价的最终事件时,仍可能缺少收尾信息,应保留为可恢复状态。
TextDecoder 为什么要复用同一个实例?
字符可能跨越两个字节片段。复用实例并在最后一次读取时正确处理残余字节,才能避免中文或表情被拆成乱码。
主动停止后还能直接点继续获取吗?
不建议。主动停止和网络断线的语义不同;前者没有待处理的失败,通常应由用户重新生成,后者才适合按游标恢复。
把“收尾”当作协议的一部分
流式回答的稳定性不靠某个按钮补救,而靠协议和页面状态对齐:文本事件负责增量、结束事件负责完成、游标负责去重、AbortController 负责主动取消。联调时分别覆盖正常结束、末尾无换行、主动停止、网络断开后恢复和重复事件五组场景,半截回答就能从偶发体验问题变成可检查的状态分支。
Go slog.Handler 如何串起日志字段:WithAttrs、分组和并发写入边界
- 上一篇
- Go slog.Handler 如何串起日志字段:WithAttrs、分组和并发写入边界
- 下一篇
- Go slog.LogValuer 如何延迟构造日志字段:敏感数据脱敏与重复求值边界
-
- 科技周边 · 人工智能 | 3小时前 |
- AI 流式响应如何安全拼接工具参数:增量 JSON、半包与状态恢复
- 197浏览 收藏
-
- 科技周边 · 人工智能 | 5小时前 |
- 向量检索结果如何做可解释验收:相似度阈值、引用片段与空召回处理
- 297浏览 收藏
-
- 科技周边 · 人工智能 | 11小时前 | 缓存 · API · 人工智能 · 成本优化 · Anthropic Claude API cache_control Prompt Caching
- Anthropic Prompt Caching 如何判断命中:cache_control 边界与成本核对
- 176浏览 收藏
-
- 科技周边 · 人工智能 | 15小时前 | websocket · 人工智能 · gemini · 实时语音 · Gemini Live API session resumption SessionResumptionUpdate GoAway
- Gemini Live API 的 session resumption 怎么避免实时语音会话中断:恢复令牌与重连边界
- 436浏览 收藏
-
- 科技周边 · 人工智能 | 18小时前 | 人工智能 · api设计 · Google AI · Gemini API · Context Caching · Gemini API Context Caching cachedContent 长提示词 generateContent
- Gemini API 的 cachedContent 怎么复用长提示词:缓存创建与请求绑定
- 257浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- ljg-skills
- ljg-skills 是李继刚开源的 AI 技能与提示词集合,面向大模型使用者整理了一批可复用的 prompt、角色设定和任务技能模板,适合用于学习提示词设计、搭建个人 AI 工作流和沉淀团队常用智能体能力。
- 5376次使用
-
- MELO音乐
- MELO音乐是一站式AI视频与音乐制作助手,对标suno, udio的高品质体验。提供伴奏生成、原创写词、无损导出、哼唱识曲、混音变声等全套音频与短视频编辑工具。无论是流行Kpop、电音说唱、民谣古风、摇滚儿歌还是商用轻音乐,MELO为你免费谱曲,轻松做同款!
- 4888次使用
-
- UniScribe
- UniScribe 是一款 AI 音视频转文字与内容整理工具,支持上传音频、视频文件或粘贴 YouTube 链接,自动生成转写文本、摘要、思维导图和关键问题,并支持多格式导出,适合会议记录、课程学习、访谈整理和内容创作复盘。
- 4828次使用
-
- 剧云
- 剧云是专业中文剧本创作平台,安全稳定运行十余年,集成AI编剧、剧本医生审核、人物小传、剧情关系图、大纲编写、多人协作、Word导入导出、版权管控功能,数据安全防护,轻松高效创作剧本。
- 5078次使用
-
- 万象有声
- 万象有声,一个专为有声创作者打造的新一代智能有声内容创作平台。平台提供专业的智能拆章、智能画本编辑、AI配音、AI生成音效、后期制作、智能对轨、智能审听等有声创作全流程工具,可以帮助创作者高效、低成本创作出引人入胜的有声作品。立即体验,让有声书制作更简单!
- 5038次使用
-
- Go 大文件 CSV 导出怎么做稳:从全量查询到流式写出架构
- 2026-07-08 251浏览
-
- Go SSE 写出后浏览器为什么还收不到:ResponseController.Flush、代理缓冲与写超时
- 2026-08-22 430浏览
-
- Go 长任务接口怎么返回进度?SSE 流式推送的最小写法
- 2026-07-01 293浏览
-
- Go http.ResponseController 有什么用?Flush、写超时和 FullDuplex 这样理解
- 2026-07-01 161浏览
-
- RAG 召回评估实战:用向量检索和重排序减少答非所问
- 2026-06-12 174浏览

