AI 流式回答收尾不完整怎么处理:增量缓冲、结束事件与可恢复状态
AI 对话页面最容易被忽略的故障,不是请求完全失败,而是文字已经显示了大半,连接却在最后一个片段附近断掉。用户看到的是一段像“完成了”又没有收尾的回答,重试后还可能出现两份内容拼在一起。处理这类问题,关键是把“收到文本”“收到结束事件”和“已经可以恢复”当成三个不同状态。
增量片段只负责追加到缓冲区,只有明确的结束事件才把回答标记为完成;连接中断时保留可识别的缓冲内容,恢复操作从上次游标继续,而不是把旧文本再拼一次。
ReadableStream每次读到的只是片段,不能把一次读取当成一条完整消息。- 文本缓冲、结束标记和连接状态分开保存,避免“有字可显示”被误判为“回答已完成”。
AbortController负责用户主动停止;网络断开则进入可恢复状态,两者提示语和按钮动作不同。- 恢复前先按消息编号或游标去重,恢复后再接收新片段,避免重复渲染。
先区分三种收尾结果
假设服务端把回答拆成若干事件:文本事件携带一小段增量,结束事件携带最终状态,异常事件说明连接不能继续。前端如果只监听文本,就会在最后一个增量到达后立刻显示“已完成”,这正是半截回答最常见的来源。
| 状态 | 页面可以做什么 | 不能做什么 |
|---|---|---|
| receiving | 追加文本、显示停止按钮 | 不能宣布回答完成 |
| completed | 收起加载提示、允许复制全文 | 不能再次拼接旧片段 |
| recoverable | 保留缓冲、显示恢复按钮 | 不能把断线当成正常完成 |
ReadableStream 只追加片段,不负责宣布完成
浏览器读取流时,reader.read() 返回的是当前可用的一段字节。文本可能被拆在任意位置,甚至一个多字节字符也可能跨越两次读取,所以要用同一个 TextDecoder 维护解码状态,再把事件交给解析器。
async function readAnswer(response, onUpdate) {
const reader = response.body.getReader();
const decoder = new TextDecoder();
let buffer = '';
let state = 'receiving';
try {
while (true) {
const { value, done } = await reader.read();
if (done) break;
buffer += decoder.decode(value, { stream: true });
const lines = buffer.split('\n');
buffer = lines.pop() ?? '';
for (const line of lines) {
if (!line.startsWith('data:')) continue;
const event = JSON.parse(line.slice(5));
if (event.type === 'text') {
onUpdate({ type: 'text', text: event.text });
}
if (event.type === 'done') {
state = 'completed';
onUpdate({ type: 'done' });
}
}
}
if (state !== 'completed') state = 'recoverable';
} catch (error) {
state = 'recoverable';
onUpdate({ type: 'recoverable', error });
}
return state;
}
这段代码有两个刻意的边界。第一,末尾没有换行的残余内容仍留在 buffer 中,不能直接当作完整事件解析;第二,流结束但没有收到 done 时,返回的是 recoverable,而不是 completed。页面可以展示已经收到的文字,但按钮应写成“继续获取”,不能写“已完成”。

用 AbortController 把主动停止和断线恢复分开
用户点击停止时,前端知道这是主动行为,可以把状态落为 stopped;网络异常则应保留回答缓冲并落为 recoverable。如果两个分支都只设置一个布尔值,下一次点击恢复时就无法判断该从哪里继续。
const controller = new AbortController();
let answer = { text: '', cursor: 0, state: 'receiving' };
function stopAnswer() {
controller.abort();
answer.state = 'stopped';
render(answer);
}
function appendText(text, cursor) {
if (cursor
cursor 是去重的关键,resumeAnswer 只在可恢复状态下使用它。服务端恢复接口收到 after 后,只返回这个位置之后的事件;前端的 appendText 仍然做一次保护,遇到旧游标直接丢弃。这样即使网络重试把上一段事件送来两次,也不会让回答重复。

恢复动作要经过一次轻量验收
恢复按钮不要只重新发起同一个请求。点击后至少检查三件事:当前回答确实处于 recoverable,保存的 cursor 不是空值,服务端返回的新事件编号大于本地游标。任何一项不满足,都先显示“请重新开始”,避免把不完整上下文伪装成续写。
- 恢复成功:新片段接在原缓冲后面,收到
done后才显示完成。 - 再次断开:保留最新游标,按钮仍然是“继续获取”,不要清空已显示内容。
- 用户主动停止:状态保持
stopped,新请求由用户明确点击“重新生成”触发。
常见问题
为什么 response.body 读完了还不能算成功?
流读完只说明连接结束,不代表业务事件完整。没有 done 或等价的最终事件时,仍可能缺少收尾信息,应保留为可恢复状态。
TextDecoder 为什么要复用同一个实例?
字符可能跨越两个字节片段。复用实例并在最后一次读取时正确处理残余字节,才能避免中文或表情被拆成乱码。
主动停止后还能直接点继续获取吗?
不建议。主动停止和网络断线的语义不同;前者没有待处理的失败,通常应由用户重新生成,后者才适合按游标恢复。
把“收尾”当作协议的一部分
流式回答的稳定性不靠某个按钮补救,而靠协议和页面状态对齐:文本事件负责增量、结束事件负责完成、游标负责去重、AbortController 负责主动取消。联调时分别覆盖正常结束、末尾无换行、主动停止、网络断开后恢复和重复事件五组场景,半截回答就能从偶发体验问题变成可检查的状态分支。
Go slog.Handler 如何串起日志字段:WithAttrs、分组和并发写入边界
- 上一篇
- Go slog.Handler 如何串起日志字段:WithAttrs、分组和并发写入边界
- 下一篇
- Go slog.LogValuer 如何延迟构造日志字段:敏感数据脱敏与重复求值边界
-
- 科技周边 · 人工智能 | 2天前 |
- vLLM 连续批处理下的显存与吞吐取舍
- 209浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- Reranker 接入后如何控制检索延迟预算
- 113浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- Embedding 向量维度变化时的索引迁移方案
- 429浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- Agent 轨迹评测区分工具错误与模型错误
- 239浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- MCP 资源与工具描述的缓存更新策略
- 313浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- MCP 服务端授权范围与会话隔离的配置
- 161浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- MCP 工具结果分页与长列表截断的设计
- 486浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 | 人工智能 · chat template apply_chat_template AI tokenizer 多模型消息格式
- AI tokenizer chat template 统一多模型消息格式
- 154浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 450次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 520次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 535次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 480次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 304次使用
-
- Go 大文件 CSV 导出怎么做稳:从全量查询到流式写出架构
- 2026-07-08 251浏览
-
- Go SSE 写出后浏览器为什么还收不到:ResponseController.Flush、代理缓冲与写超时
- 2026-08-22 430浏览
-
- Go net/http.ResponseController.EnableFullDuplex 如何边读边写:请求体消费与响应刷新边界
- 2026-08-30 164浏览
-
- Go Server-Sent Events 怎么正确刷新事件并关闭连接
- 2026-09-07 491浏览
-
- Go http.Flusher 什么时候能把流式响应及时发给客户端
- 2026-09-09 468浏览

