Mini-Rag项目构建-8前端SSE流式聊天
732 字
4 分钟
Mini-Rag项目构建-8前端SSE流式聊天
项目Github地址: https://github.com/gaodaxiu0406/Mini-Rag
⭐ 如果这个项目对你有帮助,欢迎Github点一个 Star——你的一个星,是对独立开发者最直接的鼓励;发现问题或有想法,也欢迎提 Issue。
前端SSE流式聊天
给app.js补全聊天功能————sendMessage、SSE流式渲染、以及发送/输入的事件绑定
async function sendMessage() { const query = userInput.value.trim(); if(!query) return;
// 没有活跃会话时自动创建 if(!state.activeSessionId) { const sess = await api("POST", "/sessions"); state.activeSessionId = sess.id; sessionTitle.textContent = sess.title; await loadSessions(); } addMessage("user", query); userInput.value = ""; userInput.style.height = "auto";
// 创建一个占位机器人气泡 const botDiv = addMessage("assistant", "思考中...", "stream") btnSend.disabled = true;
const ctrl = new AbortController(); state.streamingAbort = ctrl;
// 向后端发送流式输入请求 try { const res = await fetch(API + "/chat/stream", { method: "POST", headers: {"Content-Type": "application/json"}, body: JSON.stringify({ message: query, session_id: state.activeSessionId, }), signal: ctrl.signal });
const reader = res.body.getReader(); const decoder = new TextDecoder(); let buffer = ""; let started = false;
// 对于返回的每一个字节依次处理 while(true) { const { done, value } = await reader.read(); if (done) break;
buffer += decoder.decode(value, { stream: true }); const lines = buffer.split("\n"); buffer = lines.pop(); // 保留未完成的行
for (const line of lines) { if (!line.startsWith("data: ")) continue; const raw = line.slice(6).trim(); if (!raw || raw === "[DONE]") continue; try { const data = JSON.parse(raw); if (data.type === "content") { if (!started) { botDiv.textContent = ""; started = true; } botDiv.textContent += data.text; scrollBottom(); } else if (data.type === "error") { if (!started) { botDiv.textContent = ""; started = true; } botDiv.textContent += `[错误:${data.message}]` } } catch (e) {} } }
if (!started) botDiv.textContent = "(已终止回答)"; } catch (err) { if (err.name === "AbortError") { botDiv.textContent += "\n(已终止回答)"; } else { botDiv.textContent = `请求失败:${err.message}`; } } finally { state.streamingAbort = null; btnSend.disabled = false; botDiv.removeAttribute("id") }}SSE解析流程
HTTP Response Body(字节流) | reader.read() —— Uint8Array | TextDecoder.decode({stream: true}) —— 文本片段 | 拼接到buffer、按\n分割 | 逐行处理 —— 检查"data: "前缀 | | | 去掉前缀 —— JSON.parse() | | | 按type分发: | "content"→ 追加到botDiv | "error" → 显示错误 | 回到reader.read() 循环事件绑定
composerForm.addEventListener("submit", (e) => { e.preventDefault(); if (!btnSend.disabled) sendMessage();});
userInput.addEventListener("keydown", (e) => { if (e.key === "Enter" && !e.shiftKey) { e.preventDefault(); if (!btnSend.disabled) sendMessage(); }});
userInput.addEventListener("input", () => { userInput.style.height = "auto"; userInput.style.height = Math.min(userInput.scrollHeight);})关键细节
buffer=lines.pop(): 网络传输可能在一个chunk的中间切断,pop()保留最后一行不完整部分,下个chunk来时继续拼接。started标记:收到第一个content或error事件时才清空”思考中…”占位文字AbortController:state.streamingAbout持有当前请求的控制器,为后续”停止生成”按钮预留
运行效果
重启app.py后端,浏览器访问ttp://192.168.3.7:8000,按清单验证
| 步骤 | 操作 | 预期结果 |
|---|---|---|
| 1 | 点击“+新会话”按钮 | 侧栏出现“会话xxxx”,发送按钮启用 |
| 2 | 输入“你好”并回车 | 消息区出现气泡,机器人“思考中…”后逐字流式显示回复 |
| 3 | 再发“我刚才问了你什么” | 模型仍有该会话,点开历史消息完整恢复 |
| 4 | 点击“x”删除会话 | 会话从列表消失,聊天区清空 |
支持与分享
如果这篇文章对你有帮助,欢迎分享给更多人或打赏支持!
Mini-Rag项目构建-8前端SSE流式聊天
https://gaodaxiu-blog.netlify.app/posts/guide/7项目构建-8前端sse流式聊天/











