聊天流式输出是怎么实现的?SSE 从原理到代码
陈老师··650 阅读
为什么大模型回复是一个字一个字蹦出来的?手写一个 SSE 服务端和前端对接,附踩坑。
为什么大模型回复是一个字一个字蹦出来的?手写一个 SSE 服务端和前端对接,附踩坑。
角色设定、few-shot、思维链、格式约束,这些技巧在实际业务里哪些真有用哪些是玄学。
图片理解、文档 OCR、图表分析,VLM 能干什么以及怎么接入。
为什么选 LoRA、数据怎么准备、训练参数怎么调、效果怎么评估。
StateGraph 节点怎么设计、工具怎么注册、循环怎么控制,一个真实业务 Agent 的完整实现笔记。
从 prompt 约束到检索增强到置信度阈值,防幻觉手段的实测效果排序。