生产实践
生产实践:LangGraph 故障恢复、延迟预算、追踪隐私与发布检查
上线前要确认四件事:崩溃重启后流程能恢复且不重复执行,模型调用的最坏延迟有上限,追踪不会外发不该外发的字段,发布预检能在 CI 里自动执行。每一项都有可运行的脚本和实际输出。
四个风险先想清楚
| 要确认的事 | 从这里开始 |
|---|---|
| 崩溃重启后,流程不会重复执行(重复扣款、重复发货) | LangGraph checkpoint 与故障恢复 |
| 请求偶尔卡几分钟,需要算出最坏延迟 | 模型调用的延迟预算 |
| 打开 LangSmith 追踪后,到底发出去了什么 | LangSmith 追踪上线前检查 |
| 写一份真正能执行的上线检查表 | LangChain 生产发布检查表 |
按顺序完成上线检查
按恢复、延迟、追踪、发布四步,逐项确认上线前要检查的事。
- LangGraph checkpoint 与故障恢复:崩溃后如何安全续跑
确认崩溃恢复:checkpoint 保存了什么、哪些步骤恢复时会重复执行,并用幂等键保护有副作用的节点。
- ChatOpenAI 超时与重试:如何计算一次调用的最坏耗时
计算模型调用的最坏延迟,并设好超时、重试次数和外层截止时间。
- LangSmith 追踪上线前检查:外发数据、脱敏与故障影响
确认追踪外发了哪些字段,并按检查表关掉不该外发的部分。
- LangChain 生产发布检查表:上线前必须确认的 7 项
执行发布预检:把 7 项检查接进 CI,并核实并发下的会话隔离和同一会话的丢更新风险。
线上已经出问题
最后更新于