把 AI agent 的逻辑拆分到多个独立运行的服务中,听起来复杂做起来也确实容易乱。LangGraph 的 RemoteGraph 特性算是一个干净的方案:本地编排器负责流程控制,远程图服务器承担具体计算,状态管理和控制流的职责边界清晰。 本文要构建的项目是一个循环数学引擎:本地图编排一个远程图:随机选择数学运算和生成随机数。编排器会以两种方式实现——顺序执行和并行执行——以便对比两者的取舍,方 ...
The .env file contains database credentials and is excluded from git. See Configuration for available settings.
Langfuse:深度的 LLM 调用链路追踪(Trace)、Token 与成本计算。 Prometheus + Grafana:开箱即用的监控大盘,实时追踪 API 延迟、流式输出耗时等指标。 Structlog:带有 session_id 等请求上下文绑定的 JSON 结构化日志。 ⚖️ 自动化评估系统 (Evals):内置 LLM-as-a-judge 脚本 ...