veridih
本站致力于IT相关技术的分享
构建跨技术栈全链路可观测性:从Angular到Express再到JPA的TraceID传递与日志关联实战 构建跨技术栈全链路可观测性:从Angular到Express再到JPA的TraceID传递与日志关联实战
我们面临的第一个警报,来自一个工业资产监控平台的终端用户报告:仪表盘上的“设备状态”组件数据刷新偶发性超时。这个操作看似简单,背后却横跨了三个完全异构的技术栈:用户交互的Angular前端、作为API网关和业务编排的Express.js中间
2023-10-27
为 LlamaIndex RAG 应用构建从 Recoil 前端到 Koa 后端的全链路追踪 为 LlamaIndex RAG 应用构建从 Recoil 前端到 Koa 后端的全链路追踪
一个 RAG 查询的响应耗时 5 秒。瓶颈在哪?是向量检索太慢,上下文构建耗时过长,还是 LLM 生成首个 token 的延迟太高?如果 RAG 管道对我们来说是个黑盒,那么优化就无从谈起。在真实项目中,任何无法被度量的东西都无法被有效管理
2023-10-27