它能做什么
- 记录 LLM 调用链路,查看耗时与 Token 成本
- 支持对模型输出打分、评测与数据集管理
- 提供 Prompt 版本管理与迭代能力
- 内置分析与监控看板,汇总应用运行情况
- 可与 LangChain、LlamaIndex 等框架集成
适合谁
- 开发团队调试线上 LLM 应用并定位问题
- 需要自托管观测数据、关注合规的团队
- 对模型输出做持续评测与效果对比的工程师
详细介绍
Langfuse 是一个开源的 LLM 应用工程平台,面向需要调试和持续优化大模型应用的开发团队。它把调用追踪、评测和监控整合在同一个平台里,帮助定位线上问题并改进模型输出质量。
核心能力包括记录每次 LLM 调用的完整链路与耗时成本、对模型输出进行打分与评测,以及管理与迭代 Prompt 版本。平台提供分析与监控看板,并与 LangChain、LlamaIndex 等常见框架集成。
使用上,项目开源,可以自行部署以掌控观测数据,再通过 SDK 接入应用,把数据汇总到统一界面。适合关注数据合规、希望自托管观测系统的团队。