蜡笔猫导航

Langfuse

开源 LLM 工程平台,用于追踪、评估和监控大模型应用的调用链路、成本与输出质量。

评测与可观测免费Prompt 管理可观测性开源模型评测自托管调用追踪
Langfuse(开源 LLM 可观测与评测平台) 官网预览

它能做什么

  • 记录 LLM 调用链路,查看耗时与 Token 成本
  • 支持对模型输出打分、评测与数据集管理
  • 提供 Prompt 版本管理与迭代能力
  • 内置分析与监控看板,汇总应用运行情况
  • 可与 LangChain、LlamaIndex 等框架集成

适合谁

  • 开发团队调试线上 LLM 应用并定位问题
  • 需要自托管观测数据、关注合规的团队
  • 对模型输出做持续评测与效果对比的工程师

详细介绍

Langfuse 是一个开源的 LLM 应用工程平台,面向需要调试和持续优化大模型应用的开发团队。它把调用追踪、评测和监控整合在同一个平台里,帮助定位线上问题并改进模型输出质量。

核心能力包括记录每次 LLM 调用的完整链路与耗时成本、对模型输出进行打分与评测,以及管理与迭代 Prompt 版本。平台提供分析与监控看板,并与 LangChain、LlamaIndex 等常见框架集成。

使用上,项目开源,可以自行部署以掌控观测数据,再通过 SDK 接入应用,把数据汇总到统一界面。适合关注数据合规、希望自托管观测系统的团队。