OpenLIT是一个开源的GenAI和LLM可观测平台,原生支持OpenTelemetry,具有跟踪和指标在一个应用程序中。它是一个应用程序性能监控(APM)和可观测性工具,只需一行代码即可简化集成过程。OpenLIT确保GenAI项目,包括OpenAI和HuggingFace等流行库,以及ChromaDB等向量数据库的顺畅可观测性。
只需一行代码将OpenLIT集成到您的LLM应用程序中,实现无缝监控。
监控包括OpenAI和HuggingFace库在内的GenAI项目
可视化和分析LLM成本、令牌消耗和性能指标
全部({{commentRowsTotal}})