OpenLLMetry - โอเพนซอร์สด้าน Observability สำหรับแอปพลิเคชัน LLM
(github.com/traceloop)- มอบการมองเห็นแบบครบวงจรสำหรับแอปพลิเคชัน LLM
- เนื่องจากภายในอิงบน OpenTelemetry จึงสามารถเชื่อมต่อกับโซลูชันที่มีอยู่เดิมอย่าง Datadog, New Relic, Grafana Tempo และ Splunk ได้
- รองรับการทำ Instrumentation
- LLM : OpenAI/Azure OpenAI, Anthropic, Cohre, HuggingFace, AWS Bedrock, Vertext AI, Replicate, IBM WatsonX
- Vector DB: Chroma, Pinecone, Qdrant, Weaviate, Milvus
- Frameworks: LangChain, LlamaIndex, Haystack, LiteLLM
- มี OpenLLMetry-JS สำหรับเวอร์ชัน JS/TS แยกต่างหากด้วย
ยังไม่มีความคิดเห็น