LiteLLM
LiteLLM é uma biblioteca de código aberto projetada para simplificar chamadas de conclusão e incorporação de LLM, oferecendo uma interface intuitiva para vários modelos de LLM.
"Como OpenLIT mas focado em simplificar chamadas de LLMs e embeddings"
Equipes que precisam de uma biblioteca leve, gratuita para rápidas conclusões de LLM e embeddigs
LiteLLM brilha sobre OpenLIT em simplicidade e velocidade para interações básicas com LLM sem custos de hospedagem
Se você precisa de observabilidade profunda e análises em tempo real LiteLLM carece dos recursos de monitoramento do OpenLIT