LiteLLM
LiteLLM est une bibliothèque open-source conçue pour simplifier les appels de complétion et d'embedding LLM, offrant une interface intuitive pour divers modèles LLM.
"Comme OpenLIT mais axé sur simplifier les appels LLM et les embeddings"
Les équipes qui ont besoin d’une bibliothèque légère et gratuite pour des compléments rapides de LLM et des embeddings
LiteLLM brille sur OpenLIT par sa simplicité et sa rapidité pour les interactions LLM de base sans coûts d’hébergement
Si vous avez besoin d une observabilité profonde et d une analyse en temps réel LiteLLM manque les fonctionnalités de surveillance d OpenLIT