oMLX
Idéal Pour
Exécutez des agents de codage locaux sur Apple Silicon
Testez l’appel d’outils et les flux de travail MCP hors ligne
Servez des LLM locaux, des embeddings et des reclassificateurs
Créez des applications de chat privées avec un backend local
Forces Clés
Inférence hors appareil privée : les données ne quittent jamais votre machine
Latence ultra faible : mise en cache KV SSD local
API compatibles OpenAI et Anthropic : intégration facile
Fonctionnalités principales
SSD paginée KV caching: Réduit le temps jusqu’au premier token
Groupement continu: Débit plus élevé
API compatibles OpenAI: Compatibilité cloud facile
API compatibles Anthropic: large accès aux modèles
Application native pour la barre de menus macOS: Contrôle rapide