oMLX
Ideal Para
Execute agentes locais de codificação em Apple Silicon
Teste chamadas de ferramentas e fluxos de trabalho MCP offline
Sirva LLMs locais, embeddings e rerankers
Construa aplicativos de chat privados com um backend local
Forças Chave
Inferência local no dispositivo: os dados nunca saem da sua máquina
Latência ultrabaixa: cache KV em SSD local
APIs compatíveis com OpenAI e Anthropic: integração fácil
Recursos Principais
Paginado SSD KV caching: reduz o tempo até o primeiro token
Processamento em lotes contínuo: maior taxa de transferência
APIs compatíveis com OpenAI: compatibilidade fácil com nuvem
APIs compatíveis com Anthropic: amplo acesso a modelos
Aplicativo nativo com barra de menu macOS: controle rápido