RAPID-MLX : faites tourner vos agents IA localement sur un Mac Apple Silicon
https://pypi.org/project/rapid-mlx/
📌 RAPID-MLX est un moteur d’inférence local pour les Mac Apple Silicon qui expose des API compatibles OpenAI et Anthropic afin de brancher vos applications et agents de code sur des modèles exécutés chez vous.
Le principe est celui d’un serveur local que vous lancez sur votre Mac, puis auquel vos outils se connectent comme s’il s’agissait d’un endpoint OpenAI ou Anthropic. Vous pouvez discuter avec un modèle depuis le terminal, démarrer rapid-mlx serve, puis pointer Cursor, Aider, OpenCode, LangChain ou vos propres scripts vers http://localhost:8000/v1. Pour Claude Code, le projet fournit aussi une commande rapid-mlx launch claude-code qui prépare la configuration locale.
L’installation reste simple : pip install rapid-mlx avec Python 3.10 ou plus récent, brew install rapid-mlx, ou l’outil uv. La commande rapid-mlx chat télécharge un modèle de départ et ouvre une REPL. Le script d’installation peut aussi détecter la mémoire disponible pour proposer un modèle adapté. Avec 8 à 23 Go de mémoire unifiée, le projet recommande par exemple un petit modèle quantifié ; les Mac mieux dotés peuvent viser des modèles de 20, 35 ou 120 milliards de paramètres selon la mémoire disponible.
Ce que je retiens surtout :
- 🍎 Des kernels MLX natifs pour exploiter les puces M1 à M4.
- 🔌 Des endpoints compatibles OpenAI et Anthropic sans adaptateur côté client.
- 🤖 Une intégration documentée avec 11 agents CLI et trois frameworks Python.
- 🧠 Un cache de prompt, le batching continu et un cache KV quantifié.
- 🛠️ Des commandes pour servir, tester, benchmarker, diagnostiquer et configurer les agents.
Le point intéressant est l’abstraction. Rapid-MLX ne demande pas de remplacer votre client favori par une nouvelle interface : il parle le protocole attendu par les outils existants. Le dépôt liste Codex CLI, Claude Code, OpenCode, Qwen Code, OpenHands, Hermes Agent, Aider, Kilo Code, Copilot, Factory Droid et Kimi Code, avec LangChain, PydanticAI et smolagents côté frameworks. Les quatre premiers bénéficient d’une vérification renforcée à chaque release, selon la documentation du projet.
Rapid-MLX couvre aussi davantage que le texte. Les extras optionnels ajoutent la vision, l’audio, les embeddings, la génération vidéo avec LTX-2.3 et le décodage spéculatif. Cette modularité évite d’installer tout le nécessaire quand vous voulez seulement faire tourner un modèle conversationnel, mais elle implique de connaître les modèles, les formats quantifiés et les besoins en mémoire avant de lancer une grosse inférence.
Je trouve l’approche particulièrement cohérente pour un Mac récent. Le matériel Apple devient enfin la contrainte utile plutôt qu’un simple support de développement : mémoire unifiée, accélération locale et absence de coût par token. Le projet revendique des performances supérieures à Ollama, mais ce type de comparaison dépend forcément du modèle, de la quantification et du scénario. Il vaut mieux lancer le benchmark fourni que prendre le slogan pour une mesure universelle.
La réserve est celle de tout moteur local : un Mac de 8 Go ne fera pas tourner les mêmes modèles qu’un Studio de 128 Go, et le premier téléchargement peut peser plusieurs gigaoctets. Le projet propose une télémétrie anonyme activable, désactivée par défaut, et précise qu’elle ne collecte ni prompts, ni complétions, ni chemins, ni clés API. Pour qui veut un backend local compatible avec son outillage actuel, RAPID-MLX est une alternative pragmatique à tester, à condition de choisir le modèle en fonction de sa machine plutôt que de ses ambitions.
Sources :
Sources :
