Osaurus : l’infrastructure IA edge native pour macOS

https://github.com/dinoki-ai/osaurus

📌 Osaurus est une application native macOS qui sert de runtime IA edge pour exécuter des modèles localement sur Apple Silicon, tout en unifiant aussi des modèles cloud dans la même interface et la même API. L’intérêt concret est simple : garder la vitesse et la confidentialité du local quand c’est possible, puis basculer vers des providers distants quand un modèle plus gros ou plus spécialisé est nécessaire.

Le projet se positionne comme une couche d’infrastructure locale toujours disponible sur Mac. En pratique, Osaurus expose des endpoints compatibles OpenAI, Anthropic et Ollama, ce qui permet de brancher des outils existants sans réécrire tout un client. Si une équipe a déjà des scripts, des intégrations SDK ou des workflows agentiques, cette compatibilité réduit fortement le coût de migration.

Côté usage quotidien, Osaurus combine plusieurs modes : serveur local, interface de chat native, gestionnaire de modèles, et intégration MCP. Le serveur tourne en local (port 1337 par défaut), l’UI permet de superviser et tester rapidement, et le mode MCP ouvre l’accès aux outils depuis des clients compatibles comme Cursor ou Claude Desktop. Résultat : un même poste macOS peut devenir une base IA qui alimente plusieurs apps en parallèle.

• 🧠 Exécution IA unifiée avec modèles locaux et providers cloud
• 🔒 Approche orientée contrôle des données et confidentialité
• ⚙️ Application native Mac pensée pour Apple Silicon
• 🧩 Gestion conjointe des outils, de la mémoire et du contexte
• 🚀 Expérience plus fluide entre test rapide et usage quotidien
• 🛠️ Distribution simple via DMG ou Homebrew (brew install osaurus)

Le démarrage est direct : installation via Homebrew (brew install –cask osaurus) ou via les releases GitHub, lancement de l’app, puis osaurus serve pour exposer l’API locale. Ensuite, on peut télécharger un modèle local, tester un appel chat/completions, puis connecter un client MCP. Cette progression est utile pour valider rapidement la stack avant d’aller vers des usages plus avancés (agents, schedules, plugins).

Sur la confidentialité, Osaurus permet une stratégie graduée. Les traitements locaux restent sur la machine pour les cas sensibles, tandis que les providers cloud peuvent être ajoutés uniquement pour des besoins ciblés. Cette approche hybride évite le tout local parfois limité, comme le tout cloud parfois coûteux ou trop exposé, et donne un meilleur contrôle opérationnel par cas d’usage.

Techniquement, la contrainte majeure est claire : environnement macOS sur Apple Silicon (M1+), avec des fonctionnalités additionnelles dépendantes de versions récentes de macOS. Pour une équipe déjà équipée en Mac, c’est cohérent ; pour un parc hétérogène, il faut prévoir une architecture complémentaire pour Linux ou Windows.

Osaurus n’est pas seulement un serveur LLM local. C’est une couche d’exécution IA native pour macOS qui relie local, cloud, API standard et outils MCP dans un même socle. Pour les développeurs, studios et petites équipes qui veulent accélérer sans perdre le contrôle de leur stack IA, le projet offre un compromis solide entre performance locale, interopérabilité et extensibilité.