| |

FREELLMAPI : un seul endpoint pour 28 fournisseurs de LLM gratuits

📌 FreeLLMAPI est un proxy OpenAI-compatible qui agrège 28 fournisseurs et 339 endpoints de modèles gratuits derrière une seule clé. Le tout avec routage, bascule automatique et clés chiffrées.

Le problème est connu. Vous voulez tester plusieurs modèles, mais chaque provider a sa clé, sa limite, son SDK, son format. Résultat: vous passez plus de temps à recoller des intégrations qu’à utiliser les modèles. FreeLLMAPI centralise tout derrière un seul endpoint /v1.

Le principe est simple. Vous lancez le router, vous ajoutez vos clés, et vos clients OpenAI-compatible pointent vers http://localhost:3001/v1. Le système choisit le meilleur modèle disponible, bascule quand un provider est limité, et garde vos clés chiffrées en local.

  • 🔀 Un endpoint OpenAI-compatible pour chat, embeddings, image et audio
  • 🆓 28 providers gratuits, environ 4 milliards de tokens par mois
  • 🛡️ Clés chiffrées au repos, stockées en local
  • 🔁 Auto-failover quand un provider est limité ou en erreur
  • 🧰 Compatible avec Claude Code, Codex, Continue, Cursor et autres clients

Ce qui rend FreeLLMAPI intéressant, c’est le côté router plutôt que simple proxy. Il gère les modèles, les plafonds, les métriques, les stratégies de routage, et même un serveur MCP pour que les agents inspectent l’état du système pendant l’exécution.

Le projet est self-hosted et pensé pour un usage personnel. Le site met aussi en avant un catalogue live premium qui garde la liste des modèles à jour, tandis que le moteur local reste open source. En pratique, c’est le genre d’outil qui simplifie énormément les tests multi-modèles si vous aimez garder la main sur votre infra.

FreeLLMAPI est très fort si vous voulez un routeur IA local, simple à brancher, et capable d’exploiter les free tiers sans jongler avec 28 configurations.

Sources :

Publications similaires

Laisser un commentaire