#FinOps

Donner un vrai budget IA à ses équipes avec LiteLLM

Guide pratique pour placer une passerelle entre vos collaborateurs et les éditeurs de modèles, de sorte que chaque appel soit attribué à une personne nommée et à une équipe, que chaque équipe dispose d'un plafond qui se réinitialise, qu'une borne journalière contienne l'agent devenu fou, et que la direction financière obtienne enfin une ventilation par équipe. Déploiement avec Docker et Postgres, équipes et clés, fenêtres de budget empilées, limites de débit, hiérarchisation des modèles, marquage des requêtes pour la refacturation, garde-fous PII, et le travail de jour deux dont personne ne vous parle.

Personne ne sait ce que votre entreprise dépense en IA

Dans toutes les entreprises, les collaborateurs utilisent désormais OpenAI, Anthropic et Gemini au quotidien, et presque aucune n'est capable de dire qui a demandé quoi, quelles données sont sorties, ni ce que tout cela a rapporté. Cet article défend l'idée que la gouvernance IA par la charte échoue pour les mêmes raisons que les politiques anti shadow IT, que la demande d'un budget IA fixe est la mauvaise question, et que le FinOps est la porte d'entrée pratique : des trois inconnues, seul le coût est mesurable aujourd'hui, et c'est en le mesurant qu'on obtient les deux autres.