Le calcul que personne ne fait avant de signer : ce que coûte réellement un LLM en production, hors marketing. Hypothèses explicitées, chiffres vérifiables.
Le piège du « pay-as-you-go »
L'argument commercial d'OpenAI, Google et consorts est séduisant : pas d'investissement initial, vous ne payez que ce que vous consommez. Pour un prototype, c'est vrai, et c'est voulu. Le modèle freemium est conçu pour que l'on entre gratuitement et que l'on ne ressorte jamais.
Le problème apparaît à l'échelle. Détaillons.
Les hypothèses (à adapter à votre cas)
Prenons le cas d'étude type : un centre d'appels européen de taille moyenne :
- 10 000 appels / jour traités par IA (assistance, qualification, résumés)
- 2 minutes d'appel en moyenne
- ~800 tokens LLM par appel (contexte + réponse)
- × 220 jours ouvrés / an
Cela représente ~1,76 milliard de tokens par an en entrée + sortie cumulées.
Le coût cloud, année après année
À ~12,50 €/million de tokens (tarif GPT-4o mixte entrée/sortie, tarif public 2026) :
| Année | Tokens | Facture annuelle |
|---|---|---|
| 1 | 1,76 Md | ~ 22 000 € |
| 3 (cumulé) | 5,28 Md | ~ 66 000 € |
Où est le problème, me direz-vous ? C'est raisonnable. Sauf que :
1. Ce tarif ne tient pas compte des hausses, les prix API ont augmenté de 30-50 % en moyenne sur les 2 dernières années pour les modèles frontier.
2. Il ne couvre que le LLM. Ajoutez la transcription (Deepgram : ~0,0043 €/min → ~110 000 €/an pour 44 M min), la synthèse vocale, l'analyse de sentiment.
3. Il ne couvre que ce que vous mesurez. Les agents modernes re-promptent, réessayent, enrichissent le contexte : le facteur multiplicateur réel en production est fréquemment ×2 à ×3.
4. Le volume croît avec le succès : 10 000 appels aujourd'hui, 30 000 l'an prochain (votre service client décolle). La facture suit la croissance, et elle ne redescend jamais.
Avec ces corrections réalistes, le calcul cloud d'un centre d'appels moderne (STT + LLM + TTS) se situe entre 150 000 € et 300 000 € par an, et croît avec l'usage.
Le coût on-premise : le CAPEX qui tue l'OPEX
| Poste | Coût | Commentaire |
|---|---|---|
| 2× GPU A100 80 GB (ou équivalent) | 60–80 K€ | Le cœur du calcul, amorti sur 4-5 ans |
| Serveur complet (RAM, stockage, alim, cooling) | 15–30 K€ | Compris dans les fourchettes publiées |
| Électricité + maintenance | ~2–4 K€/an | Le GPU traite 1 ou 1 M de tokens au même coût électrique |
| Licences modèles (Ollama, Llama, Mistral) | 0 € | Open weights, usage commercial |
| DalonCorp (plateforme, support, mises à jour) | 74 K€/an (1er datacenter, grille GYOI) | Le seul OPEX réel : 23 services, support N3, mises à jour, NSC signing key annuelle |
CAPEX initial : 46–100 K€ de matériel + la licence plateforme. Le GPU traite 1 token ou 1 million au même coût électrique.
Le point de rupture (break-even) se situe typiquement à moins de 12 mois pour un centre d'appels de cette taille. Au-delà, chaque année est de l'économie pure.
Ce qu'on ne vous dit pas sur le cloud
Trois arguments avancés pour justifier le cloud, examinés froidement :
« Le ROI est difficile, on garde le flexibilité. » Le cloud offre une flexibilité de démarrage, pas d'exploitation. Passer d'un provider à l'autre exige de réécrire les intégrations (API, SDK, facturation, auth), sauf si votre plateforme abstrait les providers, comme le NLPBC de DalonCorp (8 providers, routage par tenant).
« Ollama, c'est moins bon. » C'était vrai en 2023. Les modèles open weights 2025-2026 (Llama 3.1 70B, Mistral Large, DeepSeek) atteignent un niveau qui couvre la large majorité des usages métier, assistanat, qualification, résumé. Pour ceux qui nécessitent l'exception, votre plateforme peut offloader ce cas précis vers le cloud... et garder le sensible en local.
« On n'a pas les compétences GPU. » C'est le rôle d'un partenaire : l'infrastructure on-prem de DalonCorp se déploie avec la même discipline qu'une installation télécom, provisionnement automatisé via DevSecOps, monitoring Prometheus/Grafana, support N1-N3. La compétence GPU est notre métier.
Le calcul à 3 ans, côte à côte
Chiffres complets, licence plateforme incluse (grille GYOI : 124 K€ one-time + 74 K€/an, 1er datacenter) :
| Scénario | Année 1 | Année 2 | Année 3 | Total 3 ans |
|---|---|---|---|---|
| 100 % cloud (STT+LLM+TTS facturés) | ~180 K€ | ~190 K€ | ~200 K€ | ~570 K€ |
| DalonCorp on-prem (CAPEX GPU + licence GYOI) | ~313 K€ | ~74 K€ | ~74 K€ | ~461 K€ |
~109 K€ d'économie sur 3 ans, et c'est le plus petit de nos arguments. Car la comparaison ligne à ligne ne capture pas ce que le cloud ne vend pas :
- La souveraineté : aucune donnée ne quitte votre infrastructure, un argument sans équivalent tarifaire en secteur régulé
- La conformité : RGPD, AI Act, NIS2 par construction, pas par audit de fin de projet
- La gouvernance de la dépense : chaque token mesuré à la source et attribué à son utilisateur, le billing temps réel inclus dans la licence, pas une console fournisseur à consolider après coup
- La prévisibilité : la facture cloud suit le volume et les hausses de prix (30-50 % constatés sur 2 ans pour les modèles frontière), la licence est fixe
Et l'écart se creuse chaque année suivante : le cloud continue de facturer chaque token pendant que la licence reste plate et l'infrastructure s'amortit. Au 5e année, l'écart redevient massif.
Quand le cloud reste le bon choix
Honnêteté oblige (et notre architecture le permet) :
- Prototypage / POC : tester un cas d'usage sans CAPEX, le cloud est parfait. Notre plateforme est conçue pour le cloud offloading : vous démarrez cloud, vous basculez les charges sensibles en on-prem quand le volume ou la réglementation l'exige, sans réécrire le code.
- Volumes très faibles (< 500 appels/jour) : le calcul d'amortissement met des années, le pay-as-you-go reste rationnel.
- Crêtes exceptionnelles : un événement, un pic saisonnier, le cloud absorbe, l'infrastructure locale couvre le socle.
La question n'est pas « cloud ou on-prem » : c'est « quel service, sur quelle charge, avec quelle donnée ». Notre architecture NATS permet le mix au service près.
Le calcul pour votre organisation
Les chiffres ci-dessus utilisent des tarifs publics et des volumes types. Le calcul précis pour votre organisation dépend de : vos volumes actuels et projetés, vos exigences de latence, votre mix STT/LLM/TTS, votre profil de conformité.
Nous le faisons gratuitement dans le cadre d'un audit initial : apportez vos volumétries, nous sortons le calcul, avec les sources.
- Télécharger la proposition de valeur (PDF, tableaux complets)
- Notre positionnement souverain
- La sécurité de bout en bout