Coût d’un agent IA : ce qui fait monter la facture
Faites passer le taux d’escalade de votre agent de 5 % à 15 %, et sa facture mensuelle modélisée fait plus que doubler. La ligne tokens, elle, ne bouge pas.
EN 30 SECONDES
Le taux d’escalade d’un agent est la part de ses passages qu’il confie à une personne pour relecture. Dans mon modèle, ce taux pèse bien plus lourd dans la facture que le prix des tokens, et le coût par agent peut grimper dès que les agents partagent des briques.
À RETENIR · 3
- Dans l’exemple modélisé, passer de 5 % à 15 % d’escalades fait monter la facture de 521 $ à 1 121 $ par mois. Les tokens restent à 26 $.
- Le coût par agent peut grimper dès que les agents partagent des briques, comme un même modèle ou un même index de recherche : un seul changement en amont peut alors toucher beaucoup d’agents.
- Aucun nombre d’agents universel ne marque le moment où les coûts changent d’allure. Mesurez les migrations et les relectures sur votre propre parc.
Sur cette page
Les escalades font la facture, pas les tokens
EN BREF Même agent modélisé, trois fois plus d’escalades : la facture fait plus que doubler, et les tokens restent à 26 $.
LES MOTS À CONNAÎTRE
- Escalade
- L’agent confie à une personne un cas dont il n’est pas sûr, avec ce qu’il a trouvé.
- Coût modélisé
- Un coût calculé à partir d’hypothèses posées à l’avance, pas lu sur une vraie facture.
- Migration
- Faire passer des agents sur une nouvelle version d’une brique partagée, un nouveau modèle par exemple, puis les retester.
Reprenons l’assistant du niveau 1, avec les mêmes montants fixes pour le reste. Chaque Escalade L’agent confie à une personne un cas dont il n’est pas sûr, avec ce qu’il a trouvé. Voir le glossaire coûte 3 minutes de relecture à 60 $ l’heure. Chaque montant est un Coût modélisé Un coût calculé à partir d’hypothèses posées à l’avance, pas lu sur une vraie facture. Voir le glossaire, pas une facture : seul le taux d’escalade change, la lecture des utilisateurs reste exclue, et vos parts varieront.
UN EXEMPLE CONCRET
Chiffres illustratifs
VALIDÉCas de base : 5 % des passages remontent
ENTRÉE
- Passages par mois
- 2 000
- Taux d’escalade
- 5 %
- Relecture
- 3 min à 60 $/h
CE QUI SE PASSE
- 5 % de 2 000 passages, cela fait 100 escalades.
- 100 relectures de 3 minutes font 5 heures, soit 300 $.
- Les tokens restent à 26 $. Les trois autres lignes ajoutent 195 $.
SORTIE
- Relecture
- 300 $
- Total
- 521 $ par mois
FACTURE × 2 ENVIRONMême agent, 15 % des passages remontent
ENTRÉE
- Passages par mois
- 2 000
- Taux d’escalade
- 15 %
CE QUI SE PASSE
- 15 % de 2 000 passages, cela fait 300 escalades.
- 300 relectures de 3 minutes font 15 heures, soit 900 $.
- Les tokens restent à 26 $. Rien n’a changé côté modèle.
SORTIE
- Relecture
- 900 $
- Total
- 1 121 $ par mois
EN CLAIR
Les tokens n’ont pas bougé, et le total a un peu plus que doublé. Ce qui fait bouger la facture, c’est le taux d’escalade, un choix de conception et pas de fournisseur. Négocier le modèle, c’est se battre pour un vingtième de la facture de base.
Réglez de façon trop prudente la barre du « je ne suis pas sûr » d’un agent, et vous avez embauché quelqu’un sans le dire.
Où se fixe cette barre, et comment on l’évalue avant une mise en production, c’est le rôle de la suite d’évals, la batterie de tests qui évalue un agent.
Dans la section suivante : Et pourquoi l’agent 40 coûterait-il plus cher à entretenir que l’agent 4 ?
Pourquoi l’agent 40 coûte plus cher que l’agent 4
EN BREF Le coût par agent reste presque stable un moment, puis peut grimper quand les agents commencent à partager les mêmes briques.
Ce n’est pas le volume qui fait grimper la courbe. C’est la Dépendance partagée Une brique dont plusieurs agents dépendent en même temps : un même modèle, un même index de recherche, un même accès. Voir le glossaire : un même modèle, un même index de recherche, un même gabarit de prompt ou un même accès, utilisés par beaucoup d’agents. Vous le changez une fois, et il peut falloir retester chaque agent qui en dépend.
Les étapes ci-dessous sont illustratives, pas des seuils mesurés chez Integra. Votre courbe dépend de ce qui est partagé, du rythme des changements et de la personne qui gère la reprise après incident.
ÉTAPE PAR ÉTAPE
Étape 1. Agents 1 à 3. Un ingénieur peut avoir l’essentiel du contexte en tête : la maintenance reste presque invisible. Notez dès le départ les responsables et la marche à suivre en cas de panne.
- Agents 1 à 3 Un ingénieur peut avoir l’essentiel du contexte en tête : la maintenance reste presque invisible. Notez dès le départ les responsables et la marche à suivre en cas de panne.
- Vers l’agent 6 Personne ne sait de mémoire ce que fait chaque agent ni qui en répond. Le premier outil du parc apparaît : une liste.
- Vers l’agent 15 Un index, un gabarit de prompt, un modèle et un accès sont désormais partagés. Chaque nouvel agent coûte peu à construire et cher à entretenir.
- Vers l’agent 30 Migrations, tests partagés et liste ne tiennent plus entre deux livraisons. Quelqu’un s’occupe du parc, que ce rôle ait un nom ou non.
- Vers l’agent 46 Comptez les responsables, pas les agents : combien de personnes savent reprendre la main et entretenir les briques partagées ?
ATTENTION
Aucun nombre d’agents universel ne marque la rupture. Mesurez les Migration Faire passer des agents sur une nouvelle version d’une brique partagée, un nouveau modèle par exemple, puis les retester. Voir le glossaire et les relectures sur votre propre parc.
60 jours
de préavis minimum avant le retrait d’un modèle public
Source : Anthropic, page sur le retrait des modèles.
Les changements de modèle n’ont rien d’hypothétique. Anthropic prévient les clients qui ont des déploiements actifs au moins 60 jours avant de retirer un modèle public. Le travail qui suit dépend de la compatibilité, de la couverture de tests et du déploiement : la taille du parc ne dit pas, à elle seule, combien de temps prendra une migration.
OBJET OBTENU
Le partage multiplie l’entretien
FAQ
Chaque agent doit avoir un responsable. Un parc plus grand ou plus lié peut justifier une personne pour la plateforme. Décidez selon la maintenance et le risque, pas selon un seuil arbitraire d’agents.
NIVEAU TERMINÉ
Ce que vous savez maintenant
- Pourquoi, dans ce modèle, le taux d’escalade pèse bien plus sur la facture que le prix des tokens.
- Pourquoi le coût par agent peut grimper dès que les agents partagent un modèle, un index ou un accès.
Vérifiez par vous-même
Touchez ou cliquez une question pour voir la réponse.
Cas illustratif : dans le parc A, un seul agent sur 20 utilise le modèle M ; dans le parc B, les 20 l’utilisent. Le fournisseur retire M. Dans quel parc faut-il examiner le plus d’agents ?
Le parc B : 20 agents dépendent de M, contre un seul dans A, et chacun peut devoir être retesté. La durée du travail dépend toujours de la compatibilité, des tests et du déploiement.
Ancien CTO d’Integra. Auteur nommé (1 sur 5) d’ERC-3643, premier auteur d’ERC-6960, co-auteur d’ERC-7410 et co-auteur d’ERC-8203, encore à l’état de brouillon. Conçoit des systèmes d’IA en production et des systèmes Web3 régulés.
Un projet à livrer ou un poste à pourvoir ?
Parlons de votre besoinSuivre les notes techniques
Recevez les nouveaux articles sur l’IA en production et les smart contracts par email.