Les lectures du cache passent à 0,25 dollar par million de jetons. Un exemple chiffré explique pourquoi la facture entière ne baisse pas de 75 %.
L’annonce de Fable 5.1 par Anthropic ramène la lecture du cache à 0,25 dollar par million de jetons, soit 75 % de moins sur cette ligne. L’identifiant du modèle est claude-fable-5-1. Pour estimer l’effet sur une facture, il faut séparer cette lecture des autres consommations.
Un calcul illustratif
Prenons une période hypothétique avec un million de jetons d’entrée ordinaires, un million écrits dans un cache de cinq minutes, vingt millions lus en cache et un million en sortie. Avec des tarifs de 10 dollars pour l’entrée, 12,50 dollars pour ces écritures et 50 dollars pour la sortie, le seul passage de la lecture de 1 à 0,25 dollar donne :
| Ligne facturée | Avant | Après |
|---|---|---|
| Entrée ordinaire | 10,00 $ | 10,00 $ |
| Écritures du cache de cinq minutes | 12,50 $ | 12,50 $ |
| Lectures du cache | 20,00 $ | 5,00 $ |
| Sortie | 50,00 $ | 50,00 $ |
| Total | 92,50 $ | 77,50 $ |
L’économie atteint 15 dollars, soit environ 16,2 % du total de cet exemple, malgré les 75 % gagnés sur les lectures. Ce calcul exclut taxes, frais propres aux plateformes, remises de traitement par lots et écritures dans un cache d’une heure. Ce n’est pas une charge client mesurée.
Pour l’adapter, remplacez chaque volume par vos propres compteurs. Ne multipliez pas la facture entière par 0,25. Une application qui produit beaucoup de sortie n’a pas le même profil qu’un agent relisant continuellement un contexte volumineux.
Lire les bons compteurs
La documentation du cache distingue input_tokens, cache_creation_input_tokens et cache_read_input_tokens. L’entrée ordinaire n’est pas l’entrée totale : il faut additionner les trois compteurs pour la reconstituer. Séparez aussi les écritures de cinq minutes et d’une heure si votre consommation inclut les deux.
Regroupez d’abord les usages par modèle, fournisseur et journée. Conservez quelques réponses individuelles pour expliquer les écarts dans les totaux. Comptez les nouvelles tentatives : le coût d’une tâche réussie peut augmenter alors même que le tarif nominal diminue.
Stabiliser le préfixe réellement envoyé
Le cache exige des segments d’invite identiques jusqu’au point de mise en cache. Placez les éléments variables après la partie réutilisable. Un horodatage inséré dans cette partie peut empêcher une réutilisation. Un identifiant de requête HTTP différent ne prouve pas, à lui seul, que le préfixe de l’invite a changé.
Pour vérifier le comportement, répétez une requête identique et relevez les compteurs, puis modifiez volontairement un segment. Notez les réglages et le délai entre les essais. Vous isolerez mieux la cause qu’en observant la facture mensuelle sans trace des requêtes.
Évaluer la qualité à part
Le recalcul des coûts et l’évaluation du modèle sont deux étapes distinctes. Gardez le même jeu de tâches, les mêmes critères de réussite et les mêmes outils pour comparer modèles ou niveaux d’effort. Présentez les tâches réussies, les nouvelles tentatives et les échecs avec le coût. Cet article propose un calcul de facturation ; il ne prétend pas mesurer les performances du modèle.
Révision du 7 septembre : sources primaires relues, explication pratique réécrite ; aucun résultat de test indépendant revendiqué.