Guides techniques
Guides techniques TokenHawk sur l'optimisation de tokens LLM : cache sémantique, décomposition des coûts, agents multi-tours.
Régler le cache sémantique d'un proxy LLM
Comment un cache sémantique décide qu'une nouvelle question ressemble assez à une ancienne pour lui renvoyer la même réponse — et pourquoi le seuil de similarité est le vrai levier.
Pourquoi un tarif de token unique ment sur votre facture
Le nombre de tokens facturé par un provider n'est pas un tarif plat : lecture de cache, écriture de cache et raisonnement ont chacun leur propre prix. Ignorer la décomposition sur-facture certains usages d'un facteur 10.
Agents multi-tours : où partent vraiment les tokens
Un agent ReAct qui boucle sur des appels d'outils voit son contexte grossir à chaque tour. Sans compression d'historique, le coût d'un agent de 10 tours croît de façon quadratique, pas linéaire.