TokTier: Tokenização Stateful Exata para Agentes LLM
Sistema que elimina re-tokenização desnecessária em chamadas LLM, crucial para agentes que resubmetem longas transcrições após cada resultado de ferramenta. Reduz significativamente o custo computacional ao reutilizar tokens KV cachados, com impacto direto em workflows de coding agents que fazem 153k+ chamadas.
Ler artigo completo