TokenEconomizer reduz custo de agentes de código em até 30,9%

Tecnologia

Novo plugin open-source diminui significativamente os custos operacionais de agentes de codificação avançados.

Leia também: Startup brasileira testa software que vira data center em órbita

Pesquisadores da Microsoft Research e da Universidade da Califórnia em Berkeley lançaram o TokenEconomizer, um plugin open-source que funciona como controlador externo de custos para agentes de codificação baseados em modelos de linguagem e, em testes recentes com 277 tarefas do benchmark SWE-Bench, reduziu o gasto médio de tokens entre 18,4% e 30,9% em cinco configurações diferentes de agentes e modelos.

Plugin mira desperdício em agentes como Claude Code e Codex

O TokenEconomizer foi desenvolvido para atuar sobre um problema que se tornou caro em ambientes de programação com IA: a cada interação, agentes como Claude Code, Codex, GitHub Copilot CLI e Pi costumam reenviar o prompt do sistema, o esquema completo das ferramentas carregadas e todo o histórico da conversa, o que multiplica o volume de tokens processados e encarece cada passo da automação.

Em vez de alterar pesos de modelo ou o código dos agentes, o plugin se coloca como um controlador externo que trata o agente como uma “caixa-preta”. Ele mantém um estado por repositório, construído a partir de rastros completos de sessões anteriores, e aplica três tipos de política definidos via prompt, configurações de ferramentas e fluxo de eventos, sempre antes de cada nova tarefa.

Nos testes reportados pelos autores, o TokenEconomizer superou estratégias abertas já conhecidas, como RTK, Serena e RepoMap, que mostraram resultados inconsistentes, reduzindo custo em alguns repositórios e aumentando em outros. Com o novo plugin, a economia se acumula ao longo do tempo: a maioria dos repositórios ainda fica mais cara no início, mas todos se tornam mais baratos a partir da sexta tarefa.

Como o TokenEconomizer aprende com sessões anteriores

No coração do plugin está um modelo de linguagem “propositor” que transforma rastros de execução em fatos resumidos de uma linha, como o comando de teste correto para um projeto. Esses fatos são acompanhados de expressões regulares que permitem detectar sua relevância em execuções futuras sem precisar de novas chamadas ao modelo.

Para evitar erros e contradições, um fato só entra de fato no prompt depois de três confirmações em tarefas que mexem em arquivos diferentes, e precisa manter uma taxa mínima de necessidade. Segundo o trabalho dos pesquisadores, uma contradição pesa como cinco confirmações negativas, o que faz fatos incorretos serem aposentados rapidamente.

O resultado aparece em números concretos. Em um repositório do Django usando Claude Code, os autores registram que “o primeiro pedido na tarefa 2 caiu de 43.351 para 16.295 tokens de prompt”, uma redução expressiva de contexto redundante logo nas primeiras iterações.

Poda de ferramentas, micro-habilidades e controle de loops

Outra frente de economia vem da gestão das ferramentas que o agente pode acionar. Com o TokenEconomizer, comandos essenciais como shell, leitura, escrita e edição são sempre mantidos, mas ferramentas adicionais são mascaradas após três tarefas consecutivas sem uso ou se um modelo julgador indicar irrelevância. Periodicamente, a cada cinco tarefas, o catálogo completo é reavaliado.

Isoladamente, essa poda de ferramentas responde por entre 13,2% e 17,7% de economia de custos em testes com Claude Code. As chamadas micro-habilidades — pequenos trechos de conhecimento aprendido a partir das sessões — acrescentam mais 11,8% a 14,3% de redução, embora venham desativadas por padrão para evitar chamadas extras ao modelo.

O controlador também aprende um orçamento de tokens por interação com base no percentil 90 das execuções bem-sucedidas, multiplicado por um fator de segurança. Regra simples de verificação detecta falhas repetidas ou blocos densos de erros, acionando então um modelo julgador que decide se o agente está preso em um loop com confiança mínima pré-definida. “Um agente travado recebe um redirecionamento e, se persistir, é interrompido”, descreve a metodologia do TokenEconomizer. Sozinho, esse guarda de loop adiciona de 5,4% a 7,1% de economia.

Entenda o contexto

O lançamento do TokenEconomizer acontece em um momento em que agentes de programação baseados em IA começam a assumir partes inteiras de fluxos de desenvolvimento, desde a criação de funções até correções, testes e manutenção de grandes bases de código. Esse avanço vem acompanhado de um custo computacional crescente, já que os modelos tendem a trabalhar com contextos longos e históricos completos a cada nova solicitação.

Em empresas que rodam centenas ou milhares de tarefas diárias de automação, a diferença entre um agente que reaproveita contexto com inteligência e outro que reenvia tudo o tempo todo vira, na prática, economia ou desperdício de milhares de dólares por mês em chamadas de modelo, além de impacto em tempo de resposta e consumo de infraestrutura.

Ganhos se espalham por diferentes benchmarks

Embora o foco principal da avaliação esteja nas 277 tarefas do SWE-Bench, em cinco configurações diferentes de agentes e modelos, os pesquisadores também testaram o plugin em outros conjuntos de dados. Em bancos como Web-Bench, a redução de custo ficou entre 16,0% e 21,2%; em CredData, entre 16,5% e 19,6%; e em ReposVul, que tem execuções mais curtas, entre 6,4% e 9,3%.

Segundo os resultados, boa parte da economia decorre justamente da eliminação de redundâncias que se acumulam em execuções longas ou repetitivas — cenário típico de agentes que acompanham um projeto de software ao longo de múltiplas correções e funcionalidades.

Os autores também relatam que a eficiência não vem às custas de desempenho de forma sistemática. Em quatro das cinco configurações avaliadas, a métrica de acerto pass@1 melhorou com o TokenEconomizer; em um cenário, a redução de esforço de raciocínio trouxe queda entre 1,8 e 10,3 pontos, em troca de custo mais baixo.

Instalação, requisitos e adoção esperada

O TokenEconomizer é distribuído como projeto open-source, com código-fonte, documentação e material acadêmico disponíveis para consulta. Para uso, exige Python 3.10 ou superior e um dos quatro agentes atualmente suportados: Claude Code, Codex, GitHub Copilot CLI ou Pi.

No caso do Claude Code, o processo descrito pelos desenvolvedores envolve clonar o repositório do plugin, adicioná-lo como marketplace e instalar o pacote com um comando específico. Os dados aprendidos em cada repositório ficam armazenados localmente, em diretório próprio, o que facilita a adoção em ambientes corporativos preocupados com confidencialidade de código.

Por padrão, a poda de ferramentas e o controle de loops já vêm ativados, enquanto as micro-habilidades permanecem desligadas até que o time decida assumir o custo extra de chamadas em troca de mais economia estrutural. A configuração pode ser ajustada conforme o perfil de uso e a política interna de gastos com modelos de linguagem.

Pressão por eficiência em agentes de programação

A expectativa na comunidade técnica é que o TokenEconomizer seja rapidamente testado por equipes que já dependem de agentes de codificação em escala, tanto pela economia de 18,4% a 30,9% observada no SWE-Bench quanto pela compatibilidade com ferramentas populares. Startups de tecnologia, provedores de nuvem e grandes times de engenharia tendem a ser os primeiros beneficiados.

Ao mesmo tempo, a abordagem de tratar o agente como caixa-preta, controlando apenas contexto, ferramentas e fluxo de eventos, abre caminho para que provedores de agentes embutam mecanismos semelhantes diretamente em suas soluções. A médio prazo, o uso de controladores de custo pode deixar de ser diferencial e virar requisito competitivo básico.

Como o projeto é aberto, pesquisadores podem explorar extensões do método, ampliar a lista de agentes compatíveis e testar novas políticas de orçamento de tokens e detecção de loops, o que deve alimentar uma corrida por padrões mais maduros de controle de custos na aplicação de IA à programação automatizada.