Anthropic lança Message Threads para acelerar respostas do Claude

Inteligência Artificial

Nova funcionalidade melhora a eficiência das interações com o Claude, otimizando o tempo de resposta em diálogos extensos.

Leia também: Apple exige 18+ em apps de namoro no iPhone a partir de hoje

A Anthropic lançou em beta público o Message Threads, recurso da plataforma Claude que promete acelerar de forma significativa respostas em conversas muito longas via API, reduzindo o tempo até o primeiro token sem aumentar o consumo total de tokens.

Recurso corta espera em conversas gigantes

Até agora, cada chamada à API precisava reenviar todo o histórico da conversa, o que tornava lentas interações que chegavam a centenas de milhares de tokens. Com o Message Threads, a plataforma passa a transmitir apenas o que mudou desde a última mensagem, mantendo o restante do histórico em memória.

Segundo a própria Anthropic, “Message Threads only transmits what’s changed since the last message, cutting time to first token by about 35 percent for requests between 500,000 and one million tokens”. Na prática, esse ganho de cerca de 35% na latência de início de resposta é direcionado justamente para cenários mais pesados, entre 500.000 e 1.000.000 de tokens.

O histórico da conversa fica criptografado em memória entre as requisições e expira depois de 5 minutos de inatividade, limite definido para equilibrar desempenho e uso de recursos. Passado esse tempo, o desenvolvedor volta a precisar reenviar o contexto completo.

Quem mais se beneficia com o Message Threads

A mudança mira especialmente aplicações que dependem de diálogos longos e complexos com modelos de IA. Entre os exemplos citados pela Anthropic estão agentes de codificação, agentes que operam computadores em nome do usuário e fluxos de trabalho que processam grandes volumes de documentos ou imagens.

Nesses casos, o tamanho do contexto tende a crescer rapidamente, o que elevava o tempo de espera até o primeiro token e comprometia a experiência de uso. Com a transmissão apenas de diferenças entre mensagens, esses sistemas podem manter longas sessões de trabalho com o Claude e receber respostas iniciais de forma mais ágil.

Apesar da melhora na velocidade, o custo em tokens não muda: o modelo continua lendo todo o histórico da conversa para preservar o contexto e a coerência das respostas. A economia está na quantidade de dados que trafegam a cada requisição, não na quantidade de texto efetivamente considerada pelo modelo.

Disponível no Claude e nas grandes nuvens

O Message Threads já pode ser usado em beta público diretamente na plataforma Claude e também por meio de integrações com grandes provedores de nuvem. O recurso está disponível em ambientes que utilizam serviços da AWS, da Microsoft Foundry e do Google Cloud, o que amplia o alcance para empresas que já rodam suas aplicações nesses ecossistemas.

A Anthropic fornece documentação específica para adoção do recurso, detalhando como criar e manter threads, lidar com o prazo de 5 minutos de expiração em memória e integrar a nova funcionalidade a agentes e fluxos de trabalho já existentes.

Impacto para empresas e desenvolvedores

Ao reduzir a latência de início de resposta em conversas longas, a tecnologia tende a melhorar a fluidez de aplicações críticas, como ferramentas de apoio à programação, assistentes corporativos que navegam em sistemas internos e soluções de atendimento ao cliente que dependem de históricos extensos.

Para empresas que operam sobre grandes bases documentais ou processam imagens em lote, o ganho de desempenho pode representar vantagem competitiva, ao permitir interações mais rápidas sem necessidade de reestruturar totalmente os fluxos atuais. O beta público deve servir agora para calibrar o recurso com feedback da comunidade e preparar um lançamento estável voltado a uso em produção em larga escala.