Letta ganha copilot de engenharia com memória persistente

Tech Desk

Aprenda a criar um copilot de engenharia com memória persistente usando Letta, incluindo busca semântica e exportação de estado.

Leia também: Roku lança plataforma com 3 mil canais para personalizar sua TV

O pesquisador Sana Hassan apresentou um copilot de engenharia stateful construído com Letta que mantém memória persistente, compartilha contexto entre agentes e permite inspeção detalhada de todo o estado de trabalho, abrindo caminho para assistentes de IA mais úteis em ambientes de engenharia.

Copilot com memória inspecionável e colaborativa

No tutorial, desenvolvido em ambiente de programação com o SDK do Letta, Sana configura um agente que trabalha com blocos de memória centrais estruturados e inspecionáveis. Esses blocos guardam informações duráveis sobre o engenheiro, o projeto, decisões já tomadas e modos de falha conhecidos, e podem ser atualizados tanto pelo próprio agente quanto diretamente pelo código da aplicação.

Essa memória central não fica presa a uma única sessão: ela é pensada como um estado de longo prazo, que acompanha o avanço do projeto. Segundo o pesquisador, isso permite que o assistente deixe de responder a prompts isolados e passe a atuar como um parceiro contínuo de engenharia. “Agora temos uma visão completa de como Letta suporta workflows agentes persistentes e inspecionáveis, ao invés de tratar cada interação como um prompt isolado”, afirma Sana Hassan, consultor estagiário na Marktechpost.

Para colaboração multiagente, o projeto cria blocos de memória compartilhados, com áreas somente para leitura e trechos de leitura e escrita. Assim, um agente revisor pode acessar o mesmo contexto de trabalho, registrar comentários e atualizar decisões, mantendo um quadro único e consistente do que está acontecendo no projeto.

Memória vetorial e ferramentas no servidor

Além da memória central, o copilot usa uma camada de memória vetorial arquivada, preenchida com conhecimento de engenharia etiquetado. Essa base funciona como um arquivo consultável semanticamente, capaz de recuperar informações relevantes mesmo quando o usuário não usa as mesmas palavras que estão registradas.

“O agente pode consultar a memória arquivada para responder a perguntas operacionais autonomamente”, explica Sana. Em vez de depender de buscas literais por palavra-chave, o sistema calcula similaridade semântica e encontra trechos tecnicamente relacionados ao problema apresentado.

O tutorial também inclui uma ferramenta personalizada no servidor para estimar, de forma determinística, riscos de lançamento. O agente chama essa ferramenta quando precisa tomar decisões críticas, registra os resultados nos blocos de memória e passa a carregar esse histórico de avaliações de risco como parte do seu estado persistente.

Streaming, histórico persistente e portabilidade

Para dar transparência ao funcionamento do copilot, Sana habilita o streaming do Letta, que transmite em tempo real o raciocínio passo a passo, as chamadas de ferramentas e as respostas do assistente durante a execução das tarefas. “Utilizamos a interface de streaming do Letta para observar o raciocínio, chamadas de ferramentas e respostas do assistente durante a execução da tarefa”, diz o pesquisador.

O histórico de mensagens não fica limitado ao processo local: é mantido no servidor, o que permite interromper e retomar o trabalho a partir de um novo processo usando apenas o identificador persistente do agente. Identificadores estáveis também são atribuídos a blocos de memória, tornando o ambiente reconstituível em diferentes máquinas e momentos.

Ao final do fluxo, todo o estado do agente — incluindo memória central, memória vetorial arquivada, ferramentas associadas e histórico de conversas — é exportado para um arquivo .af. Essa representação portátil facilita migrar workflows entre ambientes, compartilhar configurações e garantir continuidade operacional.

Entenda o contexto

A proposta de Sana Hassan responde a uma limitação recorrente em assistentes baseados apenas em prompts: cada conversa começa praticamente do zero, sem memória de longo prazo confiável nem coordenação entre múltiplos agentes. Com a arquitetura stateful demonstrada no Letta, o copilot passa a reter contexto aprofundado sobre projetos de engenharia, acompanhar decisões ao longo do tempo e raciocinar sobre conhecimento acumulado.

Para equipes de engenharia, desenvolvimento de software e automação, isso significa um assistente que consegue seguir o fio de discussões complexas, reutilizar conclusões anteriores e trabalhar em conjunto com agentes revisores especializados. A possibilidade de embutir ferramentas determinísticas, monitorar o comportamento via streaming e exportar o estado em arquivos .af dá mais controle e auditabilidade a quem precisa de IA em processos críticos.

O tutorial, voltado a desenvolvedores e pesquisadores, também destaca a base de comunidade em torno do projeto, que já reúne 150.000 membros em um fórum de aprendizado de máquina. A expectativa é que a abordagem de memória central inspecionável, recuperação semântica e identificadores persistentes ganhe espaço em novas ferramentas e frameworks para copilots de engenharia, em cenários distribuídos e com múltiplos agentes colaborando sobre o mesmo conjunto de dados.