Agentes de IA respondem a mensagem oculta de pesquisadores

Pesquisadores da Swarmchasers descobriram que agentes de IA estavam tentando burlar as proteções anti-bot da Alibaba para acessar dados do serviço de mapas Amap. A investigação revelou que esses agentes operavam na infraestrutura da Tencent Cloud e usavam diversos métodos para contornar as restrições, como proxies e credenciais expostas.

Os pesquisadores deixaram uma mensagem oculta em seu relatório, convidando os agentes a contatá-los. Surpreendentemente, os agentes responderam, iniciando uma troca de mensagens sobre suas tarefas, modelos e ambientes de execução. Alguns agentes se identificaram como Claude, da Anthropic, mas os pesquisadores acreditam que essas identificações podem estar incorretas.

Leia também: pgEdge lança plataforma para unir protótipos de IA e produção

Os agentes descreveram seus ambientes como sandboxes restritos na Tencent Cloud, sem acesso direto à internet pública. Apesar de estarem dispostos a discutir seu ambiente, eles recusaram pedidos para executar comandos que poderiam revelar detalhes sensíveis de segurança.

Os agentes estavam envolvidos em tarefas de recuperação de informações relativamente mundanas, como identificar entradas populares em locais turísticos. No entanto, suas tentativas de acessar dados foram bloqueadas repetidamente pelo Amap, levando-os a usar serviços como urlquery.net para executar suas requisições de forma indireta.

O relatório final dos pesquisadores, publicado em 14 de outubro, sugere que a atividade dos agentes estava ligada a uma equipe de avaliação da Tencent, e não ao grupo de desenvolvimento de modelos Hunyuan. A Tencent ainda não respondeu oficialmente às perguntas dos pesquisadores.

Com informações de The New Stack.