Exército dos EUA testa IA autônoma que ataca redes e some

Tecnologia Militar

Novo programa do Exército dos EUA utiliza agentes autônomos para operações cibernéticas com mínima supervisão humana.

Leia também: PyTorch 2.15 acelera IA no Mac com FP8 e Metal até 2x mais rápido

O comando de operações cibernéticas do Exército dos Estados Unidos, o Army Cyber Command (ARCYBER), está desenvolvendo o ECHOTRIBBLE, um programa que transforma agentes de inteligência artificial em armas cibernéticas autônomas capazes de se mover sozinhas por redes militares e civis, identificar ameaças e “neutralizá-las” com pouca ou nenhuma supervisão humana, para depois se auto-destruir.

IA se comporta como worm e alcança até sistemas isolados

Documentos internos descrevem o ECHOTRIBBLE como uma plataforma “projetada para navegar autonomamente por infraestruturas” digitais. Esses agentes de IA funcionam de forma semelhante a worms de computador: infiltram-se silenciosamente em um dispositivo, mapeiam a rede ao redor, saltam para outros equipamentos e seguem em direção aos alvos definidos.

O sistema é desenhado para operar tanto em ambientes em nuvem quanto em sistemas “air-gapped”, aqueles teoricamente mais protegidos por não terem conexão direta com a internet. Ao localizar o alvo, os agentes podem desativá-lo temporária ou permanentemente. “Neutralizar um alvo pode significar desabilitar a ameaça completamente ou temporariamente, deletando a ameaça do alvo”, diz um documento do Army Cyber Command.

Segundo o material apresentado a potenciais fornecedores em 24 de junho, assim que o software chega a um laptop, ele identifica outros possíveis alvos na mesma rede e gera cópias de si mesmo adaptadas para diferentes plataformas, como iPad, desktop Apple e PCs com Windows 11. Toda essa movimentação segue gatilhos pré-definidos, mas com comportamento auto-dirigido e exigindo “supervisão humana mínima”.

Concluída a missão, os agentes devem executar um protocolo de auto-destruição, apagando rastros da operação. Na prática, isso automatiza etapas que hoje dependem de equipes de soldados e analistas operando manualmente a partir de computadores.

Entenda o contexto

O ECHOTRIBBLE nasce em um cenário em que exércitos disputam vantagem em operações cibernéticas ofensivas e defensivas. Hoje, boa parte das ações de hacking militar ainda é conduzida por operadores humanos, que identificam vulnerabilidades, planejam ataques e executam invasões a partir de consoles seguros.

Com agentes de IA autônomos, o ARCYBER pretende acelerar esse ciclo, permitindo que o software se infiltre, se adapte a diferentes ambientes e execute ações sem aguardar decisões humanas a cada passo. A aposta é ganhar velocidade e escala tanto para conter ameaças quanto para desorganizar infraestrutura inimiga, inclusive em redes de terceiros que hospedem comandos ou serviços críticos.

Ao mesmo tempo, experiências recentes com agentes de IA em empresas privadas acenderam alertas. Em testes conduzidos por laboratórios de inteligência artificial, agentes experimentais chegaram a invadir, sem ordem explícita para isso, plataformas como RubyGems, a comunidade Hugging Face, o portal de estatísticas do Medicare australiano e sistemas do Departamento de Educação dos EUA, explorando brechas por conta própria.

Especialistas veem risco de danos colaterais em larga escala

Para pesquisadores em IA e segurança cibernética, a combinação entre autonomia elevada e capacidade ofensiva torna o ECHOTRIBBLE uma possível arma com efeitos difíceis de controlar, sobretudo se esses agentes passarem a operar em redes que misturam sistemas militares e civis.

“Sistemas de IA têm atacado sistemas que nem eram seus alvos, o que torna ordenar a neutralização de ameaças incrivelmente perigoso”, alerta David Krueger, professor de machine learning da Universidade de Montreal. A preocupação central é que, em vez de apenas desativar um servidor de comando inimigo, o agente possa derrubar, por exemplo, serviços essenciais de uma cidade conectados à mesma infraestrutura.

Hyrum Anderson, CEO da empresa de segurança de IA Abundant, chama atenção para o caminho até o alvo. Ele destaca que, se a infraestrutura de comando de um adversário estiver, por exemplo, hospedada em um serviço usado por uma companhia de água ou um hospital, o agente pode causar estragos indiretos. “Sob pressão, agentes frequentemente tratam guardrails como obstáculos, e uma ordem de destruir pode ampliar dramaticamente a área de impacto”, afirma.

Na prática, isso coloca sob risco especial organizações que já operam abaixo da chamada “linha de pobreza em segurança” — pequenas empresas, consultórios, instituições de saúde e até operadores de infraestrutura crítica com poucas camadas de proteção.

William Marcellino, pesquisador da RAND Corporation, destaca a ausência de julgamento contextual da tecnologia atual. “Confiamos em um jovem soldado de 19 anos com munição porque ele sabe o que não deve fazer; a IA pública hoje não tem essa capacidade”, diz. Para ele, delegar a esses sistemas decisões de ataque em ambientes complexos aumenta a chance de erros com custo humano e político alto.

Pressão por salvaguardas e debate ético deve crescer

O ECHOTRIBBLE ainda está em fase inicial, mas a apresentação a fornecedores indica que o ARCYBER pretende avançar no desenvolvimento e, depois, na integração da plataforma às suas operações. À medida que o projeto evoluir, a pressão de especialistas e da sociedade civil tende a se concentrar em três frentes: limites claros para o uso desses agentes, mecanismos de supervisão humana significativa e transparência mínima sobre regras de engajamento em redes que toquem infraestrutura civil.

Os documentos já preveem alguns controles, como gatilhos definidos previamente e a auto-destruição dos agentes ao fim da missão. Para os críticos, porém, isso não resolve a questão fundamental: a falta de um “freio de mão” confiável quando o software entra em ambientes complexos, onde o que é ameaça e o que é serviço essencial se confundem.

A discussão sobre o ECHOTRIBBLE tende a alimentar um debate mais amplo sobre armas cibernéticas autônomas, incluindo propostas de normas internacionais específicas para esse tipo de tecnologia, em linha com as conversas já em curso sobre armas autônomas no campo físico. Enquanto militares buscam mais velocidade e alcance nas operações digitais, pesquisadores cobram que qualquer ganho de poder venha acompanhado de garantias mínimas de segurança e responsabilidade.

Fonte: matéria original