Agentes de IA crescem em empresas e geram risco oculto urgente

Tecnologia

Funcionários desenvolvem agentes autônomos em IA que podem comprometer segurança e operações nas empresas.

Leia também: Empresas adotam cargos dedicados para liderar IA

Agentes autônomos de inteligência artificial estão se espalhando silenciosamente pelos ambientes corporativos, criados muitas vezes pelos próprios funcionários dentro de ferramentas sancionadas de IA para automatizar rotinas de e-mail e sistemas internos, e abrindo um novo flanco de risco para CIOs e equipes de segurança.

A corrida pela produtividade levou usuários de áreas administrativas e de back-office a programar, por conta própria, pequenos “bots” que leem caixas de entrada, rascunham respostas, fazem aprovações simples e atualizam ERPs. O problema é que quase ninguém, nem os criadores, enxerga essas automações como agentes que precisam de dono, regras e auditoria. “Estamos construindo agentes mais rápido do que aprendemos a governá-los”, resume um executivo de TI.

Explosão de agentes dentro de apps corporativos

Consultorias de mercado projetam uma virada rápida. A Gartner estima que 40% das aplicações empresariais terão agentes específicos para tarefas até o final deste ano, ante menos de 5% no ano passado. Na prática, isso significa escritorios cheios de processos automatizados que rodam direto no desktop do funcionário, sem passar por filas formais de TI.

Esses agentes começam como assistentes pessoais inofensivos: ler e-mails do próprio usuário, sugerir textos, organizar agenda. Se a máquina é desligada ou o funcionário sai de férias, nada crítico acontece. O cenário muda quando o mesmo usuário expande o escopo e conecta o agente a caixas de e-mail compartilhadas, planilhas corporativas ou módulos de ERP, transformando o que era um apoio individual em peça da automação do back-office.

Nesse ponto, o agente passa a ser parte efetiva do processo de negócio – aprovando pedidos simples, disparando ordens, alterando cadastros. Se esse funcionário se desliga da empresa ou o desktop para de rodar, o fluxo trava sem que ninguém saiba exatamente por quê. Pior: um e-mail malicioso ou um comando mal configurado pode levar à corrupção de dados importantes, sem trilha clara de responsabilidade.

Um “novo tipo de insider”

Executivos de segurança descrevem esses agentes como “um novo tipo de insider”: programas com credenciais legítimas, rodando em computadores autorizados e acessando sistemas internos, mas fora do radar das equipes de governança. “Não podemos colocar algo em um inventário que não sabemos que existe”, admite um líder de segurança da informação.

Ao contrário do shadow AI clássico — quando um funcionário pluga um app de consumo, não autorizado, em dados corporativos —, aqui tudo acontece dentro de ferramentas oficialmente aprovadas. O que escapa ao controle não é o software em si, mas os agentes que os usuários constroem sobre ele, muitas vezes apenas ao agendar tarefas recorrentes ou encadear fluxos de automação sem rotulá-los como tal.

O foco da preocupação, que antes estava no navegador e nas conexões com serviços externos, migra agora para o desktop: é ali que esses agentes nascem, ganham permissões e começam a operar. Para os times de segurança, isso significa lidar com uma superfície de ataque mais difusa e menos documentada.

Entenda o contexto

Nos últimos meses, o esforço dos CIOs estava concentrado em elevar o uso das soluções de IA já contratadas, garantir retorno sobre investimento e conter o uso de ferramentas paralelas. A recomendação dominante era simples: oferecer opções sancionadas e transparentes, com disciplina operacional para que cada área soubesse qual ferramenta podia usar, quando e para quê.

O avanço rápido dos recursos “agentivos” — capazes de agir de forma autônoma, encadear tarefas e tomar decisões limitadas — mudou o jogo. Mesmo as plataformas liberadas pela TI se tornaram terreno fértil para automações invisíveis, criadas nas pontas. A mesma Gartner que prevê a presença de agentes em 40% das aplicações empresariais até o fim do ano projeta que 40% das empresas terão que rebaixar ou desligar agentes até 2027, diante de falhas, incidentes ou simplesmente falta de governança.

Risco operacional e de segurança em cadeia

Setores fortemente dependentes de processos administrativos e sistemas ERP estão entre os mais expostos. Um agente que interpreta e-mails de um atendimento compartilhado e lança pedidos no sistema financeiro, por exemplo, pode interromper a operação se falhar ou sair do ar de repente. Em outro extremo, erros de configuração ou instruções mal formuladas podem fazer com que o bot apague ou sobrescreva registros em massa.

Esse modo de falha é diferente do shadow IT tradicional. Não se trata apenas de listar aplicações não autorizadas e bloquear acessos. O risco está em processos automatizados que já fazem parte do funcionamento cotidiano da empresa, mas não aparecem em nenhum catálogo oficial de integrações ou robôs, e tampouco têm um dono formal identificado.

Para os líderes de TI, a consequência direta é a necessidade de rever políticas de segurança e operação: do desenho de perfis de acesso ao modelo de continuidade de negócios, passando por auditoria de logs e responsabilidades individuais. “A melhor abordagem é colocar guardrails que permitam aos funcionários algum espaço para experimentar, mas limitem o risco”, defende um CIO.

Guardrails em vez de bloqueio total

CIOs e equipes de segurança começam a admitir que tentar bloquear completamente a criação desses agentes é pouco realista. Restrições rígidas demais tendem a empurrar os usuários de volta para soluções paralelas e não sancionadas, recriando o mesmo problema em terreno ainda menos visível.

A estratégia que ganha força passa por dois eixos: limites técnicos duros e educação na ponta. De um lado, empresas configuram sistemas corporativos — como CRM, plataformas de atendimento (ITSM) e ERPs em nuvem — para operar, por padrão, em modo de leitura ou com ritmos de alteração mais próximos da capacidade humana: algumas centenas de registros por dia, em vez das centenas de milhares que um agente pode processar automaticamente.

Também se restringem campos e tabelas que podem ser editados por automações e se aplicam limites por volume ou frequência. Assim, caso um agente se comporte de forma inadequada, o estrago fica limitado a algumas dezenas de registros, em vez de afetar bases inteiras.

Em paralelo, cresce a aposta em programas de formação focados em “power users” de cada área, muitas vezes chamados de campeões de IA — funcionários que atuam como ponte entre seus departamentos e o escritório do CIO. O treinamento é associado diretamente à liberação de licenças de ferramentas agentivas: antes de ativar o acesso, o funcionário passa por um curso curto sobre conceitos básicos de agentes e riscos associados.

Nessa abordagem, o objetivo não é transformar todos em desenvolvedores, mas ensinar a reconhecer quando uma automação deixou de ser apenas um “atalho” e virou um agente de fato, com impacto potencial em processos críticos. A formação se concentra em escolhas práticas: quando faz sentido usar um agente completo, quando basta um fluxo automatizado simples e quando a melhor saída ainda é uma integração determinística tradicional.

Até quando as empresas vão tolerar o caos?

Especialistas avaliam que as organizações terão de conviver, nos próximos anos, com um certo nível de incerteza e “caos controlado” enquanto aprendem a lidar com esse novo tipo de automação distribuída. A previsão de que 40% das empresas deverão rebaixar ou desligar agentes até 2027 indica que parte desses experimentos vai, inevitavelmente, se mostrar arriscada demais ou pouco confiável.

Ao mesmo tempo, o ganho de produtividade trazido por essas automações locais torna improvável um recuo completo. A tendência é que surja um novo ecossistema de ferramentas de gestão e auditoria específicas para agentes autônomos, capazes de identificar fluxos críticos criados na ponta e trazê-los, quando fizer sentido, para a esfera de governança central.

Até lá, CIOs e líderes de segurança ajustam o equilíbrio entre liberdade e controle quase em tempo real, conscientes de que, como define um chefe de segurança, lidam com “um novo tipo de insider” — desta vez, feito de código e rodando na mesa de cada funcionário.

Fonte: matéria original