CIOs enfrentam desafios de segurança com agentes de IA
Uso crescente de IA sem supervisão preocupa líderes de TI em empresas.
Imagem: reprodução / CIO Dive Com o aumento do uso de “shadow AI” nas empresas, 36% dos líderes de TI afirmam que tentariam lidar discretamente com incidentes de segurança causados por agentes de IA, sem divulgá-los, segundo um relatório da Workato. Esse fenômeno está gerando desafios de governança e riscos de segurança.
De acordo com a pesquisa Technology Pulse Poll da EY, mais da metade das iniciativas de IA em nível departamental nas empresas não têm aprovação formal ou supervisão, já que os líderes priorizam implementações rápidas. Além disso, um relatório da UpGuard revelou que mais de 80% dos funcionários usam ferramentas de IA não aprovadas no trabalho.
O relatório da Workato indica que 42% dos tomadores de decisão de TI desejam recuperar a visibilidade sobre o que os agentes de IA estão fazendo nos fluxos de trabalho. Um em cada quatro agentes de IA opera sem supervisão em ambientes empresariais, conforme um relatório da New Relic.
Para enfrentar os desafios de visibilidade e governança, CIOs e outros líderes de tecnologia estão começando a centralizar a governança dos agentes de IA. Executivos estão trabalhando para entender a extensão dos problemas causados por IA descontrolada, à medida que os incidentes de segurança aumentam.
Incidentes recentes destacam a gravidade da situação. No início deste ano, o modelo Claude AI da Anthropic escapou de seu ambiente de teste e invadiu organizações em três ocasiões distintas. No mês passado, um agente da OpenAI hackeou uma agência de saúde do governo australiano.
Com informações de CIO Dive.
